Princípios importantes
- Uma variedade de novos aplicativos pode detectar as emoções dos alunos.
- A Intel e a fabricante de software de sala de aula Class estão desenvolvendo um software que vigiará os rostos e a linguagem corporal dos alunos digitais.
- Alguns especialistas estão preocupados que o uso de IA para monitorar os alunos possa levar a invasões de privacidade.
As escolas poderão em breve usar a inteligência artificial (IA) para monitorar os estados emocionais dos alunos.
A Intel e a fabricante de software de sala de aula Class estão desenvolvendo um software que vigiará os rostos e a linguagem corporal dos alunos digitais. O sistema pode detectar se os alunos estão entediados, distraídos ou confusos, mas alguns especialistas estão preocupados que o software possa levar a invasões de privacidade.
"Tais produtos de monitoramento baseados em IA devem ser transparentes sobre como esses dados estão sendo usados", disse Michael Huth, cofundador da empresa Xayn e chefe do departamento de computação do Imperial College London, em um e-mail. entrevista. "Se for usado para rastrear o envolvimento em uma coorte de alunos, onde o envolvimento no nível individual não é registrado, isso é um pouco menos problemático do ponto de vista da privacidade. Se algum desses dados for usado para influenciar a avaliação do aluno, no entanto, eu pode ver todos os tipos de problemas surgindo."
Cuidando dos Alunos
Class e Intel fizeram uma parceria para integrar uma tecnologia baseada em IA que funciona junto com o software de videoconferência Zoom, informou o protocolo. O software pode ser usado para monitorar os alunos, disse o relatório.
"Através de nossa parceria com a Intel, poderemos trazer novos recursos imersivos para o software da Class, impulsionados por funcionalidades apoiadas por pesquisas", de acordo com o site da empresa. "Também trabalharemos ao lado da Intel para alavancar recursos e fornecer a educadores e alunos insights valiosos, estudos de caso conjuntos, white papers, webinars e muito mais."
A Intel disse ao Protocol que o software de sala de aula está nos estágios iniciais e não há planos para enviar o produto ao mercado.
A parceria com a Class não é a única colaboração em potencial entre o software de leitura de emoções da Intel e outros fabricantes. Uma brochura online da Intel divulga um novo quadro branco eletrônico chamado Viewboard voltado para escolas. O software da Intel "permite que o myViewboard avalie e exiba os estados emocionais dos alunos como feedback imediato para os educadores", de acordo com o folheto.
Class é um dos muitos produtos de software que pretendem rastrear as emoções dos alunos usando IA. Há também o 4Little Trees, uma plataforma de aprendizado de detecção de emoções que é "um assistente de ensino virtual [que] ajudaria escolhendo as perguntas mais adequadas para você ou desafiando você quando necessário", de acordo com o site da empresa.
Ashish Fernando, CEO da empresa de IA iSchoolConnect, disse à Lifewire em uma entrevista por e-mail que a IA pode ser treinada para avaliar o comportamento e os recursos humanos sem o impacto dos preconceitos subjetivos que os indivíduos possuem.
"A IA pode avaliar um número significativamente maior de comportamentos humanos, incluindo microexpressões fáceis de perder, a uma taxa muito mais rápida do que um humano", disse Fernando. "Onde o feedback poderia levar horas, a IA agora pode fornecer o mesmo em poucos minutos."
Preocupações com Privacidade
O uso de IA para monitorar humanos está crescendo. O Snapchat possui tecnologia de IA que avalia o nível emocional de um grupo de pessoas em um evento ao vivo. A Mad Street Den usa IA de visão computacional para ajudar os varejistas a reconhecer as expressões faciais e emoções dos potenciais compradores. O BrainQ aproveita a IA para entender como os passageiros interagem com os veículos autônomos que estão usando. E as empresas estão usando a IA para rastrear a fadiga do motorista.
"Este é um ótimo caso de uso para a segurança rodoviária, mas levanta questões relativas aos direitos de privacidade dos motoristas em seus veículos pessoais", disse Huth. "As informações sobre fadiga serão compartilhadas com a seguradora ou o fabricante do carro? Ou apenas avisarão o motorista para parar e descansar? Isso é um problema menor para frotas de carros comerciais, como caminhões, vans de entrega ou táxis."
Um problema é que as informações da IA, como o movimento muscular para inferir o estado emocional, podem não ser confiáveis, disse Huth. "Isso cria um dilema, pois a IA mais confiável pode exigir o acesso a dados ainda mais confidenciais, como sinais de EEG", acrescentou.
Para os alunos, a IA pode ser útil para monitorar a conformidade durante os exames on-line quando um fiscal não pode estar fisicamente presente. Mas esse uso da IA para isso é controverso, disse Huth, porque o sistema tenta determinar se um aluno pretende trapacear ou trapaceia, e há um potencial real para falsos positivos que resultam na penalização injustificada de alunos que não fizeram nada de errado..
"Qualquer IA usada para esse fim precisaria ser robusta o suficiente para lidar com idas ao banheiro, tiques nervosos de alunos individuais (como movimentos erráticos dos olhos) e assim por diante ", disse Huth.
