Princípios importantes
- Um número crescente de empresas está usando a IA para ler suas emoções.
- A IA de leitura de emoções pode tornar a tecnologia mais fácil de usar.
- Alguns especialistas se preocupam com as implicações de privacidade das empresas que coletam seus dados emocionais.
A inteligência artificial (IA) pode em breve saber mais sobre você do que você pensa.
Uma startup chamada Hume AI afirma usar algoritmos para medir emoções de expressões faciais, vocais e verbais. É uma entre um número crescente de empresas que pretendem ler as emoções humanas usando computadores. Mas alguns especialistas dizem que o conceito levanta questões de privacidade.
"Quem controla esses sistemas e plataformas terá muitas informações sobre os indivíduos", disse Bob Bilbruck, consultor de startups de tecnologia, à Lifewire em uma entrevista por e-mail. "Eles poderão criar perfis para essas pessoas que podem ser usados para ganho monetário, controle de resultados ou rastreamento macro potencialmente mais nefasto de pessoas e da sociedade."
Leitura Facial?
Hume diz que o segredo para ensinar a IA a ler emoções é big data. A empresa diz que treina sua IA em grandes conjuntos de dados da América do Norte, África, Ásia e América do Sul.
"Nossa visão é um mundo onde a IA traduz insights científicos em novas maneiras de melhorar a experiência emocional humana", escreve a empresa em seu site. "A consciência emocional é o ingrediente que f altava para construir algoritmos de mídia social que otimizem o bem-estar do usuário…"
Hume é uma das muitas empresas que tentam alavancar dados para obter insights sobre as emoções humanas. As empresas usam o monitoramento emocional para tentar criar anúncios eficazes, disse Oleksii Shaldenko, professor que pesquisa IA no Instituto Politécnico Igor Sikorsky Kyiv, na Ucrânia, à Lifewire em uma entrevista por e-mail. Tecnologia semelhante é usada para avaliar o tom de voz em centrais de atendimento, monitorar o comportamento do motorista em automóveis e medir a atitude do espectador em empresas de streaming e produção.
Há benefícios potenciais significativos para os usuários em que a IA leia suas emoções, disse o diretor técnico da AI Dynamics, Ryan Monsurate, à Lifewire em uma entrevista por e-mail. Ele disse que um uso seria projetar interfaces que reduzam a probabilidade de as pessoas ficarem frustradas ou irritadas com sua tecnologia.
Um problema mais desafiador para resolver seria gerar respostas emocionais apropriadas às emoções percebidas pela IA interagindo com humanos, disse Monsurate.
"Muitos de nós conversamos com nossos assistentes de inteligência e, embora a qualidade do tom de madeira e a entonação de suas vozes tenham melhorado na última década, eles não são melhores em se comunicar de uma maneira que transmita emoções diferentes, " ele adicionou."Eu vejo modelos generativos sendo capazes de gerar vozes sintéticas com emoção e com emoções contextualmente apropriadas à medida que os modelos crescem em tamanho e complexidade, ou à medida que fazemos novos avanços no campo do aprendizado profundo."
Mas o benefício mais imediato da tecnologia de leitura de emoções pode ser para as empresas que tentam vender coisas. O sistema SenseR, por exemplo, permite que os varejistas personalizem a experiência na loja. Os computadores observam e analisam as expressões e a linguagem corporal dos compradores. Os funcionários podem usar os resultados para direcionar uma venda na direção certa quando solicitados pela equipe de vendas da loja, disse Fariha Rizwan, especialista em TI e relações públicas, à Lifewire em uma entrevista por e-mail.
"Do ponto de vista da análise de varejo, o uso da visão de máquina para rastrear compradores humanos pode fornecer ao varejista informações sobre a duração do engajamento na loja, níveis de interesse baseados em mapas de calor, jornadas de loja e dados demográficos do comprador", acrescentou Rizwan.
Quem é o dono das suas emoções?
À medida que as empresas recorrem cada vez mais à IA para ler emoções, existem muitas armadilhas potenciais de privacidade. As tecnologias de reconhecimento facial que impulsionam os sistemas de leitura de emoções tendem a operar em locais públicos e privados sem o consentimento das pessoas que estão sendo rastreadas, salvando seus dados e, às vezes, vendendo esses dados para o maior lance, disse Rizwan.
"Também não sabemos até que ponto esses sistemas estão protegidos contra ataques cibernéticos, potencialmente colocando o mapa facial de uma pessoa nas mãos de um mau ator", acrescentou Rizwan. "Essas preocupações iniciaram uma mudança no monitoramento aprimorado, vigilância, divulgação de privacidade e responsabilidade."
As maiores preocupações com a privacidade não estão relacionadas à IA, mas sim às estruturas e regulamentos subjacentes de compartilhamento de informações já em vigor, argumentou Monsurate. Se as empresas puderem monetizar seus dados e usá-los para manipular seu comportamento, entender seu estado emocional as ajudará a fazer isso melhor.
"O que precisamos são leis para desincentivar esse comportamento em primeiro lugar, independentemente de quais ferramentas eles usam para atingir seus objetivos", acrescentou Monsurate. "Não são as ferramentas, mas os maus atores e nossas atuais leis de privacidade são lamentavelmente inadequadas."
