Princípios importantes
- Algoritmos de IA e aprendizado de máquina estão observando o comportamento humano e podem aprender a manipulá-lo, dizem os especialistas.
- Pesquisadores criaram recentemente uma maneira de encontrar e explorar vulnerabilidades na maneira como as pessoas fazem escolhas usando IA.
- O algoritmo de mídia social mais sofisticado no momento é o TikTok, diz um observador.
A inteligência artificial (IA) e os algoritmos de aprendizado de máquina estão aprendendo cada vez mais a influenciar o comportamento dos usuários, dizem os especialistas.
Pesquisadores da agência nacional de ciências da Austrália criaram recentemente uma maneira de encontrar e explorar vulnerabilidades na maneira como as pessoas fazem escolhas usando IA. A pesquisa mais recente é apenas uma de uma onda de sistemas orientados por IA projetados para manipular a tomada de decisões humanas.
"Não há fim para as muitas maneiras pelas quais a IA já está influenciando o comportamento", Kentaro Toyama, professor da Escola de Informação da Universidade de Michigan e autor de Geek Heresy: Rescuing Social Change from the Cult of Technology, disse em uma entrevista por e-mail.
"Na verdade, se você já fez uma pesquisa no Google e seguiu um link, você foi impactado por um sistema de IA que adivinhou seus interesses e retornou resultados que considerou mais relevantes para você."
IA vs. Humanos
Na pesquisa australiana publicada em um artigo recente, participantes humanos jogaram contra um computador em vários experimentos. O primeiro experimento fez com que os participantes clicassem em caixas vermelhas ou azuis para ganhar dinheiro.
A IA foi bem-sucedida em cerca de 70% das vezes, aprendendo os padrões de escolha dos participantes e orientando-os para uma escolha específica.
Em outro experimento, os participantes assistiram a uma tela e apertaram um botão quando lhes foi mostrado um determinado símbolo, ou não o apertaram quando outro foi oferecido. A IA aprendeu a reorganizar os símbolos, então os participantes cometeram mais erros.
O resultado dos experimentos, concluíram os pesquisadores, foi que a IA aprendeu com as respostas dos participantes. A máquina então identificou e direcionou vulnerabilidades na tomada de decisões das pessoas. Na verdade, a IA pode manipular os participantes para que façam ações específicas.
O fato de que a IA ou o aprendizado de máquina podem manipular as pessoas não deve ser uma surpresa, dizem os observadores.
"A IA está influenciando nosso comportamento todos os dias", disse Tamara Schwartz, professora assistente de segurança cibernética e administração de empresas no York College of Pennsylvania, em entrevista por e-mail.
"Nós ouvimos o tempo todo sobre os algoritmos em aplicativos de mídia social como Facebook ou Twitter. Esses algoritmos direcionam nossa atenção para o conteúdo relacionado e criam o efeito 'câmara de eco', que por sua vez influencia nosso comportamento."
TikTok está assistindo
O algoritmo de mídia social mais sofisticado no momento é o TikTok, disse Schwartz. O aplicativo analisa o que você está interessado, por quanto tempo você assiste a algo e com que rapidez você pula algo e, em seguida, refina suas ofertas para mantê-lo assistindo.
"O TikTok é muito mais viciante do que outras plataformas por causa desse algoritmo de IA, que entende o que você gosta, como aprende e como escolhe as informações", acrescentou. "Sabemos disso porque o tempo médio que os usuários gastam no TikTok é de 52 minutos."
A manipulação do comportamento humano pela inteligência artificial pode ter usos positivos, argumentou Chris Nicholson, CEO da empresa de IA Pathmind, em uma entrevista por e-mail. As agências de saúde pública, por exemplo, podem usar a IA para incentivar as pessoas a tomar melhores decisões.
"No entanto, mídias sociais, fabricantes de videogames, anunciantes e regimes autoritários estão procurando maneiras de incentivar as pessoas a tomar decisões que não são de seu interesse, e isso lhes dará novas ferramentas para fazer isso, " ele acrescentou.
As questões éticas com o comportamento de influência da IA geralmente são de grau, disse Toyama. A IA permite publicidade focada na qual as preferências e fraquezas individuais podem ser exploradas.
"É possível, por exemplo, um sistema de IA identificar pessoas que estão tentando parar de fumar e apimentá-las com anúncios tentadores de cigarros", acrescentou.
Nem todos concordam que a manipulação do comportamento humano pela IA é problemática. A psicologia clássica e a IA observam dados, apontou Jason J. Corso, diretor do Stevens Institute for Artificial Intelligence, em uma entrevista por e-mail.
"Cientistas humanos são provavelmente melhores em generalizar observações e destilar teorias do comportamento humano que podem ser mais amplamente aplicáveis, enquanto os modelos de IA seriam mais receptivos a identificar nuances específicas de problemas", disse Corso.
"Do ponto de vista ético, não vejo diferença entre eles."
