Princípios importantes
- Novas pesquisas descobriram que a IA pode monitorar e controlar seu comportamento online.
- Alguns especialistas dizem que a IA já está controlando o comportamento humano por meio de algoritmos.
- Para evitar que a IA sequestre suas decisões, os usuários devem lembrar que não existe privacidade online.
Os computadores poderão em breve controlar as escolhas que você faz online.
Pesquisadores descobriram recentemente que a inteligência artificial (IA) pode encontrar e explorar fraquezas na tomada de decisões humanas e orientar as pessoas para certas decisões. Especialistas dizem que a descoberta é um sinal da crescente influência dos algoritmos no comportamento humano.
"Pessoas que são grandes usuários de plataformas digitais online correm um risco maior de serem influenciadas, em comparação com a pessoa média, em virtude de fornecer os bastidores, IA e aprendizado de máquina oferecem benefícios significativos em muitos áreas, incluindo a saúde", disse. "Em última análise, a responsabilidade com que definimos essas tecnologias determinará se elas serão usadas para bons resultados para a sociedade ou manipuladas para ganho."
Não apenas teoria
Embora o artigo recente tenha destacado a capacidade da IA de influenciar decisões, alguns especialistas dizem que os computadores já estão fazendo exatamente isso. Qualquer pessoa que esteja online e acesse a web está sujeita ao poder difundido da IA, disse Josephine Yam, advogada e eticista de IA, à Lifewire em uma entrevista por e-mail.
"AI é a Quarta Revolução Industrial", disse Yam. "Sua capacidade crescente de tomar decisões autônomas mais rápidas, melhores e mais baratas do que os humanos está impactando profundamente nossas vidas. Os recursos de assistência ao motorista tornam nossos carros mais seguros. A visão computacional torna o diagnóstico de doenças mais preciso. A tradução automática nos permite comunicar através dos oceanos, apesar das barreiras linguísticas."
Como a IA está inserida na maioria dos aspectos de nossas vidas, ela influencia nossas decisões do dia-a-dia, quer estejamos cientes disso ou não, disse Yam. Ele veicula anúncios on-line e feeds de notícias com base em nossos cliques anteriores. Ele recomenda músicas, filmes e ideias de presentes com base em nossos comportamentos anteriores de audição, visualização e compras.
"A IA é a maior máquina de previsão do mundo", acrescentou Yam. "Como grandes volumes de dados históricos são usados para treinar algoritmos, os recursos de aprendizado de máquina do sistema de IA detectam padrões diferenciados em nossos dados pessoais para fazer recomendações muito precisas sobre nós."
Mas Theresa Kushner, especialista em IA da NTT DATA Services, contestou a ideia de que a IA está atualmente influenciando as decisões online. "Você poderia dizer que a IA está ajudando a informar as decisões", disse Kushner à Lifewire em uma entrevista por e-mail.
"Mas a influência é uma capacidade específica de afetar o caráter, o desenvolvimento ou o comportamento de alguém ou alguma coisa", acrescentou Kushner. "Seu feed do Google é um bom exemplo de IA funcionando hoje. Você está comprando mais móveis ultimamente porque o Google sabe que você anda olhando sofás?"
Para evitar que a IA sequestre suas decisões, Yam disse que os usuários devem lembrar que não existe mais privacidade online.
"As pessoas estão deixando pegadas digitais de suas identidades ou dados pessoais onde quer que vão. Os algoritmos de IA registram, compilam e extraem todos os seus dados pessoais online", acrescentou Yam. "Esses algoritmos coletam milhares de pontos de dados pessoais sobre um usuário para fazer previsões sobre o comportamento mais provável desse usuário."
Se a IA está ou não influenciando as decisões humanas, os observadores estão pedindo mais regulamentação do setor. A Lei de Inteligência Artificial da UE proposta, por exemplo, é a primeira estrutura regulatória global que tornará os humanos responsáveis pelos impactos nocivos de sua IA, disse Yam.
"A única maneira realista de evitar esse tipo de uso indevido de IA por grandes empresas de tecnologia é exigir que elas, seja por pressão pública ou legislação, disponibilizem seus algoritmos de aprendizado por reforço ao escrutínio público", disse Borhani. "Esta não é uma grande pergunta, considerando que essas empresas ainda conseguem manter os dados de seus usuários, sem os quais os algoritmos por si só não têm utilidade prática."
