Princípios importantes
- Viés algorítmico é prejudicial para adolescentes que passam muito tempo na internet, dizem os especialistas.
- Usuários do Twitter encontraram recentemente um problema em que rostos negros eram escolhidos em favor de rostos brancos.
- Os cérebros em desenvolvimento dos adolescentes podem ser particularmente suscetíveis aos efeitos prejudiciais do viés algorítmico, dizem os pesquisadores.
O preconceito embutido em algumas tecnologias, conhecido como viés algorítmico, pode ser prejudicial para muitos grupos, mas especialistas dizem que é particularmente prejudicial para os adolescentes.
Viés algorítmico, quando sistemas de computador mostram resultados preconceituosos, é um problema crescente. Os usuários do Twitter encontraram recentemente um exemplo de viés na plataforma quando um algoritmo de detecção de imagem que corta fotos estava cortando rostos negros em favor de brancos. A empresa pediu desculpas pelo problema, mas ainda não divulgou uma correção. É um exemplo do preconceito que os adolescentes enfrentam quando estão online, o que eles fazem mais do que qualquer outra faixa etária, dizem os especialistas.
"A maioria dos adolescentes não sabe que as empresas de mídia social os têm para promover conteúdo específico que eles acham que os usuários vão gostar [para que eles permaneçam o maior tempo possível na plataforma", Dr. Mai- Ly Nguyen Steers, professora assistente da Escola de Enfermagem da Duquesne University que estuda o uso de mídias sociais entre adolescentes/alunos universitários, disse em uma entrevista por e-mail.
"Mesmo que haja algum nível de consciência sobre o algoritmo, o efeito de não obter curtidas e comentários suficientes ainda é poderoso e pode afetar a autoestima dos adolescentes ", acrescentou Steers.
Desenvolvendo Cérebros
O viés algorítmico pode afetar os adolescentes de maneiras imprevistas, já que seu córtex pré-frontal ainda está em desenvolvimento, explicou Mikaela Pisani, cientista-chefe de dados da Rootstrap, em uma entrevista por e-mail.
O efeito de não obter curtidas e comentários suficientes ainda é poderoso e pode afetar a autoestima dos adolescentes.
"Os adolescentes são especialmente vulneráveis ao fenômeno da 'Fábrica Social', onde algoritmos criam clusters sociais em plataformas online, levando à ansiedade e depressão se as necessidades de aprovação social do adolescente não forem atendidas", disse Pisani. "Algoritmos simplificam com base em dados imperfeitos anteriores, levando a uma representação exagerada de estereótipos em detrimento de abordagens mais sutis para a formação de identidade.
"Adotando o ponto de vista mais amplo, também nos resta questionar, como sociedade, se queremos algoritmos moldando as jornadas de nossos adolescentes até a idade adulta, e esse sistema ainda apoia em vez de sufocar o crescimento pessoal individual?"
Por causa desses problemas, há uma necessidade crescente de manter os adolescentes em mente ao projetar algoritmos, dizem os especialistas.
"Com base na contribuição de especialistas em desenvolvimento, cientistas de dados e defensores da juventude, as políticas do século 21 sobre privacidade de dados e design algorítmico também podem ser construídas com as necessidades específicas dos adolescentes em mente ", Avriel Epps-Darling, doutora estudante de Harvard, escreveu recentemente. "Se continuarmos a minimizar ou ignorar as formas como os adolescentes são vulneráveis ao racismo algorítmico, é provável que os danos repercutam nas próximas gerações."
Combate ao preconceito
Até que haja uma solução, alguns pesquisadores estão tentando encontrar maneiras de diminuir os danos causados aos jovens por algoritmos tendenciosos.
"As intervenções foram focadas em fazer com que os adolescentes reconheçam que seus padrões de mídia social estão impactando negativamente sua saúde mental e tentam criar estratégias para mitigar isso (por exemplo, redução do uso de mídia social), " disse Steers.
"Alguns dos estudantes universitários que entrevistamos indicaram que se sentem compelidos a gerar conteúdo para permanecer "relevante", mesmo que não queiram sair ou postar", continuou ela. "No entanto, eles sentem que precisam gerar conteúdo para manter suas conexões com seus seguidores ou amigos."
A resposta final poderia ser remover o preconceito humano dos computadores. Mas como os programadores são apenas humanos, esse é um desafio difícil, dizem os especialistas.
Uma solução possível é desenvolver computadores descentralizados e programados para esquecer as coisas que aprenderam, diz John Suit, diretor de tecnologia da empresa de robótica KODA.
"Através de uma rede descentralizada, os dados e a análise desses dados estão sendo compilados e analisados a partir de vários pontos", disse Suit em uma entrevista por e-mail. "Os dados estão sendo coletados e processados não a partir de um único processamento mental de IA dentro dos limites de seu algoritmo, mas de centenas ou até milhares.
"À medida que esses dados são coletados e analisados, velhas "conclusões" ou dados supérfluos são esquecidos. Por meio desse sistema, um algoritmo que pode ter começado com viés acabará corrigindo e substituindo esse viés se estiver errado."
Embora o preconceito possa ser um problema antigo, pode haver maneiras de combatê-lo, pelo menos online. Projetar computadores que eliminem nossos preconceitos é o primeiro passo.
