O Twitter anunciou os resultados de sua competição aberta para encontrar vieses em seu sistema de corte de fotos.
O desafio da recompensa foi aberto em julho, depois que os usuários do Twitter mostraram que a ferramenta de corte automatizada do site favorecia os rostos de pessoas com pele mais clara sobre aquelas com pele mais escura. Isso levantou algumas questões sobre como o software priorizava a cor da pele e certos fatores em detrimento de outros.
O desafio procurou encontrar outros bugs e vieses que o sistema de corte pode ter para corrigir os problemas.
O primeiro lugar foi para Bogdan Kulynych, cuja apresentação mostrou como os filtros de beleza podem burlar o modelo de pontuação do algoritmo, que, por sua vez, amplia os padrões tradicionais de beleza. A submissão mostrou que o algoritmo preferia rostos jovens e magros com um tom de pele claro ou quente. Kulynych ganhou $ 3.500.
O segundo lugar foi para a HALT AI, uma startup de tecnologia em Toronto, que descobriu que imagens de idosos e deficientes foram cortadas das fotos. A equipe recebeu US$ 2.000 por ficar em segundo lugar.
O terceiro lugar, e US$ 500, foi para Roya Pakzad, fundadora da Taraaz Research, que descobriu que o algoritmo favorecia o corte de scripts latinos em vez de scripts árabes, o que poderia prejudicar a diversidade linguística.
Os resultados detalhados foram apresentados na DEF CON 29 por Rumman Chowdhury, diretor da equipe META do Twitter. A equipe META estuda os problemas não intencionais em algoritmos e elimina qualquer tipo de preconceito racial e de gênero que tais sistemas possam ter.
Os dados obtidos neste concurso serão usados para aliviar erros e preconceitos no algoritmo de corte e ajudar a garantir um ambiente mais inclusivo.
