O Facebook disse que está testando uma tecnologia de moderação de inteligência artificial em Grupos para conter conflitos em postagens e comentários.
A nova ferramenta baseada em IA é chamada de Alertas de Conflito e destina-se a ajudar os administradores de grupo a ter mais controle sobre suas comunidades. A tecnologia de IA notificará um administrador se detectar “conversas contenciosas ou insalubres” para que um administrador possa tomar as medidas necessárias mais rapidamente.
Para o usuário médio do Facebook, essa nova ferramenta significa que você provavelmente verá menos brigas e discussões nas postagens dos Grupos que você segue, então as coisas serão menos negativas, em geral.
Os administradores podem usar a ferramenta Alertas de conflito para criar alertas quando os usuários comentam com palavras ou frases específicas, e o aprendizado de máquina pode identificar essas instâncias para alertar um administrador quando elas ocorrerem. A ferramenta também permite que os administradores limitem a atividade de pessoas e postagens específicas.
Facebook disse ao The Verge que o aprendizado de máquina usaria "vários sinais, como tempo de resposta e volume de comentários, para determinar se o envolvimento entre os usuários tem ou pode levar a interações negativas."
O Facebook já usa ferramentas de IA para sinalizar outros tipos de conteúdo em sua plataforma, incluindo discurso de ódio. De acordo com um Relatório de Aplicação de Padrões da Comunidade de agosto de 2020, a ferramenta de IA do Facebook para discurso de ódio foi 95% precisa, em comparação com 89% do primeiro trimestre de 2020. O Facebook disse que aumentou suas ações contra conteúdo de discurso de ódio de 9,6 milhões de instâncias no primeiro trimestre 2020 para 22,5 milhões no segundo trimestre.
Para o usuário médio do Facebook, essa nova ferramenta significa que você provavelmente verá menos brigas e discussões nas postagens dos Grupos que você segue
A rede social também está trabalhando em uma tecnologia de IA que pode "ver" fotos usando dados brutos para permitir que o modelo se treine - de forma independente e sem usar um algoritmo - à medida que visualiza mais imagens. O projeto de IA, conhecido como SEER, pode abrir caminho para modelos de visão computacional mais versáteis, precisos e adaptáveis, trazendo melhores ferramentas de pesquisa e acessibilidade para usuários de mídia social.
