Princípios importantes
- À medida que as deepfakes se tornam mais fáceis de fazer, novas e melhores formas de identificá-las se tornaram uma prioridade.
- A tecnologia de detecção de deepfake do Facebook usa aprendizado de máquina reverso para descobrir se um vídeo é deepfake ou não.
- Especialistas dizem que usar a tecnologia blockchain seria a melhor maneira de ver se um vídeo é real ou não, já que o método depende de dados contextuais.
O Facebook está confiante em seu modelo de aprendizado de máquina para combater deepfakes, mas especialistas dizem que o aprendizado de máquina por si só não nos salvará de sermos enganados por deepfakes.
Empresas como Facebook, Microsoft e Google estão trabalhando para combater a disseminação de deepfakes na web e nas redes sociais. Embora os métodos sejam diferentes, existe um método infalível em potencial para identificar esses vídeos falsos: blockchains.
“[Blockchains] apenas oferecem muito potencial para validar o deepfake de uma maneira que é a melhor forma de validação que posso ver”, Stephen Wolfram, fundador e CEO da Wolfram Research e autor de A New Kind of Science, disse à Lifewire por telefone.
Tecnologia de detecção de deepfake do Facebook
A tecnologia Deepfake cresceu rapidamente nos últimos anos. Os vídeos enganosos usam métodos de aprendizado de máquina para fazer coisas como sobrepor o rosto de alguém no corpo de outra pessoa, alterar as condições de fundo, sincronia labial falsa e muito mais. Eles variam de paródias inofensivas a fazer celebridades ou figuras públicas dizerem ou fazerem algo que não fizeram.
Especialistas dizem que a tecnologia está avançando rapidamente e que os deepfakes ficarão mais convincentes (e mais fáceis de criar) à medida que a tecnologia se tornar mais disponível e inovadora.
O Facebook recentemente deu mais informações sobre sua tecnologia de detecção de deepfake em parceria com a Michigan State University. A rede social diz que depende da engenharia reversa de uma única imagem gerada por inteligência artificial até o modelo generativo usado para produzi-la.
Cientistas de pesquisa que trabalharam com o Facebook disseram que o método se baseia em descobrir os padrões únicos por trás do modelo de IA usado para gerar um deepfake.
“Ao generalizar a atribuição de imagem para reconhecimento de conjunto aberto, podemos inferir mais informações sobre o modelo generativo usado para criar um deepfake que vai além de reconhecer que não foi visto antes. E ao traçar semelhanças entre os padrões de uma coleção de deepfakes, também pudemos dizer se uma série de imagens se originou de uma única fonte”, escreveram os cientistas pesquisadores Xi Yin e Tan Hassner na postagem do blog do Facebook sobre seu método de detecção de deepfake.
Wolfram diz que faz sentido que você use o aprendizado de máquina para identificar um modelo avançado de IA (um deepfake). No entanto, sempre há espaço para enganar a tecnologia.
“Não estou surpreso que haja uma maneira decente de aprendizado de máquina de [detectar deepfakes]”, disse Wolfram. “A única questão é se você se esforçar o suficiente, você pode enganá-lo? Tenho certeza que você pode.”
Combatendo deepfakes de uma maneira diferente
Em vez disso, Wolfram disse que acredita que usar blockchain seria a melhor opção para identificar com precisão certos tipos de deepfakes. Sua opinião sobre o uso de blockchain em vez de aprendizado de máquina remonta a 2019, e ele disse que, em última análise, a abordagem blockchain pode fornecer uma solução mais precisa para nosso problema de deepfake.
“Espero que os visualizadores de imagens e vídeos possam verificar rotineiramente em blockchains (e 'computações de triangulação de dados') um pouco como os navegadores da web agora verificam certificados de segurança”, escreveu Wolfram em um artigo publicado na Scientific American.
Como as blockchains armazenam dados em blocos que são encadeados em ordem cronológica, e como as blockchains descentralizadas são imutáveis, os dados inseridos são irreversíveis.
A única questão é se você se esforçar o suficiente, você pode enganá-lo? Tenho certeza que você pode.
Wolfram explicou que, ao colocar um vídeo em um blockchain, você poderá ver a hora em que foi gravado, a localização e outras informações contextuais que permitiriam dizer se ele foi alterado de alguma forma.
“Em geral, quanto mais metadados houver que contextualizem a imagem ou o vídeo, maior a probabilidade de você poder contar”, disse ele. “Você não pode fingir o tempo em uma blockchain.”
No entanto, Wolfram disse que o método usado - seja aprendizado de máquina ou uso de blockchain - depende do tipo de deepfake contra o qual você está tentando se proteger (ou seja, um vídeo de Kim Kardashian dizendo algo bobo ou um vídeo de um político fazendo uma declaração ou sugestão).
“A abordagem blockchain protege contra certos tipos de deep fakes, assim como o processamento de imagem de aprendizado de máquina protege contra certos tipos de deep fakes”, disse ele.
A linha de fundo, ao que parece, é a vigilância para todos nós quando se trata de combater o dilúvio de deepfake que está por vir.
