Princípios importantes
- Deep Nostalgia é um novo programa que permite animar fotos antigas.
- A tecnologia mostra como é fácil criar vídeos de pessoas fazendo coisas que não fizeram na vida real.
- A tecnologia deep fake já é tão sofisticada que é difícil dizer se um vídeo é real ou gerado por computador, diz um especialista.
Tenha cuidado com novos softwares que podem criar os chamados "deep fakes", nos quais vídeos de pessoas reais podem ser simulados, alertam os especialistas.
Deep Nostalgia, lançado pela empresa MyHeritage, está em alta nas mídias sociais, com usuários reanimando todos, de compositores famosos a parentes mortos. O software está atraindo reações mistas, com algumas pessoas encantadas com as criações e outras achando-as assustadoras. A tecnologia mostra como é fácil criar vídeos de pessoas fazendo coisas que não fizeram na vida real.
"A tecnologia deepfake está ficando mais sofisticada e mais perigosa", disse Aaron Lawson, diretor assistente do Laboratório de Pesquisa e Tecnologia de Fala da SRI International, em uma entrevista por e-mail. "Isso se deve em parte à natureza da inteligência artificial. Onde a tecnologia 'tradicional' requer tempo e energia humanos para melhorar, a IA pode aprender por si mesma.
"Mas a capacidade da IA de se desenvolver é uma faca de dois gumes", continuou Lawson. "Se uma IA é criada para fazer algo benevolente, ótimo. Mas quando uma IA é projetada para algo malicioso como falsificações profundas, o perigo é sem precedentes."
Software dá vida às fotos
O site de genealogia MyHeritage introduziu o motor de animação no mês passado. A tecnologia, conhecida como Deep Nostalgia, permite aos usuários animar fotos através do site MyHeritage. Uma empresa chamada D-ID projetou algoritmos para o MyHeritage que recriam digitalmente o movimento de rostos humanos. O software aplica os movimentos às fotografias e modifica as expressões faciais para se moverem como os rostos humanos costumam fazer, de acordo com o site MyHeritage.
Deep Nostalgia mostra que a tecnologia deep-fake está se tornando mais acessível, disse Lior Shamir, professor de ciência da computação na Kansas State University, em uma entrevista por e-mail. Está progredindo rapidamente e eliminando até mesmo as diferenças sutis entre o vídeo e o áudio falsos e reais.
"Também houve um progresso substancial em direção ao deep fake em tempo real, o que significa que vídeos falsos convincentes são gerados no momento da comunicação de vídeo", disse Shamir."Por exemplo, pode-se ter uma reunião Zoom com uma determinada pessoa, enquanto vê e ouve a voz de uma pessoa completamente diferente."
Há também um número crescente de deep fakes baseados em linguagem, disse Jason Corso, diretor do Stevens Institute for Artificial Intelligence no Stevens Institute of Technology, em uma entrevista por e-mail. "Gerar parágrafos inteiros de texto falso profundo para uma agenda específica é bastante difícil, mas os avanços modernos no processamento profundo de linguagem natural estão tornando isso possível", acrescentou.
Como detectar uma falsificação profunda
Embora a tecnologia de detecção de falsificação profunda ainda esteja em estágio inicial, existem algumas maneiras de identificar uma, disse Corso, começando pela boca.
"A variabilidade na aparência do interior da boca quando alguém está falando é muito alta, tornando difícil animar de forma convincente ", explicou Corso. "Isso pode ser feito, mas é mais difícil do que o resto da cabeça. Observe como os vídeos Deep Nostalgia não demonstram a capacidade da fotografia dizer 'eu te amo' ou alguma outra frase durante a criação deep fake. Fazer isso exigiria abrir e fechar a boca, o que é muito difícil para a geração de deep fake."
Ghosting é outra oferta, acrescentou Corso. Se você vir desfoque nas bordas da cabeça, isso é resultado de "movimento rápido ou pixels limitados disponíveis na imagem de origem. Uma orelha pode desaparecer momentaneamente ou o cabelo pode ficar embaçado onde você não esperaria ", ele disse.
Você também pode observar a variação de cores ao tentar identificar um vídeo falso profundo, como uma linha nítida no rosto, com cores mais escuras de um lado e mais claras do outro.
"Algoritmos de computador muitas vezes podem detectar esses padrões de distorção", disse Shamir. "Mas os algoritmos de deep fake estão avançando rapidamente. É inevitável que leis estritas sejam exigidas para proteger contra deep fake e os danos que eles podem facilmente causar."
