Videos “deepfake” são capazes de gerar falsas memórias de filmes

O potencial de desinformação gerado por vídeos modificados com ajuda de Inteligência Artificial, os chamados “deepfake”, é enorme. Em um estudo que acaba de ser publicado, trechos modificados de sucessos do cinema levaram pessoas a terem memórias falsas sobre esses filmes. Os resultados foram publicados periódico de acesso aberto PLOS ONE.

As ferramentas para criar deepfakes se tornaram mais baratas e acessíveis nos últimos anos, amplificando as discussões sobre possíveis aplicações criativas, bem como os riscos potenciais, como a disseminação de desinformação e a manipulação da memória dos espectadores.

Para explorar esses riscos, pesquisadores da Universidade College Cork e do Centro de Pesquisas de Software da Fundação de Ciências da Irlanda conviaram 436 pessoas para completar uma pesquisa após assistir a vídeos deepfake de refilmagens falsas.

Os trechos possuíam erros, como o ator Will Smith interpretando o personagem Neo, do filme “Matrix”, que na realidade foi estrelado pelo ator Keanu Reeves. Outros pedaços de vídeos com erros incluíam filmes como “O Iluminado”, “Indiana Jones”, “Tomb Raider” e “Carrie, a Estranha”, entre outros.

A título de comparação, os participantes também viram trechos de refilmagens reais. Além disso, em alguns casos, os participantes leram descrições em texto sobre as refilmagens, em vez de assistir aos vídeos deepfake. Os participantes só foram informados de que os vídeos eram falsos mais tarde.

Os deepfake provocaram falsas memórias em cerca de 49% dos participantes, ou seja, quase metade dos participantes acreditou que as refilmagens falsas eram reais. Muitos participantes relataram, inclusive, que as refilmagens falsas eram melhores do que as originais.

No entanto, as taxas de falsas memórias geradas por descrições em texto foram igualmente altas, sugerindo que a tecnologia deepfake pode não ser mais poderosa do que outras ferramentas para distorcer a memória.

Depois de descobrir a verdade, a maioria dos participantes relatou sentir desconforto com o uso da tecnologia deepfake para refazer filmes, citando preocupações, como desrespeito à integridade artística e interrupção das experiências sociais compartilhadas dos filmes. Essas descobertas podem ser úteis para futuras iniciativas em termos de regulação do uso da tecnologia. Os autores acrescentam:

Embora os deepfakes sejam motivo de grande preocupação por muitas razões, como a pornografia não consensual e o bullying, o estudo atual sugere que eles não são excepcionalmente poderosos para distorcer nossas memórias do passado. Embora os deepfakes tenham causado o surgimento de falsas memórias em taxas bastante altas neste estudo, conseguimos obter os mesmos efeitos usando texto simples."

Veja também: