Deepfake – O futuro da desinformação

A fabricação de fake news em formato audiovisual de forma hiper-realista por meio de inteligência artificial (IA), parece ser o próximo grande passo para campanhas infodêmicas ou de desinformação no mundo digital, permitindo a manipulação digital de traços físicos e voz para dizer ou fazer coisas que na verdade nunca aconteceram.

As notícias falsas se multiplicaram e conseguiram impactar a opinião pública sobre quase qualquer assunto, desde a desinformação gerada por supostas curas milagrosas diante da pandemia de Covid 19, o vídeo falso do ex-presidente americano Donald Trump falando mandarim, ou o anúncio da rendição da Ucrânia ao conflito contra a Rússia anunciado pelo presidente Volodymyr Zelensky.

A desinformação está se tornando cada vez mais difícil de detectar com software e aplicativos cada vez mais sofisticados e disponíveis para qualquer pessoa com acesso à Internet e um dispositivo móvel. As grosseiras tentativas de fake news com fotomontagem em imagens ou vídeos ficaram para trás, dando lugar a novas formas de manipulação, embora o objetivo infodêmico de influenciar as emoções, medos e preconceitos das pessoas continue o mesmo.

O que é um Deepfake e como ele é feito?

O termo «deepfake» é uma combinação de «deep learning» e «fake». E está diretamente relacionado à tecnologia de inteligência artificial na criação de vídeos de conteúdo fraudulento, às vezes de natureza pornográfica, que é praticamente indetectável.

Uma das ferramentas de IA em ação que vem ganhando popularidade desde 2017 para a criação de vídeos hiper-realistas é o Fakeapp. A aplicação permite recolher e analisar imagens ou vídeos de qualquer pessoa para posteriormente identificar padrões e semelhanças e depois fazer um híbrido que pode misturar os traços característicos de duas pessoas ou até mesmo fazer-se passar por outra pessoa de forma quase indetectável, como descreveu o jornalista Kevin Roose no New York Times.

Caso Volodymyr Zelensky

Volodymyr Zelensky, presidente da Ucrânia se rendendo à Rússia, foi o primeiro “deepfake usado em um conflito armado”.

Na manipulação digital, Zelenskiy pede à população e às suas tropas que se rendessem à invasão russa. O presidente desmentiu o vídeo – “Quanto à última provocação infantil com conselho para depor as armas, apenas aconselho que as tropas da Federação Russa deponham as armas e voltem para casa
“.
No vídeo, uma versão falsificada de Zelensky declara que a Ucrânia “decidiu devolver Donbas (região separatista)” à Rússia e que os esforços de guerra de sua nação falharam.

No entanto, o software de Inteligência Artificial permite desfocar a linha entre a realidade e a ficção, numa análise mais atenta permite detectar certos detalhes, como uma voz mais baixa que o normal e o seu rosto desfocado com um tamanho ligeiramente desproporcional ao resto do corpo, que denuncia o uso da tecnologia para mudar o discurso do presidente com tecnologia.

Embora esse tipo de falsificação esteja bloqueado no Facebook desde 2020, os “deepfakes” se tornaram uma ferramenta infodêmica, alcançando maior qualidade e um novo paradigma de desinformação.