Imagens produzidas por IA são novo desafio em fake news

O ex-presidente americano Donald Trump sendo perseguido e recebendo spray de pimenta nos olhos por policiais da cidade de Nova York. O presidente russo, Vladimir Putin, atrás das grades, com uniforme de presidiário, em uma cela de concreto pouco iluminada.

As imagens, altamente detalhadas, têm inundado o Twitter e outras plataformas nos últimos dias, em meio a notícias de que Trump enfrenta possíveis acusações criminais e o Tribunal Penal Internacional emitiu um mandado de prisão para Putin.

Mas nenhuma delas é remotamente real. As imagens – e dezenas de variações espalhadas pela mídia social – foram produzidas usando geradores de imagens cada vez mais sofisticados e amplamente acessíveis alimentados pela inteligência artificial (IA).

Especialistas em desinformação alertam que as imagens são precursoras de uma nova realidade: fotos falsas e vídeos inundando as mídias sociais deixando fatos e ficção cada vez mais confusos em tempos cruciais para a sociedade.

“Isso acrescenta ruído durante as crises. Também aumenta o nível de cinismo”, disse Jevin West, professor da Universidade de Washington, que se concentra na pesquisa e disseminação de desinformação.

Embora a capacidade de manipular fotos e criar imagens falsas não seja nova, é mais fácil usar as ferramentas agora, com gerador de imagens que usa inteligência artificial, como o Midjourney, Dall-e e outras. Em um post no Twitter que viralizou Eliot Higgins, fundador da Bellingcat, um coletivo de jornalismo investigativo, usou a versão mais recente da ferramenta para criar dezenas de imagens dramáticas da prisão fictícia de Trump.