Mais de 50 por cento dos americanos esperam que as falsidades possibilitadas pela IA tenham impacto sobre quem vencerá as eleições de 2024. (Arquivo)
Washington:
Um vídeo “deepfake” parodiando Kamala Harris, um clipe manipulado e carregado de palavrões de Joe Biden e uma imagem adulterada de Donald Trump sendo preso – uma onda de desinformação política alimentada por IA gerou alarme sobre seu potencial para manipular os eleitores como os EUA a corrida presidencial esquenta.
Naquela que é amplamente considerada a primeira eleição baseada na IA dos Estados Unidos, em Novembro, os investigadores alertam que a falsificação possibilitada pela tecnologia poderá ser usada para desviar ou aproximar os eleitores dos candidatos – ou mesmo para evitar completamente as urnas – alimentando tensões num ambiente já hiperpolarizado.
Uma recente onda de desinformação renovou os apelos aos gigantes da tecnologia – muitos dos quais desistiram de moderar o conteúdo das redes sociais – para reforçarem as barreiras de proteção em torno da inteligência artificial generativa antes da votação.
Na semana passada, Elon Musk enfrentou intensas críticas por compartilhar um vídeo deepfake do vice-presidente Harris, o suposto candidato democrata, com seus 192 milhões de seguidores no X, antigo Twitter.
Nele, uma narração imitando Harris chama o presidente Joe Biden de senil; a voz então declara que ela não “sabe nada sobre como governar o país”.
O vídeo não trazia nenhuma indicação de que fosse uma paródia – exceto por um emoji risonho. Só mais tarde Musk esclareceu que o vídeo era uma sátira.
Isso é incrível 😂
pic.twitter.com/KpnBKGUUwn-Elon Musk (@elonmusk) 26 de julho de 2024
Os pesquisadores expressaram preocupação de que os telespectadores pudessem ter concluído falsamente que Harris estava zombando de si mesma e manchando Biden.
Os verificadores de fatos da AFP desmascararam outras falsificações de IA que geraram alarme.
No mês passado, um vídeo manipulado que ricocheteou em X parecia mostrar Biden amaldiçoando seus críticos – inclusive usando calúnias anti-LGBTQ – depois de anunciar que não buscaria a reeleição e endossar Harris para a indicação democrata.
Uma busca reversa de imagens mostrou que a filmagem veio de um dos discursos de Biden, transmitido ao vivo pela emissora PBS, no qual ele denunciou a violência política após a tentativa de assassinato de Trump em 13 de julho.
A PBS disse que o vídeo adulterado era um deepfake que usava seu logotipo para enganar os telespectadores.
Semanas antes, uma imagem compartilhada entre plataformas parecia mostrar a polícia prendendo Trump à força depois que um júri de Nova York o considerou culpado de falsificar registros comerciais relacionados a um pagamento secreto à estrela pornô Stormy Daniels.
Mas a foto era falsa, disseram especialistas forenses digitais à AFP.
‘Tensão partidária’
“Esses exemplos recentes são altamente representativos de como os deepfakes serão usados na política daqui para frente”, disse Lucas Hansen, cofundador da organização sem fins lucrativos CivAI, à AFP.
“Embora a desinformação alimentada pela IA seja certamente uma preocupação, as aplicações mais prováveis serão imagens e vídeos fabricados com a intenção de provocar raiva e agravar a tensão partidária”.
Hansen demonstrou à AFP a capacidade de um chatbot de IA de manipular a participação eleitoral através da produção em massa de tweets falsos.
A ferramenta foi alimentada com um prompt simples – “Pontos de votação cobram pelo estacionamento” – com a mensagem personalizada para um local específico: Allen, Texas.
Em segundos, um tweet foi divulgado informando erroneamente aos telespectadores que as autoridades de Allen haviam “discretamente introduzido uma taxa de estacionamento de US$ 25 na maioria dos locais de votação”.
Em uma tentativa anterior de possível supressão de eleitores, uma chamada automática habilitada por IA representando Biden instou os residentes de New Hampshire em janeiro a não votarem nas primárias do estado.
Testes em outra ferramenta líder de IA, Midjourney, permitiram a criação de imagens que pareciam mostrar Biden sendo preso e Trump aparecendo ao lado de um dublê, disse em junho a organização sem fins lucrativos Center for Countering Digital Hate (CCDH).
Midjourney já havia bloqueado todas as solicitações relacionadas a Trump e Biden, impedindo efetivamente os usuários de criar imagens falsas, relataram ativistas de tecnologia.
Mas a CCDH disse que os usuários poderiam facilmente contornar a política – em alguns casos, adicionando uma única barra invertida a um prompt anteriormente bloqueado pelo Midjourney.
‘Ponto de inflexão’
Os observadores alertam que tal falsificação em grande escala corre o risco de despertar a ira pública contra o processo eleitoral.
Mais de 50% dos americanos esperam que as falsidades proporcionadas pela IA tenham impacto sobre quem vencerá as eleições de 2024, de acordo com uma pesquisa publicada no ano passado pelo grupo de mídia Axios e pela empresa de inteligência de negócios Morning Consult.
Cerca de um terço dos americanos disseram que confiarão menos nos resultados por causa da IA, de acordo com a pesquisa.
Vários gigantes da tecnologia disseram que estão trabalhando em sistemas para rotular conteúdo gerado por IA.
Numa carta aos CEO do setor tecnológico, em abril, mais de 200 grupos de defesa exigiram esforços urgentes para reforçar a luta contra as falsidades da IA – incluindo a proibição da utilização de deepfakes em anúncios políticos e a utilização de algoritmos para promover conteúdos eleitorais factuais.
A organização sem fins lucrativos Free Press, um dos grupos que assinou a carta, disse que “ouviu pouca substância” nos compromissos que as plataformas assumiriam neste ciclo eleitoral.
“O que temos agora é um ambiente online tóxico onde mentiras inundam nossos feeds e confundem os eleitores”, disse à AFP Nora Benavidez, conselheira sênior do órgão de fiscalização.
“Este é um ponto de inflexão em nossa eleição”, acrescentou ela. “Os executivos da plataforma deveriam correr para fortalecer e fazer cumprir suas políticas contra deepfakes e outros problemas.”
(Exceto a manchete, esta história não foi editada pela equipe da NDTV e é publicada a partir de um feed distribuído.)
