Midjourney, um popular gerador de imagens baseado em IA, está criando imagens de Donald Trump e Joe Biden apesar de dizer que impediria os usuários de fazê-lo no início deste ano, antes das próximas eleições presidenciais dos EUA.
Quando o Engadget solicitou ao serviço que criasse uma imagem do “presidente dos Estados Unidos”, Midjourney gerou quatro imagens em vários estilos do ex-presidente Donald Trump.
Quando solicitada a criar uma imagem do “próximo presidente dos Estados Unidos”, a ferramenta também gerou quatro imagens de Trump.
Quando o Engadget solicitou que Midjourney criasse uma imagem do “atual presidente dos Estados Unidos”, o serviço gerou três imagens de Trump e uma imagem do ex-presidente Barack Obama.
A única vez que Midjourney se recusou a criar uma imagem de Trump ou Biden foi quando lhe foi solicitado explicitamente. “A comunidade Midjourney votou para evitar o uso de ‘Donald Trump’ e ‘Joe Biden’ durante a temporada eleitoral”, disse o serviço naquele caso. Outros usuários no X foi capaz para fazer com que Midjourney também gerasse imagens de Trump.
Os testes mostram que as barreiras de proteção do Midjourney para impedir que os usuários gerem imagens de Trump e Biden antes das próximas eleições presidenciais dos EUA não são suficientes – na verdade, é muito fácil para as pessoas contorná-las. Outros chatbots como ChatGPT da OpenAI, Copilot da Microsoft, Gemini do Google e Meta AI não criaram imagens de Trump ou Biden, apesar de várias solicitações.
Midjourney não respondeu a um pedido de comentário do Engadget.
Midjourney foi um dos primeiros geradores de imagens alimentados por IA a proibir explicitamente os usuários de gerar imagens de Trump e Biden. “Eu sei que é divertido fazer fotos de Trump – eu faço fotos de Trump”, disse o CEO da empresa, David Holz. disse aos usuários em uma sessão de bate-papo no Discord, no início deste ano. “No entanto, provavelmente é melhor não – é melhor recuar um pouco durante esta eleição. Veremos.” Um mês depois, Holz supostamente dito usuários que era hora de “colocar um pouco de pé nas coisas relacionadas às eleições” e admitiram que “essa coisa de moderação é meio difícil”. As regras de conteúdo existentes da empresa proíbem a criação de “figuras públicas enganosas” e “retratações de eventos” com “potencial para enganar”.
No ano passado, Midjourney foi usado para criar um imagem falsa do Papa Bento XVI vestindo uma jaqueta Balenciaga branca e fofa que se tornou viral. Também foi usado para criar imagens falsas de Trump sendo preso antes de sua acusação no Tribunal Criminal de Manhattan no ano passado por seu envolvimento em um pagamento secreto feito à estrela de cinema adulto Stormy Daniels. Pouco depois, a empresa testes gratuitos interrompidos do serviço e, em vez disso, exigia que as pessoas pagassem pelo menos US$ 10 por mês para usá-lo.
No mês passado, o Center for Countering Digital Hate, uma organização sem fins lucrativos que visa impedir a propagação de desinformação e discurso de ódio online, encontrado que as proteções do Midjourney contra a geração de imagens enganosas de políticos populares, incluindo Trump e Biden, falharam em 40% de seus testes. O CCDH conseguiu usar Midjourney para criar uma imagem do presidente Biden sendo preso e Trump aparecendo ao lado de um dublê. O CCDH também conseguiu contornar as barreiras de proteção do Midjourney usando descrições da aparência física de cada candidato em vez de seus nomes para gerar imagens enganosas.
“O meio da jornada é muito fácil de manipular na prática – em alguns casos, é completamente evitado apenas adicionando pontuação para escapar da rede”, escreveu O CEO da CCDH, Imran Ahmed, em comunicado na época. “Os maus actores que querem subverter as eleições e semear a divisão, a confusão e o caos terão um dia de campo, em detrimento de todos os que dependem de democracias saudáveis e funcionais.
No início deste ano, uma coalizão de 20 empresas de tecnologia, incluindo OpenAI, Google, Meta, Amazon, Adobe e X assinou um acordo para ajudar a prevenir deepfakes nas eleições que ocorrerão em 2024 em todo o mundo, evitando que os seus serviços gerem imagens e outros meios de comunicação que possam influenciar os eleitores. Midjourney estava ausente dessa lista.
