Bengaluru, Índia – No início de março, uma imagem realista gerada por IA do primeiro-ministro indiano Narendra Modi, denominado Bhishma Pitamah do antigo épico hindu Mahabharata, foi promovida como uma propaganda política no Instagram.
Com longos cabelos grisalhos e ondulados, uma marca em forma de sol na testa e uma armadura corporal, a imagem retratava o que os fãs de Modi veem como seu papel no mundo de hoje: uma reencarnação do comandante supremo Bhishma, que lutou contra ameaças estrangeiras.
Esse Imagem do Instagramcriado pela página de direita Hokage Modi Sama e postado pela primeira vez em 2023, foi impulsionado como propaganda política por dois dias em março, obtendo mais de 35.000 impressões.
Uma análise da Al Jazeera dos dados da Meta Ad Library de anúncios políticos na Índia nos últimos três meses revelou que, entre 27 de fevereiro e 21 de março, Hokage Modi Sama promoveu quase 50 peças de imagens de Modi geradas por IA, tornando-o o principal anunciante de Imagens Modi geradas por IA no Instagram.
A Meta Ad Library é um arquivo público que hospeda uma coleção de anúncios políticos veiculados em suas plataformas, que incluem Instagram e Facebook.
O tema comum a todas as imagens compartilhadas pelo identificador foi a valorização de Modi como líder hindu. Imagens populares de IA impulsionadas por postagens patrocinadas no Hokage Modi Sama apresentam Modi como uma reencarnação de Bhishmaum terno filho de Deus, abraçando a herança hindu e a Rei do Hindu Rashtra estabeleceu-se em seu trono, conquistando milhões de curtidas e visualizações. (Hindu Rashtra é a ideologia controversa de um governo majoritário hindu na Índia, um afastamento do seu princípio secular fundador.)
“Através destas imagens, a tentativa parece ser a de transmitir uma qualidade simultânea de sábio e de guerreiro a Modi, o que cria a aura de um líder político que é incansável, invencível, irrepreensível e, portanto, digno da nossa lealdade inquestionável. ”, disse Amogh Dar Sharma, professor da Universidade de Oxford que estuda comunicação política, à Al Jazeera.
Mas as publicações do mais prolífico anunciante online das imagens de IA de Modi também mostram os desafios da aplicação de regras relacionadas com a IA nas redes sociais, em meio ao receio de que imagens manipuladas sejam aproveitadas para propaganda entre os eleitores que podem não compreender completamente a extensão da alteração que as fotos e memes podem ter passado.
A Meta está ciente de tal uso e antes de um ano eleitoral crucial de 2024, anunciou que a partir de Janeiroanúncios políticos no Instagram e no Facebook criados com inteligência artificial (IA) terão que divulgar o uso ou correm o risco de serem banidos.
Nos 30 dias que antecederam 29 de março, Hokage Modi Sama gastou 537.799 rúpias indianas (6.500 dólares) para impulsionar 363 peças de conteúdo político, incluindo imagens e vídeos em sua página do Instagram, de acordo com Dados da Meta Biblioteca de Anúncios. Nossa análise mostra que quase 14% de todos os anúncios patrocinados, totalizando 50 imagens, foram gerados por IA.
Todos os anúncios da IA do Hokage Modi Sama foram posts patrocinados no Instagram e a divulgação do uso da IA foi através de hashtags como #aiartwork, #midjourneyart, #midjourneyai e outras. Midjourney, ao qual as hashtags parecem se referir, é um programa popular de inteligência artificial generativa.
Mas Meta disse à Al Jazeera que as hashtags não são uma divulgação aceitável para um anúncio criado ou alterado digitalmente. Nos casos em que os anunciantes precisam divulgar que seu conteúdo foi criado ou alterado digitalmente, a Meta adicionará um rótulo que diz “Criado digitalmente” próximo ao aviso de isenção de responsabilidade “Pago por”, inclusive na Biblioteca de Anúncios. Atualmente, esses rótulos não estão presentes nos anúncios Hokage Modi Sama AI.
Meta não respondeu à pergunta específica da Al Jazeera sobre se os anúncios de imagens fotorrealistas de Modi violavam sua política de retratar uma pessoa real fazendo algo que ela não fez, ou de retratar um evento de aparência realista que não aconteceu.
Em vez disso, Meta indicou ao repórter da Al Jazeera um postagem no blog de março de 2024 sobre os requisitos de divulgação de IA para anunciantes e como a empresa está se preparando para as eleições indianas.
Prateek Waghre, diretor executivo da Internet Freedom Foundation (IFF), com sede na Índia, disse à Al Jazeera que, como esses anúncios específicos são marcados como #aiart, é necessário que os criadores de conteúdo reconheçam a tentativa de aumentar as imagens de IA por meio de alguma forma. de divulgação para cumprir as políticas recentemente atualizadas da Meta que exigem divulgação de IA.
IA costumava promover ‘narrativas estratégicas’
As campanhas eleitorais indianas têm sido um veículo para uma difusão lenta de imagens e vídeos gerados por IA, inclusive através de ressurreições de líderes políticos mortos por meio de IA, e seu uso como arte de campanha em contas oficiais do partido, como Al Jazeera relatou anteriormente. Apesar da ameaça de desinformação eleitoral gerada pela IA, os deepfakes não estão a ser usados exclusivamente para enganar os eleitores. Em vez disso, a IA generativa está a ser cooptada para construir uma narrativa.
“Embora a desinformação seja definitivamente um problema sério que requer a nossa atenção, ela também desvia a atenção das formas mais subliminares pelas quais o conteúdo gerado pela IA pode ajudar a impulsionar narrativas estratégicas dos partidos políticos”, disse Sharma, da Universidade de Oxford, à Al Jazeera, após analisar a IA. anúncios de imagem.
“Não se trata simplesmente de a IA estar a ‘enganar’ os eleitores fazendo-os acreditar em algo que é flagrantemente falso; em vez disso, a IA permite a produção de conteúdos mais criativos e que podem recorrer a referências culturais mais inovadoras – isto produz propaganda política que é mais divertida e, portanto, mais partilhável, o que permite uma circulação generalizada”, acrescentou.
Por exemplo, a imagem de IA mais popular postada pela página Hokage Modi Sama é “Nosso super-herói açafrão”. Mostra Modi vestindo pijama kurta cor de açafrão, com uma capa esvoaçante andando sob a bandeira “Om”, um símbolo espiritual hindu. A imagem da IA tem quase dois milhões de curtidas com comentários como: “Quem quer que a Índia seja uma nação hindu?” na seção de comentários do Instagram. A maioria das imagens reformula o primeiro-ministro indiano como um “salvador”, “guardião vestido de açafrão do futuro da Índia”, “símbolo do renascimento hindu” e mais.
Sharma destacou que embora mitologizar líderes políticos ou apresentá-los em épicos hindus não seja novidade, a IA permite que isso seja executado com maior sutileza.
“Essas imagens de Narendra Modi geradas por IA parecem ser a mais recente iteração em uma estratégia de longa data do BJP para criar um culto sobre (Modi) como um líder sábio e sagaz”, disse Sharma.
Embora as páginas do Instagram e do Facebook do Hokage Modi Sama não tenham isenções de responsabilidade explícitas sobre uma afiliação direta ao Partido Bharatiya Janata (BJP) de Modi, a página tem um histórico de publicação de conteúdo pró-Hindutva e pró-BJP. Anteriormente, a página ganhou força depois de compartilhar um imagem do proprietário da plataforma de mídia social X, Elon Musk, como um monge hindu, com a legenda “Nosso companheiro bhakt Elon”, denotando Musk como um nacionalista hindu.
Várias tentativas de entrar em contato com o administrador do Hokage Modi Sama não tiveram sucesso. No anime Naruto, “Hokage” é um título de prestígio concedido a um líder de aldeia, enquanto Sama é uma forma respeitosa de dizer “senhor” em japonês, então a página significa aproximadamente “Líder Modi Senhor”. O Instagram, com 130.000 seguidores, agora vende mercadorias como camisetas, canecas de café e agendas baseadas na imagem de IA do super-herói açafrão.
Globalmente, as imagens de IA têm sido utilizadas em campanhas políticas. Em março, apoiadores da campanha do candidato presidencial dos Estados Unidos, Donald Trump, usaram imagens falsas de IA dele posando com eleitores negros para “abordagem estratégica” à comunidade negra. Na Argentina, dois candidatos presidenciais usaram imagens geradas por IA para aumentar a sua popularidade e atacar os adversários. E na Indonésia, o presidente eleito Prabowo Subianto, o outrora temido ditador militar, usou imagens de IA para se autodenominar um “avô fofinho” na sua campanha.
Na Índia, no período que antecedeu as eleições estaduais de Telangana em dezembro de 2023, o meio de verificação de fatos BOOM Live relatou que imagens de IA retratavam falsamente o líder político regional K Chandrashekar Rao no lançamento de um esquema de refeições gratuitas para estudantes, ao qual ele nunca compareceu .
Uma análise da Al Jazeera da Meta Ad Library de dezembro de 2023 revelou que a página Mana Telangana compartilhou várias imagens falsas de IA no Instagram e no Facebook do líder da oposição indiana Rahul Gandhi do Partido do Congresso posando com crianças e agricultores. Os agricultores constituem um bloco eleitoral influente na Índia e têm protestado frequentemente contra as leis agrícolas favoráveis ao mercado de Modi.
A imagem falsa de Gandhi junto aos agricultores era acompanhada pela legenda: “Rahul Gandhi tem empatia pelos agricultores, prometendo apoio inabalável e um compromisso de abordar as suas preocupações individualmente”. A postagem patrocinada continha as hashtags #aigenerated e #aiimages, indicando que foram geradas por IA, e teve uma estimativa de 7.000 impressões.
Ocidente vs Sul Global
Há também uma disparidade na forma como as plataformas no Ocidente e no Sul Global estão a abordar a tendência das imagens de IA antes das eleições.
Por exemplo, para mitigar o potencial abuso de imagens de IA antes das eleições presidenciais de novembro nos EUA, o popular gerador de imagens de IA Midjourney proibiu a criação de imagens falsas dos presidentes Joe Biden e Donald Trump em março.
Mas não houve tais medidas na Índia, aumentando “a preocupação relativamente à aplicação equitativa das políticas pelas plataformas tecnológicas em diferentes regiões”, disse Baybars Orsek, diretor-gerente da Logically Facts, à Al Jazeera. Logically Facts faz parte do programa terceirizado de verificação de fatos da Meta e da aliança de combate à desinformação na Índia.
As tentativas da Al Jazeera de gerar imagens de IA no meio da jornada de Modi e Gandhi apertando as mãos foram bem-sucedidas, enquanto o prompt para gerar uma imagem de Modi e Trump apertando as mãos resultou em uma notificação de “Prompt banido detectado”.
“Esta decisão traz à luz as disparidades na forma como tais políticas de moderação são aplicadas globalmente, especialmente no contexto do Sul Global, incluindo países como a Índia, que se encaminha para as eleições mais significativas do ano”, disse Orsek.
A Al Jazeera enviou um e-mail ao Midjourney sobre a disparidade na moderação e ainda não recebeu resposta.
É semelhante à forma como as políticas das empresas de redes sociais, como o Facebook ou o Twitter, para manter as suas plataformas seguras, são inclinadas para o Ocidente e muitas vezes negligenciam as perspectivas do Sul Global, acrescentou Waghre, do IFF.
