Bengaluru, Índia – Em 23 de janeiro, um ícone do cinema e da política indiana, M Karunanidhi apareceu diante de um público ao vivo em uma grande tela projetada, para parabenizar seu amigo e colega político TR Baalu, de 82 anos, pelo lançamento de seu livro autobiográfico.
Vestido com seus óculos escuros pretos, camisa branca e um xale amarelo em volta dos ombros – o estilo de Karunanidhi era perfeito. Em seus oito minutos discursoo veterano poeta que se tornou político parabenizou o autor do livro, mas também foi efusivo em seus elogios à liderança competente de MK Stalin, seu filho e atual líder do estado.
Karunanidhi está morto desde 2018. Esta foi a terceira vez, nos últimos seis meses, que o icónico líder do partido Dravida Munnetra Kazhagam (DMK) foi ressuscitado usando inteligência artificial (IA) para tais eventos públicos.
“Quando a pandemia da COVID devastou o mundo, o nosso ministro-chefe correu na direção das vozes das pessoas em pânico”, disse Karunanidhi. “A nação conhece a maneira como você lutou para salvar a vida das pessoas, e eu também.”
Senthil Nayagam, fundador da Muonium, a empresa de tecnologia de mídia de IA que fez o vídeo deepfake de Karunanidhi, disse à Al Jazeera que “há uma abertura de mercado (para tais deepfakes)…. Você pode atribuir algumas afirmações a uma determinada pessoa e isso dá mais valor a ela”.
A primeira aparição pública de AI Karunanidhi foi na mídia local evento no ano passado, em setembro, que foi seguido por outro para uma campanha de membros do seu partido. O líder ressuscitado felicita frequentemente os trabalhadores do partido e elogia especificamente a liderança do seu filho MK Stalin – com o objectivo de aumentar a sua popularidade.
No lançamento do livro em janeiro, AI Karunanidhi contou tudo, desde o perdão de dívidas estudantis e doações em dinheiro para os pobres, até políticas favoráveis às mulheres e incentivos aos investimentos – uma lista das conquistas do seu filho ao longo dos anos que impulsionaram o estado.
A última entrevista pública de Karunanidhi foi em 2016, antes de sua voz ficar rouca e seu corpo frágil. Nayagam usou dados de Karunanidhi disponíveis publicamente para treinar um modelo de fala e recriou a imagem do líder dos anos 1990, quando ele era muito mais jovem. O roteiro do discurso pré-gravado da IA, disse ele, foi fornecido pelo quadro local do DMK e examinado pelo pessoal do partido.
TR Baalu, cuja equipe sancionou a criação de AI Karunanidhi, não respondeu ao pedido de comentários da Al Jazeera.
Karunanidhi foi um dos legisladores mais antigos da Índia, que dirigiu o estado de Tamil Nadu durante quase duas décadas, cumprindo um total de cinco mandatos como ministro-chefe. O poeta que virou político escreveu roteiros sobre a emancipação das castas inferiores e continua a exercer influência entre os eleitores mais velhos.
De acordo com relatos da mídia local, a reação a esses vídeos de IA levou a liderança do partido DMK a pensar em criar discursos de campanha de AI Karunanidhi na próxima campanha para as eleições parlamentares de 2024.
Um dilema ético e legal
Mesmo enquanto os decisores políticos avaliam os casos dos tipos de comunicação de IA que deveriam ser regulamentados, numa utilização inédita, um partido político utilizou a IA para ressuscitar um forte político do passado para promover o líder de hoje.
Mas também levantou algumas questões éticas e legais preocupantes: “A utilização da IA para criar áudio e vídeo sintéticos por uma pessoa viva que autorizou o conteúdo é uma coisa. Outra bem diferente é ressuscitar uma pessoa morta e atribuir-lhe opiniões”, disse Amber Sinha, pesquisadora sênior de IA confiável da Mozilla Foundation.
Mas o gênio já saiu da garrafa. De acordo com Diggaj Mogra, diretor da Jarvis Consulting, uma das maiores consultorias políticas da Índia, o marketing de conteúdo facilitado por IA para campanhas eleitorais, incluindo chamadas de voz e SMS, criação de avatares, divulgação de mídia personalizada e criativos multilíngues criados por IA nas mídias sociais é uma oportunidade de mercado estimada em US$ 60 milhões na Índia neste ano eleitoral.
“Em Tamil Nadu, todos os grandes líderes de cada partido não existem mais”, disse Nayagam, referindo-se aos ex-atores que se tornaram políticos Jayalalitha, MG Ramachandran e Vijayakanth. Nayagam disse que esteve em contato com vários funcionários de baixo escalão de todas as linhas partidárias interessados em aproveitar a IA para deepfakes semelhantes.
O interesse em tais aplicações aumentou, disse ele, depois de compartilhar no ano passado no X, em setembro, um vídeo de quatro minutos clipe de áudio do programa Mann Ki Baat do primeiro-ministro Narendra Modi, que a sua empresa clonou em oito idiomas. Essas investigações de interesse deram a Nayagam e a outros consultores a ideia de uma oportunidade de negócio na campanha eleitoral de IA.
A nível mundial, mais de 60 países deverão realizar eleições nacionais em 2024, e o possível uso indevido da inteligência artificial para influenciar a opinião pública causou pânico moral, transformando-se numa questão global polémica.
Antes da campanha presidencial indonésia, Prabowo Subianto, um antigo general militar acusado de cometer atrocidades contra activistas pró-democracia, está a utilizar a IA generativa para se reimaginar como um avatar de IA de bochechas rechonchudas, para atrair eleitores jovens.
No Sul da Ásia, a utilização da IA para campanhas e casos de utilização indevida ganhou destaque. No Bangladesh, contas pró-governo usaram deepfakes para atingir os partidos da oposição. No Paquistão, o ex-primeiro-ministro Imran Khan tem feito campanha a partir de dentro da sua cela de prisão, passando notas escritas aos seus advogados, que estão a ser transformadas em discursos áudio de IA utilizando software da start-up ElevenLabs, sediada nos EUA.
“Este uso específico de IA em campanhas parece estar decolando em grande escala no Sul da Ásia”, disse Sinha, da Mozilla Foundation.
Em 21 de janeiro, o partido DMK organizou sua segunda conferência anual da ala juvenil na cidade-templo de Salem. O megaevento realizado em arena aberta atraiu uma multidão de 500 mil apoiadores e marcou o lançamento oficial da campanha eleitoral de 2024 do DMK. Os líderes do partido fizeram discursos entusiasmados desafiando o partido nacionalista hindu Bharatiya Janata (BJP) e criticaram as suas políticas, incluindo a diluição dos poderes dos estados pelo centro governado pelo BJP.
Nesta campanha, AI Karunanidhi fez um reaparecimento surpresa em vídeo. “Os direitos de muitos estados que lutaram arduamente foram perdidos durante o governo de 10 anos do BJP”, disse Karunanidhi, discorrendo sobre a contínua hostilidade do BJP em relação a Tamil Nadu.
O vídeo de três minutos discursoacompanhado por música inspiradora, conclui com AI Karunanidhi apelando ao fortalecimento dos direitos do Estado e exortando os jovens quadros a lutarem por um futuro democrático.
“Isso foi criado pela ala de mídia digital do partido para encorajar e entusiasmar os quadros”, disse o porta-voz do DMK, Dharanidharan Selvam, à Al Jazeera. “Acho que os quadros estavam definitivamente entusiasmados e entusiasmados.”
Os líderes falecidos estão em voga nas campanhas políticas “porque continuam a ser mais populares do que os vivos”, disse Sumanth Raman, um comentador político baseado em Chennai. “Não temos líderes de massa do calibre da Sra. Jayalalitha” – outra estrela política – “ou do Sr. Karunanidhi em Tamil Nadu neste momento”.
Nos últimos 30 anos, mais de meia dúzia de partidos políticos foram fundados por atores do estado. Muitos líderes vieram do mundo do cinema, onde interpretaram personagens grandiosos, disse Raman, e sempre foram colocados em um pedestal pelo povo.
“Mas isso é meio que adaptado quando passamos para a próxima geração, que é onde estamos agora. Os líderes enfrentam um escrutínio muito maior no dia a dia e, portanto, não há uma grande aura sobre isso”, disse ele.
‘Aproveitar a popularidade de uma pessoa morta’
O impacto sobre o público da ressurreição de líderes icónicos ainda está em curso. “Acho que foi um esforço bastante comum – foi para os homens do partido, então eles aproveitaram”, disse Raman, sobre o discurso em vídeo da IA. “A IA de hoje é capaz de produzir imagens ainda melhores.”
Para o vídeo de lançamento do livro, fica claro que o vídeo é sintético, pois a sincronização labial não combina muito bem. No entanto, o áudio da voz de Karunanidhi reflete a realidade.
Nayagam, o criador do AI Karunanidhi, disse que uma das razões para os visuais imperfeitos era a indisponibilidade de conjuntos de dados de vídeo de alta qualidade, forçando-os a obter tudo o que estava disponível na Internet.
O vídeo exibido na conferência de jovens era melhor, mas era inconsistente perto da boca. Ainda assim, a resposta do público online aos vídeos foi favorávelcom alguns comentando “super” no YouTube. Ambos os vídeos foram claramente rotulados como gerados por IA.
A Índia testemunhou o primeiro uso de deepfakes em campanhas eleitorais em 2020, quando o político do BJP, Manoj Tiwari, sancionou a criação e distribuição de vídeos deepfake dele mesmo fazendo campanha em Haryanvi e inglês, línguas que ele não fala. Os especialistas criticaram o vídeo, mas alegando que foi compartilhado sem divulgação de que é manipulado por IA.
Pode-se argumentar que a criação de vídeos de políticos com IA é uma extensão do uso de fotografias ou imagens de pessoas mortas por seus partidos políticos, disse Sinha, como o uso de imagens de Nehru, Indira Gandhi ou Rajiv Gandhi após suas mortes pelos indianos Congresso Nacional.
“No entanto, a criação de áudio ou vídeo sintético vai vários passos além”, disse Sinha. “Em ambos os casos, o partido tenta alavancar a popularidade de uma pessoa morta, mas no último, opiniões e mensagens são ativamente atribuídas a ela.”
Um enigma adicional na ressurreição de um político falecido é: quem detém os direitos à voz e imagem da pessoa morta?
“Isso, é claro, não tem base legal na Índia, porque não temos quaisquer direitos consagrados das pessoas falecidas na Índia, mas do ponto de vista ético, o consentimento precisa ser considerado”, disse Devika Malik, uma Consultor de política tecnológica baseado em Delhi com foco em confiança e segurança online. A lei indiana oferece proteção legal contra a difamação de uma pessoa morta.
Os políticos indianos também procuram ativamente soluções de IA para as próximas campanhas. Mogra, da Jarvis Consulting, disse que candidatos individuais estão tentando usar clones de voz de IA para enviar chamadas automáticas ou IVRS (Sistema Interativo de Resposta de Voz) com voz gravada e nomes personalizados em suas mensagens. “Existem vários fornecedores circulando pelo país para fazer isso, vendendo isso a taxas muito nominais”, disse Mogra.
Já existia uma economia florescente de mídia sintética baseada no uso sancionado de deepfakes por atores e CEOs, e esse mercado se expandiu para o domínio político. Consultorias como a Polymath Solutions, operada por Devendra Singh Jadoun, estão usando clonagem de voz para entregar “mensagens personalizadas” de políticos aos trabalhadores locais do partido.
“Será usado massivamente nesta eleição”, disse Mogra. Contudo, “é uma faca de dois gumes. Isso criará muita desinformação e desinformação. Acho que os benefícios serão menores e os problemas de desinformação/desinformação serão maiores.”
Do ponto de vista do impacto social, ainda não está claro até que ponto estes vídeos de IA – mesmo os de má qualidade – poderiam moldar as atitudes dos eleitores.
Mesmo quando esses vídeos não são de alta qualidade, “no caso de um ex-orador popular como M Karunanidhi, isso pode atrair mais atenção para a mensagem e ajudá-la a se tornar viral”, disse Sinha.
Seu mais recente pesquisar destaca como “atores difusos” ou consultores políticos, que apesar de não terem filiação partidária, colaboram com campanhas para divulgar sua mensagem.
Aproveitar apelos sentimentais de pessoas ou famílias específicas – especialmente quando são personalizados e enviados no WhatsApp – pode ser uma estratégia de comunicação eficaz e pode influenciar a opinião dos eleitores, acrescentou Malik.
Mas as perspectivas dos defensores das políticas e dos profissionais divergem acentuadamente quanto à eficácia dos meios de comunicação sintéticos.
Mogra, de Jarvis, prevê que o fator novidade das mensagens personalizadas de políticos baseadas em IA – seja em áudio ou vídeo – se esgotaria em breve. “Se as pessoas começarem a ver isso com frequência, perceberão que isso está acontecendo em todos os lugares e que estão vendo isso em todos os lugares – assim como aconteceu com o WhatsApp”, disse ele.
Anteriormente, os partidos políticos deram ênfase extra à criação de grupos de WhatsApp para divulgação. Agora todo mundo sabe que cada pessoa faz parte de centenas de grupos e ninguém presta muita atenção ou lê todos os chats.
“Acho que enfrentaremos problemas semelhantes em uma velocidade muito mais rápida com essas soluções generativas de IA e casos de uso”, disse Mogra.
