Papa alerta sobre deepfakes “perversos”

As imagens geradas por IA foram visualizadas mais de 47 milhões de vezes antes que a conta que as postou no X fosse suspensa

‘Fotos’ sexualmente explícitas da cantora pop Taylor Swift que se espalharam nas plataformas de mídia social no início desta semana foram “alarmante,” A porta-voz da Casa Branca, Karine Jean-Pierre, disse aos repórteres durante uma coletiva de imprensa na sexta-feira que uma ação promissora contra a pornografia não consensual de IA estava por vir.

“Faremos o que pudermos para lidar com esse problema”, Jean-Pierre disse, acrescentando que o Congresso deveria aprovar legislação e as plataformas de mídia social deveriam reprimir o compartilhamento e postagem de tais imagens.

“Embora as empresas de mídia social tomem suas próprias decisões independentes sobre o gerenciamento de conteúdo, acreditamos que elas têm um papel importante a desempenhar na aplicação de suas próprias regras para evitar a propagação de desinformação e imagens íntimas e não consensuais de pessoas reais”. ela disse.

Uma das imagens, postada no X, foi visualizada mais de 47 milhões de vezes antes de a publicação da conta ser suspensa, segundo o New York Times. X alegou que estava trabalhando para remover as imagens e suspendeu várias contas que as postaram. Os termos de serviço da plataforma proíbem o compartilhamento de imagens de pessoas reais geradas por IA, pornográficas ou não.

Uma pesquisa por ‘Taylor Swift’ no X retornou um erro na tarde de sábado. Um fã de Swift na plataforma disse que o termo de pesquisa foi “banido”. Contudo, ainda era possível usar “Taylor Swift” em uma pesquisa, desde que outra palavra ou palavras apareçam primeiro – seja “proteger” ou “IA gerada.”

Algumas das imagens foram postadas originalmente em um grupo do Telegram dedicado a “Imagens sexuais de mulheres não consensuais geradas por IA” na quinta-feira, de acordo com o blog de tecnologia 404 Media. Outros estavam flutuando no 4chan e em outros fóruns de trollagem por semanas antes de a passagem para a mídia social ‘mainstream’ torná-los virais.

Muitas das imagens foram criadas usando o Designer da Microsoft, um gerador de texto para imagem de IA disponível comercialmente. O grupo Telegram explica aos não iniciados como contornar as próprias proteções da Microsoft contra deepfakes e pornografia de celebridades, descrevendo como, embora o programa não gere uma imagem em resposta ao prompt “Taylor Swift,” ele responderá de forma agradável a alguém como “Cantor Taylor Swift.”

A Microsoft disse ao blog que era “investigando esses relatórios e… tomando as medidas apropriadas para resolvê-los,” ressaltando que seus termos de serviço proíbem o uso de programas para criar “conteúdo íntimo adulto ou não consensual”.

Os legisladores dos EUA apresentaram um projeto de lei na Câmara dos Representantes no início deste mês com o objetivo de controlar federalmente o uso de IA para deepfakes de áudio e vídeo. A Lei Sem Respostas Falsas e Duplicações Não Autorizadas de Inteligência Artificial (Lei NO AI FRAUD) é supostamente baseada no projeto de lei semelhante do Senado, Lei Nurture Originals, Foster Art e Keep Entertainment Safe (Lei NO FAKES), que permite que celebridades processem qualquer pessoa que crie “réplicas digitais” de sua imagem ou voz sem permissão.

Você pode compartilhar esta história nas redes sociais:

Fuente