A plataforma de mídia social X bloqueou pesquisas por uma das personalidades mais populares do mundo, Taylor Swift, depois que imagens explícitas de inteligência artificial da cantora e compositora se tornaram virais.
Os deepfakes inundaram vários sites de mídia social, do Reddit ao Facebook. Isto renovou os apelos ao reforço da legislação em torno da IA, especialmente quando esta é utilizada indevidamente para assédio sexual.
Aqui está o que você precisa saber sobre o episódio de Swift e a legalidade em torno dos deepfakes.
O que aconteceu com Taylor Swift?
Na quarta-feira, imagens sexualmente explícitas geradas por IA começaram a circular em sites de mídia social, ganhando força principalmente no X. Uma imagem da megastar foi vista 47 milhões de vezes durante as aproximadamente 17 horas em que esteve ao vivo no X antes de ser removida na quinta-feira.
O grupo de detecção de deepfake Reality Defender disse à agência de notícias Associated Press que rastreou dezenas de imagens exclusivas que se espalharam por milhões de pessoas na Internet antes de serem removidas.
X proibiu pesquisas por Swift e consultas relacionadas às fotos, exibindo uma mensagem de erro.
Instagram e Threads, embora permitam pesquisas por Swift, exibem uma mensagem de aviso ao pesquisar especificamente pelas imagens.
O que plataformas como sites X e AI estão dizendo?
Na sexta-feira, a conta de segurança de X divulgou um comunicado que reiterou a “política de tolerância zero” da plataforma na postagem de imagens de nudez não consensuais. Ele disse que a plataforma estava removendo imagens e tomando medidas contra contas que violassem a política.
A Meta também divulgou um comunicado condenando o conteúdo, acrescentando que “tomará as medidas cabíveis conforme necessário”.
“Estamos monitorando de perto a situação para garantir que quaisquer outras violações sejam imediatamente resolvidas e que o conteúdo seja removido”, disse a empresa.
A OpenAI disse que possui salvaguardas para limitar a geração de conteúdo prejudicial em suas plataformas como ChatGPT e recusa “pedidos que solicitam o nome de uma figura pública, incluindo Taylor Swift”.
A Microsoft, que oferece um gerador de imagens baseado parcialmente no site DALL-E, disse na sexta-feira que estava investigando se sua ferramenta foi mal utilizada.
Kate Vredenburgh, professora assistente do Departamento de Filosofia, Lógica e Método Científico da London School of Economics, destacou que os modelos de negócios de mídia social são muitas vezes construídos com base no compartilhamento de conteúdo e sua abordagem geralmente é limpar após tal evento.
Swift não emitiu nenhum comunicado sobre as imagens. A estrela pop foi vista no domingo em um jogo da NFL nos Estados Unidos, torcendo por seu namorado Travis Kelce enquanto seu Kansas City Chiefs avançava para o Super Bowl.
A publicação de imagens de nudez não consensual (NCN) é estritamente proibida no X e temos uma política de tolerância zero em relação a esse tipo de conteúdo. Nossas equipes estão removendo ativamente todas as imagens identificadas e tomando as medidas apropriadas contra as contas responsáveis por publicá-las. Estamos de perto…
– Segurança (@Segurança) 26 de janeiro de 2024
O que é um deepfake e como pode ser mal utilizado?
Swift não é a primeira figura pública a ser alvo de deepfakes, que são uma forma de “mídia sintética” ou mídia virtual manipulada e modificada por meio de inteligência artificial.
Imagens e vídeos podem ser gerados do zero, alimentando ferramentas de IA com instruções sobre o que exibir. Alternativamente, o rosto de alguém em um vídeo ou imagem pode ser trocado pelo de outra pessoa, como o de uma figura pública.
Vídeos falsos são comumente feitos dessa forma para mostrar políticos endossando certas declarações ou pessoas envolvidas em atividades sexuais que nunca praticaram. Recentemente, na Índia, deepfakes sexualmente explícitos da atriz Rashmika Mandanna se tornaram virais nas redes sociais, gerando alvoroço. Um aplicativo de jogos usou um deepfake do ícone do críquete Sachin Tendulkar para promover seu produto. E nos EUA, a campanha do ex-candidato presidencial republicano Ron DeSantis produziu deepfakes mostrando o ex-presidente Donald Trump, que lidera a corrida pela indicação presidencial do partido, beijando o especialista em saúde pública Anthony Fauci, uma figura odiada por muitos conservadores por causa de sua defesa de máscaras e vacinas durante a pandemia de COVID-19.
Embora alguns deepfakes sejam fáceis de identificar devido à sua baixa qualidade, outros podem ser muito mais difíceis de distinguir de um vídeo real. Várias ferramentas generativas de IA, como Midjourney, Deepfakes web e DALL-E, estão disponíveis aos usuários gratuitamente ou por um preço baixo.
Mais de 96% das imagens deepfake atualmente online são de natureza pornográfica e quase todas têm como alvo mulheres, de acordo com um relatório da Sensity AI, uma empresa de inteligência focada na detecção de deepfakes.
Existe alguma legislação que possa proteger os usuários online?
A legislação que aborda especificamente os deepfakes varia de acordo com o país e normalmente varia desde a exigência da divulgação de deepfakes até a proibição de conteúdo prejudicial ou malicioso.
Dez estados dos EUA, incluindo Texas, Califórnia e Illinois, têm leis criminais contra deepfakes. Os legisladores estão pressionando por um projeto de lei federal semelhante ou por mais restrições à ferramenta. A representante dos EUA, Yvette Clarke, uma democrata de Nova York, introduziu uma legislação que exigiria que os criadores colocassem marca d’água digital em conteúdo deepfake.
Deepfakes sexualmente explícitos, quando não consensuais, podem ser uma violação das leis mais amplas do país. Os EUA não criminalizam esses deepfakes, mas possuem leis estaduais e federais que visam privacidade, fraude e assédio.
Em 2019, a China implementou leis que obrigam a divulgação do uso de deepfakes em vídeos e mídia. Em 2023, o Reino Unido tornou ilegal o compartilhamento de pornografia deepfake como parte de sua Lei de Segurança Online.
A Coreia do Sul promulgou uma lei em 2020 que criminaliza a distribuição de deepfakes que causam danos ao interesse público, impondo penas de até cinco anos de prisão ou multas que chegam a cerca de 50 milhões de won (43 mil dólares) para impedir o uso indevido.
Na Índia, o governo federal emitiu um comunicado às redes sociais e plataformas de Internet em dezembro para se protegerem contra deepfakes que violem as regras de TI da Índia. Os deepfakes em si não são ilegais, mas, dependendo do conteúdo, podem violar algumas das regras de tecnologia da informação da Índia.
A hesitação em torno de uma regulamentação mais rigorosa decorre frequentemente de preocupações de que esta possa travar o progresso tecnológico.
“Isso apenas pressupõe que não poderíamos fazer essas mudanças regulatórias ou de design para reduzir isso, pelo menos significativamente”, disse Vredenburgh. Por vezes, a atitude social também pode ser a de que tais incidentes são um preço a pagar por tais ferramentas, o que, segundo Vredenburgh, marginaliza a perspectiva das vítimas.
“Isso os retrata como uma pequena minoria da sociedade que pode ser afetada para o bem de todos nós”, disse ela. “E essa é uma posição muito desconfortável, socialmente, para todos nós.”
Como o mundo está reagindo?
A Casa Branca disse estar “alarmada” com as imagens enquanto a base de fãs de Swift – chamada Swifties – se mobilizou para tomar medidas contra elas.
“Embora as empresas de mídia social tomem suas próprias decisões independentes sobre o gerenciamento de conteúdo, acreditamos que elas têm um papel importante a desempenhar na aplicação de suas próprias regras para evitar a propagação de desinformação e imagens íntimas e não consensuais de pessoas reais”, disse a secretária de imprensa da Casa Branca, Karine Jean. -Pierre disse em uma coletiva de imprensa.
Os legisladores dos EUA também expressaram a necessidade de introduzir salvaguardas.
Desde quarta-feira, os fãs da cantora denunciaram rapidamente os relatos e lançaram uma contra-ofensiva no X com a hashtag #ProtectTaylorSwift para inundá-lo com imagens mais positivas de Swift.
“Muitas vezes confiamos nos usuários e nas pessoas afetadas ou nas pessoas que são solidárias com eles para fazer o trabalho árduo de pressionar as empresas”, disse Vredenburgh, acrescentando que nem todos podem mobilizar o mesmo tipo de pressão e, portanto, contar com a indignação. traduzir-se em mudanças duradouras ainda é algo com que se preocupar.
