Em comparação com outros, o país está à frente da curva na regulamentação da pornografia deepfake (imagem gerada por IA)
A Coreia do Sul foi abalada por uma onda de imagens falsas sexualmente explícitas criadas e partilhadas online, visando indiscriminadamente mulheres e raparigas através de fotografias escolares, selfies nas redes sociais e até fotografias militares. Um canal do Telegram com mais de 220 mil participantes estaria sendo usado para criar e compartilhar essas imagens pornográficas geradas por inteligência artificial, servindo como um lembrete global das consequências mais sombrias da corrida generalizada por esta tecnologia.
Os usuários podiam fazer upload de fotos e, em questão de segundos, criar conteúdo explícito com rostos de amigos, colegas de classe ou parceiros românticos. As reportagens iniciais dos meios de comunicação locais levaram mais mulheres a se apresentarem como vítimas e mais canais do Telegram foram expostos, revelando a verdadeira escala do problema. Muitas das vítimas envolvidas são menores. Manifestantes usando máscaras brancas sobre os olhos reuniram-se em Seul pedindo justiça no final do mês passado.
À medida que a indignação aumentava, o presidente sul-coreano, Yoon Suk Yeol, apelou ao seu governo para reprimir o abuso digital, e as autoridades disseram que formariam uma força-tarefa para resolver o problema. Enquanto a polícia investigava, surgiu outra tendência perturbadora. Dados preliminares indicam que a grande maioria dos supostos perpetradores da recente onda de casos eram adolescentes.
“Alguns podem considerá-lo uma mera brincadeira, mas é claramente um ato criminoso que explora a tecnologia sob o escudo do anonimato”, disse Yoon durante uma reunião de gabinete no final do mês passado, reconhecendo que muitas das vítimas e perpetradores eram menores.
Yoon está certo. Isto não é apenas uma brincadeira, e o impacto deste tipo de violência sexual digital pode ser devastador para as vítimas. Grande parte da culpa está sendo justamente atribuída ao Telegram, especialmente porque o escândalo está chegando ao auge ao mesmo tempo em que o CEO da plataforma, Pavel Durov, foi preso e acusado na França por suposta cumplicidade em crimes, incluindo o compartilhamento de pornografia infantil, cometida em seu aplicativo. As autoridades coreanas disseram que o Telegram está cooperando com a investigação e solicitando a remoção do conteúdo.
Mas as palavras de Yoon soarão vazias para alguns, visto que ele chegou ao poder em 2022 cortejando jovens eleitores do sexo masculino com propostas para acabar com o ministério da igualdade de género, que acusou de tratar os homens como “potenciais criminosos sexuais”. Ele também afirmou que a discriminação sistêmica de gênero não existe na Coreia do Sul e deu a entender que o feminismo era o culpado pela baixa taxa de natalidade do país. Entretanto, as mulheres ganham cerca de 30% menos do que os seus homólogos masculinos, marcando a maior disparidade salarial entre homens e mulheres no mundo desenvolvido. Mesmo em famílias com rendimentos duplos, as mulheres suportam o peso das tarefas domésticas e das responsabilidades de cuidado dos filhos.
E antes que a recente safra de ferramentas de IA tornasse muito mais fácil a geração de imagens explícitas falsas, grupos de defesa chamavam a atenção para uma onda de crimes sexuais digitais, geralmente envolvendo imagens íntimas não consensuais ou câmeras escondidas.
Há uma série de razões pelas quais as mulheres sul-coreanas, tal como as suas homólogas em todo o mundo desenvolvido, estão a optar por não ter filhos, incluindo a crescente participação na força de trabalho e o custo desigual de criar os filhos. Em vez de culpar o feminismo, talvez fosse mais útil olhar para esta montanha de dados profundamente preocupantes. Ironicamente, um dos principais grupos do Telegram que divulga essas imagens tinha cerca de 227.000 membros – o que é aproximadamente igual ao número de bebês nascidos no ano passado.
As mulheres sul-coreanas estão corajosamente a trazer esta questão à luz com protestos e activismo, o primeiro passo para implementar mudanças numa crise que está a afectar pessoas em todo o mundo. Em comparação com outras jurisdições, o país também está à frente da curva quando se trata de regulamentar a pornografia deepfake. Na verdade, existem leis em vigor, incluindo punições de até cinco anos de prisão e multas para pessoas condenadas por criar imagens com a intenção de distribuí-las. Nos EUA, a legislação federal obteve apoio bipartidário entre os legisladores, mas ainda avança a passo de lesma no Congresso.
A regulamentação é importante, mas os casos na Coreia também expõem quão difícil pode ser a aplicação para um problema tão generalizado, bem como como é fácil criar e partilhar este conteúdo. A expansão das leis para tornar ilegal a posse de tal material poderia ajudar. Mas isto ainda coloca muita responsabilidade sobre as vítimas no sentido de rastrear digitalmente quem criou o conteúdo que alterou as suas vidas.
A recente prisão do CEO do Telegram mostra que há um impulso global crescente para responsabilizar as empresas de tecnologia pelo seu papel nos danos que ocorrem nas suas plataformas. Este é um passo na direção certa; à medida que mais reguladores transferem a responsabilidade para estas empresas poderosas, mais soluções lideradas pela indústria seriam bem-vindas. Universidades e centros de investigação estão a desenvolver algumas ferramentas promissoras para proteger imagens da manipulação da IA. Mas não estão a ser dedicados recursos suficientes para garantir a implementação responsável da IA por parte da indústria que a cria.
É necessário colocar mais responsabilidade sobre as empresas de tecnologia para que apresentem soluções proativas. Muitos gigantes da tecnologia recuaram nas equipes de IA éticas e responsáveis nos últimos anos em meio a cortes de custos mais amplos. Mas a dignidade das mulheres e das meninas não é algo que deva ser sacrificada em favor do lucro.
A Coreia do Sul é o atual epicentro desta crise. Mas é uma questão global que pode impactar qualquer pessoa, desde celebridades como Taylor Swift até meninas do ensino médio, de Seul a Nova Jersey. O setor tecnológico não pode continuar a fugir à responsabilidade por muito mais tempo.
(Esta história não foi editada pela equipe da NDTV e é gerada automaticamente a partir de um feed distribuído.)
