Jake Tapper alertou os espectadores na sexta-feira sobre os perigos de convencer vídeos gerados por IA… usando um deepfake de si mesmo.
“Bem-vindo de volta ao ‘The Lead’. Meu nome é Jake Tapper”, começava o vídeo, que só mais tarde foi identificado como deepfake. “Estamos em uma era sem precedentes, em que a tecnologia ultrapassou enormemente a capacidade do público de reconhecer deepfakes – e, mais ainda, superou os legisladores. Muitos dos quais, francamente, parecem incapazes de gerenciar seus e-mails. Veja, por exemplo, o que você está assistindo agora. Na verdade, não sou Jake. Eu sou um Jake deepfake – um Jake profundo, por assim dizer – criado pelo comediante Danny Polishchuk, que usa IA há apenas duas semanas.”
O “Deep Fake Jake” continuou: “O fato de eu parecer tão real sugere que danos reais e sérios danos poderiam ser causados com esta tecnologia, se ela fosse tão utilizada nos EUA como tem sido para propósitos ruins no exterior”.
Assista ao “Deep Fake Jake” no vídeo acima.
Tapper mencionou vários deepfakes recentes, incluindo uma ligação automática para os eleitores de New Hampshire – supostamente de Joe Biden – instando-os não votar nas eleições de fevereiro. O homem responsável pela ligação falsa de Biden, Steve Kramer, foi indiciado em acusações criminais incluindo 13 acusações de supressão de eleitores, um crime. Ele também enfrentou 13 acusações de se passar por candidato, o que é uma contravenção.
A âncora da CNN então trouxe a senadora democrata Amy Klobuchar, de Minnesota, para discutir um projeto de lei que ela está patrocinando com os rivais políticos Josh Hawley e Susan Collins que proibiria deepfakes.
“Acho que alguns desses anúncios e vídeos que na verdade mostram pessoas em ambientes falsos que não são sátiras seriam, na verdade, qualificados como banidos”, disse Klobuchar. “E isso tornaria tudo mais simples, porque então você não conseguirá impedir esse tipo de comportamento.” Ela acrescentou que “várias plataformas”, incluindo OpenAI, endossaram o projeto.
Klobuchar continuou: “(Deepfakes políticos) estão reivindicando o discurso político da Primeira Emenda, mas esses anúncios são fraudes. Eles mostram pessoas fazendo coisas que não estão fazendo. E se não tivermos algumas regras em vigor, em breve elas dominarão a Internet.”
Ela previu que veremos mais deles no mês anterior à eleição presidencial. “Você já está começando a ver isso acontecer com vídeos e anúncios completamente falsos. E é agora, vamos ficar à mercê das plataformas sobre se vão colocar rótulos ou retirá-los, e à mercê das emissoras de TV”, disse o senador, acrescentando que 18 estados já têm leis contra anúncios políticos enganosos.
