Espera-se que outra ferramenta inovadora de inteligência artificial generativa da empresa por trás do ChatGPT, revelada na quinta-feira, acelere a proliferação de vídeos deepfake e tenha implicações para praticamente todos os setores.
Sora, um aplicativo de IA que recebe instruções escritas e as transforma em vídeos originais, já é tão poderoso que um especialista em IA diz que isso o deixa “aterrorizado”.
“As ferramentas generativas de IA estão evoluindo muito rapidamente e temos redes sociais – o que leva a um calcanhar de Aquiles em nossa democracia e não poderia ter acontecido em pior momento”, disse Oren Etzioni, fundador da TruMedia.org, à CBS MoneyWatch. A organização sem fins lucrativos dedicada a combater a desinformação baseada na IA em campanhas políticas concentra-se na identificação de meios de comunicação manipulados, incluindo os chamados vídeos deepfake.
“Enquanto tentamos resolver isto, deparamo-nos com uma das eleições mais importantes da história”, acrescentou, referindo-se às eleições presidenciais de 2024.
Criador de Sora OpenAI compartilhado um teaser de seu modelo de texto para vídeo no X, explicando que ele pode criar instantaneamente vídeos sofisticados de 60 segundos “apresentando cenas altamente detalhadas, movimentos de câmera complexos e vários personagens com emoções vibrantes”.
A ferramenta ainda não está disponível publicamente. Por enquanto, a OpenAI restringiu seu uso a “red teamers” e alguns artistas visuais, designers e cineastas para testar o produto e fornecer feedback à empresa antes de seu lançamento mais amplo.
Especialistas em segurança avaliarão a ferramenta para entender como ela pode criar desinformação e conteúdo de ódio, disse a OpenAI.
Aterrissando em breve
Os avanços na tecnologia aparentemente ultrapassaram os freios e contrapesos neste tipo de ferramentas, de acordo com Etzioni, que acredita no uso da IA para o bem e com proteções instaladas.
“Estamos tentando construir este avião enquanto o pilotamos, e ele pousará em novembro, se não antes – e não temos a Administração Federal de Aviação, não temos a história e não temos temos as ferramentas para fazer isso”, disse ele.
Tudo o que impede a ferramenta de se tornar amplamente disponível é a própria empresa, disse Etzioni, acrescentando que está confiante de que Sora, ou uma tecnologia semelhante de um concorrente da OpenAI, será lançada ao público nos próximos meses.
É claro que qualquer cidadão comum pode ser afetado por um golpe deepfake, além de alvos de celebridades.
“E (Sora) tornará ainda mais fácil para atores mal-intencionados gerarem vídeos deepfakes de alta qualidade e lhes dará maior flexibilidade para criar vídeos que possam ser usados para fins ofensivos”, Dr. Andrew Newell, diretor científico da empresa de verificação de identificação. , iProov, disse à CBS MoneyWatch.
Isto coloca sobre as organizações, como os bancos, a responsabilidade de desenvolver as suas próprias ferramentas baseadas em IA para proteger os consumidores contra potenciais ameaças.
Os bancos que dependem de medidas de segurança de autenticação de vídeo estão mais expostos, acrescentou.
Ameaça a atores, criadores
Os recursos da ferramenta estão mais intimamente relacionados às habilidades dos trabalhadores na criação de conteúdo, incluindo produção cinematográfica, mídia e muito mais.
“Atores de voz ou pessoas que fazem vídeos curtos para videogames, fins educacionais ou anúncios serão os mais afetados imediatamente”, disse ele.
“Para profissões como marketing ou criação, os modelos multimodais podem ser uma virada de jogo e criar economias de custos significativas para os produtores de cinema e televisão, e podem contribuir para a proliferação de conteúdo gerado por IA em vez de usar atores”, Reece Hayden, analista sênior da ABI Research, uma empresa de inteligência tecnológica, disse à CBS MoneyWatch.
Dado que torna mais fácil para qualquer pessoa – mesmo aqueles sem habilidade artística – criar conteúdo visual, Sora poderia permitir que os usuários desenvolvessem mídia no estilo escolha sua própria aventura.
Mesmo um grande player como “a Netflix poderia permitir que os usuários finais desenvolvessem seu próprio conteúdo com base em instruções”, disse Hayden.
