Não estamos prontos para a desinformação da IA

Com todas as tecnologias em expansão, há um lado bom e um lado ruim. Geralmente permite que as pessoas façam mais coisas com mais rapidez e melhores resultados, melhorando nosso modo de vida. No entanto, sempre haverá alguém que encontrará uma maneira de usar a tecnologia para fazer o mal, e a inteligência artificial não é exceção.

Com o aumento do conteúdo falso e da desinformação gerada pela IA, as empresas de tecnologia estão prontas para nos garantir que têm tudo sob controle. No entanto, apesar do quanto avançamos com a inteligência artificial nos últimos anos, ainda não estamos preparados para a próxima onda de notícias falsas provenientes da inteligência artificial.

Nossas tecnologias atuais de detecção de IA fornecem resultados tardios

O dano já estará feito

Em um recente NBC entrevista com o CEO da Microsoft, Satya Nadella (via Central do Windows), ele afirmou que estamos prontos para combater a desinformação da IA. Para apoiar isso, ele cita tecnologias como detecção de deepfake, IDs de conteúdo e adição de marcas d’água ocultas ao conteúdo gerado por IA. Em teoria, esta é uma ótima ferramenta na guerra contra a desinformação; podemos identificar facilmente qual mídia é real e qual foi criada por um agente malicioso.

O problema é que essa mídia viaja rapidamente. Com todas as maneiras pelas quais as fotos e os vídeos podem viajar pela Internet, eles podem estar nas mãos de dezenas de milhares de pessoas muito antes de serem captados por alguém com tecnologias de verificação de IA. É ótimo termos a tecnologia para identificar quando essas imagens geradas por IA aparecem online, mas se já se espalharam e causaram danos, até que ponto irão conter a maré?

Pior ainda, e se a tecnologia de detecção de IA não conseguir identificar o conteúdo gerado por IA? Se as pessoas assumirem que uma análise positiva significa que os meios de comunicação social são definitivamente criados por inteligência artificial, isso pode levar as pessoas a acreditar que uma análise negativa marca os meios de comunicação como indubitavelmente reais. E se os vendedores de desinformação conseguirem vencer estes sistemas de deteção, podem criar um falso negativo e fazer com que as pessoas dupliquem a crença de que os meios de comunicação falsos são reais.

Você não pode mais apenas olhar para as mãos

Lembra quando a Torre Eiffel pegou fogo? Muitas pessoas o fizeram, e isso fez com que se preocupassem com a forma como as coisas estavam indo em Paris. A questão é que toda a mídia em torno do evento foi gerada por IA, e a verdadeira Torre Eiffel ainda estava bonita.

No entanto, o conteúdo foi tão convincente que fez com que as pessoas acreditassem que Paris estava a cair. Havia muito poucas anomalias de IA na imagem, e se você a visse enquanto navegava no Twitter, pensaria que era uma fotografia de um evento real.

Mais ou menos na mesma época em que a imagem circulava online, pessoas em New Hampshire recebiam telefonemas de Joe Biden. Ele disse às pessoas que não deveriam votar nele durante as primárias e que “guardassem os seus votos para Novembro”, quando se realizassem as eleições principais. Foi uma coisa estranha para ele dizer, mas com o poder da imitação de voz da IA, duas companhias telefônicas poderiam fazê-lo dizer o que quisessem e depois ler seu roteiro para milhares de pessoas por meio de chamadas robóticas.

A tecnologia de IA está chegando ao ponto em que não é imediatamente óbvio que a mídia criada seja falsa. Ainda há buracos na armadura, então um observador atento ou atento pode detectar e identificar uma mídia falsa. No entanto, à medida que a tecnologia melhora, será muito mais difícil para uma pessoa comum distinguir a ficção da realidade, criando um enorme caminho para a propagação de desinformação.

Você não precisa ser um gênio para gerar desinformação

Talvez tudo isto fosse administrável se a desinformação sobre IA só pudesse ser gerada por especialistas técnicos. Mas à medida que as pessoas fazem coisas mais surpreendentes com a IA, as ferramentas que o público tem à sua disposição tornam-se mais poderosas e os PCs com IA tornam-se mais prontamente disponíveis, qualquer um pode criar desinformação, se quiser. Isto torna difícil conter o fluxo, à medida que as pessoas inundam a Internet com meios de comunicação enganosos e, por vezes, condenatórios, para manchar a reputação de alguém.

Fonte

Melhores PCs com IA em 2024

Com a adição de uma NPU integrada, esses PCs levarão seus aplicativos de IA ao próximo nível de eficiência

Serão alguns anos difíceis para identificar informações incorretas sobre IA

Quer se trate de proteger alguém de falsas acusações ou de manter eventos políticos importantes livres de mentiras, não estamos preparados para uma onda de desinformação da IA. É fácil para qualquer pessoa criar uma imagem credível gerada por IA para enganar os outros, e as nossas tecnologias atuais para identificar e rotular conteúdo como criado artificialmente são demasiado lentas para impedir a propagação.

Há uma chance de que precisemos apenas superar isso; assim como o Photoshop nos tornou céticos em relação às imagens que vemos na internet, talvez precisemos ficar insensíveis à ideia de que as coisas que vemos e ouvimos podem ter sido criadas por um computador para nos enganar e nos levar a realizar uma ação específica.