Todos nós pensamos que somos muito bons em identificar imagens feitas por IA. É o estranho texto alienígena no fundo. São as imprecisões bizarras que parecem quebrar as leis da física. Acima de tudo, são aquelas mãos e dedos horríveis. No entanto, a tecnologia está em constante evolução e não demorará muito até que não possamos dizer o que é real ou não. A OpenAI, líder da indústria, está tentando se antecipar ao problema criado por seu próprio gerador DALL-E 3. Os resultados são uma mistura.
A empresa afirma que pode detectar com precisão as imagens captadas pelo DALL-3 em 98% das vezes, o que é ótimo. Existem, no entanto, algumas advertências bastante importantes. Em primeiro lugar, a imagem tem que ser criada pelo DALL-E e, bom, não é o único gerador de imagens do bloco. A internet transborda deles. De acordo com o sistema só conseguiu classificar com sucesso de cinco a dez por cento das imagens feitas por outros modelos de IA.
Além disso, haverá problemas se a imagem tiver sido modificada de alguma forma. Isso não parecia ser um grande problema no caso de pequenas modificações, como corte, compressão e alterações na saturação. Nestes casos, a taxa de sucesso foi inferior, mas ainda dentro do intervalo aceitável, em torno de 95 a 97 por cento. Ajustar a tonalidade, no entanto, reduziu a taxa de sucesso para 82%.
Agora é aqui que as coisas ficam realmente complicadas. O conjunto de ferramentas teve dificuldades quando usado para classificar imagens que passaram por mudanças mais extensas. A OpenAI nem sequer publicou a taxa de sucesso nestes casos, afirmando simplesmente que “outras modificações, no entanto, podem reduzir o desempenho”.
Isso é uma chatice porque, bem, é um ano eleitoral e a grande maioria das imagens geradas por IA serão modificadas após o fato, para enfurecer ainda mais as pessoas. Em outras palavras, a ferramenta provavelmente reconhecerá uma imagem de Joe Biden dormindo no Salão Oval cercado por saquinhos de pó branco, mas não depois que o criador colocar um monte de texto raivoso e Photoshops em uma águia careca chorando ou algo assim.
Pelo menos a OpenAI está sendo transparente em relação às limitações de sua tecnologia de detecção. Também está dando aos testadores externos acesso às ferramentas mencionadas para ajudar a corrigir esses problemas, . A empresa, junto com sua melhor amiga Microsoft, investiu US$ 2 milhões em algo chamado que espera expandir a educação e a alfabetização em IA.
Infelizmente, a ideia de a IA estragar uma eleição não é um conceito distante. Está acontecendo agora. Já houve e usou este ciclo, e provavelmente há enquanto nós lentamente, lentamente, lentamente (lentamente) rastejar em direção a novembro.
Este artigo contém links afiliados; se você clicar nesse link e fizer uma compra, poderemos ganhar uma comissão.
