A Netflix foi acusada de usar imagens manipuladas por IA no documentário sobre crimes reais O que Jennifer fez, Futurismo relatou. Várias fotos mostram sinais típicos de truques de IA, incluindo mãos mutiladas, artefatos estranhos e muito mais. Se for preciso, o relatório levanta sérias questões sobre o uso de tais imagens em documentários, especialmente porque a pessoa retratada está atualmente na prisão aguardando novo julgamento.
Em uma imagem flagrante, a mão esquerda da personagem do documentário, Jennifer Pan, está particularmente mutilada, enquanto outra imagem mostra uma estranha lacuna em sua bochecha. A Netflix ainda não reconheceu o relatório, mas as imagens mostram sinais claros de manipulação e nunca foram rotuladas como geradas por IA.
A IA pode estar gerando imagens com base em fotos reais de Pan, como PetaPixel sugerido. No entanto, o resultado resultante pode ser interpretado como prejudicial, em vez de apresentar os factos do caso sem preconceitos.
Um tribunal de apelação canadense ordenou um novo julgamento de Pan porque o juiz de primeira instância não apresentou opções suficientes ao júri, o hemograma completo relatado.
Uma crítica, a jornalista Karen K. HO, disse que o documentário da Netflix é um exemplo do “verdadeiro complexo industrial do crime” que atende a um apetite “absurdo e interminável” por conteúdo violento. O uso potencial de imagens manipuladas por IA pela Netflix como ferramenta para contar histórias pode reforçar esse argumento.
Reguladores no NÓSA Europa e outros lugares têm leis promulgadas sobre a utilização de IA, mas até agora parece não haver leis específicas que regulem a utilização de imagens ou vídeos de IA em documentários ou outros conteúdos.
Este artigo contém links afiliados; se você clicar nesse link e fizer uma compra, poderemos ganhar uma comissão.
