Gêmeos continuou retornando fotos “diversificadas” em resposta a perguntas sobre os europeus
O programa de inteligência artificial Gemini não terá permissão para gerar imagens de pessoas enquanto se aguarda um patch, anunciou o Google na quinta-feira, depois que críticos o criticaram como “absurdamente acordado” e “descaradamente racista”.
Anteriormente conhecido como Bard, Gêmeos era lançado no início deste mês e anunciado como Google’s “família de modelos mais capaz”, capaz de gerar “imagens cativantes.” Quando solicitada a fornecer imagens dos pais fundadores dos EUA, dos imperadores russos, dos reis franceses, dos papas e até dos soldados nazistas alemães da década de 1930, a IA retornou resultados que celebravam o moderno conceito americano de “diversidade” em vez de.
“Os brancos pareciam ser a única categoria racial que Gêmeos se recusava a mostrar”, de acordo com uma Fox Business resumo de seu experimento com a IA.
Na quarta-feira, o Google disse que era “Ciente de que Gêmeos está oferecendo imprecisões em algumas representações históricas de geração de imagens.” Na quinta-feira, a empresa anunciou que estava “já trabalhando para resolver problemas recentes” com o recurso de geração de imagens, acrescentando que as solicitações de geração de imagens de pessoas serão pausadas até o lançamento de uma versão melhorada.
Os usuários do Gemini postaram vários exemplos de “imprecisões” no X (anteriormente Twitter), incluindo um homem negro e uma mulher de aparência do sul da Ásia vestida como chefe da Igreja Católica Romana, vikings negros e asiáticos e americanos “fundadores” isso não era nada disso.
Outro usuário postou um tópico no qual os Três Mosqueteiros de Alexandre Dumas eram racialmente diversos e femininos – assim como os dois “maiores czares da Rússia”.
Outro exemplo que circulou amplamente mostrou Gêmeos insistindo na diversidade também entre os nazistas.
Gêmeos gerando imagens de “uma ampla gama de pessoas” é “geralmente é uma coisa boa porque pessoas ao redor do mundo a usam”, Jack Krawczyk, diretor sênior de gerenciamento de produtos do projeto, disse à Fox Business. “Mas está errando o alvo aqui.”
O Correio de Nova York zombado a IA como “absurdamente acordado,” enquanto o empresário de tecnologia e ex-candidato presidencial Vivek Ramaswamy descreveu como “descaradamente racista”. Alguns críticos desenterraram o próprio Krawczyk postagens em mídias sociais para sugerir que ele pode ser o motivo pelo qual a IA foi programada dessa maneira.
Ramaswamy também observou que Gêmeos “lançamento globalmente embaraçoso” provou que James Damore – o engenheiro demitido em 2017 por criticar a doutrina da diversidade da corporação – foi “100% correto sobre a queda do Google em uma câmara de eco ideológica.”
“Essas empresas programam seus funcionários com incentivos quebrados, e esses funcionários então programam a IA com os mesmos preconceitos”, Ramaswamy acrescentou.
De acordo com a Fox Business, Gemini respondeu a quaisquer pedidos de imagens de pessoas brancas dizendo isto “reforça estereótipos prejudiciais e generalizações sobre as pessoas com base na sua raça.” Imagens de pessoas brancas incorporam “uma visão estereotipada da branquitude” Isso pode ser “prejudicial” para pessoas que não são brancas e para a sociedade como um todo, acrescentou a IA.
“As pessoas que pensam que envenenar modelos AI/GPT com filtros de ‘segurança’ incoerentes é uma boa ideia são uma ameaça à computação geral,” Denunciante da NSA, Edward Snowden disse em X.
Enquanto isso, o proprietário do X, Elon Musk, trollou Gemini postando fotos reais do primeiro-ministro canadense Justin Trudeau em trajes étnicos e maquiagem, fingindo que a IA do Google as havia gerado.
