Os problemas com Gêmeos são “completamente inaceitáveis”, disse o CEO Sundar Pichai
Algumas das respostas geradas pela inteligência artificial Gemini do Google foram “problemático” e tem “demonstrado preconceito”, O CEO Sundar Pichai disse em um e-mail para toda a empresa na quarta-feira, prometendo resolver o problema.
O e-mail de Pichai chegou a vários meios de comunicação, incluindo Semafor e Fios piratasque o publicou na íntegra.
“Quero abordar os problemas recentes com respostas problemáticas de texto e imagem no aplicativo Gemini (anteriormente Bard),” Pichai escreveu. “Sei que algumas de suas respostas ofenderam nossos usuários e mostraram preconceito – para ser claro, isso é completamente inaceitável e erramos”.
A empresa é “trabalhando 24 horas por dia para resolver esses problemas”, ele adicionou.
“Nossa missão de organizar as informações do mundo e torná-las universalmente acessíveis e úteis é sacrossanta”, Pichai continuou. “Sempre procuramos fornecer aos usuários informações úteis, precisas e imparciais em nossos produtos. É por isso que as pessoas confiam neles.” Este também precisa ser o caso da IA, acrescentou.
Gemini foi lançado no início deste mês, mas rapidamente teve problemas com restrições “segurança” e “diversidade” programação. A IA foi amplamente criticada por “imprecisões” ao mostrar uma série de personagens históricos, desde os fundadores dos EUA e imperadores russos até papas católicos e até soldados alemães nazistas.
Gêmeos respondeu a todos os pedidos de imagens de pessoas brancas dizendo isto “reforça estereótipos prejudiciais e generalizações sobre as pessoas com base na sua raça.” Tais imagens incorporadas “uma visão estereotipada da branquitude” Isso pode ser “prejudicial” para a sociedade como um todo e para as pessoas que não são brancas, acrescentou a IA, de acordo com uma investigação da Fox Business.
Quanto às afirmações de Pichai sobre a santidade da precisão, o Google há muito censurado e suprimido conteúdo que seus executivos desaprovavam, ostensivamente em nome do combate “desinformação” e melhorar a sociedade.
Alguns críticos do Vale do Silício já sugeriram que o e-mail de Pichai não era para consumo interno, mas sim para ser tornado público. Colunista da Substack, Lulu Cheng Meservey observado que ele continha “slogans de marketing espalhados por toda parte” assim como “Sopa de palavras presumivelmente projetada para deixar o leitor cansado e confuso demais para ficar com raiva.”
Meservey também criticou o uso do termo por Pichai “problemático” e acusou o CEO do Google de entender mal o problema com o Gemini.
“O foco do Google em não ofender as pessoas em vez da precisão dos fatos foi o que CAUSOU o problema em primeiro lugar”, ela escreveu.
Citando fontes internas do Google, Mike Solana do PirateWires sugerido que os executivos de marketing e produtos de IA acreditam que a controvérsia sobre o aparente racismo de Gemini foi “em grande parte inventado por trolls de direita” no X (anteriormente Twitter).
