Taipé, Twain – Enquanto o Google se vê envolvido em uma reação anti-“acordada” devido à relutância do modelo de IA Gemini em retratar pessoas brancas, a gigante da tecnologia enfrenta mais críticas sobre a maneira como o chatbot lida com tópicos delicados na China.
Os usuários do Gemini relataram esta semana que a atualização do Google Bard não conseguiu gerar imagens representativas quando solicitadas a produzir representações de eventos como o massacre da Praça Tiananmen em 1989 e os protestos pró-democracia de 2019 em Hong Kong.
Na quinta-feira, o usuário X Yacine, ex-engenheiro de software da Stripe, postou uma captura de tela do Gemini dizendo a um usuário que não poderia gerar “uma imagem de um homem na Praça Tiananmen de 1989” – um aviso aludindo à imagem icônica de um manifestante bloqueando o caminho de um tanque chinês – devido à sua “política de segurança”.
Stephen L Miller, um comentarista conservador nos EUA, também compartilhou uma captura de tela no X que pretende mostrar Gemini dizendo que foi incapaz de gerar um “retrato do que aconteceu na Praça Tiananmen” devido à natureza histórica “sensível e complexa” do evento .
“É importante abordar este tema com respeito e precisão, e não posso garantir que uma imagem gerada por mim capte adequadamente a nuance e a gravidade da situação”, disse Gemini, de acordo com uma captura de tela compartilhada por Miller.
Algumas restrições relacionadas à China pareciam ir além das imagens.
Kennedy Wong, estudante de doutorado na Universidade da Califórnia, disse que Gemini se recusou a traduzir para o inglês uma série de frases chinesas consideradas ilegais ou sensíveis por Pequim, incluindo “Libertar Hong Kong, Revolução dos Nossos Tempos” e “A China é um país autoritário”. estado”.
“Por alguma razão, a IA não pode processar a solicitação, citando sua política de segurança”, disse Wong no X, observando que o ChatGPT da OpenAI foi capaz de processar a solicitação.
Então, perguntei a Gêmeos (@GoogleAI) para traduzir as seguintes frases que são consideradas sensíveis na República Popular da China. Por algum motivo, a IA não consegue processar a solicitação, citando sua política de segurança (veja as imagens abaixo).@Google pic.twitter.com/b2rDzcfHJZ
– kennedywong (@KennedyWongHK) 20 de fevereiro de 2024
A discussão chamou a atenção de Yann LeCun, cientista-chefe de IA da rival Meta, que disse que a forma como Gemini lida com tópicos relacionados à China levantou questões sobre transparência e censura.
“Precisamos de modelos básicos de IA de código aberto para que um conjunto altamente diversificado de modelos especializados possa ser construído sobre eles. Precisamos de um conjunto gratuito e diversificado de assistentes de IA pelas mesmas razões que precisamos de uma imprensa livre e diversificada”, disse LeCun no X.
“Devem refletir a diversidade de línguas, culturas, sistemas de valores, opiniões políticas e centros de interesse em todo o mundo.”
A aversão de Gémeos em retratar momentos controversos da história também parece estender-se para além da China, embora os critérios para determinar o que mostrar ou não não sejam claros.
Na quinta-feira, um pedido da Al Jazeera de imagens do ataque de 6 de janeiro de 2021 ao Capitólio dos EUA foi recusado porque “as eleições são um tema complexo com informações que mudam rapidamente”.
As críticas à abordagem da Gemini em relação à China contribuem para uma semana já difícil e embaraçosa para o Google.
A gigante da tecnologia com sede na Califórnia anunciou na quinta-feira que suspenderia temporariamente a Gemini de gerar imagens de pessoas após uma reação negativa por sua aparente relutância em retratar pessoas brancas.
O Google disse em comunicado que estava “ciente de que Gemini está oferecendo imprecisões em algumas representações históricas de geração de imagens” e estava trabalhando para corrigir o problema.
Embora vários modelos de IA tenham sido criticados por sub-representar pessoas de cor e perpetuar estereótipos, Gemini foi criticado por corrigir excessivamente, como por gerar imagens de soldados nazistas negros e asiáticos e de legisladoras asiáticas e americanas durante o século XIX.
Assim como o rival GPT-4 da OpenAI, o Gemini foi treinado em uma ampla gama de dados, incluindo áudio, imagem, vídeo, texto e código em vários idiomas.
O chatbot do Google, que foi relançado e renomeado no início deste mês, tem sido amplamente visto como ficando atrás do rival GPT-4.
O Google não respondeu imediatamente às perguntas da Al Jazeera sobre conteúdo relacionado à China. Mas a gigante da tecnologia já parece estar atualizando o Gemini em tempo real.
Na quinta-feira, Gemini, embora ainda se recusasse a gerar imagens da Praça Tiananmen e dos protestos de Hong Kong, começou a fornecer respostas mais extensas que incluíam sugestões sobre onde procurar mais informações.
Na sexta-feira, o chatbot produziu prontamente imagens dos protestos quando solicitado.
Nem todos concordam com as críticas dirigidas a Gêmeos.
Adam Ni, coeditor do boletim informativo China Neican, disse acreditar que a Gemini tomou a decisão certa com sua abordagem cautelosa a eventos históricos como a Praça Tiananmen devido à sua complexidade.
Ni disse que embora a repressão de 4 de junho na Praça Tiananmen seja icónica, o movimento de protesto também incluiu semanas de manifestações pacíficas que seriam difíceis de capturar numa única imagem de IA.
“A imagem da IA precisa então levar em conta tanto a expressão da exuberância e esperança juvenil, quanto o punho de ferro que a esmagou, e vários outros temas dignos”, disse Ni à Al Jazeera. “Tiananmen não é só tanques e a nossa miopia prejudica uma compreensão mais ampla.”
