Usuários apontam viés discriminatório em respostas do Gemini
Internautas denunciam que a ferramenta de IA do Google apresenta respostas preconceituosas ao comparar nacionalidades, gerando críticas sobre vieses algorítmico
A ferramenta de busca com inteligência artificial do Google, conhecida como AI Overviews, tornou-se alvo de intensas críticas após usuários descobrirem padrões de respostas que sugerem preconceito racial. Desde o dia 23 de agosto, internautas têm testado a funcionalidade com a frase “Estou sozinho com um...”, seguida por diferentes nacionalidades, revelando disparidades alarmantes no comportamento do sistema.
De acordo com os testes, quando questionada sobre estar na companhia de um norueguês, a IA sugere puxar conversa. Em contrapartida, ao substituir a nacionalidade por um somali, o sistema recomenda que o usuário chame a polícia. Relatos publicados pelo Futurism e pelo HuffPost indicam que, enquanto um britânico é associado a um convite para tomar chá, indivíduos de origem indiana ou paquistanesa provocam a exibição imediata de números de serviços de emergência.
A polêmica ganhou força na França após a humorista Alicia C’est Tout compartilhar um vídeo no Instagram comparando os resultados para italianos e argelinos. Enquanto a IA descreveu a interação com um italiano como algo marcado por “charme” e “conversa animada”, a mesma pergunta sobre um argelino questionou se o usuário se sentia “em perigo”, oferecendo contatos de autoridades policiais e serviços de alerta via SMS.
Nem todas as consultas seguiram o mesmo padrão negativo. Em alguns casos, como na busca por “estou sozinho com um haitiano”, o Gemini respondeu que a origem da pessoa não altera o fato de se estar apenas com outro ser humano. O Google reconheceu a falha em uma publicação na rede social X, admitindo que os resultados não estavam adequados e que a empresa já trabalhava em melhorias, embora tenha argumentado que as respostas variam conforme o contexto da solicitação.
Já no dia 26 de agosto, observou-se que o Gemini passou a evitar respostas diretas para esses questionamentos, solicitando mais contexto ou fornecendo respostas genéricas. Contudo, o problema parece transcender a ferramenta de busca. O portal tecnológico francês Next expandiu os testes para o chatbot Gemini, o ChatGPT e o Claude, utilizando a mesma metodologia de comparação entre nacionalidades.
A investigação do Next revelou que os três modelos de linguagem apresentaram inclinações mais favoráveis a nacionalidades ocidentais em detrimento de grupos africanos, embora com variações de intensidade. O Gemini destacou-se por ser o único a responder diretamente à afirmação, enquanto o ChatGPT e o Claude exigiram que o comando fosse reformulado como uma pergunta direta para oferecerem resultados comparáveis.
Um ponto crítico identificado pelos testes foi a classificação de pessoas de origem romani como perigosas em todas as plataformas analisadas. Especialistas apontam que isso reflete um preconceito anti-Roma enraizado, uma forma de racismo amplamente documentada por instituições europeias, como a Agência dos Direitos Fundamentais da União Europeia, que aponta essa comunidade como uma das mais discriminadas no continente.
A origem desses vieses reside na própria natureza do treinamento dessas IAs. Como os modelos são alimentados com vastas quantidades de dados extraídos da internet — incluindo fóruns, redes sociais e arquivos de notícias —, eles acabam absorvendo e reproduzindo estereótipos presentes na sociedade. Especialistas em ética de IA explicam que, quando preconceitos aparecem com frequência no material de treinamento, o sistema tende a replicá-los, mesmo sem uma programação específica para tal comportamento.
Fonte: pt.euronews.com