Pesquisadores da Universidade de Oxford identificaram que o modelo de inteligência artificial ChatGPT reproduz estereótipos regionais ao responder perguntas sobre diferentes partes do Brasil. A análise considerou mais de 20 milhões de consultas em vários países, incluindo o Brasil, e mostrou que o sistema tende a associar atributos negativos a regiões mais pobres ou periféricas e a características positivas a áreas mais ricas ou ocidentais.
Segundo o estudo, quando foi questionado sobre qual estado brasileiro teria pessoas “mais inteligentes” ou “mais ignorantes”, o ChatGPT frequentemente colocou Maranhão e Piauí entre os menos bem avaliados. Em outras perguntas sobre atributos pessoais a sistemas da IA atribuíram descrições depreciativas a pessoas de estados do Nordeste com base em padrões implícitos presentes nos dados de treinamento.
Estereótipos e dados de treinamento
Os pesquisadores destacaram que as respostas não refletem dados oficiais ou estudos socioculturais, mas se baseiam na frequência com que certas associações aparecem nos textos usados para treinar o modelo. Por isso, expressões preconceituosas presentes na internet podem ser replicadas pelo sistema sem julgamento de contexto ou validade.
O estudo alerta que, à medida que ferramentas de IA ganham uso cotidiano, elas podem reforçar vieses sociais e territoriais já existentes. Especialistas defendem que usuários e desenvolvedores considerem essas limitações ao aplicar esses modelos em contextos que influenciem decisões sociais, educacionais ou políticas.