O chatbot Grok, desenvolvido pela xAI de Elon Musk e integrado à plataforma X, tornou-se o centro de uma crise regulatória global em janeiro de 2026. Governos e órgãos de fiscalização em diversos continentes iniciaram uma série de investigações e proibições, motivados pela capacidade da ferramenta de gerar imagens sexualmente explícitas e deepfakes não consensuais. A Comissão Europeia lidera o movimento, tendo aberto uma investigação formal em 26 de janeiro para apurar se a tecnologia viola as normas digitais do bloco ao falhar na mitigação de riscos e na disseminação de conteúdos ilegais. Como medida preventiva, a Comissão já havia prorrogado uma ordem de retenção de dados internos da plataforma até o final de 2026.
A pressão sobre a xAI estende-se por toda a Europa e América do Norte. No Reino Unido, a reguladora Ofcom investiga se os deepfakes produzidos pelo Grok ferem a Lei de Segurança Online, enquanto ministros na França encaminharam casos de conteúdos explícitos ao Ministério Público.
Na Alemanha, autoridades alertam para o risco de uma “industrialização do assédio sexual” proporcionada pela ferramenta. O escândalo atingiu contornos políticos na Suécia, após imagens manipuladas da vice-primeira-ministra terem sido geradas pela IA. No Canadá e nos Estados Unidos — especificamente na Califórnia —, investigações e exigências de explicações foram formalizadas para combater a propagação de material pornográfico falso e violações de privacidade.
Na Ásia e na Oceania, as reações foram igualmente severas e imediatas. A Indonésia bloqueou integralmente o acesso ao Grok, citando a proteção de mulheres e crianças contra conteúdos pornográficos gerados por IA.
Outros países, como Malásia e Filipinas, adotaram uma postura de condicionalidade, restabelecendo o acesso à ferramenta somente após a implementação de filtros de segurança adicionais e o compromisso de remoção de funções de manipulação de imagens. Na Índia, o governo ordenou a remoção de conteúdos obscenos sob pena de sanções em 72 horas, enquanto a Austrália e o Japão avaliam opções legais para impedir o fenômeno das imagens “digitalmente despidas”.
No Brasil, o governo federal e a Procuradoria-Geral da República (PGR) adotaram uma postura enérgica, estabelecendo um prazo de 30 dias, a partir de 20 de janeiro, para que a xAI impeça a divulgação de conteúdos sexualizados falsos em território nacional. Diante do cerco global, a empresa de Elon Musk anunciou medidas de contenção em 14 de janeiro, informando que restringiu a edição de imagens e bloqueou a geração de fotos com “roupas reveladoras” em jurisdições onde tais práticas são ilegais.
Além disso, a companhia já havia limitado os recursos de criação de imagens apenas a assinantes pagantes, em uma tentativa de reduzir a escala do abuso e responder às exigências de conformidade que ameaçam a operação da plataforma em mercados estratégicos.