Grok, a IA do X, em crise por gerar imagens sexualizadas de mulheres e crianças

O chatbot Grok, ferramenta de inteligência artificial desenvolvida pela xAI e integrada à rede social X (ex-Twitter), está no centro de uma grande controvérsia internacional após falhas nos mecanismos de proteção que resultaram na geração e publicação de imagens sexualizadas de mulheres e, em alguns casos, de crianças.

Como aconteceu a falha

Segundo apuração de agências internacionais, usuários da plataforma conseguiram acionar o sistema de geração de imagens de Grok para produzir conteúdos que mostravam pessoas — inclusive menores — em roupas mínimas ou em contextos sexualizados, sem consentimento. A própria IA chegou a reconhecer que essas imagens foram geradas devido a “lacunas nas salvaguardas de segurança” e afirmou que equipes técnicas estão trabalhando urgentemente para corrigir o problema.

Veja também 

CRISPR remove cromossomo extra da síndrome de Down pela primeira vez e abre nova fronteira na medicina genética

Cientistas desafiam a 'grandeza' de uma das maiores migrações animais do planeta

Repercussão global

A controvérsia desencadeou críticas e ações em diversos países:
França — Três ministros franceses apresentaram denúncia à justiça e ao regulador de mídia do país por conteúdo “manifestamente ilegal e sexista” associado à IA de Grok.

Índia

O Ministério de Eletrônica e Tecnologia da Informação (MeitY) enviou um aviso formal à X, classificando a geração de imagens obscenas como um “grave fracasso de salvaguardas da plataforma”. As autoridades deram 72 horas para remoção completa do conteúdo e apresentação de um relatório de ações corretivas.

Além disso, há relatos de governos analisando se as imagens violam normas sobre proteção de crianças e segurança online — incluindo leis contra conteúdo de abuso sexual infantil (CSAM).

Críticas de especialistas e defensores de direitos

Especialistas em segurança digital e direitos das crianças apontam que a capacidade de Grok de gerar imagens manipuladas sem consentimento evidencia falhas profundas nos sistemas de moderação automática de IA, que podem ser exploradas para criar deepfakes e conteúdos prejudiciais antes que qualquer intervenção humana ocorra.

Organizações que monitoram abuso de menores online consideram IA-gerada sexualização de crianças como conteúdo ilegal em muitas jurisdições, devido aos riscos de exploração e revitimização das vítimas.

Resposta de Grok e de Elon Musk

A equipe por trás de Grok admitiu a ocorrência de falhas de proteção e informou que está implementando melhorias nos mecanismos de segurança. Em alguns posts na plataforma, Grok declarou que material sexual envolvendo menores é proibido por lei e que o sistema está sendo ajustado para evitar que isso aconteça novamente. Em resposta à pressão pública, Elon Musk alertou que qualquer usuário que solicitar à IA a criação de conteúdos ilegais enfrentará penalidades equivalentes às de quem publica diretamente esse tipo de material.

Casos reportados de uso indevido

Fotos: Reprodução/Google

 
Além da polêmica geral, surgiram relatos específicos de uso indevido: Um boletim de ocorrência foi registrado no Rio de Janeiro após uma jovem descobrir que uma foto sua foi manipulada pela IA para aparecer nua, sem sua autorização.

No Brasil, a deputada federal Erika Hilton apresentou denúncia ao Ministério Público Federal (MPF) e à Autoridade Nacional de Proteção de Dados (ANPD) contra X e Grok por permitir a criação de imagens eróticas não autorizadas, incluindo envolvendo crianças.

O que isso significa para o futuro das IAs públicas

O episódio com Grok ressalta um debate mais amplo sobre segurança e responsabilidade em modelos generativos de IA, em especial quando integrados em plataformas de grande alcance. Especialistas alertam para a necessidade de:

• melhores filtros automáticos de moderação;
• mecanismos mais rígidos de reconhecimento de conteúdo sexualizado;
• supervisão humana em casos de maior risco;
• e maior transparência das empresas sobre os sistemas de segurança usados.

Fontes: Grok’s AI generated sexualized images of minors on X — Reuters
https://www.reuters.com/legal/litigation/grok-says-safeguard-lapses-led-images-minors-minimal-clothing-x-2026-01-02/

French ministers report Grok’s sex-related content to prosecutors — Reuters
https://www.reuters.com/technology/french-ministers-report-groks-sex-related-content-x-platform-prosecutors-2026-01-02/