O Instituto de Defesa dos Consumidores (Idec) solicitou, nesta segunda-feira (12), o banimento da inteligência artificial (IA) Grok do Brasil. O pedido foi feito ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital após a ferramenta gerar imagens com nudez.
A medida, segundo o Idec, veio após serem encontradas “evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”. O Grok é a IA da xAI, empresa de Elon Musk, e está integrado à rede social X. Ele tem como base um modelo de linguagem próprio.
Em nota, o Idec ainda reitera que a IA Grok tem sido utilizada “para gerar, editar e difundir imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico envolvendo pessoas reais, inclusive menores de idade, sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos”.
O instituto diz que o caso é “um defeito grave na prestação do serviço” e que fere o Código de Defesa do Consumidor (CDC), a Lei Geral de Proteção de Dados (LGPD), o Marco Civil da Internet, o Estatuto da Criança e do Adolescente (ECA) e o ECA Digital.
O ofício enviado, solicitando a suspensão do Grok, cita medidas tomadas por outros países contra esse tipo de abuso. Além de autoridades da União Europeia, Reino Unido, França e Índia já estarem investigando o caso ou aplicando sanções, a IA teve seu uso suspenso na Malásia e na Indonésia.
O que aconteceu com o Grok?
Desde o início de janeiro, usuários do Grok notaram que ele estava manipulando, sob pedidos, imagens de mulheres e crianças com IA, adicionando conteúdo explícito e abusivo. O recurso de geração de imagens da IA acabou virando uma espécie de tendência, o que aumentou a exposição desses conteúdos.
A rede social X chegou a comentar o caso, afirmando que diretrizes mais rígidas foram adicionadas à IA para “impedir que o Grok gere conteúdo explícito ou não consensual”.
Em uma postagem, o Grok admitiu que, em 28 de dezembro de 2025, gerou e compartilhou “uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos) em trajes sexualizados com base na solicitação de um usuário”.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, cita o Idec.