A empresa de inteligência artificial xAI, de Elon Musk foi processada nos Estados Unidos pela produção de imagens sexualizadas de menores de idade. O caso foi aberto em um tribunal na Califórnia.
A acusação envolve três pessoas que permanecem anônimas, duas delas ainda sem atingir a maioridade. Elas alegam que o Grok, que é a plataforma de IA da empresa, deve ser responsabilizado por permitir a manipulação desse tipo de foto por terceiros.
As denúncias contra a IA sugiram no início de 2026, quando ativistas denunciaram que o Grok era usado para criar imagens abusivas de mulheres e crianças com IA — como tirar a roupa, trocar as vestimentas ou colocar pessoas em poses sexualizadas, entre outros casos.
O Grok chegou a ser banido em dois países pelas práticas e Musk, inicialmente, rejeitou as acusações de que menores estavam envolvidos nas edições das imagens.
A IA teve a geração de imagens e o recurso de perguntas na rede social X limitado para assinantes, o que reduziu a criação dessas montagens. Porém, aplicativos terceirizados que usam o motor do Grok seguiram criando esses materiais potencialmente criminosos.
O caso contra o Grok
O processo nos EUA envolve por enquanto três pessoas, mas os advogados dizem que ele ainda pode incluir mais vítimas em potencial que tiveram a vida negativamente afetada pela IA.
- No primeiro caso, uma mulher teve fotos do anuário escolar e do baile de formatura do ensino médio alteradas, resultando em remoção de roupas. Ela foi avisada via Instagram que essas imagens estavam circulando em um servidor do Discord;
- A segunda vítima teve imagens sexualizadas em montagens feitas por um app que não pertence ao grupo xAI, mas usa modelos do Grok;
- A terceira, por fim, recebeu avisos de autoridades policiais sobre a circulação de “imagens pornográficas” falsas dela no celular de uma pessoa apreendida por outro caso.
As três envolvidas no processo estaria passando por “angústia extrema” por causa da circulação das imagens e pedem a aplicação de penas ao Grok por negligência corporativa e quebrar leis de proteção a menores. Até mesmo a mãe de um dos filhos de Musk, Ashley St Clair, abriu um processo similar contra a IA.