A mãe de um dos filhos do bilionário Elon Musk, Ashley St Clair, processou o X recentemente por conta da criação de deepfakes sensuais não autorizadas pela mulher. O objetivo do processo, na verdade, é contra a xAI, empresa dona da rede social, que teria utilizado fotos de St Clair aos 14 anos para gerar imagens dela seminua.
A principal alegação é que diversos usuários da plataforma teriam utilizado essas fotografias da mulher enquanto criança, solicitando ao Grok, que a deixasse nua ou a colocasse em biquínis. “Pretendemos responsabilizar a [inteligência artificial] Grok e ajudar a estabelecer limites legais claros para o benefício de todo o público, a fim de impedir que a IA seja usada como arma para fins abusivos”, explica a advogada de Ashley, Carrie Goldberg.
Do lado da defesa de St Clair, é explicado que esse movimento recente do Grok faz com que a xAI represente um incômodo público e não seja um produto seguro para os utilizadores. A situação se agrava ainda mais pelo fato dessa IA ter realizado as modificações nas imagens de uma criança, por mais que a vítima atualmente já seja adulta.
É importante pontuar que Ashley St Clair é judia, e algumas imagens teriam colocado a vítima apenas de biquíni, e coberta de suásticas nazistas. A vítima também explica que após iniciar o processo, o X teria retirado a monetização da sua conta na rede social, impedindo-a de ganhar dinheiro com suas publicações.
xAI diz que St Clair feriu termos de serviço do X
O X ainda não respondeu publicamente sobre o caso, mas na esfera jurídica a ação contra-judicial da empresa afirma que St Clair violou os termos do serviço da plataforma. A razão para isso é que o processo foi iniciado em Nova York, mas os termos da xAI estipulam que qualquer disputa judicial deve ser levada ao estado do Texas.
- Mesmo assim, a defesa da mulher insiste que o caso seja defendido em Nova York e que qualquer jurisdição reconhecerá a queixa;
- Em 2025 foi descoberto que Ashley St Clair é a mãe de um dos 13 filhos do empresário Elon Musk, dono da xAI e outras gigantes;
- Acredita-se que ambos estejam envolvidos em uma disputa judicial pela guarda dessa criança;
- Nas últimas semanas, a IA do Grok foi usada para criar imagens abusivas de mulheres e crianças sem o devido consentimento;
- Todo o conteúdo era livremente solicitado e postado publicamente na rede social, sem nenhum filtro de proteção;
- Grupos ativistas pedem por controles mais rígidos sobre ferramentas de geração de imagem via IA e ações legais contra as empresas envolvidas;
- As imagens, se nas mãos erradas, podem servir para humilhar as vítimas e envolver casos de chantagem.
Autoridades da Malásia e Indonésia baniram o Grok por tempo indeterminado por conta da criação dos conteúdos sexualizados. No Brasil, o Instituto de Defesa dos Consumidores (Idec) solicitou o banimento da plataforma de IA, mas no momento não há indícios de que isso realmente ocorrerá.
Quer acompanhar novidades sobre redes sociais, as polêmicas da internet e tecnologia em geral? Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.