O chatbot de inteligência artificial Grok criou e compartilhou pelo menos 1,8 milhões de imagens sexualizadas de mulheres no X. É isso que mostram levantamentos do The New York Times e do Centro de Combate ao Ódio Digital.
Os casos começaram em 31 de dezembro, quando usuários pediram ao Grok, IA de Elon Musk que funciona dentro do X, para alterar fotos reais de mulheres e crianças para sexualizá-las. A enxurrada de imagens artificiais deste tipo gerou críticas negativas à empresa e reação global, inclusive por parte de autoridades.
Grok criou pelo menos 1,8 milhão de imagens sexualizadas
A reportagem do NYT inclui dados do X Data, compilados pelo próprio X, e do Centro de Combate ao Ódio Digital, uma ONG internacional que combate ódio e desinformação online.
Segundo os dados da rede social, em um intervalo de apenas nove dias (entre 31 de dezembro e 8 de janeiro), o Grok publicou mais de 4,4 milhões de imagens. Desse número, pelo menos 41% delas eram imagens sexualizadas de mulheres, o que corresponde a cerca de 1,8 milhão.
Uma análise ainda maior do Centro de Combate ao Ódio Digital usou um modelo estatístico e estimou que cerca de 65% das imagens (pouco mais de 3 milhões) eram de homens, mulheres e crianças sexualizadas.
Em comparação, dados da Tweet Binder, uma empresa de análise que coleta postagens no X, obtidos pelo NYT apontaram que, nos nove dias anteriores a 31 de dezembro, foram apenas 311.762 imagens geradas pelo Grok – no total.
Reação internacional e investigações
A rapidez e a escala da disseminação das imagens sexualizadas geradas pelo Grok chamaram a atenção de autoridades regulatórias em diversos países, principalmente depois que Elon Musk compartilhou fotos artificiais de si próprio usando biquíni.
Governos do Reino Unido, Índia, Malásia e Estados Unidos abriram investigações para apurar se o material produzido violava legislações locais, especialmente no que diz respeito a nudez não consensual e exploração sexual infantil.
Especialistas em segurança digital e assédio online afirmam que a situação não tem precedentes. Embora existam outras ferramentas capazes de gerar deepfakes sexuais, o diferencial do Grok foi a combinação da facilidade de uso e a integração direta a uma rede social, que permite ampla distribuição.
Diante da repercussão negativa, o X e a xAI, startup de IA de Musk, passaram a impor restrições. Inicialmente, a empresa limitou a geração de imagens para assinantes. Em seguida, anunciou que não permitiria mais solicitações públicas envolvendo pessoas reais em roupas consideradas reveladoras.
Mas há ressalvas:
- Apesar das diretrizes, o chatbot continuou a produzir variações semelhantes das imagens sexualizadas, como mulheres em collants ou maiôs;
- Além disso, as restrições à geração de imagem no Grok se aplicam apenas nos comentários. Usuários ainda podem usar o recurso através do aplicativo e do site própria da IA. Nesse caso, apenas o compartilhamento no X fica vetado.
Engajamento recorde e silêncio da empresa
Mesmo com as polêmicas, executivos do X destacaram os níveis recordes de engajamento na plataforma. Por exemplo, Nikita Bier, chefe de produto da rede social, ‘twittou’ no dia 6 de janeiro que um pico de tráfego de quatro dias resultou nos maiores níveis de engajamento da história da X – sem nem mencionar as imagens sexualizadas.
A xAI, empresa de Musk responsável pelo Grok, e o X não responderam a pedidos de comentário do NYT sobre o volume das imagens geradas.
Leia mais:
- Autoridades cobram bloqueio de deepfakes sexuais gerados pelo Grok no Brasil
- Quando a inteligência artificial vira instrumento de abuso
- Influencer que teve filho com Musk processa xAI por nudes fake gerados no Grok
Globalmente, o caso reacendeu discussões globais sobre responsabilidade das plataformas, limites da IA generativa e proteção contra abusos digitais. Organizações de direitos civis classificaram o episódio como uma forma de abuso em massa, viabilizada por tecnologia amplamente acessível e integrada a uma das maiores redes sociais do mundo.
O post Grok criou quase 2 milhões de imagens sexualizadas, diz levantamento apareceu primeiro em Olhar Digital.
