O Ministério Público Federal (MPF), a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) enviaram uma recomendação oficial ao X/Twitter para que a rede social bloqueie imediatamente a criação de imagens eróticas por meio do Grok, sua inteligência artificial (IA).
O pedido veio, na terça-feira (20), após uma onda de denúncias sobre o uso da ferramenta para criar deepfakes (fotos e vídeos falsos) que colocam pessoas reais, incluindo crianças e adolescentes, em situações sexuais sem qualquer consentimento.
As autoridades brasileiras em questão entendem que a plataforma de Elon Musk não pode ignorar como sua tecnologia tem sido usada. Isso porque ela facilita a violação da privacidade e da dignidade das vítimas. Para o governo, o X/Twitter é responsável pelo que a sua IA produz, funcionando como “coautor” desses conteúdos abusivos ao oferecer a ferramenta para os usuários.
Governo estabelece prazos para X/Twitter e exige ferramentas de proteção para os usuários
A ordem é para que o bloqueio seja total e atinja todos os usuários, inclusive quem paga pelas versões premium do serviço. Além de impedir novas criações, a rede social precisa criar uma forma fácil para que as pessoas denunciem abusos. E deve suspender as contas de quem usar a IA para fins eróticos, garantindo que o conteúdo saia do ar rapidamente.
A empresa tem até 27 de janeiro para dizer se vai ou não cumprir essas orientações amigavelmente. Caso a rede social decida ignorar o pedido, as instituições avisaram que podem entrar com processos na Justiça e aplicar multas pesadas baseadas na Lei Geral de Proteção de Dados (LGPD) e no Código de Defesa do Consumidor.
O principal objetivo dessa ação é proteger o cidadão de ter sua imagem manipulada e espalhada pela internet de forma degradante. Mas o Instituto de Defesa do Consumidor (Idec), que apresentou a denúncia sobre o Grok, achou a medida das autoridades tímida. Para o instituto, o Grok deveria ser suspenso por completo até seu uso ser considerado seguro. Seja como for, a pressão das autoridades coloca o X/Twitter num prazo apertado para mudar suas regras no Brasil.
O post Autoridades cobram bloqueio de deepfakes sexuais gerados pelo Grok no Brasil apareceu primeiro em Olhar Digital.