Home Variedade O lado ruim da IA: vídeos artificiais de abuso sexual infantil estão ficando mais realistas

O lado ruim da IA: vídeos artificiais de abuso sexual infantil estão ficando mais realistas

by Fesouza
4 minutes read

A Internet Watch Foundation, órgão de segurança da internet, revelou que a geração de vídeos de abuso sexual infantil usando inteligência artificial (IA) aumentou este ano. Para piorar, os conteúdos estão ficando quase indistinguíveis de imagens reais.

A instituição apontou que a onda de investimentos milionários por parte das empresas de tecnologia está criando modelos de IA cada vez mais avançados. Estes, por sua vez, estão sendo usados por pedófilos para gerar esse tipo de material criminoso.

O lado ruim da IA: vídeos artificiais de abuso sexual infantil estão ficando mais realistas
Órgão expressou preocupação com o avanço das ferramentas de IA para vídeo (Imagem: Vitoria Gomez (gerado com IA)/Olhar Digital)

Vídeos de abuso sexual infantil feitos por IA aumentaram este ano

A Internet Watch Foundation analisou números referentes ao primeiro semestre de 2025 e apontou que, nesse período, encontrou 1.286 vídeos de abuso sexual infantil gerados com IA que infringiam a lei do Reino Unido. Em comparação, foram apenas dois vídeos deste tipo no primeiro semestre de 2024.

Dos 1.286, pouco mais de 1 mil foram classificados na categoria A, o tipo mais grave de material.

A organização ainda recebeu relatos de 210 sites com conteúdos de abuso sexual infantil gerado por IA, com cada uma das URLs tendo centenas de imagens dentro da página. No primeiro semestre do ano passado, foram apenas 42 URLs, um aumento de 400% este ano.

Cyberbullying
Em alguns dos casos, vídeos eram inspirados em vítimas reais (Imagem: Burdun Iliya/Shutterstock)

Pedófilos estão se aproveitando de modelos de IA avançados para incitar abuso sexual infantil

A IWF também pontuou que, além do aumento na quantidade, os vídeos envolvendo abuso sexual infantil gerados por IA “ultrapassaram o limite” e estão quase indistinguíveis de imagens reais. Inclusive, alguns dos vídeos analisados foram criados com base em vítimas reais.

A organização mencionou uma onda de investimentos milionários por parte das empresas de tecnologia do setor, o que resultou em modelos de IA de geração de vídeo bastante avançados. Estes, por sua vez, estão sendo usados por pedófilos para criar os conteúdos criminosos.

Um analista da IWF declarou ao The Guardian que trata-se de uma “indústria muito competitiva” e que envolve muito dinheiro, o que acaba criando “muitas opções para os criminosos”. Em um dos casos encontrados pela organização em um fórum da dark web, um pedófilo se referiu à velocidade nas melhorias da inteligência artificial.

O porta-voz da organização apontou que isso pode levar a uma “explosão absoluta” nesse tipo de vídeo e alimentar outras atividades criminosas, como tráfico de crianças, abuso sexual infantil e escravidão moderna.

O lado ruim da IA: vídeos artificiais de abuso sexual infantil estão ficando mais realistas
Especialista teme que vídeos de abuso sexual infantil gerados por IA possam levar ao aumento de outros crimes relacionados (Imagem: Burdun Iliya/Shutterstock)

Reino Unido já está agindo

  • A Internet Watch Foundation tem sede no Reino Unido. Por lá, o governo já está reprimindo vídeos de abuso sexual infantil gerados por IA, criminalizando a posse, a criação ou a distribuição desses conteúdos. Quem violar a lei, pode pegar até cinco anos de prisão;
  • Os ministros britânicos também estão proibindo a posse de manuais que ensinam usuários a criar imagens abusivas, com pena prevista de até três anos;
  • No Reino Unido, material de abuso sexual infantil (CSAM, na sigla em inglês) gerado por IA é ilegal de Lei de Proteção à Criança de 1978.

O post O lado ruim da IA: vídeos artificiais de abuso sexual infantil estão ficando mais realistas apareceu primeiro em Olhar Digital.

You may also like

Leave a Comment