Mais de 1 milhão de fotos e vídeos utilizados por uma startup de geração de imagens por inteligência artificial, a maioria envolvendo nudez e conteúdo adulto, estavam acessíveis a qualquer pessoa na internet, devido a um erro de configuração no banco de dados. O problema foi descoberto pelo pesquisador de segurança Jeremiah Fowler.
O acervo, que também trazia imagens reais de crianças e adolescentes, não tinha proteção por senha nem criptografia, segundo o relatório divulgado nesta sexta-feira (05). O material pertence a uma empresa chamada SocialBook, como aponta a marca d’água encontrada nos arquivos.
Imagens usadas sem consentimento
De acordo com Fowler, o banco de dados exposto era utilizado por plataformas como MagicEdit e DreamPal, que permitem criar imagens com IA a partir de descrição textual e enviar fotos para modificação, incluindo troca de rostos e remoção de fundos, entre outros recursos. Dessa forma, o acervo tem diferentes tipos de materiais.
- Parte das imagens é de pessoas reais e possivelmente foram enviadas ao arquivo sem consentimento, servindo de referência para a criação de deepfakes, como aponta o relatório;
- Ele também encontrou muitos conteúdos gerados por IA, com uma boa parcela de nudez e pornografia, inclusive envolvendo menores;
- No acervo desprotegido havia, ainda, imagens em estilo anime e hiper-realistas criadas a partir das fotos legítimas;
- O pesquisador identificou o material disponível sem senha na internet em outubro, porém não se sabe desde quando o banco de dados estava aberto.
“Essa exposição levanta preocupações com a privacidade, pois mais dados e imagens pessoais são coletados, armazenados e podem ser potencialmente usados indevidamente em plataformas digitais”, destacou o especialista, em comunicado. Acredita-se que muitas dessas fotos foram retiradas de redes sociais.
Após a empresa de geração de imagens por IA ser informada da falha de segurança, o acesso ao acervo foi bloqueado e uma investigação interna iniciada. Ela afirmou que o material ficará indisponível até que o trabalho de apuração seja concluído.
Sites e apps de MagicEdit e DreamPal também ficaram indisponíveis após a identificação da falha, como relata a Wired. O material vazado foi denunciado ao Centro Nacional para Crianças Desaparecidas e Exploradas dos Estados Unidos, que analisa o caso.
Siga acompanhando o TecMundo e compartilhe as notícias com os amigos nas redes sociais.