A Netflix vem enfrentando acusações de ter usado imagens geradas em IA no documentário sobre crimes reais What Jennifer Did, Futurism. As suspeitas foram levantadas devido à natureza de algumas imagens que aparecem na produção, que mostram sinais típicos de truques de IA, incluindo mãos mutiladas, artefatos estranhos e outros elementos. As informações são do Engadget.
Leia mais:
Ingresso da IA generativa na saúde gera controvérsiasIA é aliada de EUA e UE na busca por químicos alternativos para fabricar chipsNova lei para proteger artistas da IA aprovada em estado dos EUA
Caso a acusação se confirme, levantará sérias questões sobre a utilização de tais imagens em documentários, especialmente porque a pessoa retratada está atualmente na prisão, aguardando novo julgamento.
Em uma imagem do documentário, a mão esquerda da personagem do qual a produção fala, Jennifer Pan, está particularmente mutilada, enquanto outra imagem mostra uma estranha lacuna em sua bochecha.
Imagem: Reprodução/Netflix
A Netflix ainda não admitiu ter usado IA, mas as imagens mostram sinais claros de manipulação, e a gigante do streaming não chegou a esclarecer em momento algum que teria usado inteligência artificial na produção da obra.
Imagem fabricada poderia ter viés diferente das fotos reais
As suspeitas são também de que a IA pode estar gerando imagens com base em fotos reais de Jennifer. No entanto, ainda se trata de uma prática moralmente questionável, já que a Netflix estaria apresentando algo sobre um caso criminal que não é uma evidência real e sem viés. Enquanto isso, Jennifer Pan aguarda um novo julgamento, ordenado por um tribunal de apelação canadense, após o juiz de primeira instância não apresentar opções suficientes ao júri.
Órgãos reguladores nos EUA e na Europa e alguns outros países já promulgaram leis sobre a utilização de IA, mas até agora parece não haver leis específicas que regulem a utilização de imagens ou vídeos de IA para os documentários ou outros conteúdos relacionados.
Imagem: Reprodução/Netflix
O post Netflix teria usado IA para gerar imagem de pessoa real em documentário apareceu primeiro em Olhar Digital.