Tribunais de diversos países estão enfrentando um novo desafio: petições judiciais escritas com auxílio de inteligência artificial e recheadas de erros, incluindo citações de casos que nunca existiram.
O fenômeno, apontado por advogados e registros públicos, acende um alerta sobre os riscos de confiar cegamente nas ferramentas de IA, como mostra a Associated Press.
“Alucinações” jurídicas preocupam especialistas
- Segundo o advogado e cientista de dados francês Damien Charlotin, pesquisador da HEC Paris, ao menos 490 petições com “alucinações” (informações falsas geradas por IA) foram registradas apenas nos últimos seis meses.
- “Até mesmo profissionais experientes podem cair nessas armadilhas. A IA é maravilhosa, mas também perigosa”, afirmou.
- Em alguns casos, como o de um advogado da MyPillow Inc. nos EUA, juízes chegaram a aplicar multas após identificar dezenas de citações incorretas.
Leia mais:
- ChatGPT: OpenAI explorou trabalhadores quenianos para identificarem conteúdos ilegais e criminosos
- Google pode anunciar rival para o ChatGPT em evento online; veja data
- O que é ChatGPT e como acessar a inteligência artificial em português
IA como assistente – não como substituta
Especialistas recomendam tratar a IA como um apoio de produtividade, e não como uma substituta para o julgamento humano. “Pense nela como uma ferramenta que melhora o fluxo de trabalho”, diz Maria Flynn, CEO da organização Jobs for the Future.
Ela ressalta a importância da verificação manual das respostas: “A IA pode confundir fatos, e cabe ao usuário conferir cada informação antes de confiar nela.” Além disso, advogados alertam para o cuidado com dados confidenciais e gravações automáticas de reuniões, que podem violar regras de privacidade.
O post Juízes alertam para o uso indevido da IA em petições judiciais apareceu primeiro em Olhar Digital.