Existe um dilema na OpenAI. A desenvolvedora do ChatGPT criou uma ferramenta capaz de sinalizar textos gerados pela plataforma. Mas será que a empresa deveria lançá-la? Eis a questão, levantada pelo Wall Street Journal, cuja resposta é mais complicada do que parece.
A ferramenta, pronta há aproximadamente um ano, introduz uma mudança sutil na forma como o ChatGPT “escreve”, criando um padrão que pode ser utilizado para identificar textos gerados por IA.
De um lado, a implementação do recurso parece ser uma medida responsável. De outro, a empresa teme que possa perder dinheiro por conta da mudança.
Sinalizar ou não os textos gerados no ChatGPT vira dilema na OpenAI
Em essência, a ferramenta não altera a qualidade dos textos gerados pelo ChatGPT. Além disso, uma pesquisa encomendada pela OpenAI indicou um forte apoio global à ideia de ferramentas que detectam conteúdo gerado por IA.
Além disso, o recurso em questão seria particularmente útil para o ambiente acadêmico, por exemplo. Isso porque ajudaria professores a identificar trabalhos produzidos por IA.
Apesar da eficácia técnica da marcação, descrita pela OpenAI como “99,9% eficaz” e resistente a adulterações como parafrasear, a empresa revelou numa atualização em seu blog que técnicas simples como o uso de outro modelo de IA para reformular o texto podem facilmente burlar a detecção.
Leia mais:
ChatGPT consome 500ml de água quando falamos com ele
Marco Legal da Inteligência Artificial: entenda os 5 principais pontos
14 perguntas e respostas sobre Inteligência Artificial (IA)
Além disso, existe a preocupação de que o uso da ferramenta possa estigmatizar usuários de IA – especialmente aqueles que não são falantes nativos de inglês, que podem depender mais dessas tecnologias para comunicação e aprendizado.
Outro ponto sensível é a possível reação dos usuários do ChatGPT. Segundo a empresa, cerca de 30% dos usuários indicaram que reduziriam o uso do software se a marcação fosse implementada. Daí o possível prejuízo, coisa que empresa nenhuma quer.
O post OpenAI pensa com carinho sobre marcar ou não textos gerados pelo ChatGPT apareceu primeiro em Olhar Digital.