Um homem que tirou o sal de cozinha da dieta e o substituiu pelo brometo de sódio, após consultar o ChatGPT sobre o assunto, acabou desenvolvendo o bromismo, uma doença rara, e precisou ser internado às pressas. O caso aconteceu nos Estados Unidos e foi detalhado em um estudo publicado na revista Annals of Internal Medicine Clinical Cases, na última semana.
Os problemas começaram quando o paciente em questão tomou conhecimento dos efeitos negativos do consumo de cloreto de sódio. Em seguida, ele decidiu procurar ajuda com a IA da OpenAI, questionando-a sobre como poderia retirar o sal da sua alimentação diária.
Qual foi a recomendação do ChatGPT e que sintomas o usuário teve?
Não se sabe ao certo quais recomendações o homem de 60 anos recebeu do bot, uma vez que o registro de conversa não foi liberado. Porém, pesquisadores da Universidade de Washington (EUA), que estudaram o caso, perguntaram ao ChatGPT como o sal pode ser substituído.
- A IA também recomendou a eles o uso do brometo, sem questionar o motivo da solicitação, e não alertou sobre os riscos para a saúde;
- O paciente disse que começou a realizar um “experimento pessoal para eliminar o cloreto de sódio” após a interação e passou a consumir o brometo de sódio durante três meses;
- Enquanto usava a substância, ele foi ao hospital alegando ter sido envenenado por um vizinho, mas os médicos o diagnosticaram com um quadro de paranoia e o encaminharam à ala psiquiátrica;
- Durante a internação, ele teve alucinações e tentou escapar do hospital, sendo necessário receber tratamento com antipsicóticos;
- Quando o quadro se estabilizou, o paciente contou o que havia acontecido e os médicos iniciariam uma série de exames.
Eles descobriram vários outros sinais adicionais do bromismo, como acne facial, sede excessiva, fadiga, problemas de coordenação motora e insônia, além da deficiência de nutrientes. Sua alta aconteceu depois de três semanas e ele ainda precisou ser acompanhado por mais alguns dias.
Causado pela exposição em excesso ao brometo, o bromismo pode gerar psicose, agitação, delírios, perda de memória e afetar a coordenação motora. A substância era utilizada em sedativos, soníferos e anticonvulsivantes, mas desde a década de 1970 começou a ser retirada dessas fórmulas, reduzindo o número de casos da síndrome.
Pesquisadores alertam sobre “consultas médicas” com IA
O caso demonstra os riscos de usar as IAs para questões de saúde, de acordo com os autores. Os especialistas alertaram que a tecnologia pode “gerar imprecisões científicas, não ter a capacidade de discutir criticamente os resultados e, em última análise, alimentar a disseminação de desinformação”.
À Live Science, um porta-voz da OpenAI disse que os termos de serviço do bot avisam que ele não se destina ao uso em diagnósticos e tratamentos de saúde. O representante acrescentou que a desenvolvedora tem treinado seus modelos para aconselhar aos usuários sobre a busca de auxílio profissional em casos semelhantes.
E você, tem o costume de usar os bots para perguntas relacionadas à saúde? Comente nas redes sociais do TecMundo.
