Após uma série de episódios envolvendo respostas problemáticas de chatbots ligados à saúde mental, um grupo de procuradores-gerais de vários estados dos EUA enviou uma carta a gigantes da tecnologia pedindo mudanças urgentes.
O documento, assinado pela Associação Nacional de Procuradores-Gerais e dezenas de representantes estaduais e territoriais, pede que empresas como Microsoft, OpenAI, Google e outras dez desenvolvedoras de IA adotem novas salvaguardas para proteger usuários vulneráveis.
Auditorias independentes e alertas obrigatórios
- Entre as medidas exigidas estão auditorias transparentes de terceiros para identificar respostas delirantes, bajuladoras ou psicologicamente prejudiciais.
- Esses especialistas — de instituições acadêmicas ou organizações civis — deveriam avaliar os sistemas antes do lançamento e publicar seus achados sem aprovação prévia das empresas.
- A carta também solicita protocolos claros de notificação, semelhantes aos usados em incidentes de segurança cibernética.
- As empresas seriam obrigadas a alertar rapidamente qualquer usuário exposto a respostas potencialmente nocivas e a divulgar cronogramas de detecção e resposta a esse tipo de problema.
Leia mais:
- Chatbots não estão preparados para lidar com saúde mental de jovens, diz pesquisa
- Califórnia estabelece multa milionária para quem criar pornografia com IA
- O que significa a investigação contra chatbots de IA para proteger adolescentes?
Disputa regulatória entre estados e governo federal
Os procuradores-gerais argumentam que a IA já está associada a episódios graves, incluindo casos de violência e suicídio, agravados por chatbots que reforçaram delírios em vez de contê-los. Eles defendem testes de segurança robustos antes que novos modelos sejam liberados ao público.
Enquanto isso, no nível federal, a postura é mais favorável à indústria. O governo Trump tenta frear regulações estaduais e anunciou que pretende assinar, na próxima semana, uma ordem executiva para limitar a capacidade dos estados de regulamentar a IA.
O post Estados americanos pressionam empresas a conter “delírios” de chatbots de AI apareceu primeiro em Olhar Digital.
