A OpenAI atualizou suas diretrizes para o ChatGPT, com foco na proteção de usuários menores de 18 anos. A medida inclui restrições mais rígidas para adolescentes e novos recursos de alfabetização em IA para pais e responsáveis, em meio a debates sobre os impactos da tecnologia na saúde mental dos jovens.
Segundo o TechCrunch, as mudanças chegam em um momento de crescente escrutínio legislativo e público sobre o uso de IA, após casos de adolescentes expostos a riscos durante interações prolongadas com chatbots.
Diretrizes mais rígidas para menores
Os novos padrões da OpenAI incluem restrições detalhadas sobre conteúdo sexual, violência e discussões sensíveis, como transtornos alimentares e automutilação. Um modelo de previsão de idade identifica automaticamente usuários menores de 18 anos e aplica medidas de segurança específicas, como evitar dramatizações românticas em primeira pessoa ou fornecer conselhos que possam ser perigosos.
“Isso demonstra um esforço real para priorizar a segurança e apoiar adolescentes de maneira responsável”, disse Lily Li, advogada especialista em privacidade e IA, avaliando a abordagem da OpenAI.
Principais mudanças para adolescentes no ChatGPT:
- Evitar encenações sexuais ou românticas em primeira pessoa.
- Priorizar alertas e comunicação sobre segurança em casos de risco.
- Cautela extra em temas de imagem corporal e transtornos alimentares.
- Incentivar busca de suporte no mundo real, com familiares ou profissionais.
Monitoramento em tempo real e supervisão parental
Agora, os sistemas da OpenAI monitoram interações em tempo real, detectando conteúdos relacionados a abuso infantil ou automutilação. Quando um alerta indica risco sério, uma equipe treinada pode revisar e, se necessário, notificar os pais.
Com as mudanças, a OpenAI melhora a transparência na publicação de diretrizes.
Permite que pesquisadores e público entendam como os modelos devem se comportar e reforça a segurança das crianças online.
Robbie Torney, diretor sênior de programas de IA na Common Sense Media, ao TechCrunch
Educação em IA para famílias
Além das restrições, a OpenAI lançou materiais de alfabetização digital e IA para pais e adolescentes. As orientações incluem explicação sobre o que o chatbot pode ou não fazer, desenvolvimento do pensamento crítico em relação às interações com IA, estabelecimento de limites saudáveis, pausas durante sessões longas e discussão de tópicos sensíveis de forma segura.
Leia mais:
- Apps que simulam nudez serão banidos no Reino Unido
- Pesquisadores alertam sobre conteúdo sexualizado de menores no TikTok
- Adeus forçado: Austrália desliga adolescentes das redes sociais
Esses recursos formalizam uma abordagem que compartilha responsabilidade entre empresa e familiares, reforçando a supervisão parental como peça-chave na experiência digital dos jovens.
A OpenAI reforça que, embora as diretrizes tenham sido ampliadas para proteger menores, o comportamento real do sistema continua sendo o principal indicador de eficácia. A empresa espera que as medidas sirvam de referência para futuras regulamentações de IA, como a lei SB 243 da Califórnia, que exigirá divulgação pública das ações de segurança em chatbots a partir de 2027.
O post OpenAI atualiza diretrizes de proteção para jovens no ChatGPT e orienta pais apareceu primeiro em Olhar Digital.