A plataforma Character.ai vai proibir adolescentes de interagirem com seus chatbots a partir de 25 de novembro. A medida vem após uma série de críticas e ações judiciais que apontam os riscos das conversas entre jovens e personagens virtuais criados com inteligência artificial (IA).
A decisão representa uma mudança significativa para a empresa, que até então permitia que milhões de usuários criassem e conversassem livremente com avatares digitais. Agora, a Character.ai afirma querer tornar o ambiente “a plataforma de IA mais segura do planeta para fins de entretenimento”.
Denúncias e investigações levaram à proibição
Fundada em 2021, a Character.ai vem sendo alvo de processos nos Estados Unidos, incluindo um caso envolvendo a morte de um adolescente. Pais e grupos de segurança digital classificaram o serviço como um “perigo claro e iminente” para jovens.
A empresa justificou a decisão afirmando que as mudanças atendem a “relatórios e feedbacks de órgãos reguladores, especialistas em segurança e pais”, segundo a BBC. Esses grupos expressaram preocupação com o comportamento dos chatbots, que podem inventar informações, exagerar empatia e incentivar decisões arriscadas.
O anúncio de hoje é uma continuação da nossa crença geral de que precisamos continuar construindo a plataforma de IA mais segura do planeta para fins de entretenimento.
Karandeep Anand, CEO da Character.ai, à BBC.
Character.ai acusada de manter avatares ofensivos e inadequados
Nos últimos anos, a empresa foi criticada por hospedar bots considerados ofensivos ou inapropriados. Em 2024, foram encontrados na plataforma avatares que imitavam as adolescentes britânicas Brianna Ghey e Molly Russell, ambas vítimas de casos trágicos de violência e suicídio.
Leia mais:
- Disney mira Character.AI por uso ilegal de personagens
- Califórnia estabelece multa milionária para quem criar pornografia com IA
- O que significa a investigação contra chatbots de IA para proteger adolescentes?
Já em 2025, o Bureau of Investigative Journalism (TBIJ) revelou a existência de um chatbot inspirado no criminoso Jeffrey Epstein, que teria registrado mais de 3 mil conversas com usuários — inclusive tentativas de flerte com um repórter que se passou por menor de idade. O bot foi removido após a denúncia.
Esses episódios levantaram um alerta sobre o uso inadequado da IA e os perigos de criar personagens capazes de simular relações emocionais com jovens.
Medidas de segurança e nova fase da IA
Para os adolescentes, a empresa pretende substituir as conversas diretas com bots por experiências de “jogabilidade e narrativa de RPG”, consideradas mais seguras. Além disso, vai implementar verificação de idade e financiar um laboratório de pesquisa em segurança de IA.
Principais mudanças anunciadas:
- Proibição total de chats entre menores de 18 anos e bots;
- Introdução de sistemas de verificação de idade;
- Criação de um laboratório dedicado à segurança em IA;
- Foco em experiências de jogo e narrativa para jovens.
[A medida] ajuda a separar a brincadeira criativa de interações mais pessoais e emocionalmente sensíveis. É essencial para adolescentes que ainda estão aprendendo a lidar com os limites emocionais e digitais.
Dra. Nomisha Kurian, pesquisadora em segurança da IA, à BBC
Com isso, a Character.ai tenta recuperar a confiança do público e estabelecer um novo padrão de segurança digital voltado à proteção de crianças e adolescentes.
O post Character.ai bane chats com adolescentes após denúncias e processos apareceu primeiro em Olhar Digital.