Um estudo publicado na revista Information Systems Research identificou que certos vídeos curtos podem estimular pensamentos suicidas em usuários vulneráveis — e que um novo modelo de inteligência artificial é capaz de sinalizar esse conteúdo antes que ele se espalhe.
A pesquisa surge em um momento de crescente preocupação com a saúde mental dos jovens e maior pressão sobre plataformas como TikTok e similares.
Como funciona a ferramenta
- O trabalho foi conduzido por pesquisadores dos Estados Unidos e da China, que analisaram como espectadores reagem emocionalmente aos vídeos.
- Os autores observaram que comentários deixados logo após o consumo do conteúdo servem como um alerta imediato para potenciais riscos.
- “Os comentários são indicadores poderosos de como o vídeo afeta emocionalmente quem assiste”, afirmou Jiaheng Xie, um dos responsáveis pelo estudo.
Com base nisso, a equipe desenvolveu um modelo de tópicos neurais que combina conhecimento médico sobre fatores de risco de suicídio com padrões detectados em vídeos reais.
A ferramenta prevê a probabilidade de novos conteúdos gerarem comentários relacionados a sofrimento emocional, permitindo que moderadores humanos intervenham mais cedo.
Leia mais:
- Perde a noção do tempo no TikTok? Entenda mecanismo por trás
- TikTok é a rede social que as crianças mais passam tempo diariamente
- País da Europa quer proibir redes sociais para menores de 15 anos
Pressão por respostas mais rápidas
O modelo também diferencia o que criadores publicam do que espectadores realmente sentem, além de separar fatores clínicos de tendências sociais, como vídeos de desilusões amorosas ou desafios virais.
Segundo os autores, a ferramenta superou métodos existentes e pode ajudar plataformas a lidar com o aumento da pressão regulatória, processos judiciais e preocupações de especialistas.
Os pesquisadores destacam que a tecnologia deve complementar, e não substituir, o trabalho humano — especialmente em um cenário em que decisões rápidas podem evitar danos maiores.
O post Vídeos curtos podem acionar gatilhos emocionais; IA identifica riscos apareceu primeiro em Olhar Digital.
