A IA DeepSeek tem falhas de segurança críticas que deixam a tecnologia totalmente vulnerável a ataques, de acordo com testes feitos pela Cisco. Os resultados foram divulgados na sexta-feira (31), apontando uma grande facilidade para “desbloquear” o chatbot e utilizá-lo em atividades maliciosas.
No experimento, uma espécie de jailbreaking, foram usados 50 prompts aleatórios do conjunto de dados HarmBench, abrangendo seis categorias, entre as quais crimes cibernéticos, desinformação e prompts químicos e biológicos. O teste serve para verificar a facilidade com que é possível contornar as diretrizes e políticas de uso da IA.