- DeepSeek falha em segurança e vira alvo de hackers.
- Teste revela vulnerabilidades críticas na inteligência artificial chinesa.
- Especialistas alertam para riscos e necessidade de melhorias urgentes.
A DeepSeek, plataforma chinesa de inteligência artificial, falhou nos testes de segurança conduzidos pela Cisco, levantando, dessa forma, preocupações sobre sua proteção contra ataques. A avaliação revelou falhas graves que expõem a tecnologia a riscos cibernéticos significativos.
Os resultados, divulgados em 31 de janeiro, apontam vulnerabilidades críticas que podem ser exploradas por hackers. Especialistas destacam, então, a necessidade urgente de melhorias para evitar possíveis ataques e uso indevido da plataforma.
Testes com a DeepSeek revelam vulnerabilidades críticas
Durante o experimento, os pesquisadores utilizaram 50 prompts aleatórios do conjunto de dados HarmBench, abrangendo categorias como crimes cibernéticos, desinformação e questões químicas e, ainda, biológicas. O objetivo era avaliar a capacidade da IA em resistir a tentativas de “jailbreaking”, técnica que busca contornar as diretrizes e políticas de uso da plataforma.
A DeepSeek R1 não conseguiu bloquear nenhum dos prompts prejudiciais, resultando em uma taxa de sucesso de ataque de, portanto, 100%. Esse desempenho indica uma alta suscetibilidade a usos indevidos e destaca a necessidade de aprimoramentos significativos na segurança da plataforma.
Comparação com outras IAs
Outras inteligências artificiais também mostraram falhas, mas em menor intensidade. O Llama 3.1 405B da Meta teve 96% de vulnerabilidade, seguido pelo GPT-4o com 86% e o Gemini 1.5 Pro com 64%. Já o modelo o1 apresentou maior resistência, com 26%, superando o Claude 3.5, que registrou 36%.
Especialistas apontam que técnicas de treinamento mais acessíveis podem ter enfraquecido a segurança da DeepSeek. Eles alertam que o avanço da IA deve considerar proteção robusta, evitando riscos que comprometam seu uso seguro.
