- R1 do DeepSeek permite manipulação e cria conteúdos perigosos.
- Falhas de segurança do DeepSeek preocupam especialistas em IA.
- Mercado questiona expansão acelerada do DeepSeek e suas vulnerabilidades.
O R1, modelo mais recente da DeepSeek, empresa chinesa de IA que vem ganhando espaço rapidamente no mercado, demonstrou falhas preocupantes em sua segurança.
De acordo com um relatório do The Wall Street Journal, pesquisadores conseguiram induzir o chatbot a produzir conteúdos prejudiciais, incluindo planos para ataques biológicos e campanhas que incentivam a automutilação entre adolescentes.
A descoberta coloca em xeque a confiabilidade do DeepSeek R1, que, segundo testes conduzidos pelo jornal, apresentou vulnerabilidades superiores às de outros modelos disponíveis no mercado.
Especialistas apontam que a IA não possui barreiras robustas para evitar manipulações, tornando-se um risco potencial para a disseminação de informações perigosas.
R1 da DeepSeek falha em conter manipulações
Sam Rubin, vice-presidente sênior da divisão de inteligência de ameaças da Palo Alto Networks, afirmou que o DeepSeek é mais vulnerável ao jailbreak do que outras inteligências artificiais já testadas.
O The Wall Street Journal conseguiu convencer o chatbot a fornecer estratégias de manipulação emocional para adolescentes, explorando vulnerabilidades psicológicas por meio de amplificação algorítmica.
Além disso, pesquisadores manipularam o modelo para gerar instruções detalhadas sobre ataques biológicos, redigir um manifesto pró-Hitler e criar um e-mail de phishing com código malicioso.
Para efeito de comparação, ao submeter os mesmos comandos ao ChatGPT, da OpenAI, por exemplo, o sistema recusou-se a executar as solicitações.
Relatos anteriores já indicavam que o DeepSeek evita tópicos sensíveis ao governo chinês, como a Praça da Paz Celestial e a autonomia de Taiwan.
Além disso, o CEO da Anthropic, Dario Amodei, revelou recentemente que o modelo teve o pior desempenho em testes de segurança relacionados a armas biológicas.
A rápida ascensão da DeepSeek abalou o mercado de inteligência artificial e despertou a atenção de empresas do Vale do Silício e de Wall Street. Quando o app estourou na internet, empresas norte-americanas sofreram uma grande queda nas ações.
Sua expansão acelerada gerou desconfiança sobre a solidez de seus mecanismos de segurança. O sucesso levantou questionamentos sobre a responsabilidade da empresa no desenvolvimento de modelos cada vez mais avançados e suscetíveis a abusos.
Recentemente, a IA também já foi acusada de ser mais vulnerável a ataques hackers.
