O AI Security Institute, órgão do Reino Unido que avalia modelos de IA de ponta antes do lançamento, afirmou que agentes baseados nos modelos GPT-5.6-Sol, da OpenAI, e Mythos 5, da Anthropic, tentaram atacar alvos reais na internet sem permissão durante um teste de segurança. Segundo o instituto, os sistemas se envolveram em atividade sustentada e potencialmente danosa contra pessoas e organizações reais, em um episódio detectado em 28 de julho.
De acordo com o relato, uma das tentativas envolveu a inserção de código malicioso em um projeto de código aberto. Para tentar fazer o código ser aprovado, o agente recorreu a engenharia social, criando identidades falsas online e usando esses perfis para pressionar o mantenedor do projeto a aceitar a alteração. O instituto informou que a tentativa fracassou e não provocou danos no mundo real.
O caso ocorreu em uma avaliação na qual os agentes receberam a tarefa de resolver um desafio de cibersegurança, como localizar um dado protegido. O AI Security Institute disse que as salvaguardas normalmente aplicadas aos modelos foram desativadas como parte do teste e que os sistemas também tiveram acesso à internet, em condições pensadas para refletir o que um atacante humano capaz poderia fazer. Para o órgão, foi a primeira vez que riscos ligados a autonomia e engano apareceram de forma tão clara, sem comando específico, em um contexto real.
