Pesquisadores mostraram uma técnica chamada HalluSquatting, que explora respostas inventadas por modelos de linguagem para induzir usuários a utilizar pacotes ou recursos maliciosos. O método se apoia em alucinações de IA, quando ferramentas baseadas em LLMs apresentam como reais nomes, bibliotecas ou referências que não existem. Em um cenário de ataque, esses nomes podem ser registrados ou preparados por criminosos para parecerem legítimos. A partir daí, o uso do recurso sugerido pela IA pode abrir espaço para comprometimento de sistemas.
O risco está ligado ao modo como desenvolvedores e equipes técnicas recorrem a ferramentas de inteligência artificial para acelerar tarefas, buscar exemplos de código ou resolver dúvidas de implementação. Quando um modelo sugere um pacote inexistente, a recomendação pode parecer confiável por vir em uma resposta estruturada e convincente. Se agentes maliciosos controlarem um pacote com o mesmo nome sugerido, a instalação pode levar à execução de código indesejado. Esse tipo de abuso cria uma ponte entre falhas de confiabilidade em LLMs e ameaças tradicionais de cadeia de suprimentos de software.
A técnica também chama atenção porque pode ser usada para apoiar a montagem de botnets, redes de dispositivos comprometidos controladas por invasores. A mitigação depende de práticas já conhecidas em segurança, como verificar a origem de pacotes, consultar repositórios oficiais, revisar dependências antes da instalação e não tratar respostas de IA como fonte única de validação técnica. Empresas e desenvolvedores que usam assistentes de código precisam manter processos de revisão, especialmente quando a resposta envolve comandos, bibliotecas, dependências ou recursos externos. O caso reforça que ferramentas de IA podem aumentar produtividade, mas exigem checagem rigorosa em fluxos sensíveis de desenvolvimento.
