A Check Point apresentou uma pesquisa que aponta fragilidades em frameworks usados por empresas para criar aplicações com agentes de IA. Segundo o estudo, o risco não está apenas no prompt injection em si, mas na forma como essas estruturas são desenvolvidas e integradas, o que pode ampliar a exposição de sistemas corporativos a comandos maliciosos.
O trabalho, associado à conferência Black Hat, chama atenção para um problema prático em projetos empresariais que adotam agentes de IA para automatizar tarefas e conectar diferentes ferramentas. Nessa avaliação, a preocupação central é que os frameworks podem permitir que instruções indevidas afetem o comportamento dos agentes, comprometendo a segurança e a confiabilidade das aplicações.
A conclusão destacada pela pesquisa reforça que empresas precisam olhar não só para o modelo de IA, mas também para a arquitetura usada para colocá-lo em operação. Isso inclui revisar como esses frameworks tratam instruções recebidas e como administram a interação dos agentes com outros sistemas, já que falhas nessa camada podem ampliar riscos em ambientes corporativos.
