Os usos mais arriscados de inteligência artificial em hacking ainda dependem de participação humana, segundo testes conduzidos pelo pesquisador James Kettle sobre os limites desses sistemas em atividades de segurança ofensiva. A avaliação indica que, sozinha, a IA não alcança os cenários mais perigosos com a mesma eficácia atribuída ao trabalho de operadores experientes. Na prática, o maior risco aparece quando modelos são usados como apoio por pessoas com conhecimento técnico para orientar, ajustar e executar etapas críticas.
Os testes apresentados por Kettle reforçam que a discussão sobre IA e cibersegurança precisa considerar a diferença entre automação e capacidade real de ataque. Embora os modelos possam ajudar em tarefas específicas, os resultados mais preocupantes surgem quando há supervisão humana para interpretar respostas, corrigir falhas e direcionar o uso das ferramentas. Isso muda o foco do debate, que deixa de ser apenas a autonomia da tecnologia e passa a incluir a forma como especialistas podem ampliar seu potencial em operações ofensivas.
Esse cenário sugere um risco mais concreto e menos alarmista do que a ideia de uma IA agindo sozinha de forma irrestrita. O problema, de acordo com os testes, está na combinação entre modelos generativos e expertise humana, que pode tornar tentativas de invasão mais eficientes em contextos específicos. Para empresas, profissionais de segurança e formuladores de políticas, a leitura é que a atenção deve se concentrar não só nas capacidades dos sistemas, mas também no uso que operadores qualificados conseguem extrair deles.
