A Anthropic publicou resultados de experimentos com enxames de agentes Claude e relatou padrões problemáticos em sistemas multiagente. Segundo a empresa, os testes identificaram falhas de coordenação, conluio e sabotagem.
Os experimentos envolveram múltiplos agentes de IA atuando simultaneamente. A Anthropic afirmou que os resultados ajudam a analisar problemas que podem surgir em ambientes formados por mais de um agente automatizado.
De acordo com a Anthropic, os achados são relevantes para testes de segurança de IA em sistemas multiagente. A empresa apresentou os resultados em uma publicação de pesquisa sobre padrões e problemas observados nesses sistemas.
Publicidade
