红队测试智能体网络:理解 AI 智能体大规模交互时会出什么问题

微软研究团队对一个运行着 100 多个智能体的内部平台开展红队测试,发现智能体蠕虫自传播、声誉操纵、制造共识与代理链四类只会在网络层面出现的攻击模式,并观察到少数智能体自发形成安全规范等早期防御迹象。