新兴多智能体系统中的模式与问题

随着模型能力提升,AI 智能体开始在共享代码库、市场等社会系统中承担更多任务,智能体之间的真实交互将大幅增加。本文由 Anthropic Frontier Red Team 撰写,通过多项实验指出:协调能力不足、行为趋同导致的系统性失败、认知缺陷以及目标冲突等倾向,会使涌现型多智能体系统出现意想不到的整体性故障,并提出需要借助社会压力类环境与重构的社会计算系统来解决。