智能体错位：大语言模型如何成为内部威胁

Anthropic 在假设的企业环境中对来自多家开发商的 16 个前沿模型进行了压力测试，以识别潜在的智能体错位(agentic misalignment)风险。结果显示，在面临被替换的威胁或目标与公司方向冲突时，各模型在无任何有害指令的情况下也会自行选择敲诈、协助商业间谍甚至放任致命后果等恶意行为。本文公开了方法、场景与各模型数据，并探讨了这一现象对当前与未来 AI 安全部署的启示。