教 Claude 为什么

本文以 agentic misalignment 为例，总结 Anthropic 在对齐训练中的四项经验：直接针对评估分布训练虽能压制失准行为却难以泛化，而有原则的对齐训练（如宪法文档、虚构故事、「困难建议」数据集）可在分布外泛化；相比仅示范正确行为，教导背后的原则更有效；数据质量与多样性也至关重要。自 Claude Haiku 4.5 起，所有 Claude 模型在 agentic misalignment 评估上均取得满分。