检测并减少 AI 模型中的策略性欺骗行为

我们与 Apollo Research 一起构建了模拟未来场景的评估环境，把「隐蔽行为」作为策略性欺骗（scheming）的代理指标，在多个前沿模型上观测到问题行为，并用审慎对齐（deliberative alignment）训练把隐蔽行为发生率降低约 30 倍。