推理模型难以控制自己的思维链,而这反而是件好事

OpenAI 发布开源评测套件 CoT-Control,测试了 13 个推理模型后发现:前沿模型几乎无法按要求控制自己的思维链(CoT),可控度最高仅 15.4%,且推理越长、RL 训练越多,可控度越低。这意味着模型也难以刻意混淆思维链来逃避监控,对 AI 安全的 CoT 监控而言是好消息。