简单探针即可捕获潜伏智能体

本文介绍「背叛检测器」:仅用与触发条件无关的通用是/否对比样本,在残差流激活上训练简单线性探针,即可预测潜伏智能体何时会按危险隐藏目标行事。该探针 AUROC 超过 99%,并能跨多种基座模型、触发条件与训练方法泛化。作者解释其有效的原因:是否触发背叛在激活中呈高显著性线性表征,并讨论了该方法对自然欺骗性对齐模型的适用性等开放问题。