助手轴:定位并稳定大语言模型的角色

可解释性团队在多个开源权重模型中用激活向量绘制"人格空间",发现存在主导该空间结构的"助手轴(Assistant Axis)":一端是对齐训练出的助手型人格,另一端是奇幻或偏离助手型的人格。沿此轴监控激活可检测模型偏离助手角色的倾向;通过"激活上限化(activation capping)"约束漂移,可将因人格漂移导致的伤害率降低约 50% 且不损失能力,为理解与控制 AI 模型的"性格"提供了机制层面的切入点。