人格向量：监测并控制语言模型中的性格特质

Anthropic 提出「人格向量」(persona vector)方法:通过对比模型在表现出某项性格特质与否时的神经激活模式,提取控制该特质的内部活动向量。该向量可用于监控对话与训练中的人格漂移、以「接种」式引导在训练期间预防不良特质产生,并预先标记可能诱发不良特质的数据样本。相关实验在 Qwen 2.5-7B-Instruct 与 Llama-3.1-8B-Instruct 上进行。