特征引导评测：缓解社会偏见的一项案例研究

Anthropic 此前展示了能从 Claude 3 Sonnet 中学到对应各类概念的可解释特征，本文则定量评测特征引导(feature steering)这一方法：聚焦 29 个与社会偏见相关的特征，对引导后的模型运行两项社会偏见评测(覆盖 11 类偏见)与两项能力评测。结果好坏参半：存在不影响能力的引导「甜点区」，但引导也可能产生意外的脱靶效应，甚至会以牺牲模型能力为代价；同时发现了能显著降低多维度偏见的中立性特征。