规模化可解释性研究的工程挑战

Anthropic 可解释性团队回顾了把稀疏自编码器研究从玩具模型扩展到 Claude 3 Sonnet 的历程,以「分布式洗牌」与「特征可视化流水线」两个工程问题为例,说明工程能力是可解释性乃至 AI 安全研究的一大瓶颈,并诚邀工程师加入。