开源电路追踪工具

Anthropic 可解释性团队将此前提出的"追踪大语言模型思维"的方法开源:通过生成归因图(attribution graphs)部分揭示模型内部决定某个输出的步骤。此次发布包括支持热门开源权重模型生成归因图的库,以及由 Neuronpedia 托管的可交互前端。项目由 Anthropic Fellows 参与者主导、与 Decode Research 合作完成,旨在让更广泛的社区更易研究语言模型内部机制。