绘制大语言模型的心智地图

Anthropic 运用字典学习技术,把稀疏自编码器扩展到 Claude 3 Sonnet,提取出数百万个与人类可解释概念对应的特征,首次对现代生产级大语言模型的内部表示进行了详细观察,并证明人工放大或抑制这些特征可改变模型行为,为提升 AI 安全性开辟了新途径。