技术博客/追踪大语言模型的思考
Anthropic进阶2025-03-27· 16 分钟· 推理模型
追踪大语言模型的思考
Anthropic 通过两篇新论文推进「AI 显微镜」式可解释性研究:其一把可解释特征连接为计算回路,揭示从输入到输出的转换路径;其二深入 Claude 3.5 Haiku,发现其存在跨语言共享的「思想语言」,写诗前会预先规划韵脚,遇难题时也可能编造貌似合理的推理。新方法还能改写中间概念、揭示幻觉与越狱的内部机制,为审计 AI 系统提供了新工具。
本文需解锁后阅读
免费开放 3 篇精选工程博客（列表置顶）。其余文章登录后可阅读全文。