技术博客/Engram
DeepSeek进阶2026-01-14· 3 分钟· RAG 与记忆
Engram
Engram 是 DeepSeek 提出的条件记忆模块，将经典 N-gram 嵌入现代化，用 O(1) 查找为大模型补上原生的知识查找原语，作为 MoE 条件计算之外的互补稀疏性维度。论文形式化了神经计算与静态记忆之间的 U 形缩放定律，Engram-27B 在等参数、等 FLOPs 约束下于知识、推理、代码和数学领域稳定超越 MoE 基线。
本文需解锁后阅读
免费开放 3 篇精选工程博客（列表置顶）。其余文章登录后可阅读全文。