Titans: Learning to Memorize at Test Time

Transformer 因二次复杂度难以处理超长上下文；线性 Transformer（状态空间模型）虽可扩展，但压缩历史会丢失信息。两者在记忆方面存在根本性权衡。