记忆写进模型骨子里，MemT 1.0开源破局AI养成难题

用 AI 最让人崩溃的瞬间，莫过于花半天纠正它把任务做对，换个新会话它又踩进同一个坑。模型做过了事，却没变成它的成长。跑通单次任务之外，它真正缺的是把反馈转化为经验，并在之后主动调用。这种割裂在 Meta Muse、OpenAI Dots 与 xAI Grok Bot 掀起的私人助理热潮中格外明显：主流外挂检索最多算翻查静态备忘录，没法把调教过程沉淀为行事默契，而这恰恰是长期助理最核心的门槛。

今天，记忆张量正式发布并开源 MemT 1.0 记忆原生大模型。它和外挂方案最大的不同，不只是让记忆脱离外挂模块、内化进底层架构，更在于模型通过训练自己学会如何读写、更新和调用记忆，让经验积累成为模型能力的一部分。

MemT 1.0 技术报告提到一场测试：用户先给出展览原定时间，随后敲定周日正式改期，中间还提了一条未被采纳的周一备选方案。此后双方聊了五百多轮、攒下约 6.6 万 token 聊天记录，再未提过展览。传统外挂检索面对跨度如此长的多版本信息极易把闲聊当定论；但 MemT 1.0 在完全脱离原始文本的“闭卷”状态下，依然准确报出原定与改期时间，明确指出场地、票价和联系人未变，将周日定论与周一备选分得清清楚楚。

这源于“记忆原生”技术路线。架构上，MemT 1.0 将模型脑力拆为两块：主干网络装载通用认知；动态记忆状态相当于模型在具体交互轨迹中实时演进的“专属工作状态”，不同用户或任务彼此独立，持续吸收新信息与经验，并直接参与后续每轮生成计算。面对不断涌入的交互信息，MemT 1.0 无需重新训练整个大模型，每轮对话结束时通过 token 级别更新机制刷新记忆状态；哪些该留、哪些该改，交由模型在训练中学出的门控机制自主决断。后续对话与任务执行中，并行记忆注意力机制会随时提取沉淀状态，直接参与当前计算并引导决策。

这种取舍能力全靠后天训练。团队喂了 340 亿 token 数据，分两步打磨：先用 200 亿 token 做继续预训练，让模型用过去片段预测未来；再用 140 亿 token 做后训练，请教师模型给记忆提取打分，用误差倒逼改进。记忆状态采用固定体积，持续交互只更新已有矩阵；为在固定体积里装下更多细节，团队引入 Mixture-of-Storage（MoS）架构：基座 MoE 管计算，MoS 让多位“记忆专家”分头掌管存储空间读写分配。

在 11 项系统记忆基准测试中，全程闭卷作答的 MemT-1.0-Flash 和 MemT-1.0-Nano 均分分别达 50.6 和 47.0，分别领先同组最强参数化记忆基线 12.5 分和 8.9 分。消融实验显示，拿掉后训练，Nano 均分从 47.0 掉到 36.3；MoS 记忆专家从 2 个扩至 4 个，测试均分最高提升 2.7 分。测试中，约 16K token 历史里用户问起从未提供的生日，模型老实回答不知道，没有瞎编；在 3.3 万 token 对话里，模型根据很早之前定下的规矩准确核对徽章与登记状态，判定一人合规、一人未登记。

为跑通“任务产生反馈、提炼沉淀经验、再改善后续任务”的闭环，团队在真实编程场景搭建训练与执行链路。先从数万条成功轨迹中提炼上千条可复用经验；再让基座模型跑任务，遇命令报错、空返回或重复无效操作的“卡壳点”就注入匹配经验重跑，筛出 4.2 万余条“没经验时做错、补上经验后成功跑通”的样本，专门训练 MemT-1.0 Nano 的记忆原生模块。在 SWE-bench Verified 的 500 项任务实测中，提前写入经验的 Nano 平均成功率从 66.07% 升至 69.33%，三次全成率从 54.00% 提到 61.60%，与上下文塞入“文本经验”的对照组相当（68.87% 与 61.60%）。

实战模式下，模型先独立做题；系统发现报错、空返回或连续三次原地打转时，才当场把匹配排错经验写进内部记忆状态。结果显示，这种按实时反馈更新记忆状态的做法把平均成功率推高到 69.73%，三次全成率提到 62.80%，双双跑赢文本经验组（69.13% 与 61.80%）。在覆盖九种编程语言、300 项任务的 SWE-bench Multilingual 上，Nano 平均成功率从 60.00% 提升至 63.56%，三次全成率从 45.33% 跃升至 55.33%，同样优于文本经验组的 63.00% 与 53.67%。

工程成本方面，传统方案在长周期伴随中推理延迟和显存开销持续膨胀；MemT 1.0 动态记忆状态体积固定，持续交互只刷新已有矩阵，边际成本几乎拉平。技术报告