把记忆塞进前向传播
10 月 20 日，记忆张量（上海）科技有限公司正式推出并开源记忆原生基础模型 MemT 1.0 系列，包含 MemT-1.0-Flash 与 MemT-1.0-Nano 两款，参数规模分别为 288B 与 36B，激活参数分别为 17B 与 3B。
与常见做法的差别在架构里。传统方案处理长会话，靠的是把越来越长的历史文本一直带在上下文里，聊得越久、成本越高；MemT 1.0 的思路是在选定的 Transformer 模块中引入原生记忆模块，让原有注意力与记忆注意力并行运行，记忆由此成为前向传播的一部分——历史信息与任务经验可以被后续相关任务直接调用，不必再次提供原始历史文本。
三项设计与两阶段训练
架构上的三个要点：一是基于 Gated DeltaNet-2 的逐词元稳定更新机制，在每轮交互结束后通过擦除、写入与遗忘，把新信息融入既有记忆；二是引入 Mixture-of-Storage（MoS）混合存储扩容，把记忆模块扩展为多个记忆专家并采用稠密路由，为记忆容量扩展留基础；三是分两阶段训练，模型先在 340 亿词元的语料上学会把信息写进记忆，再学会依据记忆回答问题。
这个顺序值得留意：先写后读，两件事被拆成两个训练阶段，而不是指望在一个阶段里同时学会。记忆能不能被正确写入，直接决定了后面能不能被正确读出。
分数：记忆基准与编程实测
评测方面，MemT-1.0-Flash 与 Nano 在 11 项记忆基准上的平均得分分别为 50.6 与 47.0，在本次评估的参数化记忆方法中排在前列。编程场景的实测里，由执行框架在关键断点触发经验写入时，Nano 在 SWE-bench Verified 的 500 项任务上，平均成功率从 66.07% 提高到 69.73%，三次全部成功的任务比例由 54.00% 提高到 62.80%。
提升幅度不算惊人，三个多百分点，但变化的性质不一样——提高的主要是重复执行的一致性与稳定性，而不是单次上限。对需要长时间运行的任务来说，稳定性往往比峰值更有用。
效率：两个口径必须并列
长历史场景的收益更直观。Nano 相比完整上下文方案，在 128K 历史下端到端推理速度约 1.86 倍，256K 历史下约 3.99 倍。但记忆状态体积这一项，不同报道给出的口径并不一致：一路报道称持久化记忆状态约为完整上下文方案的六十六分之一，另一路则称持久化存储较传统完整上下文方案缩减约 130 倍。两个数字差了约一倍，由于各方计算方法不同，这里把两组口径并列列出，不取单一结论。
对开发者而言，记忆原生带来的价值落在三层：长会话不再需要把整段历史反复塞进上下文，推理开销与响应延迟更可预期，尤其适合客服、办公助手这类高频长会话场景；历史再长，查询首字响应时间也基本不随长度变化，用户不会越聊越卡；记忆的保留、更新与调用都由模型在训练中学会，有机会随着交互积累复用经验。这三层分别对应成本、体验与能力增长。
放到更大的背景里，过去几年大模型的能力增长主要围绕模型规模、训练数据、推理能力、多模态能力与上下文长度几条路径展开。MemT 1.0 换了个方向：当 AI 开始承担跨时间、跨任务的工作时，仅仅完成单次生成与推理已经不够，记忆与推理需要被放进同一套系统结构里考虑——推理负责处理当前问题，记忆负责维持历史状态、沉淀经验并为后续任务提供连续性。
公司自己承认的三道坎
值得注意的是，公司方面也把尚未解决的问题摆了出来：固定容量的记忆需要在保留早期细节与接纳新信息之间权衡，精确信息的长期保真仍是挑战；当前的经验应用还依赖外部的经验构建与检索，尚未形成自主获取、验证并持续整合经验的完整闭环。后续方向是提升长期记忆、扩展记忆容量并降低记忆更新成本，逐步探索自主获取经验与跨任务持续整合。
这三点其实指向同一个难点：记忆会出错，而且错得不明显。行业里目前缺少对记忆污染与错误遗忘的标准评测方法，11 项基准测的是记得住多少，还没解决记错了怎么办。MemT 1.0 系列已通过 Hugging Face 等平台开源、开发者可免费获取权重，真正的检验会在外部复现与独立评测之后到来。