四个实验、一个共同问题:记忆该在哪一层写
2026 年 11 月 6 日,Anthropic 工程博客发布《The components of agent memory》,作者 Lance Martin。官方在社交账号上把它概括为「记忆让 Claude 从经验中学习,dreaming 帮它整理所学、纠正错误、下次更快找到所需」。这句概括没错,但如果只读到这一层,会以为这是一次产品功能更新。原文的定位更接近设计说明加实验记录:它先给记忆划边界,再给记忆分层,再用四个实验分别验证一层或一个动作。
边界划得很紧。Anthropic 把 agent memory 定义为 Claude 从经验中获得、跨会话保留、并以可读取上下文形式存下来的知识;它明确排除三类东西:权重变化、单次会话内的 in-context learning、以及 compaction(用摘要替换较早轮次以便在新上下文窗口继续工作)。这个排除项很重要,因为工程上常把「上下文压缩」和「记忆」混为一谈:前者是同一次任务内的续命,后者是任务之间的资产。两者混用,会让团队误以为把上下文压得更狠就等于记得更多。
四个实验的分工也可以按「锁住哪个变量」来读。CL-Bench 1.0 的数据库问答锁住写入策略——同一个持久化记忆目录,模型自己决定写什么;宝可梦红实验锁住显著性与维护开销——同一段游戏步数,看模型把注意力花在记录还是推进;Stainless 语料实验锁住表示结构与规模——35 万份文档、128 个会话,看 wiki 这种表示随规模如何变化;合同条款实验锁住并发写入的冲突——多 Agent 同时写同一张表会发生什么。四个实验的量级、指标、分母都不同,共同点是它们都在回答同一个问题:记忆应当在哪一层写、由谁校对。
| 实验 | 锁住的变量 | 任务与规模 | 主要读数 | 读的时候要盯住的分母 |
|---|---|---|---|---|
| CL-Bench 1.0 数据库问答 | 写入策略(模型自主决定记什么) | 每题新会话,仅共享持久化记忆目录 | 六种模型基线 0.306 至 0.655,带记忆 0.364 至 0.838 | 平均奖励,不是通过率 |
| 宝可梦红 | 显著性与维护开销 | 每个模型约 10,000 步,可读写记忆文件夹 | Sonnet 3.7 得 1 枚徽章,Fable 5 得 4 枚 | 单次运行,每模型一条轨迹 |
| Stainless 语料 wiki | 表示结构与规模 | 约 35 万份文件、约 4.2 亿 token、25 道题、128 个会话 | wiki 单独 13% 至 48%,加搜索 54% 至 61% | 达成评分标准的占比,不是答对率 |
| 合同条款 wiki | 并发写入冲突 | 57 条待评事实,多 Agent 写同一张表 | 初版保留 41/57,改为单写手后 57/57 | 被保留的已评分事实条数 |
这四个实验都不构成产品承诺。原文没有给 dreaming 的调度频率、单次成本、失败率,也没有给四层各自的存储上限。这些缺口在后面会反复出现,也是本文最后要单独列出的边界。
四层记忆栈:稀缺的不是存储,是每次都要加载的顶层
四层从下往上依次是:transcripts,一次执行中 agent 动作与工具交互的可搜索事件日志,保留的是可核对的事实;记忆笔记,任务过程中写下的模块化 Markdown 或 JSON 文件,记录当下目标、计划与待验证假设;记忆表示,把离散笔记组织成互相链接的知识库或主题 wiki,承载跨多次会话的关系;注入上下文,会话初始化时加载进 prompt 的一小段索引。dreaming 不单独占一层,它是在层与层之间往返的离线过程。
| 层级 | 内容形态 | 写入者 | 主要风险 | dreaming 在这里做什么 |
|---|---|---|---|---|
| 注入上下文 | 会话开始时加载的索引,容量受限 | dreaming 从下层提炼 | 错误内容会被带进每一次会话 | 把细节下沉、只留链接与入口 |
| 记忆表示 | wiki、主题页、链接结构 | dreaming 组织,agent 可编辑 | 维护成本高,可能膨胀成无抽象的目录 | 合并重复、补断链、重建结构 |
| 记忆笔记 | Markdown 或 JSON 小文件 | agent 在任务中写 | 未验证的猜测被当成结论 | 对照 transcript 核实、标注确认状态 |
| transcripts | 可搜索的动作与工具调用日志 | 运行时自动记录 | 体量大、噪声多,直接塞进上下文会挤占预算 | 作为核对的基准事实来源 |
这不是一个「知识库」结构,而是一个「索引加下沉」结构。原文给了一个具体容量:Claude Code 的 auto memory 只加载 MEMORY.md 的前 200 行或 25 KB,作为索引使用,而不是把全部记忆塞进每个上下文窗口。理由有三条:注入的记忆占用宝贵 token;错误笔记会被带进每一次会话;过长的指令文件会降低遵从度。三条理由指向同一个结论——顶层的价值在于「指向」,不在于「装载」。
把这句话换算一下会更清楚。25 KB 按 UTF-8 中文约 3 字节一字计,大致相当于八千多个汉字;如果一条记忆笔记平均 200 字,这个预算只够放四十条左右。而宝可梦实验里那个失败的记忆文件夹有 97.9 万字符。也就是说,顶层能承载的不到下层体量的百分之一。四层设计的意义就在于承认这个比例:绝大部分记忆不该出现在 prompt 里,只该在需要时被检索到。
四层栈的工程含义是「索引加下沉」:下层只追加、允许冗余;中层靠离线整合合并与修链;上层严格限容,只放索引与入口。判断一套记忆系统是否健康,看注入层有多少条内容能指回产生它的原始记录,而不是看它一共存了多少。
CL-Bench:同一个记忆目录,六种模型走出六条曲线
CL-Bench 1.0 的数据库任务设定很干净:Claude 通过查数据库回答一系列问题,答完后被告知正确答案,可以写一条记忆帮助后续问题;每道题都在全新会话中开始,只有一处例外:它可以从一个跨会话持久化的记忆目录里取文件。实验跑在 Claude Managed Agents 上。这个设定把「记忆」压成了一个文件夹,从而把变量收敛到「模型往文件夹里写什么、之后怎么用」。
| 模型 | 无记忆基线 | 带记忆 | 差值 | 相对增益 |
|---|---|---|---|---|
| Opus 5.5 | 0.655 | 0.838 | +0.183 | 约 +27.9% |
| Sonnet 5.5 | 0.644 | 0.833 | +0.189 | 约 +29.3% |
| Opus 5 | 0.564 | 0.828 | +0.264 | 约 +46.8% |
| Opus 4.7 | 0.383 | 0.700 | +0.317 | 约 +82.8% |
| Sonnet 5 | 0.306 | 0.610 | +0.304 | 约 +99.3% |
| Sonnet 4.6 | 0.330 | 0.364 | +0.034 | 约 +10.3% |
这张表容易被读成「越新的模型记忆越好」,这只对了一半。带记忆后的分数确实随模型代际上升,从 0.364 一路到 0.838;但相对增益是另一条曲线,中间三档(Sonnet 5、Opus 4.7、Opus 5)的相对提升接近或超过 47%,而基线偏低一档的 Sonnet 4.6 只提升了 10.3%。原文对这个现象给了行为层面的解释:Sonnet 4.6 只做到「提出为什么答错的猜想」,记忆目录里散落着未经验证的猜测文件;Opus 4.7 把笔记整合成单一参考文档并标注已核实与未确认;Sonnet 5 在判分器确认后才标记为已确认,答错时写纠正;Opus 5 率先闭上环,多数条目包含规则、规则何以成立的依据、既往答案与陷阱警告。
所以记忆目录本身不产生增益,产生增益的是「失败、反思、验证、写成规则」这个环。一个只会写猜测的模型,拿到同样的目录,只是把噪声从上下文搬进了文件系统。这条结论对工程选型的含义是:先确认模型能不能自己闭环,再决定要不要给它持久化记忆;顺序反了,投入会变成维护成本。
规则干预的反向结果:告诉强模型记什么,分数会掉
同一套任务上,Anthropic 还测了「人为加规则」的效果。规则是「只记录失败」。直觉上这能减少噪声、提高信噪比,但实测是负收益,而且模型越强掉得越多。
| 模型 | 加「只记录失败」规则后的变化 | 读法 |
|---|---|---|
| Opus 5 | −0.234 | 强模型自己有筛选策略,外部规则覆盖了它的判断 |
| Opus 4.7 | −0.150 | 同上,幅度较小 |
| Sonnet 4.6 | −0.020 | 几乎无感,因为它本来也没形成策略 |
反向的例子同样有说服力。对 Sonnet 4.6 细化提示——先读记忆再作答,并显式验证猜想——它的分数从 0.330 升到 0.364,再升到 0.641,接近翻倍。原文另给了一个行为读数:Sonnet 5 在未被提示的情况下,十次里有九次会先读记忆;Sonnet 4.6 不到一半。
这两组结果放在一起,指向一个不太好接受的设计原则:记忆策略应当随模型能力分档,而不是写进一套通用 SOP。对强模型,规定「记什么」会挤掉它自己的显著性判断;对弱模型,不规定「怎么用」它就想不到先读。工程上可行的做法是把提示拆成两段:一段是流程性动作(先读记忆、再作答、验证后标记),给弱模型兜底;一段是内容裁量(记什么、记多细),留给模型。前者可以写成硬约束,后者写成硬约束就会掉分。
宝可梦:413 个文件换 1 枚徽章,9 个文件换 4 枚
宝可梦红实验的设定是:开局给每个模型一个可读写的记忆文件夹,跑约 10,000 步,然后看文件夹长成什么样、游戏推进到哪。这不是一个严谨的对照实验——每个模型只跑了一条轨迹,原文自己也这么标注——但它把「记忆维护开销」这个平时很难量化的东西拍成了具体数字。
| 指标 | Sonnet 3.7 | Fable 5 | 比值 |
|---|---|---|---|
| 记忆文件数 | 413 | 9 加 1 个 global.md(合计 10) | 约 41.3 倍 |
| 文件夹数 | 225 | 2 | 约 112.5 倍 |
| 记忆字符数 | 977,930 | 43,406 | 约 22.5 倍 |
| 获得徽章 | 1 | 4 | 0.25 倍 |
| 每枚徽章对应记忆字符 | 约 977,930 | 约 10,852 | 约 90.1 倍 |
原文给了一个开销的具体切片:Sonnet 3.7 在第 10,000 步左右开始建第四个 master 文件夹,接下来 17 步里新建 6 个文件、删除 9 个,而在游戏里没有执行任何动作。17 步只占一万步的 0.17%,但在这个窗口里,用于推进的动作占比是零。这就是「记忆税」的形态:不是存储费用,是注意力和动作预算被维护工作吃掉。
Fable 5 的组织方式被原文写得很细:一个 global.md 当仪表盘,记当前目标、道馆计划与自己的记忆使用规则;locations 目录存路线导航;gameplay 目录存策略。里面有一条规则是从连续七次抓鲤鱼王失败后总结出来的——若连续三次以上投球失败,就改变节奏,在菜单步骤之间插入额外等待。这条规则的特点是:它记录的是可复用的策略,不是当场的屏幕状态。原文的对照说法是,反例模型会把每回合都能直接观察到的金币余额也记下来。
这里可以提炼出一条判据:一条记忆值不值得写,看它在下次会话里是否还需要重新观测。可以直接观测的状态(金币、坐标、当前血量)不该写;需要跨回合累积才能得出的规律(抓宠节奏、路线依赖、道馆顺序)才该写。这条判据不需要模型能力很强就能执行,适合写进团队的记忆规范。
月见山的三次折返:dreaming 作为校对回路
同一个实验里,Anthropic 抓到了一个更麻烦的失效模式:记忆不是空的,是错的。Claude 在月见山把宝可梦中心的位置记成了山洞东侧,随后写下「Mt Moon DONE」,据此判断洞穴已清,踏过单向台阶,掉回原路,如此重复三次。第三次失败后它写道「我打算停下,不再循环」。
纠正的办法不是让它更努力,而是让它在离线时对照原始记录。dreaming 把这条空间笔记与 transcript 里的实际移动记录比对,发现事实矛盾,改写文件指向洞口,随后 agent 在第 1,935 个动作到达华蓝市。对照组的结果是:保留原始错误记忆的运行退回尼比市,没有记忆的运行同样没到华蓝市。该测试累计 3,000 个动作。
| 观察项 | 读数 | 含义 |
|---|---|---|
| 错误记忆的形态 | 一条方向写反的空间笔记 | 笔记本身像事实,不带不确定性标注 |
| 错误传播方式 | 由笔记推出「洞穴已清」,再据此前进一步 | 错误不是答错一题,是改变后续计划 |
| 纠错依据 | transcript 中的实际移动记录 | 下层日志是可核对的事实源 |
| 纠错后结果 | 第 1,935 个动作到达华蓝市 | 同期对照组均未到达 |
| 测试总步数 | 3,000 个动作 | 单次运行,非多次重复 |
这条案例的真正价值,是它说明了为什么四层里必须有一层「不可改写的日志」。记忆笔记是可编辑的,可编辑就意味着可腐化;如果所有层都能被 agent 自由改写,一旦写错就没有仲裁者。把 transcript 定为只追加的事实层、把笔记定为可修正的解释层,是这套设计里最像工程而不是像比喻的部分。
工程上可以照搬的轻量实现是:任何一条被下游计划引用的记忆,都要能指回产生它的那次工具调用或观察记录;无法指回的条目,降级为「未验证」。这条规则不依赖模型能力,靠 schema 就能约束。
128 个会话的 wiki:13% 到 48%,以及 61% 与 53% 的分母
第三个实验换了对象:不是一个小文件夹,而是一套企业语料。Anthropic 用约 35 万份文件、约 4.2 亿 token 的语料,配 25 道评测题,让 agent 在 128 个顺序会话里逐步建一个 wiki,会话之间用共享日志协调;dreaming 的规模从 2 个会话扩到 128 个会话。指标是「达成的评分标准占比」。
| 配置 | 读数 | 与相邻配置的差 |
|---|---|---|
| wiki 单独,2 个会话 | 13% | 起点 |
| wiki 单独,128 个会话 | 48% | 加 35 个百分点 |
| 搜索工具单独(无 wiki) | 53% | 比 128 会话的 wiki 高 5 个百分点 |
| wiki 加搜索,2 个会话 | 54% | 比搜索单独高 1 个百分点 |
| wiki 加搜索,128 个会话 | 61% | 比搜索单独高 8 个百分点 |
这张表读错的方式有两种。一种是只看到 13% 到 48%,得出「wiki 有用」;另一种是只看到 53% 与 61%,得出「wiki 只值 8 个点」。两种读法都丢掉了分母:这 25 道题的评分标准总数没有公开,13% 与 48% 是占比而不是题数,换算成题数会落在个位数区间,置信区间很宽。原文另给了一个规模读数:2 个会话后的示例 wiki 是 103 页、766 条链接;128 个会话后是 222 页、12,893 条链接。页数涨了约 2.2 倍,链接涨了约 16.8 倍,说明后期增长主要发生在「连接」而不是「新增页面」。
同组实验还给了两个反例。一个是效率:wiki 加搜索每题约省 20,000 token。另一个是边界:当评分标准可以从单份文档直接检索到时,wiki 没有明确增益。原文举了一个 57 项标准的任务,多数事实可从一份交易概览备忘录的文本里查到,此时 wiki 帮不上忙。这划出了适用面——表示层解决的是跨文档、需要判断或算术的问题,不解决单文档查找。
还有一个更尖锐的反例,原文用博尔赫斯的故事命名:某个任务的 wiki 膨胀到 68 页、255 条链接、203 KB,而它依据的原始语料是 10 份文档、115 KB,前者是后者的约 1.77 倍。原文的说法是「抽象了什么也没抽象」。这提醒一件事:记忆表示的体积不该超过它压缩的原料,否则它只是把原文换了个写法,还多付了一次生成成本。
57 条条款的并发写入:从 41 条到 57 条
第四个实验的失败方式很工程:不是模型不会写,而是多个 Agent 同时写同一张共享表。在合同条款任务里,初版让多个 agent 并发写 provisions.md,互相覆盖,结果 57 项待评事实只剩 41 项被保留,约 72%。
| 版本 | 写入方式 | 保留的已评分事实 | 占比 |
|---|---|---|---|
| 初版 | 多 agent 并发写同一张共享表 | 41 / 57 | 约 71.9% |
| 改进版 | 每份合同一页、单 agent 撰写、逐字引用条款 | 57 / 57 | 100% |
| 改进的触发方式 | Claude 反思失败、提议修改指令、重建 wiki | 不适用 | 不适用 |
改进的手法不复杂:按文档分片,一个写手负责一页,引用条款时逐字抄而不是转述。三条各自对应一类损失——分片消除覆盖,单写手消除竞争,逐字引用消除转述漂移。这三条在任何多 Agent 共享记忆的系统里都适用,且不需要模型配合。
原文还给了一次「第二轮 dreaming 补漏」的样本,可以看清校对回路在做什么:修改前是 38 个条目、225 条链接,其中 9 条链接指向一个不存在的 escrow-agreement;修改后是 41 个条目、278 条链接,那 9 条链接改指 buyer-form-escrow-agreement,另外新增 3 页(索引、指示邮件、升级路径)。断链率从 4.0% 降到 0,条目数增加 3,链接数增加 53。这类工作是典型的机械校对,适合交给离线批处理,而不是让主 agent 在任务中途处理。
200 行注入上限:记忆系统应当像索引,不像仓库
把四个实验并起来看,四层栈的工程含义就出来了:真正稀缺的资源是注入层,而注入层的容量被三条约束同时压着——token 预算、错误传播面、指令遵从度。200 行或 25 KB 的上限不是为了省钱,是为了让每一条被加载的内容都值得被加载。
这带来一个与直觉相反的推论:记忆系统的成败更多取决于「淘汰」而不是「积累」。如果一层只增不减,注入层迟早要靠摘要压缩,而摘要会丢掉可核对性;可核对性一丢,月见山那种错误就没有仲裁者。所以合理的结构是:下层只追加、允许冗余;中层靠 dreaming 合并与断链修复;上层严格限容,只放索引与入口。
原文列出的开放问题也集中在这条链上:写笔记的时机两难——实时写会分心,离线写可能来不及用;时效性难保证——记忆可能一开始就写错,也会随环境漂移而过时,而全量复核不现实,只能聚焦易变信息或按访问频率调 dreaming 节奏;表示需要持续维护,否则会累积错误;显著性判断有固有上限,没有模型能预知下一轮会发生什么。
这些不是待修的小问题,而是这套设计的成本项。dreaming 用的是推理算力,128 个会话的 wiki 背后是 4.2 亿 token 的语料与多轮离线整合;对一个每天只有几百次调用的团队,这套结构的固定成本可能高于收益。判断是否值得上,先算三个数:跨会话复用率、错误记忆的影响面、离线算力预算。三个里有两个说不清,就先只做 transcript 加轻量笔记。
九组折算、四项未披露与可证伪边界
下面九组折算都由公开读数直接算出,目的是把不同实验放到同一把尺子上;每一条都标了分母,避免跨实验相减。
| 折算 | 算式 | 结果 | 能说明什么 |
|---|---|---|---|
| 每枚徽章的记忆字符 | 977,930 ÷ 1 与 43,406 ÷ 4 | 约 97.8 万 与 约 1.09 万 | 差约 90 倍,记忆量不构成优势 |
| 记忆文件数比 | 413 ÷ 10 | 约 41.3 | 文件夹数量级差一个数量级以上 |
| 维护窗口的动作占比 | 17 步中 0 次游戏动作 | 0% | 该窗口的推进预算被维护吃满 |
| wiki 页数与链接增速 | 222 ÷ 103 与 12,893 ÷ 766 | 约 2.2 倍 与 约 16.8 倍 | 后期增长在连接而非页面 |
| wiki 相对搜索的增量 | 61% − 53% | 8 个百分点 | 25 道题下约合 2 道题 |
| 并购题差值 | 87% − 73% | 14 个百分点 | 24 道题下约合 3 道题 |
| 条款保留率 | 41 ÷ 57 | 约 71.9% | 并发写入损失约 28% 的已评分事实 |
| wiki 膨胀比 | 203 KB ÷ 115 KB | 约 1.77 倍 | 表示体积超过原料即为负抽象 |
| 顶层预算占比 | 25 KB 对 97.9 万字符的记忆文件夹 | 不足 1% | 注入层只能放索引 |
紧接着是边界。其一,dreaming 的调度频率、单次算力成本、失败率均未披露,因此无法算出「每提升一个百分点需要多少离线算力」。第二,宝可梦实验每个模型只有一条轨迹,且原文自述这是观察性探索,不能当作统计显著的对照。其三,Stainless 语料的 25 道题没有公开评分标准总数,13% 与 48% 的题数换算不可得。其四,四层各自的存储上限、检索实现、跨用户隔离方式都没有说明。第五,CL-Bench 用的是平均奖励而非通过率,与常见的 pass@1 榜单不可直接比较。
还有一处必须点明的口径差:媒体转述里出现的「约 5 倍测试时算力下降」,来自 2025 年 4 月 17 日的睡眠时计算论文(arXiv:2504.13171),不是这次工程博客的读数。Anthropic 原文只引用了这篇论文的概念,没有引用它的数字。把两者混在同一段里,会让读者以为 dreaming 自带五倍效率,这是当前转述里最常见的错位。
可证伪的检验有三条,都能在团队内部小成本跑。其一,若「记忆增益来自闭环而非容量」,那么给一个只会写猜测的模型更大的记忆目录,分数应当不升或下降;其二,若「注入层是瓶颈」,那么在注入内容不变的前提下扩容下层存储,端到端表现应当基本不变;其三,若「并发写入是主要损失源」,那么把共享表改成按文档分片单写手,保留率应当显著回升。三条里任何一条被证伪,这套四层读法就需要修正。
关于这套栈何时进入产品、以何种计费方式提供,目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。