技术解构 2026-11-23 29 分钟阅读 进阶

记忆不是日志:Anthropic 四层记忆栈与 dreaming 的校对回路

97.9 万字符换 1 枚徽章、4.3 万字符换 4 枚:记忆系统的瓶颈不在容量,而在谁写、何时校

摘要

把 Anthropic 这篇工程博客读成「Claude 会做梦了」,会漏掉它真正给出的东西:一套把记忆拆成四层、并给每层指定维护责任的设计。2026 年 11 月 6 日,Anthropic 工程博客发布《The components of agent memory》,作者 Lance Martin,把 agent memory 定义为跨会话保留、可被后续读取的上下文,并明确排除权重更新、单次会话内的 in-context learning 与 compaction。四层分别是可搜索的 transcripts、Claude 自己写的记忆笔记、由笔记组织成的记忆表示(如 wiki),以及每次会话预加载的注入上下文;dreaming 是跨层的离线整合,负责纠错、写笔记、建表示、塑形预加载内容。本文按官方原文逐层还原这套栈,并把四个实验各自锁定的变量拆开:CL-Bench 锁写入策略,宝可梦锁显著性与维护开销,Stainless 语料锁表示结构与规模,合同条款实验锁并发写入的冲突。文章另做九组折算——包括每枚徽章对应的记忆字符数相差约 22.5 倍、24 道并购题的 14 个百分点只相当于约 3 道题、以及 200 行注入上限背后的预算逻辑——并列出五项官方未披露、因而不能外推的边界。

四个实验、一个共同问题:记忆该在哪一层写

2026 年 11 月 6 日,Anthropic 工程博客发布《The components of agent memory》,作者 Lance Martin。官方在社交账号上把它概括为「记忆让 Claude 从经验中学习,dreaming 帮它整理所学、纠正错误、下次更快找到所需」。这句概括没错,但如果只读到这一层,会以为这是一次产品功能更新。原文的定位更接近设计说明加实验记录:它先给记忆划边界,再给记忆分层,再用四个实验分别验证一层或一个动作。

边界划得很紧。Anthropic 把 agent memory 定义为 Claude 从经验中获得、跨会话保留、并以可读取上下文形式存下来的知识;它明确排除三类东西:权重变化、单次会话内的 in-context learning、以及 compaction(用摘要替换较早轮次以便在新上下文窗口继续工作)。这个排除项很重要,因为工程上常把「上下文压缩」和「记忆」混为一谈:前者是同一次任务内的续命,后者是任务之间的资产。两者混用,会让团队误以为把上下文压得更狠就等于记得更多。

四个实验的分工也可以按「锁住哪个变量」来读。CL-Bench 1.0 的数据库问答锁住写入策略——同一个持久化记忆目录,模型自己决定写什么;宝可梦红实验锁住显著性与维护开销——同一段游戏步数,看模型把注意力花在记录还是推进;Stainless 语料实验锁住表示结构与规模——35 万份文档、128 个会话,看 wiki 这种表示随规模如何变化;合同条款实验锁住并发写入的冲突——多 Agent 同时写同一张表会发生什么。四个实验的量级、指标、分母都不同,共同点是它们都在回答同一个问题:记忆应当在哪一层写、由谁校对。

实验锁住的变量任务与规模主要读数读的时候要盯住的分母
CL-Bench 1.0 数据库问答写入策略(模型自主决定记什么)每题新会话,仅共享持久化记忆目录六种模型基线 0.306 至 0.655,带记忆 0.364 至 0.838平均奖励,不是通过率
宝可梦红显著性与维护开销每个模型约 10,000 步,可读写记忆文件夹Sonnet 3.7 得 1 枚徽章,Fable 5 得 4 枚单次运行,每模型一条轨迹
Stainless 语料 wiki表示结构与规模约 35 万份文件、约 4.2 亿 token、25 道题、128 个会话wiki 单独 13% 至 48%,加搜索 54% 至 61%达成评分标准的占比,不是答对率
合同条款 wiki并发写入冲突57 条待评事实,多 Agent 写同一张表初版保留 41/57,改为单写手后 57/57被保留的已评分事实条数

这四个实验都不构成产品承诺。原文没有给 dreaming 的调度频率、单次成本、失败率,也没有给四层各自的存储上限。这些缺口在后面会反复出现,也是本文最后要单独列出的边界。

四层记忆栈:稀缺的不是存储,是每次都要加载的顶层

四层从下往上依次是:transcripts,一次执行中 agent 动作与工具交互的可搜索事件日志,保留的是可核对的事实;记忆笔记,任务过程中写下的模块化 Markdown 或 JSON 文件,记录当下目标、计划与待验证假设;记忆表示,把离散笔记组织成互相链接的知识库或主题 wiki,承载跨多次会话的关系;注入上下文,会话初始化时加载进 prompt 的一小段索引。dreaming 不单独占一层,它是在层与层之间往返的离线过程。

层级内容形态写入者主要风险dreaming 在这里做什么
注入上下文会话开始时加载的索引,容量受限dreaming 从下层提炼错误内容会被带进每一次会话把细节下沉、只留链接与入口
记忆表示wiki、主题页、链接结构dreaming 组织,agent 可编辑维护成本高,可能膨胀成无抽象的目录合并重复、补断链、重建结构
记忆笔记Markdown 或 JSON 小文件agent 在任务中写未验证的猜测被当成结论对照 transcript 核实、标注确认状态
transcripts可搜索的动作与工具调用日志运行时自动记录体量大、噪声多,直接塞进上下文会挤占预算作为核对的基准事实来源

这不是一个「知识库」结构,而是一个「索引加下沉」结构。原文给了一个具体容量:Claude Code 的 auto memory 只加载 MEMORY.md 的前 200 行或 25 KB,作为索引使用,而不是把全部记忆塞进每个上下文窗口。理由有三条:注入的记忆占用宝贵 token;错误笔记会被带进每一次会话;过长的指令文件会降低遵从度。三条理由指向同一个结论——顶层的价值在于「指向」,不在于「装载」。

把这句话换算一下会更清楚。25 KB 按 UTF-8 中文约 3 字节一字计,大致相当于八千多个汉字;如果一条记忆笔记平均 200 字,这个预算只够放四十条左右。而宝可梦实验里那个失败的记忆文件夹有 97.9 万字符。也就是说,顶层能承载的不到下层体量的百分之一。四层设计的意义就在于承认这个比例:绝大部分记忆不该出现在 prompt 里,只该在需要时被检索到。

📌 读法要点

四层栈的工程含义是「索引加下沉」:下层只追加、允许冗余;中层靠离线整合合并与修链;上层严格限容,只放索引与入口。判断一套记忆系统是否健康,看注入层有多少条内容能指回产生它的原始记录,而不是看它一共存了多少。

CL-Bench:同一个记忆目录,六种模型走出六条曲线

CL-Bench 1.0 的数据库任务设定很干净:Claude 通过查数据库回答一系列问题,答完后被告知正确答案,可以写一条记忆帮助后续问题;每道题都在全新会话中开始,只有一处例外:它可以从一个跨会话持久化的记忆目录里取文件。实验跑在 Claude Managed Agents 上。这个设定把「记忆」压成了一个文件夹,从而把变量收敛到「模型往文件夹里写什么、之后怎么用」。

模型无记忆基线带记忆差值相对增益
Opus 5.50.6550.838+0.183约 +27.9%
Sonnet 5.50.6440.833+0.189约 +29.3%
Opus 50.5640.828+0.264约 +46.8%
Opus 4.70.3830.700+0.317约 +82.8%
Sonnet 50.3060.610+0.304约 +99.3%
Sonnet 4.60.3300.364+0.034约 +10.3%

这张表容易被读成「越新的模型记忆越好」,这只对了一半。带记忆后的分数确实随模型代际上升,从 0.364 一路到 0.838;但相对增益是另一条曲线,中间三档(Sonnet 5、Opus 4.7、Opus 5)的相对提升接近或超过 47%,而基线偏低一档的 Sonnet 4.6 只提升了 10.3%。原文对这个现象给了行为层面的解释:Sonnet 4.6 只做到「提出为什么答错的猜想」,记忆目录里散落着未经验证的猜测文件;Opus 4.7 把笔记整合成单一参考文档并标注已核实与未确认;Sonnet 5 在判分器确认后才标记为已确认,答错时写纠正;Opus 5 率先闭上环,多数条目包含规则、规则何以成立的依据、既往答案与陷阱警告。

所以记忆目录本身不产生增益,产生增益的是「失败、反思、验证、写成规则」这个环。一个只会写猜测的模型,拿到同样的目录,只是把噪声从上下文搬进了文件系统。这条结论对工程选型的含义是:先确认模型能不能自己闭环,再决定要不要给它持久化记忆;顺序反了,投入会变成维护成本。

规则干预的反向结果:告诉强模型记什么,分数会掉

同一套任务上,Anthropic 还测了「人为加规则」的效果。规则是「只记录失败」。直觉上这能减少噪声、提高信噪比,但实测是负收益,而且模型越强掉得越多。

模型加「只记录失败」规则后的变化读法
Opus 5−0.234强模型自己有筛选策略,外部规则覆盖了它的判断
Opus 4.7−0.150同上,幅度较小
Sonnet 4.6−0.020几乎无感,因为它本来也没形成策略

反向的例子同样有说服力。对 Sonnet 4.6 细化提示——先读记忆再作答,并显式验证猜想——它的分数从 0.330 升到 0.364,再升到 0.641,接近翻倍。原文另给了一个行为读数:Sonnet 5 在未被提示的情况下,十次里有九次会先读记忆;Sonnet 4.6 不到一半。

这两组结果放在一起,指向一个不太好接受的设计原则:记忆策略应当随模型能力分档,而不是写进一套通用 SOP。对强模型,规定「记什么」会挤掉它自己的显著性判断;对弱模型,不规定「怎么用」它就想不到先读。工程上可行的做法是把提示拆成两段:一段是流程性动作(先读记忆、再作答、验证后标记),给弱模型兜底;一段是内容裁量(记什么、记多细),留给模型。前者可以写成硬约束,后者写成硬约束就会掉分。

宝可梦:413 个文件换 1 枚徽章,9 个文件换 4 枚

宝可梦红实验的设定是:开局给每个模型一个可读写的记忆文件夹,跑约 10,000 步,然后看文件夹长成什么样、游戏推进到哪。这不是一个严谨的对照实验——每个模型只跑了一条轨迹,原文自己也这么标注——但它把「记忆维护开销」这个平时很难量化的东西拍成了具体数字。

指标Sonnet 3.7Fable 5比值
记忆文件数4139 加 1 个 global.md(合计 10)约 41.3 倍
文件夹数2252约 112.5 倍
记忆字符数977,93043,406约 22.5 倍
获得徽章140.25 倍
每枚徽章对应记忆字符约 977,930约 10,852约 90.1 倍

原文给了一个开销的具体切片:Sonnet 3.7 在第 10,000 步左右开始建第四个 master 文件夹,接下来 17 步里新建 6 个文件、删除 9 个,而在游戏里没有执行任何动作。17 步只占一万步的 0.17%,但在这个窗口里,用于推进的动作占比是零。这就是「记忆税」的形态:不是存储费用,是注意力和动作预算被维护工作吃掉。

Fable 5 的组织方式被原文写得很细:一个 global.md 当仪表盘,记当前目标、道馆计划与自己的记忆使用规则;locations 目录存路线导航;gameplay 目录存策略。里面有一条规则是从连续七次抓鲤鱼王失败后总结出来的——若连续三次以上投球失败,就改变节奏,在菜单步骤之间插入额外等待。这条规则的特点是:它记录的是可复用的策略,不是当场的屏幕状态。原文的对照说法是,反例模型会把每回合都能直接观察到的金币余额也记下来。

这里可以提炼出一条判据:一条记忆值不值得写,看它在下次会话里是否还需要重新观测。可以直接观测的状态(金币、坐标、当前血量)不该写;需要跨回合累积才能得出的规律(抓宠节奏、路线依赖、道馆顺序)才该写。这条判据不需要模型能力很强就能执行,适合写进团队的记忆规范。

月见山的三次折返:dreaming 作为校对回路

同一个实验里,Anthropic 抓到了一个更麻烦的失效模式:记忆不是空的,是错的。Claude 在月见山把宝可梦中心的位置记成了山洞东侧,随后写下「Mt Moon DONE」,据此判断洞穴已清,踏过单向台阶,掉回原路,如此重复三次。第三次失败后它写道「我打算停下,不再循环」。

纠正的办法不是让它更努力,而是让它在离线时对照原始记录。dreaming 把这条空间笔记与 transcript 里的实际移动记录比对,发现事实矛盾,改写文件指向洞口,随后 agent 在第 1,935 个动作到达华蓝市。对照组的结果是:保留原始错误记忆的运行退回尼比市,没有记忆的运行同样没到华蓝市。该测试累计 3,000 个动作。

观察项读数含义
错误记忆的形态一条方向写反的空间笔记笔记本身像事实,不带不确定性标注
错误传播方式由笔记推出「洞穴已清」,再据此前进一步错误不是答错一题,是改变后续计划
纠错依据transcript 中的实际移动记录下层日志是可核对的事实源
纠错后结果第 1,935 个动作到达华蓝市同期对照组均未到达
测试总步数3,000 个动作单次运行,非多次重复

这条案例的真正价值,是它说明了为什么四层里必须有一层「不可改写的日志」。记忆笔记是可编辑的,可编辑就意味着可腐化;如果所有层都能被 agent 自由改写,一旦写错就没有仲裁者。把 transcript 定为只追加的事实层、把笔记定为可修正的解释层,是这套设计里最像工程而不是像比喻的部分。

工程上可以照搬的轻量实现是:任何一条被下游计划引用的记忆,都要能指回产生它的那次工具调用或观察记录;无法指回的条目,降级为「未验证」。这条规则不依赖模型能力,靠 schema 就能约束。

128 个会话的 wiki:13% 到 48%,以及 61% 与 53% 的分母

第三个实验换了对象:不是一个小文件夹,而是一套企业语料。Anthropic 用约 35 万份文件、约 4.2 亿 token 的语料,配 25 道评测题,让 agent 在 128 个顺序会话里逐步建一个 wiki,会话之间用共享日志协调;dreaming 的规模从 2 个会话扩到 128 个会话。指标是「达成的评分标准占比」。

配置读数与相邻配置的差
wiki 单独,2 个会话13%起点
wiki 单独,128 个会话48%加 35 个百分点
搜索工具单独(无 wiki)53%比 128 会话的 wiki 高 5 个百分点
wiki 加搜索,2 个会话54%比搜索单独高 1 个百分点
wiki 加搜索,128 个会话61%比搜索单独高 8 个百分点

这张表读错的方式有两种。一种是只看到 13% 到 48%,得出「wiki 有用」;另一种是只看到 53% 与 61%,得出「wiki 只值 8 个点」。两种读法都丢掉了分母:这 25 道题的评分标准总数没有公开,13% 与 48% 是占比而不是题数,换算成题数会落在个位数区间,置信区间很宽。原文另给了一个规模读数:2 个会话后的示例 wiki 是 103 页、766 条链接;128 个会话后是 222 页、12,893 条链接。页数涨了约 2.2 倍,链接涨了约 16.8 倍,说明后期增长主要发生在「连接」而不是「新增页面」。

同组实验还给了两个反例。一个是效率:wiki 加搜索每题约省 20,000 token。另一个是边界:当评分标准可以从单份文档直接检索到时,wiki 没有明确增益。原文举了一个 57 项标准的任务,多数事实可从一份交易概览备忘录的文本里查到,此时 wiki 帮不上忙。这划出了适用面——表示层解决的是跨文档、需要判断或算术的问题,不解决单文档查找。

还有一个更尖锐的反例,原文用博尔赫斯的故事命名:某个任务的 wiki 膨胀到 68 页、255 条链接、203 KB,而它依据的原始语料是 10 份文档、115 KB,前者是后者的约 1.77 倍。原文的说法是「抽象了什么也没抽象」。这提醒一件事:记忆表示的体积不该超过它压缩的原料,否则它只是把原文换了个写法,还多付了一次生成成本。

57 条条款的并发写入:从 41 条到 57 条

第四个实验的失败方式很工程:不是模型不会写,而是多个 Agent 同时写同一张共享表。在合同条款任务里,初版让多个 agent 并发写 provisions.md,互相覆盖,结果 57 项待评事实只剩 41 项被保留,约 72%。

版本写入方式保留的已评分事实占比
初版多 agent 并发写同一张共享表41 / 57约 71.9%
改进版每份合同一页、单 agent 撰写、逐字引用条款57 / 57100%
改进的触发方式Claude 反思失败、提议修改指令、重建 wiki不适用不适用

改进的手法不复杂:按文档分片,一个写手负责一页,引用条款时逐字抄而不是转述。三条各自对应一类损失——分片消除覆盖,单写手消除竞争,逐字引用消除转述漂移。这三条在任何多 Agent 共享记忆的系统里都适用,且不需要模型配合。

原文还给了一次「第二轮 dreaming 补漏」的样本,可以看清校对回路在做什么:修改前是 38 个条目、225 条链接,其中 9 条链接指向一个不存在的 escrow-agreement;修改后是 41 个条目、278 条链接,那 9 条链接改指 buyer-form-escrow-agreement,另外新增 3 页(索引、指示邮件、升级路径)。断链率从 4.0% 降到 0,条目数增加 3,链接数增加 53。这类工作是典型的机械校对,适合交给离线批处理,而不是让主 agent 在任务中途处理。

200 行注入上限:记忆系统应当像索引,不像仓库

把四个实验并起来看,四层栈的工程含义就出来了:真正稀缺的资源是注入层,而注入层的容量被三条约束同时压着——token 预算、错误传播面、指令遵从度。200 行或 25 KB 的上限不是为了省钱,是为了让每一条被加载的内容都值得被加载。

这带来一个与直觉相反的推论:记忆系统的成败更多取决于「淘汰」而不是「积累」。如果一层只增不减,注入层迟早要靠摘要压缩,而摘要会丢掉可核对性;可核对性一丢,月见山那种错误就没有仲裁者。所以合理的结构是:下层只追加、允许冗余;中层靠 dreaming 合并与断链修复;上层严格限容,只放索引与入口。

原文列出的开放问题也集中在这条链上:写笔记的时机两难——实时写会分心,离线写可能来不及用;时效性难保证——记忆可能一开始就写错,也会随环境漂移而过时,而全量复核不现实,只能聚焦易变信息或按访问频率调 dreaming 节奏;表示需要持续维护,否则会累积错误;显著性判断有固有上限,没有模型能预知下一轮会发生什么。

这些不是待修的小问题,而是这套设计的成本项。dreaming 用的是推理算力,128 个会话的 wiki 背后是 4.2 亿 token 的语料与多轮离线整合;对一个每天只有几百次调用的团队,这套结构的固定成本可能高于收益。判断是否值得上,先算三个数:跨会话复用率、错误记忆的影响面、离线算力预算。三个里有两个说不清,就先只做 transcript 加轻量笔记。

九组折算、四项未披露与可证伪边界

下面九组折算都由公开读数直接算出,目的是把不同实验放到同一把尺子上;每一条都标了分母,避免跨实验相减。

折算算式结果能说明什么
每枚徽章的记忆字符977,930 ÷ 1 与 43,406 ÷ 4约 97.8 万 与 约 1.09 万差约 90 倍,记忆量不构成优势
记忆文件数比413 ÷ 10约 41.3文件夹数量级差一个数量级以上
维护窗口的动作占比17 步中 0 次游戏动作0%该窗口的推进预算被维护吃满
wiki 页数与链接增速222 ÷ 103 与 12,893 ÷ 766约 2.2 倍 与 约 16.8 倍后期增长在连接而非页面
wiki 相对搜索的增量61% − 53%8 个百分点25 道题下约合 2 道题
并购题差值87% − 73%14 个百分点24 道题下约合 3 道题
条款保留率41 ÷ 57约 71.9%并发写入损失约 28% 的已评分事实
wiki 膨胀比203 KB ÷ 115 KB约 1.77 倍表示体积超过原料即为负抽象
顶层预算占比25 KB 对 97.9 万字符的记忆文件夹不足 1%注入层只能放索引

紧接着是边界。其一,dreaming 的调度频率、单次算力成本、失败率均未披露,因此无法算出「每提升一个百分点需要多少离线算力」。第二,宝可梦实验每个模型只有一条轨迹,且原文自述这是观察性探索,不能当作统计显著的对照。其三,Stainless 语料的 25 道题没有公开评分标准总数,13% 与 48% 的题数换算不可得。其四,四层各自的存储上限、检索实现、跨用户隔离方式都没有说明。第五,CL-Bench 用的是平均奖励而非通过率,与常见的 pass@1 榜单不可直接比较。

还有一处必须点明的口径差:媒体转述里出现的「约 5 倍测试时算力下降」,来自 2025 年 4 月 17 日的睡眠时计算论文(arXiv:2504.13171),不是这次工程博客的读数。Anthropic 原文只引用了这篇论文的概念,没有引用它的数字。把两者混在同一段里,会让读者以为 dreaming 自带五倍效率,这是当前转述里最常见的错位。

可证伪的检验有三条,都能在团队内部小成本跑。其一,若「记忆增益来自闭环而非容量」,那么给一个只会写猜测的模型更大的记忆目录,分数应当不升或下降;其二,若「注入层是瓶颈」,那么在注入内容不变的前提下扩容下层存储,端到端表现应当基本不变;其三,若「并发写入是主要损失源」,那么把共享表改成按文档分片单写手,保留率应当显著回升。三条里任何一条被证伪,这套四层读法就需要修正。

关于这套栈何时进入产品、以何种计费方式提供,目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。

核心发现

参考来源

  1. Anthropic 工程博客 — The components of agent memory(2026-11-06,作者 Lance Martin,含四层定义、CL-Bench 读数、宝可梦观察、Stainless 与合同条款实验、caveats 段落)
  2. IT之家 — Anthropic 研究称 Claude 智能体可以靠做梦变得更聪明(2026-11-07,含四层划分、CL-Bench 分数与 413 个文件对 10 个文件的转述)
  3. ExplainX — Anthropic on Agent Memory: What Dreaming Does and the Numbers Behind It(含 CL-Bench 图表数值、13% 至 48%、54% 至 61%、24 题并购对照与 caveats 表)
  4. The Agent Times — Anthropic Details Dreaming Process for Claude Agent Memory(2026-11-06 社交账号发布记录,并核对睡眠时计算论文 arXiv:2504.13171 的归属)
  5. arXiv:2504.13171 — Sleep-time Compute: Beyond Inference Scaling at Test-time(Lin、Snell、Wang、Packer、Wooders、Stoica、Gonzalez,2025-04-17,睡眠时计算概念来源)
  6. AICrier — Anthropic Details Claude Dreaming Memory(含 search 加 wiki 由 54% 到 61%、并购题 87% 对 73%、wiki 膨胀反例的复述)
  7. 本站 R-TECH-60 — 四层上下文工程解构:把长任务拆成文件、预算与复核智能体(同为分层上下文,本文聚焦跨会话记忆与离线校对,二者层级不同)