一句话:注意力是一次性缓存,Spotlight 想把它换成一块能反复写的长期记忆

Percepta 提出的 Spotlight 架构,想动的是 Transformer 最底层的假设:注意力机制每次处理输入,都要从头把全部上下文重新读一遍、重新算一遍相关性。Spotlight 的思路是,把知识放到模型外部一块可写的长期记忆里,由模型自己决定怎么索引、怎么读写,从而把「智能」(推理与行动能力)和「知识」(事实与状态)解耦。这样一来,模型能力可以在不改动权重的前提下,随着记忆里的知识增长而增长。这是一个偏底层的架构尝试,未必马上落地,但提出了一个值得跟踪的方向。

注意力机制 与 Spotlight 可写记忆 注意力机制每次从头重读知识锁在权重里长上下文成本高能力随权重固定 Spotlight记忆外置可写模型自行索引知识可增量增长能力权重解耦
图 1|注意力每次都重读上下文,Spotlight 把知识外置成可写记忆,模型只负责索引。

出发点:注意力的天花板,是它每次都从头读一遍

注意力机制功绩很大,但有个结构性代价:它把「知识」和「计算」绑死在一起。模型知道什么,取决于训练时写进权重的参数;要用新知识,要么重新训练,要么把整段上下文塞进窗口,让模型每次都重新算相关性。上下文越长,计算和显存开销越高,而且模型对「很早之前说过的话」的把握会随距离变弱。对需要长期记忆、跨会话连贯的智能体,这恰好是痛点——它天生健忘,因为每次都从一张白纸开始。

Spotlight 怎么做:记忆外置,模型自己当索引

Spotlight 的核心是把记忆从权重里请出来,放到一块模型可以读写的外部存储。模型不再被动接受一段固定上下文,而是主动决定:把什么写进记忆、什么时候读回来、怎么根据当前任务检索相关片段。索引由模型自己维护,意味着「该记什么、怎么找」也是模型能力的一部分,而不是预先写死的检索规则。这相当于把「笔记」从脑子里的固化印象,变成一本可以随时翻写的外置笔记本。

知识与能力解耦:能力不变,知识可长 推理能力权重固定 可写记忆持续积累 行为表现随知识涨 传统做法:知识增长要重训权重;Spotlight:知识写入记忆即可 增量认知:能力不必随知识膨胀而重估
图 2|能力留在权重、知识放进记忆,模型表现随记忆积累而提升,无需重训。

增量认知:能力与知识解耦,权重不再是全部

这套架构有意思的地方,是它把「我有多聪明」和「我知道多少」拆成两件可以分别演进的事。今天主流做法是:要让模型懂新东西,要么微调权重,要么把知识塞进上下文。Spotlight 指向第三条路——知识在外面长,能力在权重里稳。对长期运行的智能体,这意味着它可以在不重新训练的前提下,持续积累任务状态、用户偏好与历史结论,而推理能力本身不被频繁改动干扰。这恰好对上了智能体最缺的「长期记忆与跨会话连贯」。

类比与限定:不是数据库挂模型,而是记忆成为一等公民

需要澄清,外置记忆不是简单给模型接个向量数据库。区别在于索引权:普通 RAG 的检索规则多由人预先设计,模型被动接收召回结果;Spotlight 里模型自己决定写什么、怎么找,记忆是它主动维护的状态,而不是被动查询的外部表。当然,这仍是一个研究方向的表述,离工业级稳定还有距离。关于参数规模、训练方式、与现有后训练流程的兼容,官方及行业暂未披露更多细节。

还没回答的问题:一致性、成本与评测

把记忆外置也带来新麻烦。其一,记忆会出错、会过时、会前后矛盾,模型如何保证读到的是一致的事实,而不是某个被覆盖过的旧版本,是开放问题。其二,可写记忆的读写本身有计算与存储成本,长程任务下这笔账未必比长上下文更省。其三,这类架构的评测还没标准,怎么证明「解耦」真的带来更稳的长期表现,需要可比基准。这些问题不解决,它就还停留在有潜力的设想阶段。

结语

Spotlight 不一定会成为下一个主流架构,但它戳中了一个真实痛点:当智能体要长期在岗,把知识焊死在权重里越来越不够用。把记忆变成可写、可索引、与能力解耦的一等公民,是一条值得跟的线。至于它能不能从论文走进生产,要看一致性与成本这两关怎么过。