10 月 9 日提交 arXiv 的 SOAR(编号 2610.13157,浙江大学与微软等机构的研究团队)处理的是搜索智能体一个不太体面的习惯:该去查资料的时候,它选择凭内部知识编一个。论文把这类失败命名为「证据编造」——智能体绕过外部信息,直接生成一个看似合理、实际错误的答案。

常见反应是「这是模型的病,得治」。这篇论文换了个角度:编造之所以在强化学习里被反复强化,是因为推理轨迹不透明——你无法从轨迹里看出一句话是「查到的」还是「想到的」,于是信用分配无从做对。「不查也能答对」的路径拿到的奖励,和「查了才答对」没有区别,捷径自然被反复走。

证据编造的根源:内部知识抄近路,而轨迹是不透明的问题:RL 训练出的搜索智能体,会绕过外部信息直接编答案问题进来该去检索单体推理轨迹用了哪来的知识,看不出来编一个答案内部知识当捷径Eint 抄近路根源:推理轨迹不透明 → 信用分配没法做 → 「不查也能答对」被反复强化SOAR:把知识来源变成轨迹里显式的两条流源感知工作流外部证据流 Eext:检索到的内容,与内部知识流 Eint 并行、可观测哪句话踩在哪条流上,轨迹里写得明明白白源一致性奖励奖励信号区分「靠查」与「靠想」,引导策略演化时不做和稀泥的信用分配近路不再是无成本的优惠论文的主张:编造不是「模型坏」,而是「来源不可见」放大了捷径收益把来源摆到明面上,精确信用分配才成为可能一个值得注意的定位:它治的是「训练时的激励」,不是「推理时的过滤器」已上线的系统想直接用,还得等第三方在更多骨干与任务上复现
图|单体推理与源感知工作流的结构对照。SOAR 改的是训练激励,不是推理拦截。

把来源摆到明面上

SOAR 的全称是 SOurce-Aware Reinforcement learning,核心改动是两样东西。源感知工作流把原本混在一起的推理过程拆成两条并行、可观测的流:外部证据流(检索到的内容)与内部知识流(模型自己「记得」的)。哪句话建立在哪条流上,在轨迹里写得明明白白。源一致性奖励则让奖励信号能区分「靠查」与「靠想」,策略演化时不再做和稀泥的信用分配。

这个设计的巧妙之处在于它治的是「训练时的激励」,不是「推理时的过滤器」。过去对付幻觉,主流思路是在推理侧加约束——强制引用、事后核验、拒绝无依据作答。SOAR 认为不透明才是病根:来源看不见,奖惩就分不清;奖惩分不清,近路就永远有市场。

性能提升与编造率下降同时出现,这才是这篇论文的主要卖点骨干模型上的提升3B 骨干+7.3%7B 骨干+5.4%均为相对基线的平均提升(论文口径)证据编造率变化剩余约 25.2%下降 74.8%下降幅度来自论文实验设置,非绝对风险值它改变了什么把「答案对不对」和「怎么得到的」分开奖励, RL 才可能精确归因对知识密集型任务,检索纪律本身就是质量的一部分思路可迁移到其他「有外部工具可用却想偷懒」的场景还没解决的两个规模都不大,更大骨干、更多任务类型上是否成立待验额外流与奖励是否显著推高训练成本,论文未展开编造率降 74.8% 不等于归零
图|三组结果数字与各自的适用范围。提升与编造率下降同时出现是关键。

三组数字,三种读法

论文给出的结果有三组:在 3B 与 7B 两个骨干上,性能相对基线分别提升 7.3% 与 5.4%;同一组实验里,证据编造率下降 74.8%。性能与纪律同时改善,是这篇论文的主要卖点——通常这两件事是拉扯的,压编造往往连带压性能。

但每个数字都有适用范围。7.3% 与 5.4% 是特定基准集上的平均提升,骨干规模只有两档;74.8% 是「相对下降幅度」,不是「绝对风险值」,下降后剩余约四分之一的编造率仍是不可忽视的存量。论文也没有展开额外流与奖励带来的训练成本——两条流的维护、奖励的标注,都是要算钱的。

为什么搜索智能体是块硬骨头

知识密集型任务有个尴尬结构:模型内部知识足够「差不多答对」简单题,外部检索只在难题上才显出价值。训练时如果简单题占多数,「不查」策略就能拿到大部分奖励,检索纪律根本建立不起来。SOAR 的奖励设计等于给「查」这件事单独记功,哪怕这次查来的东西和内部知识结论一致。

这个思路的可迁移性比论文本身更值得注意。任何「有外部工具可用、但模型有动机偷懒」的场景——代码执行、计算器、数据库查询——都存在同构问题。把工具调用从「成本」变成「有奖励的动作」,可能比在推理侧堆护栏更根本。

落地前要过的关

对想复现的团队,几个现实问题躲不开:源感知工作流需要改造轨迹记录格式,已有 RL 基建未必兼容;奖励里「来源是否一致」的判定本身可能出错,判错的奖励比没有奖励更糟;两个骨干规模都偏小,前沿尺寸上是否成立仍是开放问题。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。但对「幻觉治理」这个老大难话题,这篇论文至少提供了一个少见的视角:与其在出口设卡,不如在入口记账。