10 月 9 日提交 arXiv 的 SOAR(编号 2610.13157,浙江大学与微软等机构的研究团队)处理的是搜索智能体一个不太体面的习惯:该去查资料的时候,它选择凭内部知识编一个。论文把这类失败命名为「证据编造」——智能体绕过外部信息,直接生成一个看似合理、实际错误的答案。
常见反应是「这是模型的病,得治」。这篇论文换了个角度:编造之所以在强化学习里被反复强化,是因为推理轨迹不透明——你无法从轨迹里看出一句话是「查到的」还是「想到的」,于是信用分配无从做对。「不查也能答对」的路径拿到的奖励,和「查了才答对」没有区别,捷径自然被反复走。
把来源摆到明面上
SOAR 的全称是 SOurce-Aware Reinforcement learning,核心改动是两样东西。源感知工作流把原本混在一起的推理过程拆成两条并行、可观测的流:外部证据流(检索到的内容)与内部知识流(模型自己「记得」的)。哪句话建立在哪条流上,在轨迹里写得明明白白。源一致性奖励则让奖励信号能区分「靠查」与「靠想」,策略演化时不再做和稀泥的信用分配。
这个设计的巧妙之处在于它治的是「训练时的激励」,不是「推理时的过滤器」。过去对付幻觉,主流思路是在推理侧加约束——强制引用、事后核验、拒绝无依据作答。SOAR 认为不透明才是病根:来源看不见,奖惩就分不清;奖惩分不清,近路就永远有市场。
三组数字,三种读法
论文给出的结果有三组:在 3B 与 7B 两个骨干上,性能相对基线分别提升 7.3% 与 5.4%;同一组实验里,证据编造率下降 74.8%。性能与纪律同时改善,是这篇论文的主要卖点——通常这两件事是拉扯的,压编造往往连带压性能。
但每个数字都有适用范围。7.3% 与 5.4% 是特定基准集上的平均提升,骨干规模只有两档;74.8% 是「相对下降幅度」,不是「绝对风险值」,下降后剩余约四分之一的编造率仍是不可忽视的存量。论文也没有展开额外流与奖励带来的训练成本——两条流的维护、奖励的标注,都是要算钱的。
为什么搜索智能体是块硬骨头
知识密集型任务有个尴尬结构:模型内部知识足够「差不多答对」简单题,外部检索只在难题上才显出价值。训练时如果简单题占多数,「不查」策略就能拿到大部分奖励,检索纪律根本建立不起来。SOAR 的奖励设计等于给「查」这件事单独记功,哪怕这次查来的东西和内部知识结论一致。
这个思路的可迁移性比论文本身更值得注意。任何「有外部工具可用、但模型有动机偷懒」的场景——代码执行、计算器、数据库查询——都存在同构问题。把工具调用从「成本」变成「有奖励的动作」,可能比在推理侧堆护栏更根本。
落地前要过的关
对想复现的团队,几个现实问题躲不开:源感知工作流需要改造轨迹记录格式,已有 RL 基建未必兼容;奖励里「来源是否一致」的判定本身可能出错,判错的奖励比没有奖励更糟;两个骨干规模都偏小,前沿尺寸上是否成立仍是开放问题。
目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。但对「幻觉治理」这个老大难话题,这篇论文至少提供了一个少见的视角:与其在出口设卡,不如在入口记账。