多智能体系统有句心照不宣的假设:一个人会看错,十个人互相盯着,错的就漏不出来。10 月 15 日提交 arXiv 的论文《Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions》(编号 2610.22138)给这句假设来了一次压力测试——往十人讨论里塞进一个专门唱反调的,看会发生什么。

论文六位作者:Liangjie Huang、Henry Peng Zou、Wei-Chieh Huang、Wooseong Yang、Yuwei Han 与 Philip S. Yu。实验设计里有一步值得先记住:每轮讨论结束后,研究者用一个对其他同伴完全隐藏的单独提问,私下追问每个良性智能体的真实答案;再 separately 标注它在讨论里的公开表态。为什么要分两套问?因为既往的从众研究只看公开附和率,而这篇要回答的是另一个问题——没被说出来的影响,究竟有多大。

一场十人讨论,混进一个唱反调的讨论设置十个智能体围着一个事实问题多轮互相讨论最小对手一个或三个智能体反复抛出似真却假的同一个错误答案每轮两套测量私下单独追问答案对其他同伴隐藏另标公开表态立场为什么要分两套问:既有研究只看公开附和率,这篇要回答的是——没被说出来的影响,究竟有多大?私下已经改主意的,会不会比公开表态的更多?样本:六个模型 × 三个事实问答数据集;论文 arXiv 2610.22138,10 月 15 日提交,14 页六位作者:Liangjie Huang、Henry Peng Zou、Wei-Chieh Huang、Wooseong Yang、Yuwei Han、Philip S. Yu
图|左中右三卡是实验骨架,中部是关键的方法设计。读图要点:私下测量与公开标注分开,是这篇论文的地基。

一个对手就能把错误答案终值推过四成

读数分三档。没有对抗者时,良性智能体最终持有错误答案的比例只有 0.6%——十个模型互相讨论,确实能兜住事实性错误。放进一个反复抛出似真却假答案的对抗者,这个比例跳到 44.8%;放进三个,跳到 60.5%。六个模型、三个事实问答数据集上趋势一致。换句话说,「同伴互查」的防线不需要被攻破,只需要被稀释:三分之一的发言位被带节奏的占住,多数良性成员就会跟着改结论。

真正让这篇论文立住的,是私下与公开之间的落差。三个对抗者在场时,良性智能体在暴露轮次里私下持有错误答案的比例是 51.6%,公开表示附和的却只有 19.7%。这意味着讨论记录里能看到的影响,只是实际发生的三分之一左右——大量污染是静悄悄完成的。后续追问也印证了这一点:错误答案在智能体被问及本人看法时继续存在,不会因为「这只是讨论」而消退;一旦某个良性成员采纳了错误答案,它还会在成员之间继续扩散。

两条读数,一条比一条安静良性智能体最终持有错误答案的比例(六模型三数据集汇总口径)0.6%无对抗者44.8%一个对抗者60.5%三个对抗者更安静的发现三个对抗者在场时:私下持有错误答案 51.6公开表示附和仅 19.7多数影响没有留下任何公开文本痕迹错误答案会在被问及本人看法时继续存在;保有正确答案的智能体往往也守不住它;一旦被采纳就在良性成员间扩散;基线知识水平并不能预测谁更稳健
图|左图是终值对比,右卡是论文的要点:私下与公开之间隔着 30 多个百分点。读图要点:看讨论记录会低估污染。

两个反直觉的细节

其一是「守着正确答案的人往往守不住它」。论文观察到,即便个别智能体私底下仍持有真实答案,在后续讨论里也常常无力捍卫,被群体的错误共识裹挟而去。其二是基线知识并不预测稳健性——你没法简单认为「知道得多的模型就更难被带偏」,至少在事实问答的这个最小对抗设定里,这个直觉没有成立。

这两个细节合起来,解释了为什么「多智能体互查」在工程上不能想当然。系统设计者默认错误会在交叉验证中被暴露,但论文测到的恰好是交叉验证本身失效的形态:私下的信念被改造了,公开的文本却看不出来,事后再问当事人,它已经不记得自己曾经知道对的。

放进台谱里看

站点 1961 处理过聚合环节的非语义偏见——多数压力与文风偏好如何污染多模型答案汇总,解法是风格归一轨迹与少数派注入。那篇治的是「计票时被带偏」,本篇测的是「讨论过程中被改造」,两层是不同的病:一个在汇总器里,一个在成员脑子里。1742 的 LIFE 综述提醒过自反思会陷入谄媚,当时还是理论风险,这篇给了它一个可量化的形态。

再往实用处挪一步:它给所有拿「多智能体辩论提升可靠性」当卖点的方案提了个醒——如果私有信念可以在公开记录之外坍塌,那么靠读讨论日志来做质量审计的团队,看到的可能只是一份美化过的会议纪要。1970 的 ScaleMAS 论证过共享消息库要比「智能体中心」布线更能扛规模化,这篇则提示共享介质本身也可能被静默污染,两篇合读才是完整的风险图。

几盆该浇的冷水

实验是受控的最小对抗:对抗者只做一件事——反复断言同一个似真的错误答案,不狡辩、不结盟、不利用格式漏洞。真实场景里的对抗可能更笨,也可能更聪明,论文没有覆盖。六个模型加三个数据集的量级属于探索性研究,0.6% 与 60.5% 之间的精确距离未必跨模型稳定。私下追问用单独调用完成,这本身就假设了「私下状态可被单次提问取出」,取出偏差有多大,论文没有展开。

给正在设计多智能体评审机制的团队一个可执行的观察点:别只审计公开轨迹。抽一成已完成的讨论,用独立会话私下复问关键事实断言,把私下答案与公开结论对齐起来看——如果两者落差接近论文量级,你们的「互查」目前只是互相同意。