多智能体系统有句心照不宣的假设:一个人会看错,十个人互相盯着,错的就漏不出来。10 月 15 日提交 arXiv 的论文《Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions》(编号 2610.22138)给这句假设来了一次压力测试——往十人讨论里塞进一个专门唱反调的,看会发生什么。
论文六位作者:Liangjie Huang、Henry Peng Zou、Wei-Chieh Huang、Wooseong Yang、Yuwei Han 与 Philip S. Yu。实验设计里有一步值得先记住:每轮讨论结束后,研究者用一个对其他同伴完全隐藏的单独提问,私下追问每个良性智能体的真实答案;再 separately 标注它在讨论里的公开表态。为什么要分两套问?因为既往的从众研究只看公开附和率,而这篇要回答的是另一个问题——没被说出来的影响,究竟有多大。
一个对手就能把错误答案终值推过四成
读数分三档。没有对抗者时,良性智能体最终持有错误答案的比例只有 0.6%——十个模型互相讨论,确实能兜住事实性错误。放进一个反复抛出似真却假答案的对抗者,这个比例跳到 44.8%;放进三个,跳到 60.5%。六个模型、三个事实问答数据集上趋势一致。换句话说,「同伴互查」的防线不需要被攻破,只需要被稀释:三分之一的发言位被带节奏的占住,多数良性成员就会跟着改结论。
真正让这篇论文立住的,是私下与公开之间的落差。三个对抗者在场时,良性智能体在暴露轮次里私下持有错误答案的比例是 51.6%,公开表示附和的却只有 19.7%。这意味着讨论记录里能看到的影响,只是实际发生的三分之一左右——大量污染是静悄悄完成的。后续追问也印证了这一点:错误答案在智能体被问及本人看法时继续存在,不会因为「这只是讨论」而消退;一旦某个良性成员采纳了错误答案,它还会在成员之间继续扩散。
两个反直觉的细节
其一是「守着正确答案的人往往守不住它」。论文观察到,即便个别智能体私底下仍持有真实答案,在后续讨论里也常常无力捍卫,被群体的错误共识裹挟而去。其二是基线知识并不预测稳健性——你没法简单认为「知道得多的模型就更难被带偏」,至少在事实问答的这个最小对抗设定里,这个直觉没有成立。
这两个细节合起来,解释了为什么「多智能体互查」在工程上不能想当然。系统设计者默认错误会在交叉验证中被暴露,但论文测到的恰好是交叉验证本身失效的形态:私下的信念被改造了,公开的文本却看不出来,事后再问当事人,它已经不记得自己曾经知道对的。
放进台谱里看
站点 1961 处理过聚合环节的非语义偏见——多数压力与文风偏好如何污染多模型答案汇总,解法是风格归一轨迹与少数派注入。那篇治的是「计票时被带偏」,本篇测的是「讨论过程中被改造」,两层是不同的病:一个在汇总器里,一个在成员脑子里。1742 的 LIFE 综述提醒过自反思会陷入谄媚,当时还是理论风险,这篇给了它一个可量化的形态。
再往实用处挪一步:它给所有拿「多智能体辩论提升可靠性」当卖点的方案提了个醒——如果私有信念可以在公开记录之外坍塌,那么靠读讨论日志来做质量审计的团队,看到的可能只是一份美化过的会议纪要。1970 的 ScaleMAS 论证过共享消息库要比「智能体中心」布线更能扛规模化,这篇则提示共享介质本身也可能被静默污染,两篇合读才是完整的风险图。
几盆该浇的冷水
实验是受控的最小对抗:对抗者只做一件事——反复断言同一个似真的错误答案,不狡辩、不结盟、不利用格式漏洞。真实场景里的对抗可能更笨,也可能更聪明,论文没有覆盖。六个模型加三个数据集的量级属于探索性研究,0.6% 与 60.5% 之间的精确距离未必跨模型稳定。私下追问用单独调用完成,这本身就假设了「私下状态可被单次提问取出」,取出偏差有多大,论文没有展开。
给正在设计多智能体评审机制的团队一个可执行的观察点:别只审计公开轨迹。抽一成已完成的讨论,用独立会话私下复问关键事实断言,把私下答案与公开结论对齐起来看——如果两者落差接近论文量级,你们的「互查」目前只是互相同意。