为什么是桌游
10 月 26 日提交的 arXiv 论文 2610.35773 给智能体评测换了个场地:十种欧洲桌游,统一接口、统一评测协议,合起来叫 DECE(多样欧洲桌游竞技环境)。九位作者,主研究跑了 480 场三人对局,加上补充研究一共 1032 场。
选桌游的理由写在摘要里,三条:决策带有长期承诺、要争抢共享资源、通向胜利的路不止一条。这三条恰好是多智能体系统在生产环境里最常遇到的约束——不是单步问答对不对,而是一步棋下下去,十几轮之后还在不在起作用。
评测对象也不是裸模型,而是 12 组「模型加执行外壳」的完整配置,覆盖九款模型和四套外壳。这个设计选择本身就是论文的一个立场:既然实际部署的是完整配置,那就该评完整配置。
三条结论,一条比一条不好听
头一条还算温和:跨游戏的排名大体一致,但确实存在游戏专属强项。也就是说,一个配置在某种桌游上特别强,换一种可能就平了,但整体的高低顺序不会整个翻过来。这对选型者是好消息——公开榜单的可迁移性比想象中高一点。
第二条开始扎人:同一款模型,换个执行外壳,表现就会变。论文用配对研究确认了这一点,把它列为配置画像之外的又一个波动来源。这和本站此前记过的 harness 实验条件论是同一件事的两次观测:外壳不是透明管道,它是实验条件的一部分。只报模型名字的对比,等于少报了一个变量。
第三条最不受欢迎:性能优势并不总能换成更好的词元或成本效率。赢面更大的配置,开销未必更省。论文因此主张把「竞争性表现」和「达成它所需的资源」分开报。这一条对正在按调用量计费的场景直接相关——本站此前记录过的按层收费、按效果定价等商业模式,都建立在这个分离是否成立之上。
能撑住什么,撑不住什么
要提醒的是论文公开摘要只给了定性结论:跨游戏排名大体一致、外壳是变量、性能不必然换成本效率。逐款模型的排名、每场的词元与开销细目、以及具体哪几款模型参与了评测,摘要里没有列。想拿它当选型依据,得回去看正文与附录。
另外,桌游再怎么强调长期承诺,它仍然是规则封闭、状态完全可见的环境。真实业务里的部分可观测、外部系统随时变更、以及人类中途插话,这三样在桌游里都不存在。所以这份证据能支撑的是「外壳与成本应当被计入评测」,而不是「在桌游上赢就等于在业务上赢」。
对做选型的人来说,可操作的部分其实很朴素:比胜率的时候同时比开销,换外壳的时候重新跑一遍基线。这两件事听起来都像常识,但在多数团队的评测脚本里,它们恰恰是最常被省掉的两环。
还有一层容易被忽略的账:桌游的胜负是二元的,而真实业务里的交付往往有中间状态——完成了八成、需要人补一刀、或者方向错了但过程可复用。论文把「达成它所需的资源」作为并列维度已经进了一步,但资源之外还有「没做成时损失多少」这一维,目前这类竞技场还没有纳入。
所以更合理的用法是把 DECE 当成一把尺子,而不是一张榜单:它证明的是「同一配置在多个竞争性环境里的表现与开销应当一起被记录」,至于具体该选哪款模型,还得回到自己的任务分布上去测。