为什么是桌游

10 月 26 日提交的 arXiv 论文 2610.35773 给智能体评测换了个场地:十种欧洲桌游,统一接口、统一评测协议,合起来叫 DECE(多样欧洲桌游竞技环境)。九位作者,主研究跑了 480 场三人对局,加上补充研究一共 1032 场。

选桌游的理由写在摘要里,三条:决策带有长期承诺、要争抢共享资源、通向胜利的路不止一条。这三条恰好是多智能体系统在生产环境里最常遇到的约束——不是单步问答对不对,而是一步棋下下去,十几轮之后还在不在起作用。

评测对象也不是裸模型,而是 12 组「模型加执行外壳」的完整配置,覆盖九款模型和四套外壳。这个设计选择本身就是论文的一个立场:既然实际部署的是完整配置,那就该评完整配置。

十种欧洲桌游,一个统一接口竞技场十种欧洲桌游共享接口与评测协议长期承诺 + 共享资源配置12 组模型与外壳组合九款模型四套执行外壳对局主研究 480 场三人对局含补充共 1032 场看点排名是否跨游戏一致换外壳会不会变赢面换不换得来省钱选桌游的理由:决策有长期后果、要抢共享资源、通向胜利的路不止一条这三条恰好是多智能体系统在生产里最常见的约束条件来源:arXiv 2610.35773,10 月 26 日提交,九位作者论文主张把「完整配置」而不是裸模型作为评测对象
图|DECE 用统一接口把十种欧洲桌游拼成一个竞技场,评测对象不是单个模型,而是模型加执行外壳的完整组合。

三条结论,一条比一条不好听

头一条还算温和:跨游戏的排名大体一致,但确实存在游戏专属强项。也就是说,一个配置在某种桌游上特别强,换一种可能就平了,但整体的高低顺序不会整个翻过来。这对选型者是好消息——公开榜单的可迁移性比想象中高一点。

第二条开始扎人:同一款模型,换个执行外壳,表现就会变。论文用配对研究确认了这一点,把它列为配置画像之外的又一个波动来源。这和本站此前记过的 harness 实验条件论是同一件事的两次观测:外壳不是透明管道,它是实验条件的一部分。只报模型名字的对比,等于少报了一个变量。

第三条最不受欢迎:性能优势并不总能换成更好的词元或成本效率。赢面更大的配置,开销未必更省。论文因此主张把「竞争性表现」和「达成它所需的资源」分开报。这一条对正在按调用量计费的场景直接相关——本站此前记录过的按层收费、按效果定价等商业模式,都建立在这个分离是否成立之上。

赢了,不代表赢得划算跨游戏排名大体一致优势能迁移到别的游戏同时存在游戏专属强项不是全有或全无外壳本身是变量同一款模型换外壳表现会发生变化多出一个波动来源性能不换成本效率赢面更大的配置词元与开销未必更省两者要分开报对选型者的含义:只比胜率的榜单会漏掉两件事一是换一套外壳可能等于换一个选手,二是省不省钱要单独算账论文未给出逐款模型的排名与成本细目,公开摘要止于上述定性结论
图|论文的三条主要结论:跨游戏排名大体一致但存在游戏专属强项、同一模型换个执行外壳表现会变、性能优势不总能换成更好的词元或成本效率。

能撑住什么,撑不住什么

要提醒的是论文公开摘要只给了定性结论:跨游戏排名大体一致、外壳是变量、性能不必然换成本效率。逐款模型的排名、每场的词元与开销细目、以及具体哪几款模型参与了评测,摘要里没有列。想拿它当选型依据,得回去看正文与附录。

另外,桌游再怎么强调长期承诺,它仍然是规则封闭、状态完全可见的环境。真实业务里的部分可观测、外部系统随时变更、以及人类中途插话,这三样在桌游里都不存在。所以这份证据能支撑的是「外壳与成本应当被计入评测」,而不是「在桌游上赢就等于在业务上赢」。

对做选型的人来说,可操作的部分其实很朴素:比胜率的时候同时比开销,换外壳的时候重新跑一遍基线。这两件事听起来都像常识,但在多数团队的评测脚本里,它们恰恰是最常被省掉的两环。

还有一层容易被忽略的账:桌游的胜负是二元的,而真实业务里的交付往往有中间状态——完成了八成、需要人补一刀、或者方向错了但过程可复用。论文把「达成它所需的资源」作为并列维度已经进了一步,但资源之外还有「没做成时损失多少」这一维,目前这类竞技场还没有纳入。

所以更合理的用法是把 DECE 当成一把尺子,而不是一张榜单:它证明的是「同一配置在多个竞争性环境里的表现与开销应当一起被记录」,至于具体该选哪款模型,还得回到自己的任务分布上去测。