能力评测 2026-10-23 26 分钟阅读 进阶

RoboColiseum 首轮横评:四款旗舰模型听懂了,却还没学会动手

76.28 与 75.99 只差 0.29 分,但通用操作维度上四款旗舰模型 38.79 至 46.70、策略模型 63.20 至 66.13,差距比综合榜看起来大得多;五类扰动里图像质量是共同弱点,最多一款掉了 77 个百分点;七组消融则告诉我们,机器人做得准不准,取决于脚手架喂回去了什么信息

摘要

2026 年 10 月 20 日,具身智能仿真评测平台 RoboColiseum 发布首轮旗舰模型横评,用统一的 Agent2Act 控制框架把 GPT-6 Astra、GPT-6.1 Sol、Claude Opus 5.5 与 Gemini 4 Argon 接入同一批任务、同一套原始指令、同一把评分尺。综合得分依次为 76.28、75.99、70.91、66.86,冠亚军相差 0.29 分;但把所有模型放进总榜,居前的两位仍是专用策略模型 Paimon(77.54)与 HiDream-O1-Embodied(76.92)。真正有价值的是维度拆解:在指令跟随与空间理解两个维度上,三款大模型超过了表内相应维度得分最高的策略模型;而在通用操作上,四款大模型 38.79 至 46.70,策略模型 63.20 至 66.13。本文除还原四张得分表外,做四项增量工作:交叉两组公开数据反推四款模型的指令跟随基线并验证其自洽、把七组消融中两种「同样从 90% 掉到 80%」的代价形态分开、换算操作维度的相对落后幅度、并指出样本量与方法学上四处必须打折的地方。

评测怎么搭的:一个框架、四个维度、78 个任务

RoboColiseum 于 2026 年 8 月 14 日正式发布,面向全球高校、科研机构、模型企业与研究者长期开放,名字取意于古罗马圆形竞技场。平台目前设有四类能力子榜——指令跟随、空间理解、扰动适应、通用操作,以及 78 个高保真仿真评测任务。自内测上线以来,已有海内外一百多支队伍在平台上开展模型训练与评测。

本轮横评的关键设计是控制变量。四款大模型共用完全相同的 Agent2Act 控制框架与原始任务指令,不额外增加任何任务专属提示。模型根据观测决定行动目标,框架负责动作校验、执行转换与反馈,最终由平台原生评测机制评分。对应测试案例使用相同样本与固定随机种子。这说明比拼的对象不是提示词工程的水平,而是模型本身的具身能力。

评测要素设置
平台发布时间2026 年 8 月 14 日
能力维度指令跟随、空间理解、扰动适应、通用操作共四类子榜
任务规模78 个高保真仿真评测任务
控制框架Agent2Act,四款模型共用,统一观测、动作执行与反馈接口
指令处理采用原始评测指令,不增加任务专属提示
样本控制相同样本、固定随机种子
推理档位Astra、Sol、Opus 用 high;Argon 用 medium
策略模型保留各自训练与执行设置,未采用同一套控制方案
⚠️ 口径提醒:Argon 的分数不能与另外三款直接比较

报告明确说明,Astra、Sol 与 Opus 使用 high 推理档位,而 Argon 使用 medium,原因是在本次 API 通道下 Argon 的 high 设置响应过慢,难以支持大规模批量评测。因此凡涉及 Argon 的比较,都同时反映了推理档位的差异。专业策略模型则保留各自的训练与执行设置。这一条是本文认为最容易被转述漏掉、也最影响结论可用性的说明。

主榜:0.29 分与两个不同的榜

四款旗舰大模型的综合得分差距极小,冠亚军只差 0.29 分。但同一份报告里存在两个榜:四款大模型之间的相对排序,以及把策略模型一并放进去的总榜。后者的前两名并不属于大模型。

排名模型综合得分类型
总榜居首Paimon77.54专业具身策略模型
总榜次席HiDream-O1-Embodied76.92专业具身策略模型
大模型首位Claude Opus 5.576.28通用多模态大模型
大模型次位GPT-6 Astra75.99通用多模态大模型
大模型第三GPT-6.1 Sol70.91通用多模态大模型
大模型第四Gemini 4 Argon66.86通用多模态大模型(medium 档)

还有一个成本维度的读数值得单独记:在技术报告统计的四款模型中,Opus 5.5 全轮评测的 token 总消耗最少。也就是说,拿下最高综合分的这款,同时也是这轮里最省 token 的一款。这在常见的「更强就更贵」叙事里是一个反例。需要说明的是,报告只给出了相对关系与定性说明,未公开四款模型各自的绝对 token 数与成本明细。

维度拆解:理解碾压,操作分野

综合分接近,能力分布却完全不同,这是本轮报告最值钱的部分。

维度四款旗舰大模型报告所列策略模型结论
指令跟随Astra 居首,得分 99.35;Astra、Sol、Opus 均超过表内该维度得分最高的策略模型低于前三款大模型理解层已经形成优势
空间理解Opus 领先;三款大模型同样超过表内相应维度最高的策略模型低于前三款大模型理解层已经形成优势
通用操作38.79 至 46.7063.20 至 66.13操作层策略模型大幅领先
扰动适应Astra 整体居首;Argon 总分高于 Sol报告未列同口径对照分化明显,见下文
📐 本文推算:操作维度的相对落后约三成四,远大于综合榜的 0.29 分给人的印象

取两组区间的中值,四款大模型通用操作约为 42.75 分,策略模型约为 64.67 分,绝对差约 21.9 分,相对落后幅度约 33.9%。这个数字要比综合榜上 0.29 分的差距更能说明问题:在「听懂并看准」上旗舰模型已经过关,在「做准做稳」上还差着大约三分之一的相对距离。需要说明的是,区间中值换算是本文为便于比较所做的简化,两组区间各自的组内分布报告未完整给出。

扰动:图像质量是共同弱点,最多掉 77 个百分点

报告考察了五类扰动:背景与光照、相机位置、图像质量、指令措辞、机器人初始姿态。测试通过随机丢帧、镜头遮挡与额外图像噪声模拟视觉干扰。结论是图像质量变化是四款模型共同的突出弱点。

模型相对自身指令跟随基线的下降图像质量扰动下的得分本文推算的指令跟随基线
Claude Opus 5.5约 20 个百分点76.47约 96.5
GPT-6 Astra约 32 个百分点67.6099.35(报告直接给出)
Gemini 4 Argon约 26 个百分点59.57约 85.6
GPT-6.1 Sol约 77 个百分点18.3695.50(报告直接给出)

Sol 是最极端的例子:正常条件下指令跟随 95.50 分,加上图像质量干扰后掉到约 18 分,相对跌幅约 80.8%。Opus 在同类扰动下仍取得约 76 分。这意味着在摄像头会有噪点、光线会变化的真实环境里,两款模型给出的可用性可能相差数倍,而这个差别在综合榜上只体现为 5 分多。

还有一个细节能说明「只看总分会误判」:Argon 的扰动适应总分高于 Sol,但拆开五项扰动后,它只在图像质量这一项上超过 Sol,其余四项均落后。开发者如果只看总分,就会漏掉模型在具体环境中的弱点。

本文交叉:反推四款模型的指令跟随基线

公开材料里两组数字来自不同渠道:一组是「相对各自指令跟随基线下降多少个百分点」,另一组是「图像质量扰动下的绝对得分」。这两组数字能否互相印证,是本文额外做的一项核查。

模型已知基线基线减下降幅度公开绝对得分是否自洽
GPT-6 Astra99.3599.35 减 32 约 67.3567.60基本吻合
GPT-6.1 Sol95.5095.50 减 77 约 18.5018.36基本吻合
Claude Opus 5.5未直接给出反推约 96.4776.47反推值落在合理区间
Gemini 4 Argon未直接给出反推约 85.5759.57反推值落在合理区间
📐 本文推算:两组公开数据互相印证,反推出的两条基线可暂作参考

两个已知基线的模型都能对上,说明两组数据出自同一套测量,可以放心交叉使用。据此反推,Opus 的指令跟随基线约为 96.5 分、Argon 约为 85.6 分。这两个数字报告未直接给出,属于本文推算,且依赖「下降幅度按百分点计算」这一假设。若后续官方公布分项基线,应以官方数值为准。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。

七组消融:同样是 90% 掉到 80%,代价形态不同

报告围绕 Astra 做了七组「拆零件」实验,覆盖执行反馈、深度信息、历史记录、IK 检查、相机投影自检、夹爪几何与动作表示。其中三组给出了量化结果,而把它们放在一起看,能得出一个比总分更有操作性的结论。

移除的组件成功率变化代价体现在哪里本文解读的故障类型
明确的执行偏差反馈90% 降到 80%平均规划决策次数 16.7 增至 35.6(约 +113%)想不清楚:不知道刚才那一下做到没有,只能靠反复试探
深度输入与查询工具90% 降到 80%平均下发动作步数 118.8 增至 158.2(约 +33%)做不精准:仍能靠 RGB 与相机标定估计位置,但要下发更多动作去凑
历史记录4 个插积木布局从全部完成降到只完成 2 个平均规划决策 27.5 增至 66.5 次;平均运行时间 64.65 分钟增至 131.81 分钟记不住:已经抓起积木,却在放置阶段反复执行相似动作
改为直接输出关节增量10 个任务完成 8 个需要更多执行步数表示方式可行但效率更低
🔧 可操作的监控建议:规划轮次与动作步数分别对应两类故障

前两组消融的成功率变化完全相同,都是 10 个百分点,但代价形态差别很大:一个是规划决策次数翻倍还多,一个是动作步数增加三分之一。本文据此给出一条可落地的监控设计——在具身智能体的可观测性里,把「平均规划轮次」与「平均动作步数」作为两个独立指标分别看。前者飙升通常指向反馈缺失或状态理解错误,后者飙升通常指向感知精度不足。把它们混成一个「效率低」的结论,会漏掉真正的根因。需要提醒的是,三组消融的任务样本量都很小(10 个任务、4 个布局),该结论属于方向性提示而非统计结论。

案例:全身控制、跨本体与灵巧手这三道坎

榜单之外,报告用一批案例划出了能力边界。

能力表现是否已跨过
全身控制Astra 能协调移动底盘、躯干与机械臂,完成垃圾投放、开门通行、从厨房取饮料送到餐桌已可用
跨本体操作同一个棋子收纳任务在 ARX、AgileX、G1、G2 四种本体上完成拾取与放置已可用,但有条件
精细操作圆形积木入孔成功;手机充电抓取成功但接口方向错误未能插入部分
灵巧手能为每只手 20 个手指关节输出角度目标,但叠碗未能形成稳定抓握,补充几何信息后仍未成功;取书同样失败未跨过
长程多阶段任务毛巾折叠与衣服对折在无深度时反复抓空、加入传感器深度后成功;多阶段叠衣服抓到衣角但未能完成折叠序列未跨过

跨本体那一条需要加个限定:报告自己指出,不同本体仍需要各自的运动学模型与工具几何信息,跨本体执行也不意味着所有任务表现相同。把它读成「换机器人不用改任何东西」是过度解读,更准确的说法是控制接口统一之后,适配成本从重写策略降到了补本体参数。

还有一个案例值得单独提:端锅实验中,Astra 在原始指令下夹爪接近姿态不协调而失败,研究团队补充明确的抓取与交互指导后,它转而对准锅柄、采用对齐更好的双手抓取方式并稳住。报告明确说明该案例来自正式打榜之外的补充探索,不计入四款模型共用原始指令的榜单比较。它说明的是另一件事:模型能够执行更明确的操作指导,但自行推断合适的抓法仍有困难。

仿真到真机:89.5% 相关性与它的适用范围

仿真里的分数能不能代表真机表现,是所有仿真评测都要回答的问题。平台公布的验证数据是:在已验证的模型与任务范围内,仿真评测与实机部署表现的相关性达到 89.5%,相同模型在仿真与真机任务中的评测成功率差异小于 10%。

这个数字如果成立,价值很大:它意味着可以在真机测试之前用高保真仿真筛模型、定位短板。但报告自己也给了限定——结论仍限于已验证范围,不能直接推广到所有场景。本文的读法是把 89.5% 当作「在这批已验证任务上,排序大致可信」的证据,而不是「仿真分数可以换算成真机成功率」的换算系数。

怎么参与:5 分钟提交与 30 分钟一轮

平台在降低参与门槛上做了具体设计。借助 Agent Skill,开发者可以通过自然语言对话完成数据下载、模型训练、本地验证与评测提交,从注册到提交最快约 5 分钟,典型评测约 30 分钟完成。开发者无需上传模型核心代码与权重,只需在本地部署推理服务并接入标准接口即可开展评测。平台返回分项成绩、任务步骤结果与模型执行视频,便于追查模型完成了哪些步骤、在哪里失败。

四条读榜提醒

提醒具体内容
档位不可比Argon 使用 medium 推理档位,其与另外三款 high 档模型的分差不能直接解释为模型能力差
总分会掩盖弱点Argon 扰动适应总分高于 Sol,但五项扰动中只有一项超过 Sol;选型要看分项
样本量偏小消融组多为 10 个任务或 4 个布局,方向性强而统计显著性弱,不宜据此做精细取舍
仿真不等于真机89.5% 的相关性限于已验证范围,相关不等于可换算;真机案例中的失败项(灵巧手、长程折叠)在仿真榜单里未必体现

冷静判断:这些分数能用来做什么

能用的是三件事。其一,用维度分项而不是综合分选模型:如果任务是理解密集、操作简单的,旗舰模型已经够用;如果涉及稳定抓取与精细插接,策略模型仍然明显更稳,综合榜上那 0.29 分不能作为决策依据。其二,把七组消融当成自己的架构检查表:执行反馈、深度感知、历史记忆这三项,缺任何一项都会让成功率掉约 10 个百分点,而付出的代价形态不同,可以据此设计监控指标。其三,把扰动测试当成上线前的必测项:图像质量一项就能让一款模型从 95.50 掉到 18.36,这种塌方式衰减在干净实验室环境里是测不出来的。

不能用的是另外两件事。一是不要把它当作「通用大模型能不能取代具身策略模型」的终局答案——这只是一轮、一个平台、78 个任务的横截面,且策略模型各自保留了训练与执行设置,与大模型不在同一控制方案下。二是不要跨报告合并数字:不同平台的任务集、评分尺与控制框架都不相同,RoboColiseum 的分与其它具身基准的分不具可比性。

还有一个本文认为最值得后续跟进的观察:Opus 5.5 同时拿到最高综合分与最低 token 总消耗。如果这个组合在后续轮次里稳定复现,它会改变「更强的智能体必然更贵」这一在编码智能体领域已被多次验证的经验。目前报告只给出相对关系,绝对值未公开,尚不足以支撑结论。

核心发现

参考来源

  1. 机器之心(经新浪财经、网易、微信公众号转载)—《对决 RoboColiseum!GPT、Claude、Gemini 机器人能力 PK,险胜之后还有黑马》(2026 年 10 月 22 日;含四款模型综合得分、总榜 Paimon 与 HiDream-O1-Embodied 得分、四类子榜与 78 个任务、一百多支队伍、Astra、Sol、Opus 在指令跟随与空间理解上超过策略模型、通用操作 38.79 至 46.70 对 63.20 至 66.13、五类扰动与相对基线下降幅度、Sol 95.50 降到约 18、三组消融的完整数值、端锅与灵巧手与真机案例、仿真真机相关性 89.5% 与差异小于 10%、Agent Skill 五分钟提交与三十分钟评测)
  2. RoboColiseum 官方平台与技术报告入口 — robocoliseum.ai 与 robocoliseum.ai/techreport/agent2act(平台定位、四类能力子榜、评测参与方式与返回内容)
  3. arXiv 2610.27865 —《Frontier LLMs Enter the World of Robotics: A Cross-Model Evaluation on RoboColiseum》(含四维评测设计、Agent2Act 控制 Harness 的实现说明、四款模型的一致能力画像结论:指令跟随高、空间推理强、通用操作低于其余三项、Astra 在指令跟随与鲁棒性领先而 Opus 在空间推理与通用操作及总体领先、脚手架设计影响任务成功率与规划成本及执行时间的结论)
  4. 立德机器人平台(机器人大讲堂)—《刚刚,Opus 5.5 击败 GPT-6 Astra、Gemini 4 Argon!全球 AI 三巨头决战具身角斗场 RoboColiseum》(2026 年 10 月 21 日;含图像质量扰动下的绝对得分 Opus 76.47、Astra 67.60、Argon 59.57、Sol 18.36、Astra 指令跟随 99.35、Opus 全轮 token 消耗最少、七组消融的完整清单与关节增量实验的 8/10 结果)
  5. 新智元 —《突发,全球顶级角斗场 RoboColiseum 爆冷!Opus 5.5 竟击败 GPT6、Gemini 4》(10 月 21 日;用于交叉核对四模型排序与「高智商、低动手」的能力画像表述)
  6. 本栏目此前研究 — R-BENCH-22《Gemini 4 Argon 智能体成绩单》、R-BENCH-13《OSWorld 2 长程任务评测》(用于把本轮具身读数与通用计算机使用类评测放在不同任务集下区分,避免跨基准合并)