能力评测 2026-10-17 24 分钟阅读 进阶

Agent Arena 横评:净改进与每任务成本之间,隔着一条十二天就重排的前沿

258 万次真实会话给出的另一把尺子 — 当评测从「任务是否完成」转向「完成得值不值这个价」,榜首与性价比之王就不再是同一款模型

摘要

Arena AI 的 Agent Arena 用真实 Agent Mode 会话而非固定任务集来给模型排序,核心指标是净改进(net improvement),并同时公布每任务成本中位数。2026 年 10 月 14 日快照覆盖 2,581,674 次会话与 54 款模型:Claude Opus 5.5(Max)以 +17.18% 的净改进居首,单任务成本中位数 5.40 美元;GPT-6.1 Sol(Max)以 +14.78% 排在第二,成本仅 0.65 美元;帕累托前沿上同时还站着每任务 0.11 美元的 MiMo V2.6 Pro 与 0.04 美元的 Solar Pro 4。本文还原 Top 13 模型的九项指标,与 10 月 2 日快照做十二天对照,指出榜首更替里混入了推理档位变化这一口径因素,并解释确认成功率、Bash 可靠性与工具幻觉三项为何与净改进不单调相关,最后给出五条不可忽略的口径红线与一份三步读榜清单。

为什么需要另一把尺子

主流的智能体评测大多长成一个样子:一份固定任务集,跑一遍,算通过率。SWE-bench 系修 bug,Terminal-Bench 系走终端,OSWorld 系点界面。这类基准的优点是可复现,缺点也正因为固定——任务一旦被反复练习,分数里就会混入记忆与脚手架的贡献,而真实使用者关心的「我把这件事交给它,值不值这个价」并没有被测量。

Agent Arena 走的是另一条路。它不发布任务集,而是从真实 Agent Mode 会话中收集信号:任务完成程度、工具可靠性、可控性、用户满意度,合成一个叫净改进的指标;同时公布每任务成本的中位数。这两件事放在一起,就把问题从「谁做得更好」改成了「多花的钱换来了多少改进」。

这个方法论的代价也很明显:任务分布不可控、样本不可复现、不同模型拿到的会话数差异很大。所以它不是用来替代固定基准的,而是用来回答固定基准回答不了的那部分问题。本文的处理方式是把两套快照并排放在一起——既然单次快照不可复现,那就看十二天里什么变了、什么没变。

🧭 一句话定位:这是偏好榜,不是能力榜

净改进衡量的是模型相对同场景基线的改进幅度,其信号来自真实会话中的完成度、可控性与满意度,而不是「任务是否通过客观判定」。因此它可以很好地反映「用起来顺不顺」,但不适合被当作能力上限的证据。把它和固定基准并列阅读,才能同时拿到「能不能做」与「用起来值不值」两个维度。

指标怎么读:净改进不是成功率

榜单共给出九列数据,其中几列容易被误读,先厘清定义。

指标 含义(据榜单说明与列名) 常见误读
净改进 Net Improvement 模型在真实会话中相对基线的综合改进幅度,含完成度、可控性与满意度等信号 被当成「任务通过率」。它是一个相对量,不是绝对成功率
确认成功率 Confirmed Success 得到确认的成功会话占比 被当成比净改进更硬的成功指标。它依赖「确认」这一环节,未确认的会话不计入分子也不计入分母
可控性 Steerability 模型在会话中接受引导、按人意图调整的表现 被忽略。对需要中途介入的场景,这一项的重要性不亚于完成度
Bash 可靠性 终端命令执行相关的可靠性贡献 被当成模型越强就越高。实际它与净改进并不单调相关
工具幻觉 越低越好,正值表示幻觉少于平均模型 被当成绝对值。它是一个相对平均值,负值只代表高于平均
每任务成本(P50) 过去 14 天真实任务实测的单次花费中位数,非官方标价 被当成官方定价。它包含实际 token 消耗,因此受 harness 与上下文策略影响

最后一项尤其关键:成本是实测值而非标价。这意味着同一款模型在不同 harness 下会拿到不同的每任务成本,榜单衡量的其实是「模型加上它所处的执行环境」这一组合,而不是孤立的模型。理解这一点,后面几节里几处看起来矛盾的数据就都说得通了。

10 月 14 日快照:Top 13 的九项指标

下面这张表还原 2026 年 10 月 14 日快照的前十三名。括号内为榜单给出的置信区间,输出 token 为每任务中位数,标价单位为美元每百万 token(输入/输出)。

排名 模型 净改进 确认成功率 可控性 Bash 可靠性 工具幻觉 会话数 成本/任务 输出 token
1 Claude Opus 5.5 (Max) +17.01% ±3.51 18.48% ±5.42 17.49% ±3.04 15.40% ±0.86 0.53% ±0.13 6,025 $5.66 112.9K
2 GPT-6.1 Sol (Max) +15.05% ±2.10 15.91% ±3.38 14.42% ±2.03 2.58% ±2.40 0.65% ±0.04 12,052 $0.65 30.8K
3 Claude Fable 5.1 (Max) +14.32% ±2.04 15.42% ±3.40 15.02% ±2.42 10.84% ±1.16 0.57% ±0.11 16,212 $7.30 62.4K
4 GPT-6 Astra (Max) +13.69% ±2.34 12.50% ±4.13 13.73% ±2.48 10.90% ±1.99 0.59% ±0.09 12,774 $3.65 32.6K
5 Gemini 4 Argon (High) +13.59% ±1.58 14.65% ±2.65 16.54% ±1.61 1.87% ±2.55 0.01% ±0.58 26,905 $0.84 30.3K
6 Claude Sonnet 5.5 (Max) +13.00% ±3.17 20.49% ±5.18 12.09% ±3.37 13.16% ±0.86 0.45% ±0.24 7,404 $3.62 139.8K
7 GPT-6 Sol (Max) +10.51% ±2.31 7.29% ±4.30 12.14% ±2.29 11.04% ±0.98 0.35% ±0.11 6,664 $0.83 25K
8 Claude Opus 5 (Max) +9.23% ±1.71 12.75% ±3.02 7.41% ±2.32 11.85% ±1.06 0.59% ±0.08 23,536 $5.31 67.9K
9 Claude Fable 5 (High) +8.49% ±1.42 5.63% ±2.65 10.28% ±2.19 12.87% ±1.72 0.62% ±0.07 42,384 $3.27 21.6K
10 GPT-5.6 Sol (xHigh) +7.74% ±1.43 4.37% ±2.67 8.47% ±2.14 12.01% ±1.23 0.51% ±0.09 36,282 $1.53 23.6K
11 Claude Opus 4.8 (High) +7.55% ±1.55 4.22% ±2.76 7.58% ±2.81 15.76% ±2.23 0.35% ±0.19 40,269 N/A 22.1K
12 Claude Sonnet 5 (High) +4.88% ±1.72 1.85% ±3.39 6.61% ±2.55 15.73% ±1.07 0.40% ±0.14 33,083 $1.03 28.4K
13 Gemini 3.8 Flash (High) +4.02% ±1.09 5.21% ±2.22 1.89% ±1.62 11.28% ±0.51 0.51% ±0.08 37,264 $0.68 57.9K

几个立刻能读出来的事实。榜首与第二名的净改进相差不到两个百分点,但每任务成本相差约 8.7 倍(5.66 对 0.65 美元)。第五名的 Gemini 4 Argon 净改进 +13.59%,只比第三名低 0.73 个百分点,成本却只有 0.84 美元,不到第三名的八分之一。这是本份榜单最核心的一条信息:在真实会话口径下,头部模型的差距远小于它们的价格差距。

十二天重排:10-02 与 10-14 双快照对照

把 10 月 2 日的快照与 10 月 14 日的快照并排,可以看出十二天里发生了什么。10 月 2 日快照覆盖 2,158,478 次会话与 51 款模型;十二天后,会话数增至 2,581,674,模型数增至 54。

模型 10-02 净改进(成本) 10-14 净改进(成本) 变化 说明
Claude Fable 5.1 (Max) +14.31%($4.56) +14.32%($7.30) 分数持平,成本 +60% 分数几乎未动,成本口径变化明显
Claude Opus 5.5 +13.82%($1.58,High 档) +17.01%($5.66,Max 档) 分数 +3.19pp,成本 +258% 档位由 High 变 Max,不可直接视作同一配置
Claude Sonnet 5.5 (Max) +12.52%($2.77) +13.00%($3.62) 分数 +0.48pp,成本 +31% 同档位对比,变化在置信区间内
GPT-6 Astra (Max) +12.27%($2.92) +13.69%($3.65) 分数 +1.42pp,成本 +25% 同档位对比,小幅改善
GPT-6.1 Sol (Max) +11.23%($0.56) +15.05%($0.65) 分数 +3.82pp,成本 +16% 本轮改善幅度较大的一款,且成本几乎未变
GPT-6 Sol (Max) +9.71%($0.91) +10.51%($0.83) 分数 +0.80pp,成本 −9% 分数与成本同时改善
Gemini 4 Argon (High) +7.57%($0.67) +13.59%($0.84) 分数 +6.02pp,成本 +25% 十二天内改善幅度最大的一款,排名由第十升至第五

这张表里最需要读者自己判断的是 Opus 5.5 这一行。它在 10 月 2 日以 High 档入榜,十二天后以 Max 档登顶——分数上升的同时成本涨到约 3.6 倍,很难说这 3.19 个百分点的净改进里有多少来自模型本身、多少来自推理档位。榜单并未把档位作为可筛选维度固定住,因此跨快照比较时,凡档位发生变化的条目都不能按「模型变强了」来读。这一点在 AGI Hunt 的周报里也有呼应:该文提到 Sonnet 5.5 以 Max 档登场时净改进 +12.5%,每任务成本 2.74 美元,比同系列 High 档高出约 73%。

另一个需要注意的口径差异:同一批模型在不同来源给出的成本数值并不完全一致。Gemini 4 Argon 在一份转述中为 2.74 美元附近的对照值,在另一份中为 0.84 美元;Opus 5.5 Max 在榜单主表中为 5.66 美元,在帕累托页中为 5.40 美元;Fable 5.1 Max 主表 7.30 美元、帕累托页 7.26 美元、另有转述写 4.62 美元。这些差异多数来自不同页面的刷新时点,但量级差异较大的那一类(如 4.62 与 7.30)更可能是不同快照时点所致。引用时应标明具体页面与时点。

帕累托前沿:把成本放进同一张图

榜单单独提供了一张以净改进为纵轴、每任务成本中位数为横轴的帕累托视图。所谓帕累托最优,指的是在给定成本水平上,没有别的模型能给出更高的净改进;或者说,要达到某个改进幅度,没有更便宜的选择。

模型 净改进 每任务成本 每 1 个百分点净改进的代价 读法
Claude Opus 5.5 (Max) +17.18% $5.40 约 $0.314 前沿右端:买的是改进幅度上限
GPT-6.1 Sol (Max) +14.78% $0.65 约 $0.044 前沿中段:单位改进代价约为前者的七分之一
MiMo V2.6 Pro +3.81% $0.11 约 $0.029 开源权重在低端提供可用改进
GPT-6 Luna (Max) +3.26% $0.08 约 $0.025 极低成本档位
MiMo V2.6 Flash +2.53% $0.05 约 $0.020 成本量级进入分币区间
Solar Pro 4 −20.18% $0.04 不适用 净改进为负仍在前沿上:它定义了最低成本点

Solar Pro 4 这一行值得单独解释。它的净改进是 −20.18%,即低于基线,却依然被列为帕累托最优。这并不矛盾:帕累托前沿描述的是「在每个成本点上没有更好的选择」,最便宜的那一档即使表现为负,也因为没有更便宜的替代品而站在前沿上。对读榜者的实际含义是——前沿的右端代表你能买到的最好表现,前沿的左端只代表最便宜,两者之间才是有意义的取舍区间。

把中段单独拎出来看,GPT-6.1 Sol (Max) 是这张图上最值得注意的一点:净改进 +14.78%,只比榜首低 2.4 个百分点,代价却只有榜首的八分之一左右。若以「每美元买到的改进」排序,它与榜首不在同一个量级。这也解释了为什么多家周报在报道这轮更新时,把重点放在价格而不是排名上。

三项背离:确认成功率、Bash 可靠性与工具幻觉

榜单的副指标与主指标之间存在几处明显背离,这些背离恰恰是最有信息量的部分。

确认成功率与净改进不一致。Sonnet 5.5 (Max) 的确认成功率是 20.49%,高于榜首 Opus 5.5 的 18.48%,但它的净改进只有 +13.00%,比后者低约四个百分点。一种合理的解释是:确认成功率只统计被确认的会话,而净改进还纳入了可控性与满意度等信号;一款「做出来的部分很确定,但整体体验并不更好」的模型就会出现这种错位。反过来,Fable 5 (High) 净改进 +8.49% 而确认成功率仅 5.63%,说明它的改进更多来自过程体验而非可确认的完成。

Bash 可靠性与净改进不单调相关。榜单中 Bash 可靠性较高的几款——Opus 4.8 (High) 15.76%、Sonnet 5 (High) 15.73%、Opus 5.5 (Max) 15.40%——净改进分别为 +7.55%、+4.88% 与 +17.01%,跨度极大。而净改进第五的 Gemini 4 Argon 只有 1.87%,且置信区间为 ±2.55,区间包含零,意味着这一项在统计上与零不可区分。一个可能的解释是:Bash 可靠性高只说明终端这一条路径稳定,而真实会话的成败还取决于规划、工具选择与上下文管理;另一可能是部分模型的会话分布并不重度依赖终端。

工具幻觉的相对性。工具幻觉一列的数值整体很小,且多款模型的置信区间宽于点估计本身。Gemini 4 Argon 的 0.01% ±0.58 尤其典型:点估计接近零,但区间覆盖了从负值到 0.59% 的范围,实际只能读作「与平均水平没有可区分的差异」。相对而言,GPT-6.1 Sol 的 0.65% ±0.04 区间窄,反而是一个更可确定的结论——它的工具幻觉确实较少。这里的原则是:区间宽度比数值大小更值得先看。

token 经济学:输出量与单价的错位

每任务成本是实测中位数,它由两件事相乘得出:实际消耗的输出 token 数与单位价格。这两件事在榜单上并不相关,因此出现了几处错位。

对使用者的直接含义是:控制成本的杠杆有两个,一是选单价更低或输出更克制的模型,二是改进 harness 的上下文策略。前者是榜单能告诉你的,后者是榜单告诉不了的——而后者往往更大的那部分。这一点与固定基准横评中的观察一致:同一模型在不同 harness 下的每任务成本可以相差数倍。

口径红线:这份榜单不能怎么用

三步读榜法与选型清单

把上面的限制条件收进方法里,这份榜单可以这样用。

步骤一,先定预算区间再排名次。打开帕累托视图,在你的单任务成本上限处画一条竖线,只比较这条线左侧的模型。对多数批量场景,这条线会落在 1 美元以内,此时榜首就不在候选集里了。

第二步,在区间内看副指标而非主指标。候选集里的净改进差距往往小于置信区间宽度,此时决定体验的是可控性(需要中途介入时)与工具幻觉(区间窄的条目才可信)。Bash 可靠性只在你的场景重度依赖终端时才有参考价值。

第三步,用自有任务集做终局验证。取二十到五十个你真实工作流里的任务,让候选模型跑一遍,记录完成率、返工次数与实际花费。榜单负责缩小候选集,不负责替你做决定。

按这套流程读 10 月 14 日快照,会得到一个与排行榜顺序不同的结论:若单任务预算在 1 美元以内,GPT-6.1 Sol (Max) 与 Gemini 4 Argon (High) 是净改进最高的两款,前者分数更高、后者成本更低且改善趋势更陡;若预算不受限且追求改进幅度上限,Opus 5.5 (Max) 仍是榜首,但需接受它是次优选项约九倍的价格。介于两者之间的 Fable 5.1 (Max) 与 Astra (Max),在这份数据上没有清晰的取舍理由。

局限与冷静判断

总的来说,Agent Arena 提供的价值不在「谁占据榜首」,而在它把成本变成了与分数并列的一等公民。在这个视角下,头部模型之间的能力差距远小于价格差距,而真正稀缺的信息——每一美元能买到多少改进——终于有了一个可查的公开来源。这个来源并不完美:任务不可复现、档位混排、成本受执行环境影响。但它回答了固定基准一直回答不了的那个问题,也就值得被放进选型的必读清单里,与固定基准并列而非相互替代。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。

核心发现

参考来源

  1. Arena AI — Agent Arena Leaderboard 主榜单(2026.10.14 快照,2,581,674 次会话、54 款模型,含净改进、确认成功率、可控性、Bash 可靠性、工具幻觉、会话数、每任务成本 P50 与输出 token)
  2. Arena AI / LMArena — Agent Arena Pareto 视图(同日快照,帕累托最优模型列表与每任务成本中位数)
  3. Arena AI 中文镜像 — Agent 模型排行榜(2026 年 10 月,含各指标列的定义说明与置信区间)
  4. AGI Hunt — Sonnet 5.5 and GPT-6.1 Sol debuts reshape the Agent Arena leaderboard(10 月上旬周报,含 10-02 快照的 2,158,478 会话、51 款模型与档位成本差异)
  5. 中文科技媒体对 10-02 快照的转述(含该时点 Top 10 的净改进与每任务成本,用于双快照对照)
  6. BenchLM — LLM Agent Benchmarks(2026 年 10 月版,用于说明固定基准与真实会话榜单的方法论边界)