能力评测 2026-10-16 24 分钟阅读 进阶

多智能体团队横评:1.8 到 5.1 倍成本,四组对比只有一组显著

Vals AI 在 Vibe Code Bench 上的 50 个应用实测 — 当分数、成本与时间被放在同一张表里,「多派几个智能体」这笔账就不再那么好算

摘要

独立评测机构 Vals AI 于 2026 年 10 月上旬发布一项针对多智能体团队的对照实验:在自建基准 Vibe Code Bench 上,让 GPT-6 Sol 与 Claude Opus 5.5 分别以单智能体和「主智能体加最多五个子智能体」的团队形态,在中档与最大档推理强度下各跑 50 个完整 Web 应用构建任务。结果显示团队成本是单智能体的 1.8 至 5.1 倍,而四组配对比较中只有 GPT-6 Sol 中档推理的 +7.3 分通过显著性检验。本文还原八组配置的分数、单价与中位耗时,展开置信区间与缓存 token 的成本归因,比较两种主智能体的编排行为差异,并给出一份可直接用于选型的读表清单。

背景:多智能体正在从卖点变成默认配置

近一年里,主流模型厂商先后把多智能体能力做进了原生产品:主智能体可以派生子智能体,把任务的一部分交给每一个,再把返回的结果组装起来。编排框架、编码工具与企业平台也普遍把「派一支团队出去」当作进阶用法写在文档里。行业叙事大致是同一个:多个智能体并行推进,比一个智能体单干更快、更全面。

这类叙事长期缺少一个东西——和分数并排印出来的账单。多数公开材料只报质量,不报成本;或者只报「用了多少个子智能体」,不报「多花了多少钱」。Vals AI 这次实验的价值,恰恰在于把两个坐标同时摆了出来,并且用配对检验标出了哪些差异能被与随机波动区分开。

需要预先说明的是:得出「团队不划算」这个结论并不困难,难的是说清楚在什么条件下划算。Vals AI 自己的措辞相当克制——团队是否值得,取决于模型、任务与预算;团队可以提升表现,但提高推理强度是一个值得权衡的替代方案。

📊 实验基本信息

基准:Vals AI 自建 Vibe Code Bench,从产品规格出发构建完整 Web 应用,每个应用以 Docker Compose 部署,由浏览器智能体点击走查工作流评分。被测模型:GPT-6 Sol(经 OpenAI Agents API 运行)与 Claude Opus 5.5(经 Claude Code 命令行 headless 模式运行)。条件:单智能体与团队(主智能体最多同时派生五个子智能体,子智能体不可再派生)两种形态,中档与最大档两档推理强度,共八组配置,每组在同样的 50 个应用上各运行一次。评分为单个应用 UI 测试通过比例,再在 50 个应用上取平均。

实验设计:八组配置,50 个应用

几个设计细节决定了结果该怎么读。

其一,团队形态的定义是「主智能体加最多五个并发子智能体」,且子智能体不能继续派生。两个主智能体收到的是同一段简短指令:把工作拆成彼此独立的部分,逐个委派,然后集成并验证结果。除此之外,任务提示、沙箱与评分器在各自模型的对照内保持一致。

其二,评的是交付物的实际可用性,不是代码观感。每个应用部署后被浏览器智能体走查,接缝处的缺陷(例如界面字段名与数据库结构不一致)会直接体现在分数上。这个设计让「看起来完成了」和「真的能跑通」被区分开。

其三,八组配置各跑一次。这一点对后续所有统计结论的解释力有直接影响,下文会展开。

主结果:分数、成本与中位耗时

下表汇总八组配置的得分、每应用平均成本与中位运行时间。成本为 Vals AI 按模型用量折算的每应用平均值,不等于订阅价格,也不等于每通过一项 UI 测试的成本。

模型与强度 单智能体得分 团队得分 单智能体成本 团队成本 成本倍数 单智能体中位耗时 团队中位耗时
GPT-6 Sol · 中档 77.6% 84.9% $1.22 $3.07 2.5 倍 12.4 分钟 11.9 分钟
GPT-6 Sol · 最大 89.0% 90.4% $4.82 $8.54 1.8 倍 38.4 分钟 27.6 分钟
Claude Opus 5.5 · 中档 91.5% 91.2% $4.08 $9.10 2.2 倍 20.3 分钟 26.6 分钟
Claude Opus 5.5 · 最大 89.8% 93.2% $23.77 $121.95 5.1 倍 74.7 分钟 174.1 分钟

几处值得单独点出的读数。整张表的最高分是 Claude Opus 5.5 最大档团队的 93.2%,但它同时是账单最重的一档——每应用约 122 美元、中位耗时接近三小时。而同一模型的中档单智能体拿到 91.5%,只花 4.08 美元、中位二十分钟出头。两者相差不到两个百分点,成本相差约三十倍。

对 GPT-6 Sol 而言,提高推理强度比组团队更有效:最大档单智能体比中档单智能体高出 11.4 分(89.0% 对 77.6%,p 小于 0.001),幅度超过任何一组团队增益;代价是每应用 4.82 美元对中档团队 3.07 美元,且中位耗时是后者的三倍。对 Opus 而言,两条杠杆都不太灵:最大档单智能体反而比中档单智能体低 1.7 分(p 等于 0.48),组团队在两档下也都没有跨过显著性门槛。

显著性:只有一组站得住

Vals AI 对同一批 50 个应用做了配对 t 检验。四组「团队对单智能体」的同强度比较中,只有一组差异能被与随机波动区分开。

比较组 单智能体 团队 差值 95% 置信区间 p 值 是否显著
Sol · 中档 77.6% 84.9% +7.3 分 +2.3 到 +12.4 分 0.005 是
Sol · 最大 89.0% 90.4% +1.4 分 −1.7 到 +4.5 分 0.16 至 0.81 区间 否
Opus · 中档 91.5% 91.2% −0.3 分 −3.2 到 +2.5 分 0.16 至 0.81 区间 否
Opus · 最大 89.8% 93.2% +3.4 分 −1.4 到 +8.3 分 0.16 至 0.81 区间 否

「不显著」在这里的含义需要说清楚:它表示在这个样本量下,观察到的差异无法与运气区分开,并不等于两者表现相同。Opus 最大档团队的置信区间从 −1.4 分延伸到 +8.3 分,既容纳「毫无效果」,也容纳「效果可观」。五十个应用是中等偏小的样本,而八组配置每组只跑了一次,因此这些区间反映的是应用之间的变异,而不是重复运行之间的变异。这个宽度的无效结果,比它听起来要弱。

⚠️ 对工程实践的直接含义

如果有人向你推销「智能体集群」并承诺质量提升,正确的追问顺序是:同一任务上、单个智能体提高推理强度能拿多少分,那一档的成本是多少,以及这个差距有没有做过重复运行检验。在这份数据里,最贵的配置与最便宜的 Opus 配置分数几乎持平,而便宜的那档快了七倍多。把「派团队」从质量杠杆重新定位为延迟杠杆,是这份研究最直接的落地结论。

成本归因:缓存输入是主要推手

团队为什么贵这么多?Vals AI 的归因指向缓存输入:每个子智能体都持有自己的上下文副本,包含产品规格与自己的工作进展,而这份内容在每次模型调用时都会被重新发送。换句话说,团队为一遍遍地重读同一份材料付钱。

以 Opus 最大档为例,每应用中位缓存 token 读取量为:子智能体合计约 2.24 亿,主智能体约 1700 万,而单智能体约 5500 万。中位水平下,该档子智能体单次运行耗时约 46 分钟,中档则为 7 分钟——更长的运行意味着更多次上下文重发,两者是相互放大的关系。

成本口径上有两处需要自行标注的局限。其一,Sol 的成本计算假设其报告的 token 用量已包含子智能体,且超过 272K 长上下文阈值的请求会按更高单价计费,但由于用量按「每次运行」而非「每次请求」上报,作者无法评估这部分附加计费。其二,Opus 最大档团队有一次运行在验证阶段超时,其约 189 美元的成本是按 token 计数估算后计入均值的。因此这两个模型的成本不宜跨模型精确比较。

编排行为:两个主智能体的两种打法

同样是「主智能体加子智能体」,两个模型的实际打法差别很大,这也解释了为什么一个拿到了显著增益、一个没有。

维度 GPT-6 Sol 团队 Claude Opus 5.5 团队
拆分依据 按架构线切分(数据库与种子数据、接口、界面、部署),开局约一分钟内建完全部子智能体 先写共享契约文档(多为 CONTRACT.md)约定结构、路由与文件归属,再分波派生
波次形态 并行推进,约三分之一运行时间在等待子智能体 顺序波次,每波等待最慢成员;最大档增加「基础—功能—测试与审查」三波
子智能体规模(最大档) 每应用约 5.1 个,后续请求约 31 次 每应用约 6.8 个,子智能体工具调用约 1140 次(单智能体约 270 次)
自测行为 主智能体自己驱动无头浏览器走查,两档均 46/50 次;浏览器测试约为单智能体两倍,多在公开地址而非沙箱本地端口 测试子智能体在最大档全部 50 次运行中存在,每应用约 36 次浏览器测试,为同档单智能体的六倍
对耗时的影响 中档略快(11.9 对 12.4 分钟),最大档明显更快(27.6 对 38.4 分钟) 两档都变慢,最大档最长达单智能体的 2.3 倍;4 次运行超过四小时,其中 1 次触达 5.25 小时上限

一个容易被忽略的细节:Opus 最大档团队在首次部署之后,把三分之二的运行时间花在了后续环节上,中位测试投入高达 67.8 个智能体分钟,而同档单智能体只有 9.6。这些时间并非空转,而是子智能体在工作;但更长的运行并没有换来更高的分数——作者明确表示,该档团队的运行时长与其相对单智能体的增益之间没有相关性。

增益来自哪里:困难应用与被跳过的功能

Sol 中档团队的 +7.3 分不是均匀分布的:24 个应用得分更高,11 个更低,15 个持平。增益集中在更难的应用上,平均约 15 分;在较容易的应用上只有约 1 分。

在 9 个增益达到 20 分或更多的应用上,作者观察到的模式很有代表性:单智能体报告测试通过,但某些功能从未被构建,整个工作流从未被尝试;团队则覆盖了更多规格条目,并由主智能体交叉核对分别构建的部件,抓出了不匹配——例如表单字段与数据库结构对不上,或者权限规则阻塞了某个步骤。每个修复被退回给拥有该文件的子智能体。

Opus 的增减分布更接近平衡,也不偏向更难的应用:中档 14 个更高、15 个更低,最大档 13 个更高、8 个更低。作者另外检查了规格长度、UI 测试数量、单用户与多用户等属性,均未发现一致影响;只有「具有更多不同用户角色的应用」在 Sol 中档团队那一组拿到了约 15 分增益,而其它配置没有复现这一效应。

把这些放在一起看,团队真正起作用的地方是「能被干净切开、且切口处需要交叉验证」的任务。这也和作者自己对下一步的判断一致:团队更可能在拥有许多独立部分、可长段分离的工作上收回成本,例如大型代码库、覆盖面广的研究问题,或者跨多文档的分析。

口径警示与冷静判断

把这份数据换算成一句可执行的选型建议:先测单个智能体在最高可接受推理强度下的分数与单价,再测团队在同任务上的分数与单价,并要求至少重复运行若干次以确认差异稳定。如果团队的成本倍数在两倍以上而增益落在置信区间含零的区间里,那么这笔钱换来的多半是速度,而不是质量。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。

核心发现

参考来源

  1. Vals AI 官方研究博客 — Do Agent Teams Pay Off? A Case Study on Vibe Code Bench(2026 年 10 月上旬发布,vals.ai/blogs/multi-agent-vibe-code-bench,含八组配置完整分数、成本、中位耗时、置信区间与编排行为分析)
  2. AI Insiders — Teams of AI coders cost up to 5.1 times more and rarely scored higher(2026.10.12,含首次部署与完成时间中位数的分模型拆解)
  3. Big Change — In Vals AI's coding test, one agent team gained 7.3 points at 2.5 times the cost(含完整的分数—成本—中位耗时对照表与统计区间)
  4. The Decoder 相关报道与 MegaOne AI 转述 — AI Agent Teams Waste Tokens for Little Gain(2026.10.11,引用 Anthropic Opus 5.5 系统卡与 OpenAI 研究员观点,均为转述口径)
  5. New Face Design — Agent teams vs single agent: what Vals AI's test found(含研究作者署名与 Harness 差异说明)
  6. Cyber Ivy — Agent teams: 5.1x cost, usually no quality gain(含适用范围与统计显著性含义的通俗解释)
  7. AI Understanding — Study finds multi-agent AI teams consume far more tokens for modest or no quality gains(2026.10.11 记录,含缓存 token 与运行时差异摘要)