智能体跑长任务,每一步都在调大模型——这个默认动作贵得隐蔽:账单按步数线性涨,延迟按步数线性堆,而其中大多数调用根本不是在「创作」,只是在做选择题,比如下一步够向哪件工具。10 月 15 日提交 arXiv 的 SpecAgent(编号 2610.21463)把这个默认动作翻了半个身:让弱模型当起草员,强模型退后当审稿人。

论文五位作者,跨计算语言、人工智能与机器学习三个分区,尚未经同行评审。它先把现成的省力分工数落一遍:路由器与协作智能体决定「这步交给哪个模型」,强模型照旧是写手;投机式方法让小模型先写草、强模型逐步核,核对的还是强模型自己那份标准答案。SpecAgent 的反转在于分工本身变了——弱模型带着只读工具边观察边起草,每一步都有真实观察垫底;遇到会改动环境的动作就停住不写。强模型不再逐字生成,而是用一次并行预填充审完整段草稿:认下它认为语义有效的最长前缀,只对头一个被否的步骤动手修补。

强模型不必亲手写每一步弱模型:起草员边起草边调只读工具每一步有真实观察垫底遇到会改环境的动作就停强模型:审稿员一次预填充审整段草稿认下最长有效前缀只动手修被否的那一步为什么审比写便宜验证把自回归解码换成并行预填充强模型只产短判决与补丁为什么敢让弱模型先写只读调用不碰环境接地观察减少瞎编写错也有审稿人兜底老路线都是「强模型当写手」:路由器挑模型、协作智能体分活、投机法一步步对着强模型的答案核
图|上排是两个新角色,下排是这套分工为什么成立。读图要点:安全的底线是「只读」,效率的来源是「并行验」。

为什么「审」比「写」便宜

关键在于验证换了执行形态:自回归解码逐字生成,并行预填充一口气算完整段。强模型从此只产短判决和偶发补丁,不再逐字操刀——τ²-Bench 上,这套协议把成功率守在离强模型独写 1 个百分点的范围里,墙钟时间与显存流量同时约腰斩。另外两个基准上质量差距没能全补回,但挽回四成到七成半,延迟和开销都还是降的。

边云场景是另一组读数:在 MCP-Atlas 上配三个云模型做边云部署,强弱差距弥合五成到七成半,强模型生成的 token 不超过一半。对「中心模型太贵、端侧模型太弱」的部署形态,这个比例比基准上的绝对分更有生意上的含义。

质量换效率,换回来多少τ²-Bench:差一分以内与强模型独写相比成功率差在 1 个百分点内墙钟与显存流量约腰斩其余基准:补回差距AutomationBench 与 VitaBench挽回质量差距的 44% 到 75%同时把延迟与流量降下来边云部署(MCP-Atlas,三个云模型)弥合强弱差距的 53% 到 75%,强模型生成的 token 不超过一半摘要没报审稿驳回率:修得多不多,直接决定「并行验」这笔账划不划算与同周 1962 掌舵员、1551 决策模型是同族不同治法:一个管分工,一个管纠偏,一个管省钱
图|上排两卡是论文的两类结果,中部是边云场景,底部是待披露项。读图要点:这份协议的卖点是「质量守住」,不是「成本最低」。

放进台谱里看

本周同一批 arXiv 里还躺着两篇同族不同治法的东西:1962 的 Learning to Steer 给执行体配旁路掌舵员,管的是「跑着跑着忘了为什么出发」;1551 的 Strands Decider 与 1027 的 TypeSafe Jev 更激进,直接把路由与审查里的生成式推理换成便宜决策模型。SpecAgent 站在中间——它不把判断也外包掉,语义验证仍然由强模型把持,换掉的只是「逐字操刀」这个最贵的动作。三篇合起来,其实是同一份账单的三种付法。

往远一点数,它接的是投机解码的血统:那个家族在推理侧验证「小模型的草能不能要」,SpecAgent 把同样的怀疑搬到了轨迹级——一次验一整段,而且验的不只是像不像,是语义上站不站得住。

几盆该浇的冷水

「差 1 分」是它招牌也最窄的一条:只在 τ²-Bench 上成立,另外两个基准上质量确实掉了,只是掉得能接受。审稿本身不是免费的——预填充一段的长度直接决定验证成本,草稿拖得越长,这笔账越接近「还不如自己写」;摘要没有披露驳回率与修补频率,而这两个数决定协议在真实流量下是否划算。弱模型「只读接地」的设定假设了工具调用可重复无副作用,遇到计费接口、物理执行器这类碰一次就留痕的环境,接地本身就成了风险。五位作者、预印本,复现要等代码。

给正在为智能体烧钱发愁的团队一个拆账动作:把过去一周的工具调用按「选择题」和「创作题」分两类计数。选择题占比越高,SpecAgent 这类协议能摸到的钱越多——而如果你们大多数步骤真在创作,该修的是任务拆解,不是模型分工。