技术解构 2026-11-11 26 分钟阅读 进阶

把「会用资源」绑进资源本身:HEELO 与 Agent-Native Primitives 架构解构

arXiv 2611.07461 把八类原语做成可组合、可验证、可准入的单元 — 增益来自执行层,不来自换模型

摘要

2026 年 11 月 5 日提交的 arXiv 2611.07461 提出一个与「换更强模型」相反的做法:把使用某项资源所需的能力,连同一个小模型一起绑在该资源上,做成可复用的 agent-native primitive;再由 HEELO 按任务把原语组合成图、用环境证据判定成败、按失败牵连的范围局部改写、通过单独验证后才准入库。论文在二十余个基准上给出四组同骨干增益,并在 heelo.dev 的 46 个真实任务里报告 9→39 与 9→35。本文逐层还原机制,核对每组数字的分母,并说明哪些条件不成立时这套增益就不成立。

为什么「够得着资源」不等于「会用资源」

2026 年 11 月 5 日,Haibo Jin 等 14 位作者向 arXiv 提交《The Last Mile to the Real World: Agent-Native Primitives as Reusable Building Blocks for Solving Real-World Tasks》(arXiv:2611.07461,102 页、21 图、54 表)。论文开篇给了一个不常被单独讨论的失败位置:模型与工具都已就位,任务仍跑不完,问题出在从「拿到资源」到「把资源用对」这一段,作者称之为通向真实世界的最后一公里(来源:arXiv 摘要页全文)。

论文用 Terminal-Bench 4.0 的两个公开读数作锚:GPT-5.6 Sol 配 Codex 解决 37.3% 的任务,Claude Opus 5 配 Claude Code 解决 51.8%。作者没有把这 14.5 个百分点的差距归因于模型权重,而是指出现有做法把资源放到模型手边,却把「怎么用」留给调用方,于是每个 harness 都要重建一遍同样的使用能力。一次文件读取、一次数据库查询、一次网页表单提交,能力描述写在工具 schema 里,但真正决定成败的是在当下上下文里选择参数、检查返回、处理失败的那段经验(来源:arXiv HTML 全文 2611.07461v1 引言)。

环节现有做法论文指出的缺口HEELO 的替代
资源暴露工具描述、API schema、MCP tool 列表只说明动作能做什么,不说明此刻怎么用原语自带常驻 LLM 与接口
使用能力由调用方 harness 逐任务重写每个 harness 重复建设,难以复用沉淀为可组合、可准入的库单元
失败定位看最终答案或模型自评难以判断是哪一环该改环境证据牵连到具体原语集合
改进沉淀改提示词、换模型改动随任务结束而消失经 VALIDATE 后才写入库
🔍 与「上下文工程」的分工

本站此前解构的 AWS Deep Insight 四层上下文工程(R-TECH-60)处理的是进入窗口的 token 与离开窗口的结论;HEELO 处理的是谁负责把资源用起来。两者不在同一层:前者压缩信息量,后者重新分配能力归属。把两者都记成「省 token」会抹掉这个区别。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。尚未说明的是该框架在非代码类企业流程上的迁移成本、以及八类原语之外的任务如何扩展。

八类原语族:把能力挂在资源上

论文把 agent-native primitive 定义为给某项资源配一个常驻 LLM,由它在当前上下文里使用该资源,并与其他原语通信的可复用单元。实例化时共给出八个族,每族对应一类任务(来源:arXiv HTML 全文 2611.07461v1 中原句列举)。

原语族对应任务类型论文中出现的量化读数
Tool PrimitivesLLM 工具调用ToolBench 通过率 55.8% → 75.1%
Code Primitives仓库构建归入二十余个基准,未单列头条数字
Math Primitives形式化定理证明归入二十余个基准,未单列头条数字
Knowledge Primitives知识密集型任务归入二十余个基准,未单列头条数字
Agent Primitives多智能体系统归入二十余个基准,未单列头条数字
Dev-Primitives软件工程Terminal-Bench 4.0 解决率 37.3% → 55.5%
Navigation Primitives大型信息空间导航GAIA-Text-103 准确率 45.6% → 58.3%
Harness Primitives智能体 harness 构建Terminal-Bench 2.0 Pass@1 60.0% → 72.2%

八族里只有四族在摘要里给出可核对的头条数字。这本身是一条读法提示:二十余个基准与八族的覆盖关系并不是每族一条成绩,公开摘要无法还原各族的完整分项。按最少口径折算,每族平均对应约 2.5 个基准,但这只是把「二十余」当二十的下界做的除法,不是论文报告的实验分配(原创换算)。

🧩 原语不是更长的工具描述

工具描述是被动文本,由调用方解释;原语自带模型,能接收局部请求、读取前驱结果、在轮次结束前给其他原语发消息。因此组合成本随本轮被激活的原语数增长,而不是随整个库规模增长——论文在 COMPOSE 的定义里明确写了这一点。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。尚未说明的是各族内部的具体原语数量、常驻 LLM 的规格与调用成本,以及库规模增大后的检索退化情况。

compose / verify / revise / admit:三步在任务内,一步在任务间

HEELO 的全称是 Harness Engineering around Evolving Agent-Native Primitives for the Last Mile to Real-WOrld Tasks。其循环常被简写成四步,但论文正文把前三步与第四步放在了不同的时间尺度上(来源:arXiv HTML 全文 2611.07461v1 方法章节)。

步骤发生位置输入与动作输出与终止
COMPOSE任务内每轮按任务、当前上下文与原语接口选出激活集,组成任务特定图激活原语、局部请求、依赖边;无原语覆盖的需求留给 harness 自身
VERIFY任务内每轮运行可运行环境,采信构建状态、测试结果、编译器消息与轨迹通过或失败判定,附观察失败、被牵连原语集合与修订指引
REVISE任务内失败后把反馈并入上下文重新组合,只改被证据牵连的部分判定通过即结束,或达到 B 轮修订上限后返回当前结果
ADMIT任务之间从已有产物、已验证运行或失败轨迹里挖出候选原语仅 VALIDATE 通过者加入或替换库内原语

最容易读错的是 VERIFY 的权限边界。论文写明:构建或测试失败即判 fail,任何模型判断都不能覆写它。这条把环境证据放在模型自评之上,也解释了为什么后面 REVISE 能定位到「被牵连的原语集合」——失败来自具体证据,而非一句「我觉得没做好」。

另一个容易读错的是 ADMIT。任务内产生的适配组件不会自动进库,必须走单独的验证与发布通道,VALIDATE 用领域能提供的证据:测试、编译器、源码或开发任务上的匹配运行。换句话说,「这次跑通了」不等于「以后可以复用」。这与本站解构过的 Harness²(R-TECH-43)形成对照:后者在任务内反复改写脚手架文件,HEELO 把改动沉淀到库里之前多了一道验证闸门。

⚠️ 一个尚未给出的关键参数

循环终止条件里有修订轮次上限 B,但公开摘要与可见方法章节没有给出 B 的取值、不同任务上 B 的分布,也没有给出「达到上限仍失败」的任务占比。缺少这个数,就无法判断 REVISE 的开销是常数级还是随任务难度放大。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。尚未说明的是 B 的取值策略、VALIDATE 的误准入率,以及冲突原语的替换规则。

四组同骨干增益:分母与口径核对

论文摘要给出四组可核对的读数,且都强调在同一 backbone 上对比,也就是说被改动的不是模型权重。四组的基准、指标与起点都不同,先把它们并排放好(来源:arXiv:2611.07461 摘要页)。

基准与指标基线接 HEELO 后百分点提升相对提升基线口径
Terminal-Bench 4.0 解决率37.3%55.5%+18.2pp约 +48.8%同骨干下 Codex 结果
Terminal-Bench 2.0 Pass@160.0%72.2%+12.2pp约 +20.3%seed harness
ToolBench 通过率55.8%75.1%+19.3pp约 +34.6%未注明具体产品 harness
GAIA-Text-103 准确率45.6%58.3%+12.7pp约 +27.9%未注明具体产品 harness

右侧两列是本文按公开数字做的原创换算,论文摘要只报前后两个百分数。四组的相对提升落在 20.3% 至 48.8% 的区间,跨度约 28.5 个百分点;把四个相对值平均成「整体提升约三分之一」没有依据,因为分母分别来自四个不同基准。

还有一处需要并列保留:摘要同时给出 Claude Opus 5 配 Claude Code 在 Terminal-Bench 4.0 上是 51.8%,而 Dev-Primitives 在同骨干下做到 55.5%。数字上后者高出 3.7 个百分点,但两组使用了不同模型与不同 harness,论文并未把它设计成跨模型对照实验,不宜据此排产品名次(原创口径辨析)。同类误读在本站 R-BENCH-28 的 Terminal-Bench 4.0 读法里已经专门讨论过。

🧾 四组数字,四种分母

解决率、Pass@1、通过率、准确率并不是同一种计分口径;即使都写成百分数,也不能相加或连乘。可迁移的结论只有一条:在冻结骨干模型的条件下,重做执行层能带来两位数量级的百分点增益,增益大小取决于任务类型。

46 个真实任务:9→39 与 9→35 怎么读

论文在 heelo.dev 平台上放了 46 个真实任务,覆盖四个端到端闭环的 26 项能力,每项的通过标准在首次运行之前固定;任务示例包括发布页面、发送外联、读取发票、抓取来源,以及航班、日历、邮件与浏览器自动化(来源:arXiv HTML 全文 2611.07461v1 与 heelo.dev 项目页)。

组合独立完成经 MCP 接 HEELO折算完成率时间与成本
Claude Opus 5.5 配 Claude Code9 / 4639 / 4619.6% → 84.8%时间少 1.9×,单完成任务成本低 1.55×
GPT-6.1 Sol 配 Codex9 / 4635 / 4619.6% → 76.1%时间少 2.3×,成本低 1.55×

完成率、倍数与差值均为本文按 46 这一共同分母做的原创换算。9→39 是约 4.33 倍,9→35 是约 3.89 倍;时间少 1.9× 与 2.3× 折算成剩余时间约 52.6% 与 43.5%,成本低 1.55× 折算成剩余成本约 64.5%。这些倍数分别对应两款模型与两组运行,不是同一个实验的两个指标。

按最小口径还能反推任务密度:46 个任务分摊到 26 项能力约每项 1.77 个,26 项能力分摊到四个闭环约每个 6.5 项。图注另说明时间与成本按「一项能力的任务」取平均,因此不是按 46 个任务逐个计量的明细账;若某项能力下任务数不同,均值会被任务数加权(原创换算与口径辨析)。

📌 平台自报的边界

heelo.dev 由论文作者团队运营,46 个任务、通过标准与接入方式均由同一方设定。它证明的是「该平台上的这些动作被包装成原语后可被调用」,尚不能外推到企业内网的异构系统。论文也没有公布独立第三方的复现结果。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。尚未公开的是四个闭环与 26 项能力的完整清单、失败案例分布,以及 1.55× 成本倍数的计费口径。

MCP 接入与可迁移边界

HEELO 不是要求用户换掉现有编码智能体。官方描述的连接链路是:Claude Code、Codex、Cursor 等外部智能体或 harness,通过 heelo.dev 的 MCP server 接入,把真实世界动作当作 agent-native primitives 来调用(来源:arXiv HTML 全文 2611.07461v1 与 heelo.dev 项目页)。

层由谁持有公开材料给出的内容公开材料未给出
外部智能体Claude Code / Codex / Cursor发起 46 个任务,独立完成 9 个版本、系统提示与工具白名单
MCP serverheelo.dev把真实世界动作暴露为原语认证方式、工具 schema、协议细节
原语库与组合器HEELO八族、COMPOSE 与 VALIDATE库规模、检索召回率、并发上限
环境证据任务运行环境构建状态、测试、编译器消息、轨迹无可执行环境时的替代证据强度

可迁移的部分是机制,不是平台:把「会用某个系统」做成带验证的独立单元、让失败证据指向具体单元、只把验证通过的改动写回库。这三条在多数企业 harness 里都能先小规模试。不可直接迁移的是读数——平台的 46 个任务、MCP 暴露的动作集与通过标准都由一方定义。

同周还有两条相邻路线值得并列:HarnessFlow(arXiv:2611.06254)用蒙特卡洛树搜索改写整套执行程序,在固定 GPT-5.4-mini 骨干下把六项基准宏平均从 58.59% 提到 69.48%;Agent Harness Awareness(arXiv:2611.05391)在动作派发前注入经过验证的遥测快照。三者改的都是执行层,但改动对象分别是库单元、流程代码与输入状态,不能叠加成一份总收益(本轮能力评测篇 R-BENCH-58 另做量化横评)。

🧭 选型顺序

失败表现为「工具拿得到、参数总填错」,优先看把使用能力绑到资源上;表现为「流程顺序或停止规则不对」,优先看流程搜索;表现为「工具当时已经不健康」,优先看遥测注入。先定位失败落在哪一段,再决定改造哪一层。

六组原创换算与它们各自的分母

以下六组数字均由本文依据公开读数推算,论文摘要未直接给出。每组都标明分母,避免把不同口径的量拼在一起。

换算依据结果分母与边界
四组增益的相对幅度18.2/37.3、12.2/60.0、19.3/55.8、12.7/45.6约 48.8% / 20.3% / 34.6% / 27.9%各自基准基线,跨行不可平均
每族平均基准数下界二十余个基准 ÷ 八族至少约 2.5 个把「二十余」按下界二十处理
库内密度102 页 ÷ 54 表;54 表 ÷ 21 图约 1.89 页一表、每图约 2.57 表篇幅结构,非实验密度
46 任务完成率9、39、35 同除以 4619.6% → 84.8% / 76.1%同一批任务,不同模型与 harness
时间成本折算1.9×、2.3×、1.55×剩余时间约 52.6% / 43.5%,剩余成本约 64.5%按「少 N 倍」口径折算,非直接测得
能力与任务密度46 ÷ 26;26 ÷ 4每能力约 1.77 任务、每闭环约 6.5 能力均摊,实际分布未公开

把 84.8% 与 76.1% 相减得到 8.7 个百分点是有意义的,因为分母同为 46;但把 55.5% 与 84.8% 相减没有意义,前者是 Terminal-Bench 4.0 的任务解决率,后者是 heelo.dev 自建任务集的完成率。这条界线是本文对读榜顺序的主要增量。

可证伪边界与未披露项

把这篇材料当作工程清单时,以下几处应保留怀疑:

一条可证伪的检验路径是:固定原语库不再 admit 新单元,只保留 COMPOSE 与 VERIFY,若四组增益大体不变,则「库演化」不是增益来源;反过来若增益明显回落,才说明 ADMIT 起了作用。论文目前没有给出这组消融,本文把它列为待验证项而非结论。

可迁移的做法其实不依赖 heelo.dev:为每个高频系统写一份带验证的使用单元、让失败证据指向具体单元、把改动经独立验证后再写回共用库。这三步在多数智能体框架里都能先做小规模 A/B,再决定是否引入完整原语库。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。尚未说明的是四个端到端闭环与 26 项能力的完整清单、第三方复现数据、ADMIT 的误准入率与八族之外的扩展规范。

核心发现

参考来源

  1. arXiv:2611.07461 — The Last Mile to the Real World: Agent-Native Primitives as Reusable Building Blocks for Solving Real-World Tasks(Haibo Jin 等 14 位作者,2026.11.05 提交,102 页 21 图 54 表,摘要页与提交历史)
  2. arXiv HTML 全文 2611.07461v1 — 八类 primitive family 名称与任务类型、COMPOSE / EXECUTE / VERIFY / REVISE / ADMIT 的形式化描述、46 任务与 26 capabilities 的构成说明
  3. heelo.dev 项目页 — 46 个 real-world tasks、pass criteria 在首次运行前固定、通过 MCP server 接入 Claude Code / Codex / Cursor 的官方说明
  4. Top arXiv Papers 收录页(li469-138.members.linode.com/arxiv/2611.07461)— 作者全名单、2026.11.06 收录日期、项目页与 PDF 入口交叉
  5. arXiv:2611.06254 — HarnessFlow: MCTS-Guided Harness Optimization for LLM Agents(同期执行层搜索路线,arXivDaily 2026.11.05 中文解读,用作方法对照)
  6. arXiv:2611.05391 — Agent Harness Awareness: Turning Verified Telemetry into Operational Control for Tool-Using Agents(同期遥测注入路线,用作边界对照)
  7. ClawdBytes / Tech Bytes 与本站 R-TECH-43 Harness²、R-TECH-49 Infinity、R-TECH-60 Deep Insight、R-BENCH-28 Terminal-Bench 4.0 读法(内部对照与第三方评述)