10 月 13 日晚提交 arXiv 的 Hybrid Reasoning Agents(编号 2610.18861,代码开源在 Together 名下)想拆掉智能体推理领域的一堵墙:墙的左边是文本推理——每一步都明码标价,能调工具、能与人协作,但长程任务里 token 烧得心疼;墙的右边是潜空间推理——连续表示效率高,却缺原生工具入口,思考过程也不透明。过去的选择题是二选一,这篇论文的答案是:在同一次生成过程里来回换挡。

论文把这种智能体称为 HybridAgent,两处核心设计撑起「换挡」。其一是轻量的 HybridLink 模块,负责文本模式与潜空间模式之间的无缝切换,不打断生成的连续性;其二是连续工作记忆,跨轮保持「无损混合上下文」——最早几轮里潜想与文本产生的两种表示一起进记忆,后面每一轮都接着用,不压缩、不丢失。

一套生成过程里动态换挡:效率归潜空间,工具与可检查性归文本潜空间推理模式内部介质,效率高连续表示,不吃文本预算短板:缺原生工具入口推理过程不透明过去:只能二选一HybridLink轻量切换模块文本 ↔ 潜空间无缝换挡不打断生成文本交互模式原生工具调用检索、执行、环境动作短板:每步都烧 token长程任务成本陡增过去:只能硬扛连续工作记忆:跨轮保持「无损混合上下文」第 1 轮:潜想 + 文本两种表示同时入记忆第 2 轮:接着想上下文不压缩、不丢失第 N 轮:照旧混合态全程可查论文的主张:工具集成的智能体能力保住了,潜思考还变得可直接检查——效率与透明不必二选一
图|双介质架构图。读图要点:换挡发生在同一次生成过程内部,工作记忆负责让两种表示无损接力。

先教配合,再教时机

架构只是底座,论文真正的功夫在后训练。HybridSFT 负责「稳定」:教骨干模型与 HybridLink 打好配合,让工具集成的混合生成不散架;HybridRL 负责「放大」:让模型自己学什么时候该在潜空间里想、什么时候该通过文本去行动。两步的顺序有讲究——配合都没练稳,就谈换挡时机,等于教新手先玩漂移。

这套设计对上了两个老问题。工具调用能力保住了:动作仍然通过文本执行,检索、计算、环境交互一样不落。潜思考变透明了:论文强调 latent thought 可以直接检查,这在以往是很难的卖点——效率与可审计性往常被视为 trade-off。

先教模型配合切换模块,再教它何时该想、何时该干后训练两步走HybridSFT:稳定混合生成教骨干与 HybridLink 打好配合HybridRL:学换挡时机什么时候在潜空间想,什么时候通过文本行动三类收益(相对对比方法)性能一致提升 10.4%token 减少 35.5%-54.7%推理快 1.8-2.6 倍成本省 2.7-3.7 倍评测面与对比面3 个模型规模 × 11 个基准数学、科学、医学、搜索、智能体推理对手含文本派与潜空间派前沿 LLM 智能体与智能体框架代码与数据已开源(Together 托管)——「混合推理」从论文走向可复现的一步
图|训练流程与收益面板。注意所有收益都是「相对既有方法」的区间值,不是绝对水位。

收益是区间,读法要对应

论文在 3 个模型规模、11 个基准(数学、科学、医学、搜索、智能体推理)上评测,对比对象既有文本路线的前沿 LLM 智能体与框架,也有潜空间路线的方法:性能一致提升 10.4%,token 减少 35.5% 到 54.7%,推理快 1.8 到 2.6 倍,成本省 2.7 到 3.7 倍。

四个数字都要连着限定词读:10.4% 是相对既有方法的平均提升,不是绝对水位;token 与速度、成本都是区间,随模型规模与任务类型浮动;「一致提升」的措辞值得肯定——它意味着不是挑基准挑出来的。代码与数据已开源,是这条路线少数一开始就把复现门槛铺平的论文。

和「关思考」那条线对着读

本月 arXiv 上还有一篇 NeurIPS 接收的论文(Thinking Inertia)测量了「让模型别想了」这件事:关掉思考开关,模型在开放问答里仍有 99.9% 的概率留下可见推理,且强行只输出答案要拿约 15 个点的准确率去换。两篇论文看似一条线,其实开的是两副药:一副治「关不掉」,一副治「不用关」——把思考搬到更便宜的介质里,比逼模型闭嘴更接近工程解。

再往服务侧捎一句:本站此前关注的 GraphTok 把分词器搬上 GPU,治的是长上下文反复重发的延迟;混合推理治的是每轮推理的单价。长程智能体的成本账,从来不是一处省出来的。

怀疑与边界

几点保留:11 个基准的选题偏向数学、科学与搜索,多工具、长交互的企业场景覆盖有限;「潜思考可检查」的实现程度需要读代码才能验证,论文层面的承诺到工程可见之间常有折损;作者阵容横跨多机构,代码托管的开源细节(权重、数据卡、训练配方披露到什么程度)值得后续核对。45 页的篇幅说明实验充分,也说明结论需要复现来收敛。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。