10 月 13 日晚提交 arXiv 的 Hybrid Reasoning Agents(编号 2610.18861,代码开源在 Together 名下)想拆掉智能体推理领域的一堵墙:墙的左边是文本推理——每一步都明码标价,能调工具、能与人协作,但长程任务里 token 烧得心疼;墙的右边是潜空间推理——连续表示效率高,却缺原生工具入口,思考过程也不透明。过去的选择题是二选一,这篇论文的答案是:在同一次生成过程里来回换挡。
论文把这种智能体称为 HybridAgent,两处核心设计撑起「换挡」。其一是轻量的 HybridLink 模块,负责文本模式与潜空间模式之间的无缝切换,不打断生成的连续性;其二是连续工作记忆,跨轮保持「无损混合上下文」——最早几轮里潜想与文本产生的两种表示一起进记忆,后面每一轮都接着用,不压缩、不丢失。
先教配合,再教时机
架构只是底座,论文真正的功夫在后训练。HybridSFT 负责「稳定」:教骨干模型与 HybridLink 打好配合,让工具集成的混合生成不散架;HybridRL 负责「放大」:让模型自己学什么时候该在潜空间里想、什么时候该通过文本去行动。两步的顺序有讲究——配合都没练稳,就谈换挡时机,等于教新手先玩漂移。
这套设计对上了两个老问题。工具调用能力保住了:动作仍然通过文本执行,检索、计算、环境交互一样不落。潜思考变透明了:论文强调 latent thought 可以直接检查,这在以往是很难的卖点——效率与可审计性往常被视为 trade-off。
收益是区间,读法要对应
论文在 3 个模型规模、11 个基准(数学、科学、医学、搜索、智能体推理)上评测,对比对象既有文本路线的前沿 LLM 智能体与框架,也有潜空间路线的方法:性能一致提升 10.4%,token 减少 35.5% 到 54.7%,推理快 1.8 到 2.6 倍,成本省 2.7 到 3.7 倍。
四个数字都要连着限定词读:10.4% 是相对既有方法的平均提升,不是绝对水位;token 与速度、成本都是区间,随模型规模与任务类型浮动;「一致提升」的措辞值得肯定——它意味着不是挑基准挑出来的。代码与数据已开源,是这条路线少数一开始就把复现门槛铺平的论文。
和「关思考」那条线对着读
本月 arXiv 上还有一篇 NeurIPS 接收的论文(Thinking Inertia)测量了「让模型别想了」这件事:关掉思考开关,模型在开放问答里仍有 99.9% 的概率留下可见推理,且强行只输出答案要拿约 15 个点的准确率去换。两篇论文看似一条线,其实开的是两副药:一副治「关不掉」,一副治「不用关」——把思考搬到更便宜的介质里,比逼模型闭嘴更接近工程解。
再往服务侧捎一句:本站此前关注的 GraphTok 把分词器搬上 GPU,治的是长上下文反复重发的延迟;混合推理治的是每轮推理的单价。长程智能体的成本账,从来不是一处省出来的。
怀疑与边界
几点保留:11 个基准的选题偏向数学、科学与搜索,多工具、长交互的企业场景覆盖有限;「潜思考可检查」的实现程度需要读代码才能验证,论文层面的承诺到工程可见之间常有折损;作者阵容横跨多机构,代码托管的开源细节(权重、数据卡、训练配方披露到什么程度)值得后续核对。45 页的篇幅说明实验充分,也说明结论需要复现来收敛。
目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。