前沿智能体的本事越来越多是在强化学习里泡出来的,而泡它的容器却常年缝缝补补。10 月 12 日提交 arXiv 的 LoongSage(编号 2610.16352)把话挑明:现有 RL 框架大多从单轮 RLHF 或可验证奖励 workload 继承而来,放到智能体任务上——外部工具调用、多轮交互、长程决策——立刻显得臃肿,采用、使用、调试三项都涨价。这个四十余人的团队给出的答案是一套约 14K 行代码的开源框架,跑在 Megatron 与 SGLang 上,连验证过的训练配方一起放出。
一个控制器,管住所有 GPU 组件
架构一句话:单一控制器进程居中调度,所有 GPU 常驻组件封装成 Ray actor。这个选择的直接收益是「哪儿出问题去哪儿看」——智能体训练的事故很少发生在算法层,更多发生在训练引擎、推理引擎、教师模型三方抢资源、互甩黑锅的缝里。把调度收敛到一个进程,故障面就从「整个集群的玄学」变成「一条日志链」。
AgentFlow 管「什么智能体都能接」:白盒黑盒都走标准对话接口,零侵入智能体逻辑;关键是 Token-In Token-Out(TITO)——推理时生成的原始 token 流原样喂回训练引擎,框架核心因此不用为每个领域智能体重写一遍。TransferMesh 管权重同步:把权重当成连续的命名张量流,按设备物理拓扑自动选路,同卡走 CUDA IPC、跨机走 NCCL 广播,两个后端引擎对此无感。教师侧则是独立管理的 Teacher Manager,教师模型当动态计算资源,允许挂几个教师不再受学生显卡容量限制,全词表多教师同策略蒸馏原生支持。
异步不难,难在异步之后还记得自己是谁
这篇论文真正较真的是「跑丢」问题。智能体 RL 的轨迹长尾分布严重,同步训练-推理循环会被最慢的一条轨迹拖出大量空转;把采样与优化解耦、上了全异步,轨迹又会变旧,off-policy 漂移悄悄积压。LoongSage 的路数是 train-rollout 缓冲加滑动窗口:把「旧多少」变成显式参数,漂移从此可管而不是撞见才发现。再往下还有一层更隐蔽的差:分词、数值精度、MoE 路由在训练与推理引擎间的系统性错位,加上推理序列与训练所消费数据之间的松散重建——算法超参数救不了这些,论文把它当系统属性防:MoE 路由回放、关键层精度钉住、TIS/M2PO/OPSM 残差校正,一层层补。
四次完整训练运行的结论(论文自述):任务奖励稳步上行、训练推理差持续受控、同步空转气泡消失。注意口径——没有独立验证,这些读数目前只能当作者自评。
放进赛道里看
把它和本站解读过的 QwenGyre(1874)摆一起看,是一对漂亮的互补:QwenGyre 回答「长程智能体的 RL 算法怎么设计」,LoongSage 回答「这个训练循环怎么在几千张卡上不跑丢」。一个算法侧,一个系统侧,合起来才是智能体 RL 的完整故事。再往上接一层,上周的「交付债」(1908)算的是单机与会话层面的账,LoongSage 动的是训练侧的硬件利用率——智能体经济的成本线,正从推理侧往训练侧延伸。开源策略也值得记一笔:框架加配方一起放,别人拿在前沿模型上验证过的配置直接起跑,这把「采用成本」本身当成了竞争维度。
需要保留的怀疑
「14K 行轻量核心」的轻是相对的——Megatron 加 SGLang 加 Ray 的底座决定了它的主场在规模集群,小团队未必消费得起;论文摘要层面的四次运行缺少与主流框架的逐项对比细节;配方「验证过」指的是作者环境,迁移到别的硬件拓扑仍需重新校准。基础设施类论文的通病:架构图永远优雅,采用曲线永远滞后两年。
目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。但对自建智能体训练管线的团队,这篇的价值不在抄架构,而在一张检查清单:你的循环里,轨迹新鲜度是显式参数还是玄学?训练与推理的 token 流对得上吗?多教师蒸馏受不受显存卡脖子?三个问题有一个答不上来,这套论文就值得读原文。