三端共用一个模型意味着什么

GUI 智能体这个概念不新,难点也不在「能不能看懂界面」,而在于看懂之后能不能把事做完。过去两年大多数工作停在单端:一个模型专门跑网页,另一个专门跑手机,桌面端再单独做一套。跨端往往靠外挂的适配层把不同来源的模型拼起来。

蚂蚁集团旗下研究团队开源的 UI-Venus-2 换了个做法:一套权重覆盖移动端、网页与原生桌面三类环境,语义理解、界面定位与动作生成共用同一个 checkpoint。

9B 与 27B 两个版本,Apache-2.0,9B 从 Qwen3.5-9B 初始化一句自然语言指令观察界面截图与可访问性树推理任务状态先思考再动作输出动作点击/输入/滚动环境反馈回到下一步决策同一个 checkpoint移动端 170+ 中英文 App网页端 4,000+ 域名原生桌面系统
跨端的价值不在「一个模型能做三件事」,而在于动作空间本身是共享的——点、输、滚、拖,三端并没有本质差别,差别在界面渲染与控件分布。

跨端的价值不只是省训练成本。更实际的一层是动作空间本身是共享的——点、输入、滚动、拖拽,三端在动作原语上没有本质差别,差别在界面渲染方式与控件分布。既然动作原语相同,真正需要跨端适配的是「在哪里点」而不是「怎么点」。这也解释了为什么这套模型把界面定位单独当作一项核心能力来训。

规模上给两个版本:9B 与 27B。9B 从 Qwen3.5-9B 初始化,采用宽松的开源许可,配 vLLM 与兼容接口、开 256K 上下文即可跑起来,官方还提供了让模型先思考再动作的解析器。权重与评测基础设施一并放出。

两级验证:这篇技术报告里最值得抄的部分

把成绩单放一边,这份技术报告里对工程团队最有参考价值的是一处设计选择:验证被拆成了两层。

轨迹级验证从任务目标里抽出可验证的完成点,把整条轨迹判成完成、部分完成、不可行或失败四档。样本级验证在每一步动作执行之前就判断这一步对不对,区分正确、探索、无效与错误。两层信号再经多个异构模型投票汇总,用来给强化学习提供奖励。

为什么非要做两层?因为传统做法只看「最后成没成」。这个判据在基准里够用,在训练里会出问题:部分完成很容易被当成成功,于是模型学到的是「把界面推到看起来差不多的状态」,而不是「把任务真正做完」。作者的说法很直接——粗糙或脆弱的验证器会把部分进展误判为真正完成,这正是很多 GUI 智能体在榜单上好看、一上线就崩的根因。同时,过于粗的奖励信号本身也会被策略利用。

把这条经验抽出来是通用的:凡是靠强化学习提升的智能体能力,奖励信号的判定粒度决定了模型学到什么。粒度粗,模型学到的目标就和人以为的目标不是一回事。

训练分三步,融合靠的是动作感知监督

这套模型的训练流程可以概括为三段:先用大规模交互轨迹做中期训练,给模型打 GUI 理解的底子;再针对不同场景做离线强化学习,逐个强化移动端、桌面、网页、验证码与界面定位几项能力;最后用多教师在线蒸馏把各领域的专家模型融回一个统一模型。

三步里最需要说明的是第三步。把多个领域专家融进一个模型时,常见问题是能力互相打架——强化了桌面能力,网页能力反而掉。这里采用的策略叫动作感知监督:只对真正影响结果的动作 token 加重监督。动作类型对但参数错,就加强参数区间;类型本身错,就重点优化类型那几个 token。推理过程本身不白费力气去拟合。

这个做法的隐含前提是,它能区分「动作类型错」与「动作参数错」。这需要前面的两级验证先提供足够细的信号,两处设计是配套的。

成绩单与它的读法

标注说明:目前均为厂商自报,尚未见第三方独立复现基准UI-Venus-2-9BUI-Venus-2-27B对照WebVoyager(网页)90.893.4Kimi-K2.6 76.8MobileWorld(移动,50 步)65.8同项更高OSWorld-Verified(桌面)70.8Kimi 73.1AndroidWorld84.0刷新 SOTA桌面长程 DeskCraft/验证码基准:27B 版分别达到 55.5 与五项领先。
值得注意的不是 9B 在网页与移动两项上超过更大的通用模型,而是它在桌面基准上落后于对照——能力不是全面反超,而是分端有别,这与专项训练数据的分部吻合。

厂商自报的数值里,9B 在网页导航基准上拿到 90.8%,比对照的通用模型高出一截;移动端五十步任务成功率 65.8%,同项也高于对照;桌面基准 70.8%,反而略低于对照。27B 把上限继续推高,网页导航到 93.4%,移动端基准 84.0%,长程桌面工作流 55.5%,并在五项验证码基准上取得领先。

这组数字里最值得注意的恰恰是那处落后的项目。9B 在桌面基准上不如更大的通用模型,说明能力不是全面反超,而是分端有别。这与专项训练数据的分部吻合:移动端与网页端的公开任务与轨迹更多,桌面端的长程工作流样本更稀缺。

还有一个解释值得记下来。9B 能在部分跨端任务上超过参数大得多的通用模型,不是因为小模型更聪明,而是因为 GUI 任务的动作空间有限。模型需要学的不是通用推理,而是看准控件、走对流程这两件相对专门的事。一旦用专项数据把这两件事训扎实,参数量带来的边际收益就下降了。对端侧部署来说这是个好消息:更小的模型意味着可以在手机与浏览器扩展里实时跑,不必每次都把截图送回云端。

配套的执行侧与安全侧

榜单之外的配套更能说明落地意图。团队同时开源了两套执行框架:一套把模型部署成自主移动智能体,预置四十多个主流中文应用,支持多设备并行与轨迹回放;另一套是跑在浏览器扩展里的网页智能体,接上兼容接口的视觉模型后,可以在授权范围内执行真实网页任务。

安全侧公布了两组桌面安全基准的结果:9B 把攻击成功率压到 11.3%;27B 在另一项越界基准上为 47.9%。作者的说法是能力越强越需要把边界守住。这里有一处需要留意:同一方法在两个基准上的对抗结果差距很大,说明现有安全评测的难度分布并不均匀,单看一个数容易得出过于乐观的结论。

另外,报告提到「安全感知机制」用于约束有后果的动作,但未展开具体实现。这部分尚缺细节。

想自己试跑一遍,门槛在哪

对想动手的团队,推理侧的门槛并不高:9B 版本从 Qwen3.5-9B 初始化,采用宽松的开源许可,配 vLLM 与兼容接口、开 256K 上下文就能跑,官方还给了让模型先思考再动作的解析器。想接真实设备,再叠上移动执行框架或浏览器插件。

真正高的门槛在训练侧。三阶段流程里的中期训练需要大规模交互轨迹,离线强化学习需要一套能自动判定成败的环境,多教师蒸馏还需要先把各领域专家训出来。报告给出的细节足以让人理解方法,但不足以照着复现一遍——这也是这类技术报告的常态。

比较务实的路径是反过来用:先拿开源权重在自己的应用上跑一轮,量出真实成功率与失败类型;如果失败集中在某一类界面上,再考虑用自建轨迹做少量微调。先测后训比先训后测省得多,因为自建轨迹的采集与标注本身就很贵。

还有一点值得提醒:验证器比模型更难做。两级验证之所以有效,是因为它把「部分完成」单独拎成了一档;而要为自家业务定义这一档,需要有人先写清楚什么算完成。这件事没有开源模型可以代替。

需要标注的边界

其一,全部基准成绩为厂商自报,尚未见第三方独立复现。报告本身也说明了不同来源的动作脚手架可能存在差异。真上线前应在自己的应用上实测。

其二,跨端能力不等于零配置。它依赖真机或浏览器环境,接入需要部署执行框架并处理设备或扩展的权限。

其三,验证码基准上的领先与「能自动过验证码」不是一回事。基准测的是识别与操作能力,实际场景中的合规边界由各平台规则决定。

其四,涉及转账、删除、对外发送这类关键动作,报告的立场仍然是建议人工确认。

其五,对想要复现的团队,9B 版本门槛不高,但两级验证与多教师蒸馏的完整复现成本远高于推理成本,报告给出的训练细节不足以直接照搬。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。