GUI 智能体的榜单过去只回答一个问题:任务成没成。10 月 14 日提交 arXiv 的 GraceBench(编号 2610.19900)问的是另一问:任务成了,路走稳了吗?它把手机应用的可达交互空间画成一张 UI 变迁图,用视频接地的轨迹在图上逐步对齐,给 3718 条轨迹拍了一张 X 光片——结果显示,一半以上的成功轨迹,中途都偏过或者兜过圈子。
终点合格证为什么不够用
在自动化工作流里,过程不稳的代价是实打实的:多余动作和绕路会污染采回来的数据,执行错误可能留下不可逆的副作用,反复兜底则消耗信任——哪怕任务最后照样完成。而既有基准大多只记最终成功率,最多加几个中间里程碑,步级行为基本是黑箱。对拿 GUI 智能体采数据、做演示的团队,这个问题更尖锐:踉踉跄跄跑完的轨迹,正是训练数据里最该挑掉的噪声,但过去没有尺子去量它。
图对齐加视频接地
GraceBench 的做法分两步。先把每个应用的可达交互空间整理成 UI Transition Graph(UTG)——10 个应用、10 张图、2909 个规范界面态、3116 条观测转移,作为步级诊断的结构参照;再把动态界面观测与图状态对齐,用视频接地的方式给 3718 条轨迹逐步评估。落下来三个过程指标:偏离率(绕没绕远路)、循环负担率(兜圈圈的程度)、恢复能力(跑偏之后拽不拽得回来)。它是一个在线评测框架,而不是一份静态题目集——应用更新之后,图和轨迹可以跟着重采,基准不至于一夜过期。
三个刺眼的读数
其一,51.24% 的成功运行仍然包含偏离或循环——终点达标和过程干净,基本是两回事。其二,GPT-5.6 Sol 拿下了最高的成功率,恢复能力却排在末位;会赢的选手,未必会从踉跄里找回节奏。其三,成功率与完成率都相同的两条轨迹,恢复行为可以差出很远。这意味着只看通过率的榜单,会把「踉跄完赛」和「稳健完赛」混为一谈,而这两类轨迹作为训练资产的价值完全不同。
再往细处想一步,这套指标改变的不只是排名,还有基准的设计哲学。过去攒一个 GUI 基准,重点是攒题目、定通关标准;GraceBench 把重点挪到了轨迹的形态上——同样的终点,走法不同,得分不同。对采数据、做演示、跑自动化的三方团队,这等于多了一把共用的尺子:验收时不再只问「任务完成了吗」,而是「完成得干净吗」。
放进赛道里看
GUI 智能体这条线,本站从「能点对按钮」(434、1034)追到「跨界面操作与授权」(1067、1287),再到年度观察(1464),GraceBench 补的是质量维度:从演示成功走向过程可信。它和上周的「交付债」(1908)是同一个账本的两页——那篇算的是产品化闭环,这篇量的是单步执行。更妙的是和同批 Labelbox(1929)的对照:那边用确定性验证器给轨迹打分,喂给训练;这边用图对齐给轨迹验货,拦在部署前。同一批轨迹,训练侧要打分,部署侧要验货,两边终于都有了工具。
需要保留的怀疑
覆盖面是头一道坎:10 个移动应用、169 个任务,离「GUI 世界」的全貌还远;UTG 的前提是转移图可枚举,遇到动态内容、登录态、弹窗洪流,建图本身就成了工程难题。视频接地给评估增加了管线,也就增加了新的失败面——对齐错了,打分全歪。代码与数据论文称将发布,能不能复现要看放出来的版本。3718 条轨迹是快照,框架一升级,读数可能整体搬家。
目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。给正在用 GUI 智能体采数据的团队一条动作:下次评估别只报通过率,把偏离率和恢复能力一起拉出来——你会惊讶地发现,两个通过率相同的智能体,交出来的数据资产可能差出一个量级。