GUI 智能体的榜单过去只回答一个问题:任务成没成。10 月 14 日提交 arXiv 的 GraceBench(编号 2610.19900)问的是另一问:任务成了,路走稳了吗?它把手机应用的可达交互空间画成一张 UI 变迁图,用视频接地的轨迹在图上逐步对齐,给 3718 条轨迹拍了一张 X 光片——结果显示,一半以上的成功轨迹,中途都偏过或者兜过圈子。

任务成没成是一问,路走没走稳是另一问手机应用10 个 App169 个任务UI 变迁图(UTG)2909 个规范界面态3116 条观测转移视频接地的轨迹评估(3718 条轨迹)动态界面观测与图状态对齐后逐步打分:偏离率 / 循环负担率 / 恢复能力三个过程指标偏离率绕没绕远路循环负担率兜圈圈的程度恢复能力跑偏后拽得回来吗老基准只记终点和少量里程碑;这张图补的是每一步:成功轨迹里也可能埋着绕路与死循环
图|左中两图给出评测流水线,右图是三个过程指标。读图要点:它给轨迹拍 X 光,而不是只发毕业证。

终点合格证为什么不够用

在自动化工作流里,过程不稳的代价是实打实的:多余动作和绕路会污染采回来的数据,执行错误可能留下不可逆的副作用,反复兜底则消耗信任——哪怕任务最后照样完成。而既有基准大多只记最终成功率,最多加几个中间里程碑,步级行为基本是黑箱。对拿 GUI 智能体采数据、做演示的团队,这个问题更尖锐:踉踉跄跄跑完的轨迹,正是训练数据里最该挑掉的噪声,但过去没有尺子去量它。

图对齐加视频接地

GraceBench 的做法分两步。先把每个应用的可达交互空间整理成 UI Transition Graph(UTG)——10 个应用、10 张图、2909 个规范界面态、3116 条观测转移,作为步级诊断的结构参照;再把动态界面观测与图状态对齐,用视频接地的方式给 3718 条轨迹逐步评估。落下来三个过程指标:偏离率(绕没绕远路)、循环负担率(兜圈圈的程度)、恢复能力(跑偏之后拽不拽得回来)。它是一个在线评测框架,而不是一份静态题目集——应用更新之后,图和轨迹可以跟着重采,基准不至于一夜过期。

51.24% 的成功轨迹,中途都偏过或兜过圈51.24%的成功运行仍含偏离或循环终点达标,不等于过程干净——绕远与死循环会污染采到的数据一个刺眼的反差GPT-5.6 Sol成功率排前同一个模型恢复能力垫底成功率与恢复力可以是两回事:会赢的选手,未必会从踉跄里找回节奏。还有一层:成功率(SR)与完成率(CR)都相同的两条轨迹,恢复行为可以差很多这意味着只看通过率的榜单,会把「踉跄完赛」与「稳健完赛」混为一谈——而前者采出来的数据,正是训练时最该挑掉的噪声。代码与数据论文称将开源,能否复现要看放出来的版本。
图|左图为含偏离或循环的成功轨迹占比,右上为成功率与恢复力的反差。读图要点:通过率相同的两个智能体,可能一个稳一个颤。

三个刺眼的读数

其一,51.24% 的成功运行仍然包含偏离或循环——终点达标和过程干净,基本是两回事。其二,GPT-5.6 Sol 拿下了最高的成功率,恢复能力却排在末位;会赢的选手,未必会从踉跄里找回节奏。其三,成功率与完成率都相同的两条轨迹,恢复行为可以差出很远。这意味着只看通过率的榜单,会把「踉跄完赛」和「稳健完赛」混为一谈,而这两类轨迹作为训练资产的价值完全不同。

再往细处想一步,这套指标改变的不只是排名,还有基准的设计哲学。过去攒一个 GUI 基准,重点是攒题目、定通关标准;GraceBench 把重点挪到了轨迹的形态上——同样的终点,走法不同,得分不同。对采数据、做演示、跑自动化的三方团队,这等于多了一把共用的尺子:验收时不再只问「任务完成了吗」,而是「完成得干净吗」。

放进赛道里看

GUI 智能体这条线,本站从「能点对按钮」(434、1034)追到「跨界面操作与授权」(1067、1287),再到年度观察(1464),GraceBench 补的是质量维度:从演示成功走向过程可信。它和上周的「交付债」(1908)是同一个账本的两页——那篇算的是产品化闭环,这篇量的是单步执行。更妙的是和同批 Labelbox(1929)的对照:那边用确定性验证器给轨迹打分,喂给训练;这边用图对齐给轨迹验货,拦在部署前。同一批轨迹,训练侧要打分,部署侧要验货,两边终于都有了工具。

需要保留的怀疑

覆盖面是头一道坎:10 个移动应用、169 个任务,离「GUI 世界」的全貌还远;UTG 的前提是转移图可枚举,遇到动态内容、登录态、弹窗洪流,建图本身就成了工程难题。视频接地给评估增加了管线,也就增加了新的失败面——对齐错了,打分全歪。代码与数据论文称将发布,能不能复现要看放出来的版本。3718 条轨迹是快照,框架一升级,读数可能整体搬家。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。给正在用 GUI 智能体采数据的团队一条动作:下次评估别只报通过率,把偏离率和恢复能力一起拉出来——你会惊讶地发现,两个通过率相同的智能体,交出来的数据资产可能差出一个量级。