评测智能体有个用了很久的懒办法:看终局。任务完成了,记一分;没完成,记零分。这套口径在聊天时代没什么问题,到了长程智能体手里开始漏水——一个智能体在支付流程里绕过了额度校验、把该审的凭证跳过,只要最后把钱付对了,旧口径照样给它记满分。10 月 14 日提交 arXiv 的 BizBench 就是冲着这个漏水口去的:它把「做完了」拆成「目标达成」与「执行有效」两栏,分别计分。
这篇论文的作者团队九人,归类在计算工程、金融与科学的交叉处,尚未经同行评审。基准的可执行环境搭自一家头部支付企业的真实业务流程——论文没有披露这家企业的名字——里面整合了 789 份知识文档和 601 个可发现的业务工具,政策、状态与工具行为保持一致。50 项任务每一道都经过参考执行验证,确定性的检查同时评估目标达成与执行有效性,且不规定一条标准解法。题目故意设置刁难:资源约束、时序依赖、先前承诺,以及互相冲突或已经过时的指引。
两栏计分,差出九个百分点
读数很有说服力。前沿模型这一侧,Claude Opus 5 的严格成功率 64.0%,GPT-6 Sol 为 61.3%——注意,论文对这两个模型只报了严格成功一栏。落到开源一侧,Qwen3.8-27B 的目标达成率 42.0%,严格成功率只剩 32.7%。同一模型、同一批题,两栏之间 9.3 个百分点的落差,说的就是「结果对了、过程违规」的那部分运行。在支付这种高罚则场景,中间步骤违规即使终局正确,也可能已经造成资金或合规后果——这正是两栏计分的意义。
还有一笔执行税
除了对错,论文还量了代价。DeepSeek-V4.1-Flash 平均每次运行发起 191.3 次工具调用,比参考执行多出约七成。步骤冗余很少被算进失败,但它是实打实的成本与出错面:每多一次调用,就多一次参数写错、权限越界或被注入的机会。把「多走的路」和「走错的路」放进同一张表,才是完整的长程智能体账单。
放进台谱里看
「过程有效性」这条线,站点这两个月一直在铺。GraceBench(1925)给 GUI 智能体的执行稳定性单开度量:偏离、循环、恢复能力;ACED-Bench(1929)用证据账簿记录「选错干预、丢证据、该停不停」三类失败;OverclaimBench(1150)抓的是智能体把没做完说成做完了。BizBench 的增量在于把过程计分搬进真实企业流程与高压约束里——前面几张卷子多在受控任务里考过程,它直接把考场搬进了支付公司的作业指导书。
几盆该浇的冷水
样本量是头一道坎:50 项任务、四组模型读数,还谈不上统计稳健。其次,流程来自单一企业,向其他行业迁移的结论要另测。再者,模型版本是论文写就时的快照,刷个版本,读数就得重采。最后,预印本未经同行评审,参考执行与判分脚本是否开源,摘要页没有说明——复现门槛明摆着。这些不掩盖论文的方向价值:评测从「结果分」走向「过程分」,是今年少数几条没有回头路的方向之一。
给正在搭智能体评测的团队一个即刻可用的动作:在通过率报表旁边加一栏「严格成功」,再把工具调用次数与参考执行的比值也放进去。两栏一放,很多自我感觉良好的运行会立刻现形。