📊 评测基准

BrowseComp(深度浏览检索基准)

别名:BrowseCompBrowseComp 基准深度浏览基准浏览智能体基准BrowseComp Benchmark
分类📊 评测基准
阅读时间⏱️ 16 分钟
更新时间📅 2026-09-21
条目编号ENC-BENCH-15-browsecomp
BrowseComp 是 OpenAI 于 2025 年 4 月发布的网页浏览智能体基准,用 1,266 道「难以查找、易于验证」的多跳问题,衡量智能体持续检索并把分散信息整合成答案的能力。

关键要点 ✦

反向出题:先把答案藏起来

BrowseComp 的设计起点是一个务实的观察:如果题目能被检索框直接解答,它衡量的就不是智能体能力,而是搜索索引的覆盖率。因此 OpenAI 采用了反向的构造流程——标注者先掌握一条已知事实,再围绕它写出一道题,并同时满足两个约束:答案不出现在该问题的搜索结果首页;另一个人无法在十分钟内解决它。

这样做的好处是把「难度」与「冷门」区分开来。题目难在信息之间的纠缠而不是知识的晦涩:解出一道题通常需要先找到若干条互相牵连的线索,逐层缩小范围,最终指向一个可以被验证的短答案。论文把这类问题与编程竞赛作类比——它并未覆盖真实用户查询的全部形态,例如不会考察长答案生成与歧义消解,但能够集中测量一项核心能力的下限:在信息稀少时是否愿意并且能够持续追查,而不是凭合理推测作答。

1,266 道题与判分方式

题库共 1,266 道,全部为文本问题,官方以数据集与判分脚本的形式在 GitHub 的 simple-evals 仓库公开。判分环节刻意做得简单:标准答案是短答案,机器判分只做与参考答案的语义等价判断,因此无需人工评分,也避免了开放式回答中常见的评价分歧。

反过来,这个设计也界定它能测和不能测什么。它能相对干净地测检索持久性与信息整合;它不能测长文写作质量、多轮澄清、以及在需求模糊时的主动提问。使用该基准做产品对比时,把这两类能力分开看是必要的。

分数该怎么读:没有官方排行榜

与 SWE-bench 这类由社区维护统一榜单的基准不同,BrowseComp 没有官方排行榜,也没有独立的第三方评测机构。公开可见的分数大多来自各实验室的模型卡或发布公告,属于自报口径。多个聚合站点在整理这些数字时都给出了同样的提醒。

更实际的影响因素是测量口径不统一。同一个模型在单智能体配置、多智能体配置、以及启用上下文压缩的配置下会得到不同分数,因为这些差异改变的正是「持续检索」这项能力的实现方式。换句话说,一个 BrowseComp 数字描述的是整套系统——模型加工具加上下文策略——而不只是模型权重。因此,不同来源、不同配置之间的细微差距不宜当作真实能力差距来解读;聚合站点的榜单中通常也会把多智能体外壳的结果单独标注或排除,以保持可比性。

从趋势看,该基准在高分区间已经出现拥挤:据 2026 年中的公开自报数据,头部系统的成绩集中在 85% 以上,领先者接近 90% 上方,彼此差距小于测量噪声。这提示它作为「区分头部」的工具价值在下降,作为「排除不合格方案」的门槛仍然有效。

能力覆盖与盲区

据论文与官方说明,该基准所测量的核心能力可以归为三项:检索持久性(在多次失败后继续尝试而不是转换话题)、导航创造性(在常规查询路径无效时改换检索角度与信息源)、以及信息整合(把散落在多个页面、彼此依赖的片段收敛到一个可验证答案)。

盲区同样清晰。题目使用单轮提问形式,不考察用户意图不明确时的澄清行为;答案被限定为短文本,不考察研究报告式的组织与表达;题目分布并非真实用户查询分布,因此对日常搜索场景的代表性有限。此外,由于答案便于验证,题目在长期公开后存在被训练数据吸收的风险,这也是各类动态基准试图解决的问题。

衍生版本与使用建议

围绕原始基准已经衍生出多个版本:面向长上下文的 128k 与 256k 变体、面向多模态的 BrowseComp-VL,以及中文语境的 BrowseComp-ZH。这表明该设计被行业接受为一类可复用的评测范式——把「难找但可验证」作为构造原则,可以横向扩展到不同语言、模态与上下文预算。

在选型或内部评测中使用它时,建议做三件事:固定并公开配置(是否多智能体、是否启用压缩、工具清单与轮次上限),否则数字不可比;同时报告成本,因为持续检索的收益往往以 Token 与延迟为代价;与业务任务集配合,把它当作检索与研究能力的下限门槛,而不是产品能力的整体评分。在信息可能不存在的场景下,智能体能否承认「查不到」,也值得作为独立指标纳入,因为搜索类基准通常只奖励命中。

🎯 应用场景

深度研究产品选型
作为检索持久性与多跳整合能力的横向参考,用于初筛而非定论。
检索工具与上下文策略调优
在固定模型的前提下对比不同工具集、压缩策略与轮次上限,把该基准当作策略变量实验场。
智能体检索能力回归
纳入内部回归测试,监控工具或提示词改动是否损伤长链检索表现。
评测范式借鉴
参照其反向出题方法,为垂直领域构造难找但可验证的自有题库。

✅ 最佳实践

  • 跨来源比较前先核对配置:单智能体与多智能体、是否启用上下文压缩会显著改变分数
  • 把分数与成本一起报告,持续检索的收益通常伴随 Token 与延迟上升
  • 注意榜单的自报性质,头部差距小于测量误差时不要据此做结论
  • 把它当作检索能力下限门槛,不要替代面向真实业务任务的评测集
  • 为「查不到」的情况单独设计指标,避免只奖励命中的评测导向促使模型编造答案

🔮 未来展望

随着头部系统成绩逼近饱和区间,该基准的定位会逐渐从「区分优劣」转向「验证下限」,同时其衍生版本会继续向语言、模态与上下文预算等维度扩散。更值得关注的变化在评测方法论层面:由于分数与外壳强绑定,能否出现统一描述工具与上下文配置的评测规范,决定了这类基准能否恢复跨实现比较的能力。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。

📖 相关条目

🛠️ 相关产品

🏷️ 标签评测基准网页浏览深度研究多跳检索搜索智能体OpenAI