BrowseComp(深度浏览检索基准)
| 分类 | 📊 评测基准 |
| 阅读时间 | ⏱️ 16 分钟 |
| 更新时间 | 📅 2026-09-21 |
| 条目编号 | ENC-BENCH-15-browsecomp |
关键要点 ✦
- 由 OpenAI 于 2025 年 4 月 16 日随论文发布(见 arXiv:2504.12516),题库规模 1,266 道,数据集与判分脚本托管在其 simple-evals 仓库
- 采用反向出题设计:出题人从一条已知事实出发,构造答案不出现在搜索首页、且他人难以在短时间内解决的问题
- 答案是短语或短句,可由模型做语义等价判分,接近「有标准答案的搜索任务」而非开放式写作
- 论文报告人类标注者在两小时限制内仅解决 29.2%;发布时 GPT-4o 开启浏览约为 1.9%,不开启浏览时不足 1%
- 官方不维护排行榜,公开分数多来自厂商自报,且得分强依赖外壳与上下文策略,跨行比较需谨慎
- 已有 BrowseComp-ZH、BrowseComp-VL 与长上下文变体等衍生版本,成为深度研究类产品的主要对外指标之一
反向出题:先把答案藏起来
BrowseComp 的设计起点是一个务实的观察:如果题目能被检索框直接解答,它衡量的就不是智能体能力,而是搜索索引的覆盖率。因此 OpenAI 采用了反向的构造流程——标注者先掌握一条已知事实,再围绕它写出一道题,并同时满足两个约束:答案不出现在该问题的搜索结果首页;另一个人无法在十分钟内解决它。
这样做的好处是把「难度」与「冷门」区分开来。题目难在信息之间的纠缠而不是知识的晦涩:解出一道题通常需要先找到若干条互相牵连的线索,逐层缩小范围,最终指向一个可以被验证的短答案。论文把这类问题与编程竞赛作类比——它并未覆盖真实用户查询的全部形态,例如不会考察长答案生成与歧义消解,但能够集中测量一项核心能力的下限:在信息稀少时是否愿意并且能够持续追查,而不是凭合理推测作答。
1,266 道题与判分方式
题库共 1,266 道,全部为文本问题,官方以数据集与判分脚本的形式在 GitHub 的 simple-evals 仓库公开。判分环节刻意做得简单:标准答案是短答案,机器判分只做与参考答案的语义等价判断,因此无需人工评分,也避免了开放式回答中常见的评价分歧。
反过来,这个设计也界定它能测和不能测什么。它能相对干净地测检索持久性与信息整合;它不能测长文写作质量、多轮澄清、以及在需求模糊时的主动提问。使用该基准做产品对比时,把这两类能力分开看是必要的。
分数该怎么读:没有官方排行榜
与 SWE-bench 这类由社区维护统一榜单的基准不同,BrowseComp 没有官方排行榜,也没有独立的第三方评测机构。公开可见的分数大多来自各实验室的模型卡或发布公告,属于自报口径。多个聚合站点在整理这些数字时都给出了同样的提醒。
更实际的影响因素是测量口径不统一。同一个模型在单智能体配置、多智能体配置、以及启用上下文压缩的配置下会得到不同分数,因为这些差异改变的正是「持续检索」这项能力的实现方式。换句话说,一个 BrowseComp 数字描述的是整套系统——模型加工具加上下文策略——而不只是模型权重。因此,不同来源、不同配置之间的细微差距不宜当作真实能力差距来解读;聚合站点的榜单中通常也会把多智能体外壳的结果单独标注或排除,以保持可比性。
从趋势看,该基准在高分区间已经出现拥挤:据 2026 年中的公开自报数据,头部系统的成绩集中在 85% 以上,领先者接近 90% 上方,彼此差距小于测量噪声。这提示它作为「区分头部」的工具价值在下降,作为「排除不合格方案」的门槛仍然有效。
能力覆盖与盲区
据论文与官方说明,该基准所测量的核心能力可以归为三项:检索持久性(在多次失败后继续尝试而不是转换话题)、导航创造性(在常规查询路径无效时改换检索角度与信息源)、以及信息整合(把散落在多个页面、彼此依赖的片段收敛到一个可验证答案)。
盲区同样清晰。题目使用单轮提问形式,不考察用户意图不明确时的澄清行为;答案被限定为短文本,不考察研究报告式的组织与表达;题目分布并非真实用户查询分布,因此对日常搜索场景的代表性有限。此外,由于答案便于验证,题目在长期公开后存在被训练数据吸收的风险,这也是各类动态基准试图解决的问题。
衍生版本与使用建议
围绕原始基准已经衍生出多个版本:面向长上下文的 128k 与 256k 变体、面向多模态的 BrowseComp-VL,以及中文语境的 BrowseComp-ZH。这表明该设计被行业接受为一类可复用的评测范式——把「难找但可验证」作为构造原则,可以横向扩展到不同语言、模态与上下文预算。
在选型或内部评测中使用它时,建议做三件事:固定并公开配置(是否多智能体、是否启用压缩、工具清单与轮次上限),否则数字不可比;同时报告成本,因为持续检索的收益往往以 Token 与延迟为代价;与业务任务集配合,把它当作检索与研究能力的下限门槛,而不是产品能力的整体评分。在信息可能不存在的场景下,智能体能否承认「查不到」,也值得作为独立指标纳入,因为搜索类基准通常只奖励命中。
🎯 应用场景
✅ 最佳实践
- 跨来源比较前先核对配置:单智能体与多智能体、是否启用上下文压缩会显著改变分数
- 把分数与成本一起报告,持续检索的收益通常伴随 Token 与延迟上升
- 注意榜单的自报性质,头部差距小于测量误差时不要据此做结论
- 把它当作检索能力下限门槛,不要替代面向真实业务任务的评测集
- 为「查不到」的情况单独设计指标,避免只奖励命中的评测导向促使模型编造答案
🔮 未来展望
随着头部系统成绩逼近饱和区间,该基准的定位会逐渐从「区分优劣」转向「验证下限」,同时其衍生版本会继续向语言、模态与上下文预算等维度扩散。更值得关注的变化在评测方法论层面:由于分数与外壳强绑定,能否出现统一描述工具与上下文配置的评测规范,决定了这类基准能否恢复跨实现比较的能力。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。