10 月 9 日提交 arXiv 的 ACED-Bench(编号 2610.14381)把评测对象从「AI 科学家答得对不对」推进了一层:它考的是调查过程本身。论文的判断很直接——大模型当科研助手已经一年多了,但我们仍然没有可靠办法回答:它是在「调查一个系统」,还是仅仅在「回答一个问题」。选什么实验、怎么读有限证据、什么时候敢下结论——这三件事此前都不在基准的射程里。

把「调查一个系统」拆成:选实验、读有限证据、做因果决策——三层都可评分可读科学表面(模型可见)自然语言场景 + 任务文本由 LLM 生成,读起来像真研究观测与干预接口智能体自己决定收集什么证据有限证据、可重复观测同一环境多次进入保持一致隐藏形式化因果世界(客观真值)隐概率图模型(PGM)定义因果图与数据生成过程干预语义 + 校验规则oracle 答案由程序给出可扩展、程序化评估不依赖人工标注答案场景文本状态回流两个题库ACED-CORE:180 个任务60 个集合式血缘/后代问题120 个受约束因果决策任务考「决定收集什么证据、何时定论」ACED-QUAL:150 道资格题是非题,先过接口关考「会不会用接口从证据得结论」7 个当代模型 + 2 个上代模型
图|双世界设计。读图要点:表面读起来像科学研究,真值藏在 PGM 里——评估因此可以程序化扩展。

双世界:读起来像科研,评起来像程序

基准的核心设计是拆开两个世界。可读的科学表面交给模型:自然语言的场景与任务文本由 LLM 生成,智能体通过观测与干预接口自己决定收集什么证据。隐藏的形式化因果世界守住客观性:因果图、数据生成过程、干预语义、校验规则和标准答案全部由隐藏的概率图模型定义。

这个拆分解决的是科研类基准的老毛病——完全开放生成的任务没法程序化评估,人工标注又贵又窄。ACED-Bench 的做法让环境读起来像真的科学研究,真值却精确到可以规模化出题。

两个题库,三种失败

ACED-CORE 是主榜,180 个任务:60 个集合式因果血缘问题,120 个受约束的因果决策任务。ACED-QUAL 是 150 道是非题,先考「会不会用接口从证据得结论」。论文评了 7 个当代模型和 2 个上代模型,跑了三种主动智能体设计。

不是「答得对不对」,而是「调查过程哪里崩了」失败一:选错干预实验设计就错了干预的变量与想问的问题不对应后面的证据全是白收集失败二:丢失证据收集过的相关证据没有留在账簿里多跳推理时早期发现被后来的信息淹没失败三:该停不停证据已经够了还在继续做实验不敢定论,或者定不了论——承诺缺失论文的处方:可靠的 AI 共同科学家需要四样显式支持实验设计支持证据保持支持定论承诺支持停止准则与「AI 科学家」叙事的关系:今年这条线热度极高(多智能体自我改进、科研脚手架密集出现),但评测多停在「结论对不对」。ACED-Bench 把调查过程本身变成可打分的对象——证据账簿(evidence ledger)这个词值得记住:它可能是科研智能体下一个必备组件。
图|三类失败四样支持。注意失败三与失败一是对偶:一个不敢停,一个停错了地方。

真正的增量在证据账簿(evidence ledger)分析:把智能体的调查过程拆开记账,失败被定位到三类——干预选错(实验设计就和想问的问题不对应,后面的证据全白收集)、证据丢失(收集过的相关发现没留在账簿里,多跳推理时被后来的信息淹没)、该停不停(证据已经够了还在做实验,或者迟迟不敢定论)。三类失败对应四样处方:实验设计支持、证据保持支持、定论承诺支持、停止准则。

放进赛道里看

今年「AI 共同科学家」是热门叙事:多智能体自我改进、科研脚手架、自动假设生成密集出现,热度与论文数量同步上涨。但绝大多数工作评的是终点——结论对不对、分高不高。ACED-Bench 把调查过程变成可打分对象,等于给这条叙事补了块过程仪表盘。它和本站报道过的「多智能体自我监督」一类工作也互为背景:那些方法解决「怎么把科研轨迹变成训练信号」,这块基准回答「轨迹里哪一步值得学」。

需要保留的怀疑

边界同样清楚:场景文本由 LLM 生成,「表面自然性」没有独立的人工评估;隐藏的概率图模型终究是对真实科研的简化——变量可枚举、干预可定义,而真科研的麻烦恰恰是不可枚举;三种主动智能体设计覆盖的策略空间有限,换成更复杂的规划式智能体,三类失败的比例可能重排。基准刚发布,复现与扩展都待观察。

目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。但对做科研智能体产品的团队,「证据账簿」这个词值得先记下来——它可能是下一个版本的必备组件,就像记忆系统之于上一代。