2026 年 9 月,Anthropic 宣布与埃森哲共建一套「嵌入式评估(embedded evaluation)」机制:把评估人员以接近员工的身份派驻到前沿实验室内部,在模型训练与部署决策形成之际,就介入红队、对齐与可报告性工作。双方承诺五年内各自投入至少 10 亿美元,合作非独占,并将与 METR 等非营利评估机构试点。这套安排把「评估者」从交付后的外部考官,变成研发内部的常驻观察者——它要回答的是一个老问题:当模型在训练途中就可能跑偏,只在成品出来后评一次,还来得及吗。

外部评估为什么不够用

传统第三方评测的路径很熟悉:公开榜单、独立红队、学术复现,都是在模型或产品打包完成后评一次。能看到的是结果,看不到的是过程。盲区恰恰落在那些最关键的「看不见的决策」上——训练目标怎么定、哪些数据被留下又被丢弃、部署阈值由谁拍板、哪类风险被主动淡化。等成品到了评测者手里,许多选择已经固化,评测再严,也只是对既成事实打分,难以反向改变研发走向。

嵌入式评估的补法,是把评估者请进研发内部。Anthropic 称这些派驻人员(Faculty)拥有接近员工的权限:能读训练日志、能旁听评审会、能在决策节点直接提问,也能在风险浮现时要求暂停或调整。评估从「事后验收」前移到「事中观察」,等于把评测嵌入了模型成长的每一环,而不是只在出厂门口设卡。

增量认知:前沿模型的真正风险,往往不是「会不会答错一道题」,而是「训练途中目标被悄悄改写了、某类失败被有意淡化了」。事后评测天然看不到这些;只有评估者以足够深的权限待在研发现场,才有可能在偏移刚发生时就指出,而不是在事故后写复盘。嵌入式评估的价值,正在于把评测从结果层推进到过程层。

外部评估 对比 嵌入式评估外部:拿到成品模型才评盲区:训练与决策看不见嵌入:驻场看训练全程红队·对齐·可报告嵌入式评估者以接近员工的权限进入研发内部,观察训练、追问决策、直接向公众披露风险
图 1|Anthropic 称嵌入式评估区别于传统外部测评:Faculty 人员驻场、权限接近员工,能在训练与部署决策形成时介入,而非只在成品交付后评一次。

驻场能做什么:红队、对齐、可报告性

嵌入式评估把驻场工作拆成三件具体的事。其一是红队:不等模型发布,在训练与部署前就主动寻找失稳、越狱与可被诱导的漏洞路径,把问题拦在更早的位置。其二是对齐:把「模型应当怎样表现」落成可检验的标准,而不是停留在口号;评估者要和研发方一起把抽象原则变成可测的指标与边界。其三是可报告性:观察结果不只对内汇报,而是面向公众披露风险,让外部社会也能基于真实信息做判断。

五年各投 10 亿美元,但独立性存问双方五年各 10 亿非独占·联 METR 试点独立性隐忧:评估费由被评实验室直付非独占与多评估者并行是为稀释单一来源风险;长期出路被指向资金池或政府出资,而非厂商直付
图 2|Anthropic 与埃森哲各承诺五年至少 10 亿美元,合作非独占并将与 METR 等非营利评估方试点;独立性争议在于评估费目前由被评实验室直接承担。

这三类工作合在一起,指向一个角色转变:评估者不只是「打分员」,更是「见证者」。当模型能力逼近某些关键阈值,外部社会需要的不再是厂商自说自话的「我们很安全」,而是有独立身份、能接触到过程、并愿意对外说话的人在场。这也是嵌入式评估与单纯第三方测评最本质的分野——前者赌的是「在场」,后者依赖的是「成品」。

钱从哪来,独立性怎么保

这套机制的体量不小:Anthropic 与埃森哲各自承诺五年至少 10 亿美元投入。合作被明确标注为非独占,意味着 Anthropic 可同时与其他评估者并行,不必把鸡蛋放进一个篮子;同时将与 METR 等非营利评估方试点,借力已有的独立评估基础设施。非独占与多评估者并行的设计,本身就是为了稀释「单一来源」带来的偏倚风险。

但钱从哪来,直接决定了独立性成色。当前的争议点在于:评估费用目前由被评实验室(此处即 Anthropic)直接承担。评估者拿着被评方的预算,天然面临「会不会手下留情」的质疑——这和企业请审计、又由被审计方付费是同一类老毛病。学界与政策圈给出的出路大致两条:一是评估资金由多方共担,形成不依附单一厂商的资金池;二是由政府出资设立独立评估机构,把「评」和「被评」在财务上彻底切开。

边界提醒:嵌入式评估在方法上更近事实,但独立性不是靠「驻场」自动获得的。只要评估费由被评实验室直付,独立性就始终是一句需要被持续检验的承诺,而非既成结论。读这类新闻时,应区分「机制设计上更优」与「实际独立性能否兑现」——前者是方向,后者还要看资金结构与问责安排是否真的到位。

总的看,Anthropic 与埃森哲的嵌入式评估,是把「过程可观察、风险可报告」从理念推向制度的尝试。它值得关注,不只是因为五年 20 亿美元的量级,更因为它试探了一种可能:当模型越来越强,评估者也许该更早、更深地坐在研发现场,而不是总在成品之后才赶到。但这一切的成色,最终要由独立性能不能被制度守住来定。