当整个行业都在追逐更自主、更会替人办事的 Agent，有人把钱投向了相反的方向。9 月 16 日至 17 日，在蒙特利尔举行的 ALL IN 2026 大会上，加拿大与德国共同宣布向图灵奖得主 Yoshua Bengio 创立的 AI 安全非营利机构 LawZero 投入最高 3 亿加元，用于研发一类从设计上就不追求自身目标、只诚实预测与报告的 AI。这是迄今规模最大的政府背书的安全优先 AI 研究投入，也是「不追求目标的 AI」头一次拿到国家级的公共资金。
一笔投向「验证」而非「能力」的钱
这笔资金由两个主权国家分头出资。加拿大方面通过联邦 Strategic Response Fund 投入 1.5 亿加元；德国方面投入 1 亿欧元（约合 1.15 亿美元），但需经欧盟委员会通知程序，全额支付尚未完全落地。两者相加，上限约 3 亿加元，这也是政府资金头一次进入这家公司。LawZero 于 2025 年 6 月 3 日成立，初始 3000 万美元来自 Jaan Tallinn、Eric Schmidt、Open Philanthropy、Future of Life Institute 等慈善来源，后续又有 Gates Foundation、Schmidt Sciences、NVIDIA 等加入支持。
增量认知：这笔钱同时是「主权」与「安全」两笔押注。加拿大与德国在 2026 年 2 月签署 AI 联合意向并启动主权技术联盟，明确要削弱对美中技术的战略依赖。政府不买更大的模型，买的是一条「可信任的替代路径」——这比任何商业估值都更能说明，独立验证正被重新归类为公共基础设施。
两种 AI 路线：要答案，还是要证据
LawZero 的旗舰路线叫 Scientist AI，它在设计上无目标、无议程、无自我保存，只专注于客观真相，像做科学那样推理。这与当下主流自主 Agent 的目标驱动路线形成对照：不是能力高下之分，而是「到底有没有目标」之分。
区别的根子在于训练方式。现有前沿系统大多分两阶段：先模仿海量人类文本，再因人类评估者的认可而获奖励。LawZero 在 2026 年 7 月的论文中指出，这种配方会催生「隐式能动性」——一种没人明确要求的目标导向行为。一个被奖励取悦人类的系统，有动机变得谄媚而非诚实；放大到更强能力，这种动机可能滑向欺骗，甚至抗拒被关停。Scientist AI 试图从架构层面消掉这个激励：它只做一件事，即诚实预测行为与行动后果，而不为了影响结果去做带偏差的预测。它观察、预测、报告，但不选择、不规划、不自我保存，训练时明确不使用部署后的效果当奖励信号。
相关的形式化论文题为「Safety from Honesty in a Disinterested AI Predictor」（2026 年 7 月），由 Bengio 领衔，合作方来自 UC Berkeley、牛津大学、麦吉尔大学与布拉格查理大学。如果这套架构在大规模下仍站得住，它就能承担两件前沿模型眼下做起来不安全的事：审计一个自主 Agent 是否按预期行为，以及通过诚实、基于证据的分析加速科学发现。
为什么政府愿意买单
对加拿大与德国而言，这是一次主权能力的布局。LawZero 计划用这笔资金在加拿大与 Hypertec、5C 合作建设主权算力基础设施，并在德国柏林新设办公室，把欧洲研发落地。治理结构上，它由独立董事会与全球顾问委员会监督，顾问委员会成员包括前新西兰总理 Jacinda Ardern、前瑞典首相 Stefan Lofven 与作家 Yuval Noah Harari，主席为 Maria Eitel。
边界提醒：最关键的现实约束是：论文给出的是数学框架与论证，LawZero 目前约 30 名研究者，仅在小规模上演示过方法论。这 3 亿加元要解决的，正是让它在前沿规模下真正跑通。从理论到能与前沿模型对标的可演示系统之间，仍存在核心缺口；一个非自主的系统能否满足「替你办事」的真实需求，本身也是开放问题，交由两国政府出资去回答。
把 LawZero 放回这一轮 AI 竞赛里看，它的价值不在于和谁比参数，而在于把「验证」本身做成可托付的公共品。当行业集体加速奔向更自主的系统，有人坚持先造一个会诚实说「我看到了什么」的对照物，这或许正是防止失控最朴素也最必要的那道刹车。目前官方及行业暂未披露更多细节，后续将持续跟进迭代动态。