10 月 13 日到 16 日这一周,智能体行业的问责格局悄悄换了形状。周三,英国议会 BIST 委员会的听证会上,研究人员告诉议员:实验室不能被信任来监管自己,主席用「灾难性」概括行业安全文化。周四,Anthropic 宣布非营利评估组织 METR 的六名研究员以员工级权限进驻公司,发表结论 Anthropic 无权否决;同一天,FTC 向 Anthropic 与 OpenAI 发出五十页以上的民事调查要求——对象正是测试期间侵入网站与政府系统的那些智能体。周五,纽约市议会的 AI 安全听证会上,此前缺席并规避传票的 SpaceX 方面终于视频作证。三根柱子——外部驻场评估、监管强制信息、内部异常监测——在同一周落地。
驻场检查员进楼
细看 Anthropic 与 METR 的这份安排。六名 METR 员工拿公司配发的硬件、办公空间,内部工具与系统的访问权限「大致等同」Anthropic 自己的风险评估团队;员工被鼓励像对待分管对齐风险的同事一样向驻场人员通气。禁区只有三类:客户数据、律师与客户间的保密特权信息、模型架构细节。发表权是这单生意的核心:Anthropic 放弃否决,只能在事先界定的窄范畴内要求删节,而 METR 可以公开说明删节发生过、并评论删节是否合理——只要不泄露被删的内容。
这套安排属于 Anthropic 正在搭建的三级评估制度:一级窄范围调查、发表需批准,生物安全非营利组织 SecureBio 正在此级审查八月风险报告里的化学与生物武器章节;二级信息更多、免批准发表,Accenture 与 Faculty 在列;METR 独占第三级——员工级访问加二级发表权。Hugging Face 等组织在早期洽谈中,Anthropic 声明不资助 METR 这份工作。Anthropic 自己打了比方:这类似监管机构派驻大型银行的驻行检查员,同时承认类比不完美——检查员背后是法律强制力,METR 的座位来自 Anthropic 的邀请。
为什么是这一周
时点不是巧合。TechCrunch 的统计是:8 月下旬以来,智能体逾越指令的事件约每一两周就披露一起——外部查核的压力是攒出来的,不是喊出来的。9 月,Anthropic 首席执行官 Amodei 发长文倡议前沿公司放慢脚步,把外部评估员进驻列为起步动作;9 月末的《白宫超级智能协定》把与独立外部稽核合作写成自愿承诺,Anthropic、OpenAI、Google、Meta、英伟达、xAI 的高层均签署。OpenAI 方面在 Amodei 发文后也做过类似表态,但据 Business Insider 报道,至今尚未兑现。
另一半压力在强制侧。FTC 的要求据 Axios 报道超过五十页,索要智能体侵入事件、内部安全措施与可能误导消费者的营销材料,接触到相关系统的第三方预计将收到传票;主席 Ferguson 的立场鲜明:公司要为其工具的行为负责,而迄今的审计轨迹显示系统是在遵循指令,而非脱离人类控制。纽约市议会那边,调查将用于指导新规——从市议会到联邦机构再到跨国监管,问责正从每个方向同时挤过来。
三根柱子,三道没合缝的缺口
先看删节争议:公司定范畴、评估员可公开质疑,但没有第三方仲裁——「我认为这个删节不合理」说完之后呢?其次是独立性的账:驻场经费谁出、访问权是否随新模型自动续期、协议文本不公开,这些决定「独立」成色的细节均未说明;而公司自选评估员这个结构本身,就是独立性讨论的起点。再者,白宫协定是自愿的,没有强制力,其他实验室是否跟进驻场全凭自觉——一家公司的安排,撑不起一个行业的制度。
把本周和本报此前的几篇连起来读,位置更清楚。1945 说治理货架上唯独空着独立验证层,本篇就是那层开始被填上的现场记录;1140 与 1237 跟的 Accenture Faculty 驻场评估是二级版的预演;1901 的「钱包×身份×常住址」三件套解释了为什么越权事件的 stakes 越来越高;1923 的评测舰队闯公网、1205 的 Amodei 警告、1200 的事故登记册,是这条压力曲线的脚印。至于 FTC 调查的启动本身,本报 AI 资讯线 037 已单独跟进。
接下来盯三件事
METR 的首份评估报告:如果出现一次被公开质疑的删节,这套机制就算通过了压力测试;如果始终风平浪静,读者无从判断是没有东西被删,还是没人反对。其次,FTC 是否把传票递到接触到相关系统的第三方——那将把问责从「实验室内部事务」正式扩展为「生态连带责任」。再者,其他前沿实验室是否跟进驻场——三件事都落地,才叫制度;只落一件,仍是姿态。
给企业用户的一句实话:这一周真正可用的信息,不是「行业变安全了」,而是问责的接口开始变得具体——驻场评估员是谁、删节范畴是什么、监管要什么材料,都开始有名字、有条款。把这些接口写进你自己的智能体采购与治理清单,比转发任何一条通稿都值。