一份由被监管者起草的监管文本
据 Politico 10 月 17 日援引三名匿名知情人士报道,Anthropic 的代表已私下向一些美国国会议员推介了一份 AI 安全法案草案,意在监管前沿人工智能的安全与保障,并设定政府可以干预模型发布的风险门槛。联合早报、科创板日报等媒体也跟进报道了同一消息。
Anthropic 发言人向媒体确认了草案的存在,称它体现了公司在《高级人工智能框架》中提出的建议,自今年 6 月以来一直在推动联邦与州层面的立法者采纳;发言人的表述是,这些建议赋予联邦政府阻止或遏制前沿模型进行危险部署的能力,是合理可行的政策,国会应当采取行动。公司拒绝透露推介范围与目前的接受程度,美国商务部也没有回应置评请求。
放在本站近期的记录里看,这件事的意义在于它的方向:过去几周被记录下来的监管动作多来自行政分支——白宫超级智能工作组的章程与一百二十天倒计时、此前的强制上报安排——而这一次,是产业界把成文的法律草案反向推进了立法程序。谁执笔,往往比条文写了什么更值得追问。
两道门槛要同时跨过
草案的干预条件被设计成两层,缺一不可。其一是损害规模:只有当某模型存在「可预见且迫在眉睫的风险」,可能造成超过 10 亿美元的财产损失,或者导致 50 人以上死亡或严重伤害时,政府才可以阻止该模型的发布或使用。其二是风险来源,必须属于三类之一——生物武器的制造或发布、模型规避开发者设定的控制措施、或者发动网络攻击。报道提到,草案采用的相关措辞与加利福尼亚州的 AI 法律法规一致,其中包括去年签署成为法律的 SB 53 法案。
值得注意的是一个现实落差:报道同时指出,近期以 OpenAI 与 Anthropic 为首的 AI 公司已披露了一系列安全事故,但截至目前已披露的事件中,尚没有造成大规模人员死亡或超过 10 亿美元损失的情形。换句话说,这套门槛在纸面上划的线,高于迄今所有公开事故的实测值——它管的是尚未发生的那类损害。
评估机构:付费但不许按结果付费
草案把执行落在「独立评估机构」这一环上,设计得相当具体。评估机构负责定期评估 AI 实验室及其前沿模型,须在美国商务部注册;可以由相关实验室支付评估费用,但报酬不得与评估结果挂钩——这一条直指第三方评估最容易出现的利益冲突。开发商还须对模型进行测试并向公众公开结果,同时允许独立评估机构定期审查。
触发机制同样有明确时限:如果评估机构认定某家公司的前沿模型存在法案所列的迫在眉睫风险,必须在完成评估后的 72 小时内向美国商务部报告;商务部在认定某个模型构成风险后,可以请求法官阻止该模型发布。
排他条款:把暂停权收窄到一处
草案里最耐人寻味的是一条限制性表述:它明确禁止美国其他任何「部门、机构或官员」暂停该模型的开发、部署或内部使用,只有美国哥伦比亚特区联邦地区法院的法官可以下令暂停。这等于在授予联邦政府干预权的同时,把干预的通道限定为一条——避免多个行政部门各自援引模糊授权叫停模型。
「嵌入式评估员」是 Anthropic 一直在推的一件事。此前该公司首席执行官达里奥·阿莫迪发文呼吁全行业放缓开发前沿 AI 时,提出的三步方案里就包含这一项;本周五另有消息称,Anthropic 已向一家外部评估机构授予「员工级别访问权限」用于评估其模型风险。把这条与草案并起来读,公司推动的路径相当连贯:先在自己身上把外部评估做成既成事实,再把它写进法律。
三处需要继续观察的地方
其一,草案目前仍是一份被推介的文本,尚无议员公开认领、也无文本全文公开,最终立法稿与这份草案的距离可能很远。其二,10 亿美元与 50 人这两个数字如何举证与认定,「可预见且迫在眉睫」的判断由谁做出、依据什么标准,条文层面都还是空白。其三,由被监管方起草、且明确写入自家倡导机制的规则,能否经得起利益冲突的追问,取决于国会是否引入独立的反方意见。
对行业而言,这份草案提供了一个可讨论的锚点:它把「政府能不能拦下一个模型」这个抽象问题,换算成了具体的损害阈值、具体的风险类别和具体的报告时限。无论最终是否成法,这套换算方式本身,很可能成为后续立法讨论的参照系。
目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。