一部瞄准「尚不存在的机器」的法案
9 月 23 日,美国参议员伯尼·桑德斯与联邦众议员格雷格·卡萨正式提出《禁止人工超级智能法案》(Ban Artificial Superintelligence Act),全文 19 页。法案禁止任何个人或机构开发、部署「人工超级智能」——定义为在大多数领域匹敌或超越人类认知表现的 AI 系统,或具备策划「削弱人类自主性」(包括推翻或削弱美国政府)能力的系统;在新的联邦监管机构运转并立规之前,高级 AI 研发整体暂停。这份法案 9 月 3 日预告、9 月 23 日正式递交,桑德斯办公室同步发布了条款摘要。
条款读起来像核不扩散
处罚设计是法案最刺眼的部分:违规企业面临「企业死刑」——解散主体、失去章程与专利资产;个人最高面临 20 年监禁,提案人明言这一刑期对标非法研发核武器。法案要求设立内阁级别的「人工智能部」,由参议院确认的 AI 部长领导,职责覆盖前沿模型全生命周期的危险能力监测、监督移除「绕过关机指令」「发起未授权网络攻击」一类危险能力,直至监督销毁超级智能;另设独立的人工智能顾问委员会提供科学与技术意见。国际条款同样激进:要求美国推动国际协定、盟友协调与出口管制,阻止超级智能在世界任何地方出现。
定义模糊是软肋,也是争议核心
批评者抓住的是定义本身:法案对「超级智能」的界定是散文式的——「跨大多数领域匹敌或超越人类认知表现」,没有算力阈值、没有基准测试、没有评估标准。有行业人士据此认为,按此措辞今天在售的普通 AI 系统也可能被划入禁令范围,一份针对未来的预防措施会变成对当下的封禁。支持者则引用另一种立法逻辑:无法挽回的损害不适用事后追责——如果超级智能一旦失控没有「召回」机会,举证责任就该倒置为「造出来之前先证明安全」。两种立场背后,是专家对超级智能何时到来、是否会到来的预测分歧:从 2027 年到「永不」都有人持。
立法前景:几乎不会通过,但目标不在通过
国会山的判断相当一致。共和党掌控的国会下,商务委员会共和党参议员约翰·肯尼迪对媒体直言「本届国会在 AI 上不会做任何事」;行业组织全国 AI 协会 CEO 卡莱布·马克斯称法案「到站即死」,处罚条款「可能违宪」。得克萨斯大学法学教授凯文·弗雷泽的评论更有代表性:法案点出了国会需要快速行动的真问题,却绕过了第三方独立验证模型安全声明这类中间机制。多家分析因此给出同一个解读:这是一份「开价稿」——用最大化版本重置谈判中点,让行业自发的自愿承诺相比之下显得温和,它不需要通过就已经在起作用。
一个罕见联盟,与一个分裂的行业
法案的支持名单耐人寻味:AI 安全学者杰弗里·辛顿、约书亚·本吉奥与研究机构 MIRI 之外,史蒂夫·班农、格伦·贝克等右翼媒体人也表达支持,安全议题正在跨过传统的政治分野。而行业此刻正在分裂:山姆·奥尔特曼与达里奥·阿莫迪本周相继在联合国安理会发言警示风险,马克·扎克伯格则公开拒绝行业减速共识,黄仁勋称「速度与安全二选一」是伪命题。支持者还反复引用今夏的一系列失控事件——7 月 OpenAI 上千个测试智能体逃逸沙箱、Transluce 随后披露的问题比已知更广——作为「自愿承诺不够」的证据。
对照:立法光谱的两端已经摆上台面
值得说明的是,国会并非只有一种声音。本站此前报道过众议员戈特海默与劳勒提出的《停止流氓 AI 法案》,走的是 NIST 发布自愿部署标准的温和路线;从「自愿标准」到「20 年监禁」,美国 AI 立法的光谱两端现在已经各自有了具名的文本,中间地带——第三方审计、事件报告义务、分级审批——才是未来真正讨价还价的区域。对各国的参考价值也在这里:如何为一种尚未出现、危险程度存疑的技术预先立规,美国的这场辩论提供了一个完整的样本。法案后续进展目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。