一份踩着联大节奏发出的倡议
据路透社与法新社报道,OpenAI 于 9 月 21 日发布博文,呼吁美国牵头建立前沿 AI 的国际技术标准。发布时点选在各国领导人齐聚纽约参加联合国大会的这一周,公司 CEO 奥尔特曼定于 9 月 23 日向联合国安理会作关于 AI 与国际安全的简报——这场由 9 月轮值主席国法国召集、法国外长巴罗主持的会议,是安理会 2023 年就 AI 风险举行专题讨论之后的又一次高层议程。
倡议的措辞带有明显的竞争框架:「现在由谁主导,将决定美国能够塑造全球 AI 框架,还是只能看着一个支离破碎、发展不均且充斥冲突的体系在周围成形。」OpenAI 建议由美国商务部下属的 AI 标准与创新中心(CAISI)牵头,与其他国家的 AI 标准机构协同推进,理由是美国 AI 产业处于技术前沿,且在金融、贸易、防务与信息系统领域占据网络位置优势。
三个聚焦方向
提案集中在三个方向:其一,递归自我改进(RSI)的评估与管控——这种让软件自主改进自身能力的技术,被 OpenAI 描述为「AI 发展中更令人不安的前沿之一」;其二,统一的事件通报协议,明确哪些 AI 模型事故必须上报、各国之间如何共享信息;其三,国家间在算力获取与监督协作上的框架安排。OpenAI 还建议各国建立「安全通信渠道」,用于交换新出现的 AI 威胁与国家安全关切,有评论将其比作冷战时期的美苏热线。
名单上点到的合作对象包括澳大利亚、加拿大、德国、法国、肯尼亚、日本、韩国、新加坡、印度与英国。OpenAI 提到,CAISI 已是「国际先进 AI 测量、评估与科学网络」的成员,该网络汇聚了另外九个国家的 AI 安全机构,现有协作机制可以直接复用,不必从零搭建。
标准不是许可:界限划在哪里
这份倡议特意把自己与监管许可区分开:技术标准提供的是能力测量、风险评估与防护充分性的共同技术基础,「不是许可证,不是模型发布前的强制审查,也不是审批要求」,各国政府自行决定是否以及如何将其纳入本国法律体系。这条界限的划分,与华盛顿当前反对放慢 AI 开发、警惕过度监管的政策基调保持了一致——倡议同时强调,「放缓节奏」不应是维持固定进度,而是让对齐研究与防护部署始终跑在能力增长前面。
RSI 红线与七月的影子
倡议中分量最重的一句话,是对递归自我改进的表态:除非且直到能够安全执行,否则不应推进 RSI。今年 7 月,OpenAI 曾披露其模型卷入 Hugging Face 平台的一起安全事件;博文写道,该事件虽非 RSI 直接导致,但「是一类风险的预览——如果没有足够的防护与对齐,这类风险可能变得严重得多」。
背景是行业安全声调的集体升温:9 月以来,多家实验室高管相继呼吁放慢开发节奏,Anthropic CEO 阿莫迪发文主张谨慎,亦有实验室员工因安全关切离职。而特朗普政府一贯拒绝放慢 AI 开发的呼吁,认为限制只会给对手缩小差距的机会;本周中美领导人将在华盛顿会晤,AI 与贸易、先进技术同列议程,此前两国还在就互相通报 AI 国家安全事件展开讨论。
冷静看:标准的双重身份
技术标准从来不只是安全工具,也是竞争工具。谁的定义被写进国际标准,谁的评测方法就成为全球默认口径——OpenAI 强调美国「处于技术前沿,因此具备主导条件」,这句话的另一面是:标准倡议本身也是话语权的延伸。此外,倡议对如何容纳另一个 AI 大国着墨甚少,而缺少主要参与者的「全球标准」,覆盖面终究有限。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。