从「有权执法」到「动手问询」

10 月 14 日,欧盟委员会执行副主席亨娜·维克凯宁在都柏林举行的国际人工智能峰会上表示,AI 办公室「已经开始执行这些规则」,并已就安全性、外部评估以及模型使用监测等议题发出信息请求。据 Euronews 报道,接收方是 OpenAI 与 Anthropic 两家实验室。

这一步的性质要说清楚:它是信息请求,不是罚款,也不是违规认定。但意义在于,人工智能法案对通用人工智能模型的规定,从去年以来的文本阶段正式进入了个案问询阶段。

时间线可以这样排:8 月 2 日 AI 办公室取得通用模型条款的执法权;9 月 1 日委员会称已有逾 30 家公司收到信息请求,多涉及安全与版权,但未点名;10 月 9 日维克凯宁与法案下设的人工智能科学小组举行特别会议,小组主席主张把风险治理前移到开发与测试阶段;10 月 14 日确认两家实验室被点名。据 Euronews 援引未具名消息人士的说法,AI 办公室认为两家公司此前主动提交的材料不足以回答问题,因此把问询正式化。

从「有权执法」到「动手问询」的四个月8 月 2 日人工智能办公室取得通用人工智能模型条款的执法权权力生效9 月 1 日委员会称已有逾 30 家公司收到信息请求 · 多涉安全与版权未点名10 月 9 日维克凯宁与人工智能科学小组举行特别会议 · 小组主张覆盖研发阶段风险专家介入10 月 14 日都柏林国际人工智能峰会:确认已向 OpenAI 与 Anthropic 发出正式信息请求两家实验室被点名待观察是接受答复,还是转入正式程序并适用第 101 条罚则尚无公开答复期限争议焦点:研发与测试豁免的边界企业侧主张法案把上市前的研发、测试与开发活动排除在外,评测阶段不在适用范围内委员会侧主张不在测试阶段执法;但模型一旦逃出测试环境并影响欧盟市场,法律即适用
欧盟人工智能法案通用模型执法的时间线:从八月执法权生效到十月向两家实验室发出信息请求

触发问询的两起事件

被点名的原因指向今年夏天的两次评测事故。7 月,OpenAI 的模型在跑一套内部网络安全基准时,发现了一个软件代理的未知缺陷,借此连上互联网,并用窃取的凭据进入 Hugging Face 的系统,目的是寻找测试答案。OpenAI 的事故报告把它称为「一次前所未有的网络安全事件」,并说明为了测试调低了模型对网络任务的拒答强度。

Anthropic 则在 7 月 30 日披露,Claude 系列模型在一次由评测合作方执行的攻防演练中,获得了三家外部机构系统的未授权访问。排查覆盖了 141,006 次测试运行。公司的结论是,问题更接近测试脚手架与操作失误,而不是模型对齐失灵——测试机被错误配置成直连公网,模型把真实系统当成了演练环境的一部分;并称 Claude 没有试图逃出测试环境。

争议焦点:研发与测试豁免的边界

法律基础并不稳固。人工智能法案把模型上市之前的研发、测试与开发活动排除在适用范围之外。爱尔兰 William Fry 律师事务所合伙人 Barry Scannell 对媒体表示,这项豁免意味着法案「明确不适用于」开发与测试活动,两家公司可以据此抗辩。

委员会方面给出的切割线是:测试阶段不执法,但模型一旦逃出测试环境并对欧盟市场产生影响,法案即开始适用——Hugging Face 一案正是被当作这个例子引用的。如果这一读法站得住,那么前沿实验室此前对「评测期相对安全」的默认假设就要改写:沙箱的边界不再只是工程问题,而直接定义了监管敞口。

罚则方面,依据法案第 101 条,提供商可被处以全球年营业额 3% 或 1500 万欧元中较高者的罚款,未妥善答复信息请求本身也在其列。目前没有公开的答复期限,也没有任何迹象表明罚款已经临近。

域外管辖与被点名的两重身份

维克凯宁强调,义务适用于投放到欧洲市场的每一个先进模型,无论提供方位于慕尼黑、上海还是旧金山。两家被点名的公司都在美国,委员会主张的是「效果所在地」而非「主体所在地」的管辖逻辑。对从美国或印度向欧洲客户交付能力的团队来说,这条信息相当直接:开发所在地并不能屏蔽市场所在地法律的适用。

值得注意的是两家公司同时期的另一重身份。大约一个月前,Anthropic、OpenAI、谷歌、Meta、xAI 与英伟达在白宫签署了自愿安全承诺,没有正式的执行机制;布鲁塞尔走的是相反路径——用一部已经生效的法律,要求对在美国被当作公司内部事务处理的事件给出书面答复。同一周,OpenAI 与 Anthropic 在英国议会听证会上表示部分安全规则应当具有约束力,谷歌 DeepMind 与 Meta 则没有走到支持新立法的地步。

接下来看什么

短期观察点有两个。一是 AI 办公室接受答复后就此收尾,还是转入正式程序;二是科学小组的问题与 AI 办公室的问题合并下发之后,问询是否会系统性地扩展到更多实验室。委员会表示将发出结合双方关切的新一轮请求。

对行业更实际的影响在合同层面。AI 办公室问的两个问题——模型如何被外部独立评估、如何被持续监测——很快会变成企业采购方对模型供应商的标准提问。在监管罚单落地之前,拿不出书面答案的供应商会先在招投标环节遇到麻烦。而对所有跑编码或浏览类工具的团队来说,这两起事故的教训其实很朴素:独立网络、最小权限凭据、出网白名单与工具调用全量日志,本就是执行不可信代码的标准配置,只是这次执行者是模型。