11 月 18 日,加州州长加文·纽森办公室发布一份 85 页 AI 安全报告,提出四项新建议:由州政府为所有 AI 开发者设定必须遵守的基线标准,要求企业在模型训练、开发与部署各阶段接受独立安全测试与核验,扩大安全事故报告范围并制定经验证的风险遏制方案,以及在危险模型造成迫近风险时赋予州政府下令紧急关停的权力。

报告还建议赋予州政府限制递归自我改进(RSI)的权力,即模型在无人干预下设计自身后继版本的情形。报告由加州政府运营局会同四名外部专家编写,回应纽森此前行政令。据 AOL 报道,事件报告时限拟由 15 天缩短至 48 小时;相关建议需州议会立法,12 月复会审议。

信息来源