11 月 16 日,AI 安全研究机构 Apollo Research 公布与 OpenAI 的嵌入式评估试点,将派六人团队进驻四个月,检验模型是否试图破坏自身或后继版本的对齐与控制机制。

试点检验训练激励、评估引出、内部部署、推理可检测四项。OpenAI 承诺提供训练代码、数据集与中间检查点,允许 Apollo 公开说明访问范围与删减情况,本月已与四家机构签署类似协议。两份公开报告结论尚未公布,其余访问细节待商定。

信息来源