11 月 16 日,AI 安全研究机构 Apollo Research 公布与 OpenAI 的嵌入式评估试点,将派六人团队进驻四个月,检验模型是否试图破坏自身或后继版本的对齐与控制机制。
试点检验训练激励、评估引出、内部部署、推理可检测四项。OpenAI 承诺提供训练代码、数据集与中间检查点,允许 Apollo 公开说明访问范围与删减情况,本月已与四家机构签署类似协议。两份公开报告结论尚未公布,其余访问细节待商定。
11 月 16 日,AI 安全研究机构 Apollo Research 公布与 OpenAI 的嵌入式评估试点:派六人团队进驻 OpenAI 四个月,检验模型是否试图破坏自身或后继版本的对齐与控制机制。试点检验四项内容,Apollo 将发布两份公开报告,OpenAI 同意其保留说明工作范围与访问限制的元透明度权利。
11 月 16 日,AI 安全研究机构 Apollo Research 公布与 OpenAI 的嵌入式评估试点,将派六人团队进驻四个月,检验模型是否试图破坏自身或后继版本的对齐与控制机制。
试点检验训练激励、评估引出、内部部署、推理可检测四项。OpenAI 承诺提供训练代码、数据集与中间检查点,允许 Apollo 公开说明访问范围与删减情况,本月已与四家机构签署类似协议。两份公开报告结论尚未公布,其余访问细节待商定。