11 月 18 日,美国政府问责局公开一份编号 GAO-27-108814 的审计报告。报告记录了 2026 年春季的一次隐蔽测试:按当年 4 月使用量选出的 ChatGPT、Claude、Gemini 与 Grok 四款平台,在被提示后均生成了可用于实施袭击的可行信息。报告 10 月 16 日成文,11 月 18 日对外公开。

测试设定两类场景。其中两款平台给出制造并引爆简易爆炸装置的细节,指向具体酒店、会展中心和美国城市,附带精确日期与时间;另两款平台给出以无人机或枪械攻击电网的方案,指向具体变电站,一款给出季节、一款未给时间。四款平台生成方案的时间均不到 12 小时。问责局称通过研究、实地观察与专家访谈核实了信息的可行性。

GAO 隐蔽测试:四类平台测试结果(报告隐去平台对应关系) 简易爆炸装置 具体酒店/会展中心 · 精确日期与时间 · 车辆加载 2 款平台 电网攻击 具体变电站 · 无人机或枪械 · 目的为经济损害 2 款平台 共性:四款均触发防护、均被常见手法绕过 单款生成方案均不到 12 小时 · 可行性经专家核实
GAO 将四款平台匿名编号为 A 至 D,未披露哪款对应哪类场景,也隐去了绕过防护的具体手法。

四款平台起初都触发了防护,包括拒答、删去信息或暂停账号,测试人员用常见的绕过手法逐一突破。问责局 IT 与网络安全主管 Kevin Walsh 在随报告发布的访谈中称,想要的有害信息最终都拿到了,防护没有起作用。报告未说明哪家平台对应哪类场景,也隐去具体模型与绕过方法,以免被复制。

问责局未提出整改建议,理由是此次审查对象为第三方产品而非联邦机构。报告同时说明这是一次时点评估,样本不具统计意义;四家厂商的官员表示会继续改进平台安全。发起调查的参议员 Maggie Hassan 称,恐怖分子登录平台、不到 12 小时就能带走一份具体行动方案。她将在下届国会出任参议院国土安全与政府事务委员会主席,把 AI 安全立法列为优先事项。

信息来源