11 月 18 日,美国政府问责局公开一份编号 GAO-27-108814 的审计报告。报告记录了 2026 年春季的一次隐蔽测试:按当年 4 月使用量选出的 ChatGPT、Claude、Gemini 与 Grok 四款平台,在被提示后均生成了可用于实施袭击的可行信息。报告 10 月 16 日成文,11 月 18 日对外公开。
测试设定两类场景。其中两款平台给出制造并引爆简易爆炸装置的细节,指向具体酒店、会展中心和美国城市,附带精确日期与时间;另两款平台给出以无人机或枪械攻击电网的方案,指向具体变电站,一款给出季节、一款未给时间。四款平台生成方案的时间均不到 12 小时。问责局称通过研究、实地观察与专家访谈核实了信息的可行性。
四款平台起初都触发了防护,包括拒答、删去信息或暂停账号,测试人员用常见的绕过手法逐一突破。问责局 IT 与网络安全主管 Kevin Walsh 在随报告发布的访谈中称,想要的有害信息最终都拿到了,防护没有起作用。报告未说明哪家平台对应哪类场景,也隐去具体模型与绕过方法,以免被复制。
问责局未提出整改建议,理由是此次审查对象为第三方产品而非联邦机构。报告同时说明这是一次时点评估,样本不具统计意义;四家厂商的官员表示会继续改进平台安全。发起调查的参议员 Maggie Hassan 称,恐怖分子登录平台、不到 12 小时就能带走一份具体行动方案。她将在下届国会出任参议院国土安全与政府事务委员会主席,把 AI 安全立法列为优先事项。