安全公司 Dragos 首席研究官 HD Moore 于 11 月 19 日公布一项为期五个月的实验。团队向常用 AI 服务提交约 200 万条提示词,每条嵌入一枚未使用过的密钥或私密 URL,凭据只发给一家服务商,接收端由 Moore 掌控,一旦在别处出现即可定位泄露环节。实验查出三类问题:三家托管服务商被入侵、转售商留存客户提示词、部分服务商无视隐私设置。
最严重的是三家托管服务商被入侵。其中一起约 200 枚 AWS 密钥在 10 月下旬几个短窗口发出,窗口内请求被全部窃取;部分密钥来自模型运行前即被拒绝的请求,说明攻击发生在服务商入口。另两起被窃请求带零数据保留标记。攻击者数小时内测试密钥,翻查 S3 存储桶与密钥管理器,试图启用 Bedrock 模型并添加 IAM 用户。诱饵密钥累计产生数万次 API 调用,三家在被通知前均不知情。
另两类问题不依赖攻破系统。多家推理市场转售商仅凭常规日志即可查看并留存客户提示词。更隐蔽的一例涉及一家中国 AI 实验室:7 月至 10 月,其系统抓取了发给它的超过一半提示词中的私密 URL,约三分之二带有不收集数据或零数据保留标记,抓取多在请求后两三天。转发该实验室模型的美国托管商同样触发抓取,数据留在本土的预期并未兑现。另有一条种子链接在单次推理 24 天后出现在一家中国公司的内部聊天中。
泄露的结构性原因在于路由架构。许多 AI 应用把提示词交给 OpenRouter、Vercel 等网关,由网关转发给下游模型,请求可能途经多个路由器与托管商。提示词传输中加密,却在每一跳被解密以决定去向,各环节都能记录明文。Moore 建议把模型部署在本地服务器,但成本较高;次优是直接找一线服务商并主动选定上游。他同时指出,即便如此也无法保证数据不外泄。
实验以可追踪凭据给出了可核验的泄露证据,但仍有边界。报告未披露被入侵服务商与涉案实验室名称,也未给出受影响真实客户规模;诱饵密钥是空账户凭据,攻击者是否接触到真实数据尚不清楚。被入侵服务商在 11 月收到通知后才着手处理,最早一起可追溯至 7 月中旬。