问题：你怎么知道回答真的出自这个模型
11 月 2 日，Anthropic Frontier Red Team 发布开源研究原型 FlashProve，探索「可证明推理」（provable inference）：模型提供者先用密码学承诺固定模型权重，再对每个响应生成 zkSNARK 证明——「承诺过的模型在这些输入上生成了这些输出」。验证方不需要拿到权重、也不需要大量算力，就能确认两件事：响应确实出自被承诺的模型；证明过程零知识，不泄露权重本身。
这个能力指向的现实风险很具体：API 用户无法验证服务商有没有把请求偷偷路由到更便宜的模型、被攻陷的服务器有没有替换模型、响应有没有被篡改。监管侧同样需要它——验证算力确实用于声称的那个模型、确保只有经过审批的模型在对外服务。
性能：从「数个数量级」到「70–95 倍」
FlashProve 此前的最大障碍是开销。官方在 Llama 4 Maverick（400B 参数 MoE、4-bit 量化）上给出的数据：单张 H100 上证明生成约 110 tokens/秒，24 个请求批处理共需 223 秒；每 1,024-token 请求的证明约 18.78 MB；验证在 24 线程 CPU 上约 17 秒（单线程约 21 秒），无需 GPU、无需权重。整体证明生成比 vLLM 原生推理慢约 70–95 倍——官方强调，这远好于此前开源系统慢数个数量级的水平，离实用化近了一大步，但仍只适用于特定场景。
工程细节上，承诺下载约 6.5 MB，离线承诺阶段约 39 分钟、可覆盖约 1,600 万次请求；系统采用事后批处理证明，专为 MoE 架构设计，证明开销与实际激活的专家参数成比例。
Lean 形式化：让数学守住密码学工程
密码学代码极易出错，FlashProve 的一个亮点是用 Lean 4 证明助手对协议做了形式化，并机器验证三大性质：完整性（诚实证明会被接受）、可靠性（伪造证明会被拒绝）、零知识（证明不泄露权重信息）。仓库同时提供两条验证路径：可执行的 Lean 验证器（较慢但有形式化保证）与 C++ 快速验证器（日常使用、测试结果一致但无形式化保证）。项目以 Apache 2.0 许可开源，合作者来自 EPFL、MIT、StarkWare 与 Succinct。
局限也写在明面上：证明针对整数模型与贪婪解码，未覆盖浮点与采样解码；需要 MoE 架构，且不隐藏模型架构；上下文限于 1,024 tokens；未考虑侧信道攻击；快速验证器本身不携带形式化保证。GitHub 仓库将其标注为「研究原型」，官方也强调这是阶段性进展而非完成的议程。
为什么重要：AI 供应链开始要数学凭证
随着推理路由层、模型聚合平台与智能体编排链条越来越长，「响应到底出自哪个模型」正从信任问题变成可审计问题。FlashProve 把区块链世界的 zkSNARK 搬到大模型推理上，并给出了跑得动的工程数字：验证便宜到可以在 CPU 上做，开销大但已收敛到两位数倍。对监管（模型审批、算力用途核验）、企业采购（服务商不得偷换模型）与安全（篡改检测）三类场景，这条路径一旦继续降本，就可能成为 API 协议里的标准字段。它当然不会立刻落地——1,024 token 上下文与贪婪解码的限定意味着距离生产还有距离——但「推理可验证」从论文概念变成 Apache 2.0 的开源原型，这一步本身改变了讨论的坐标系。
信息来源
- Anthropic 官方研究博客（L1）：Progress on provable inference for large language models（2026-11-02）
- GitHub（L1）：anthropics/FlashProve 开源仓库（Apache 2.0）
- MarkTechPost（L2）：Anthropic Releases FlashProve: Cryptographic Proofs That a Reply Came From the Committed Model（2026-11-03）
- 36氪转新智元（中文交叉）：Anthropic 亲手终结「套壳 AI」（2026-11）