Anthropic 发布 FlashProve：用于证明响应由哪个模型生成的开源原型

Anthropic 发布了关于可证明推理的研究：这是一种加密证明（zkSNARK），可证明某个响应来自一组特定的、已提交承诺的模型权重；没有这些权重的用户也能验证。Anthropic 表示，这有助于发现路由服务暗中替换模型，或攻击者篡改模型的情况，也能让评估人员和监管机构核查实际提供的模型。

• 测得的结果（Anthropic 的数据）：在 Llama 4 Maverick（400B 参数的混合专家模型，4-bit 权重）上，一张 H100 每秒生成证明约 110 个 token，每次 1,024-token 请求约产生 19 MB 数据。Anthropic 称，这大约相当于用 vLLM 运行模型所需 GPU 时间的 70–95 倍，而此前的开源系统要慢几个数量级。
• 验证：客户端下载约 6.5 MB 的承诺数据；在一台 24 核 CPU 上验证证明约需 17 秒，无需 GPU。证明不会泄露权重，但不会隐藏模型架构。
• 局限：证明是在事后分批生成，而不是在推理期间生成。Anthropic 称，这是阶段性进展，并非完整的研究计划。
• 以 Apache 2.0 许可发布：博客文章、技术报告、协议说明、带有快速 C++ 验证器的证明生成器、Lean 验证器，以及针对顶层安全性声明的 Lean 证明。Anthropic 表示，Claude 完成了大部分优化工作，并称提供 Lean 声明是为了让人们能够审查其主张。
• 背景：Anthropic 表示，其 Frontier Safety Roadmap 中“于 2026 年 9 月 30 日前推出可证明推理原型”的目标，已通过一个独立项目达成；该项目会对推理流量签名，并在可信服务器上重新计算推理结果。本项工作通过另一种方法追求同一目标。