Anthropic、どのモデルが応答を生成したか証明するオープンソースのプロトタイプ「FlashProve」を公開

Anthropicは、証明可能な推論に関する研究を公開した。特定のモデル重みのコミット済みセットから応答が生成されたことを示す暗号学的証明（zkSNARK）で、重みを持たないユーザーでも検証できる。投稿によると、ルーティングサービスによるモデルの密かな差し替えや、攻撃者による改ざんの検出に役立つほか、評価者や規制当局が実際に提供されているモデルを確認する手段にもなり得る。

• 測定結果（Anthropicの数値）： Llama 4 Maverick（400Bパラメーターの混合エキスパートモデル、4-bit重み）では、H100 1基で毎秒約110トークンのペースで証明を生成でき、1,024トークンのリクエストあたり約19 MBとなる。Anthropicによると、これはvLLMでモデルを実行する場合のGPU時間の約70～95倍にあたり、従来のオープンソースシステムは桁違いに遅いという。
• 検証： クライアントは約6.5 MBのコミットメントをダウンロードする。証明の検証には24コアCPUで約17秒かかり、GPUは不要。証明によって重みは明かされないが、アーキテクチャは隠されない。
• 制約： 証明は推論中ではなく、事後にバッチ単位で生成される。Anthropicは、これを研究の完成形ではなく、途中段階の進展と位置づけている。
• Apache 2.0で公開： ブログ記事、技術レポート、プロトコルの説明、高速なC++検証器とLean検証器を備えた証明生成器、そしてセキュリティに関する最上位の主張を示すLean証明を公開した。Anthropicによると、最適化作業の多くはClaudeが行い、主張を人々が監査できるようLeanの記述も公開している。
• 背景： Anthropicは、Frontier Safety Roadmapで掲げた「2026年9月30日までに証明可能な推論のプロトタイプを実現する」という目標について、推論トラフィックに署名し、信頼できるサーバーで推論を再計算する別プロジェクトによって達成したと説明している。今回の研究は、別の手法で同じ目標に取り組むものだ。