Anthropic merilis FlashProve, prototipe sumber terbuka untuk membuktikan model mana yang menghasilkan sebuah respons

Anthropic menerbitkan riset tentang inferensi yang dapat dibuktikan: bukti kriptografis (zkSNARK) bahwa suatu respons berasal dari kumpulan bobot model tertentu yang telah dikomitmenkan, dan dapat diperiksa oleh pengguna yang tidak memiliki bobot tersebut. Unggahan itu menyebutkan bahwa hal ini dapat membantu mendeteksi model yang diam-diam diganti oleh layanan perutean atau diubah oleh penyerang, serta memberi evaluator dan regulator cara untuk memeriksa model apa yang sedang disajikan.

• Hasil pengukuran (angka dari Anthropic): pada Llama 4 Maverick (campuran pakar dengan 400B parameter, bobot 4-bit), satu H100 menghasilkan bukti dengan kecepatan sekitar 110 token per detik, dengan ukuran sekitar 19 MB untuk setiap permintaan 1.024 token. Anthropic menyebutnya memerlukan waktu GPU sekitar 70–95 kali lebih banyak daripada menjalankan model dengan vLLM, sementara sistem sumber terbuka sebelumnya berjalan beberapa orde magnitudo lebih lambat.
• Verifikasi: klien mengunduh komitmen berukuran sekitar 6,5 MB, dan pemeriksaan bukti memerlukan sekitar 17 detik pada CPU 24 inti, tanpa GPU. Bukti tersebut tidak mengungkap bobot, tetapi tidak menyembunyikan arsitektur.
• Batasan: bukti dibuat setelah inferensi, secara berkelompok, bukan saat inferensi berlangsung. Anthropic menyebutnya kemajuan antara, bukan agenda riset yang sudah tuntas.
• Dirilis dengan lisensi Apache 2.0: unggahan blog, laporan teknis, deskripsi protokol, prover dengan verifier C++ yang cepat dan verifier Lean, serta bukti Lean untuk pernyataan keamanan tingkat atas. Anthropic menyebut Claude menghasilkan sebagian besar pekerjaan optimisasi dan pernyataan Lean disertakan agar orang dapat mengaudit klaimnya.
• Konteks: Anthropic mengatakan target dalam Frontier Safety Roadmap untuk membuat prototipe inferensi yang dapat dibuktikan sebelum 30 September 2026 telah tercapai melalui proyek terpisah yang menandatangani lalu lintas inferensinya dan menghitung ulang inferensi di server tepercaya; pekerjaan ini mengejar tujuan yang sama dengan metode berbeda.