Anthropic, hangi modelin yanıt ürettiğini kanıtlamaya yönelik açık kaynaklı bir prototip olan FlashProve'u yayımladı

Anthropic, kanıtlanabilir çıkarım üzerine araştırmasını yayımladı: Bir yanıtın, belirli ve önceden belirlenmiş bir model ağırlıkları kümesinden geldiğini gösteren, ağırlıklara sahip olmayan bir kullanıcının da doğrulayabileceği kriptografik bir kanıt (zkSNARK). Yazıya göre bu, bir yönlendirme hizmetinin modeli sessizce değiştirmesini veya bir saldırganın modele müdahale etmesini saptamaya yardımcı olabilir; ayrıca değerlendiricilere ve düzenleyicilere hangi modelin sunulduğunu denetleme olanağı sağlayabilir.

• Ölçülen sonuç (Anthropic'in verileri): Llama 4 Maverick'te (400B parametreli uzman karışımı, 4 bit ağırlıklar) tek bir H100, saniyede yaklaşık 110 token hızında kanıt üretiyor; 1.024 tokenlık istek başına yaklaşık 19 MB kullanıyor. Anthropic, bunun modeli vLLM üzerinde çalıştırmaya kıyasla GPU süresinin yaklaşık 70–95 katı olduğunu ve önceki açık kaynaklı sistemlerin katbekat daha yavaş kaldığını söylüyor.
• Doğrulama: İstemci yaklaşık 6,5 MB'lık bir taahhüt indiriyor; bir kanıtı doğrulamak GPU olmadan, 24 çekirdekli bir CPU'da yaklaşık 17 saniye sürüyor. Kanıt ağırlıkları açığa çıkarmıyor, ancak mimariyi gizlemiyor.
• Sınırlamalar: Kanıtlar çıkarım sırasında değil, sonradan ve gruplar hâlinde oluşturuluyor. Anthropic bunu tamamlanmış bir araştırma programı değil, ara aşama niteliğinde bir ilerleme olarak tanımlıyor.
• Apache 2.0 lisansıyla yayımlandı: blog yazısı, teknik rapor, protokol açıklaması, hızlı bir C++ doğrulayıcı ve bir Lean doğrulayıcı içeren kanıtlayıcı ve üst düzey güvenlik ifadelerinin Lean kanıtları. Anthropic, optimizasyon çalışmalarının büyük bölümünü Claude'un yaptığını ve Lean ifadelerinin, insanların iddialarını denetleyebilmesi için eklendiğini söylüyor.
• Bağlam: Anthropic, Frontier Safety Roadmap'te 30 Eylül 2026'ya kadar kanıtlanabilir çıkarım prototipi geliştirme hedefinin, çıkarım trafiğini imzalayan ve çıkarımı güvenilir bir sunucuda yeniden hesaplayan ayrı bir projeyle karşılandığını söylüyor. Bu çalışma aynı hedefe farklı bir yöntemle ulaşıyor.