Anthropic lancia FlashProve, un prototipo open source per dimostrare quale modello ha generato una risposta

Anthropic ha pubblicato una ricerca sull’inferenza verificabile: una prova crittografica (uno zkSNARK) che attesta che una risposta proviene da un insieme specifico e vincolato di pesi del modello, verificabile da un utente che non possiede quei pesi. Secondo il post, potrebbe aiutare a rilevare se un servizio di instradamento sostituisce di nascosto un modello o se un aggressore lo manomette, e offrire a valutatori e autorità di regolamentazione un modo per verificare quale modello viene effettivamente servito.

• Risultato misurato (dati di Anthropic): con Llama 4 Maverick (miscela di esperti da 400B di parametri, pesi a 4 bit), una singola H100 genera prove a circa 110 token al secondo, con circa 19 MB per richiesta da 1.024 token. Anthropic afferma che ciò richiede circa 70–95 volte il tempo GPU necessario per eseguire il modello con vLLM e che i precedenti sistemi open source sono più lenti di diversi ordini di grandezza.
• Verifica: il client scarica un impegno crittografico di circa 6,5 MB e la verifica di una prova richiede circa 17 secondi su una CPU a 24 core, senza GPU. La prova non rivela i pesi, ma non nasconde l’architettura.
• Limiti: le prove vengono generate a posteriori, in batch, e non durante l’inferenza. Anthropic definisce il risultato un progresso intermedio, non un programma di ricerca completo.
• Rilasciato con licenza Apache 2.0: il post sul blog, un rapporto tecnico, la descrizione di un protocollo, un prover con un verificatore C++ veloce e un verificatore Lean, oltre a prove Lean delle affermazioni di sicurezza di alto livello. Anthropic afferma che Claude ha prodotto gran parte del lavoro di ottimizzazione e che le affermazioni in Lean sono incluse affinché le persone possano verificarle.
• Contesto: Anthropic afferma di aver raggiunto l’obiettivo della Frontier Safety Roadmap di realizzare un prototipo di inferenza verificabile entro il 30 settembre 2026 tramite un progetto separato, che firma il traffico di inferenza e ricalcola l’inferenza su un server fidato; questo lavoro persegue lo stesso obiettivo con un metodo diverso.