Anthropic veröffentlicht FlashProve, einen Open-Source-Prototyp zum Nachweis, welches Modell eine Antwort erzeugt hat

Anthropic hat Forschung zu nachweisbarer Inferenz veröffentlicht: einen kryptografischen Beweis (ein zkSNARK), dass eine Antwort von einer bestimmten, festgelegten Menge an Modellgewichten stammt. Nutzer können ihn prüfen, ohne die Gewichte zu besitzen. Laut Beitrag könnte sich damit erkennen lassen, wenn ein Routingdienst ein Modell unbemerkt austauscht oder ein Angreifer es manipuliert. Außerdem könnten Evaluatoren und Aufsichtsbehörden damit überprüfen, welches Modell tatsächlich bereitgestellt wird.

• Gemessene Ergebnisse (Angaben von Anthropic): Bei Llama 4 Maverick (Mixture-of-Experts-Modell mit 400B Parametern und 4-Bit-Gewichten) erzeugt eine einzelne H100 Beweise mit etwa 110 Tokens pro Sekunde; pro Anfrage mit 1.024 Tokens fallen etwa 19 MB an. Anthropic zufolge entspricht das ungefähr dem 70- bis 95-Fachen der GPU-Zeit, die für die Ausführung des Modells mit vLLM benötigt wird. Frühere Open-Source-Systeme seien um Größenordnungen langsamer.
• Verifizierung: Der Client lädt ein Commitment von etwa 6,5 MB herunter. Die Prüfung eines Beweises dauert auf einer 24-Kern-CPU etwa 17 Sekunden und benötigt keine GPU. Der Beweis gibt die Gewichte nicht preis, verbirgt aber nicht die Architektur.
• Einschränkungen: Die Beweise werden nachträglich und stapelweise erstellt, nicht während der Inferenz. Anthropic bezeichnet dies als Zwischenfortschritt, nicht als abgeschlossene Forschungsagenda.
• Veröffentlicht unter Apache 2.0: der Blogbeitrag, ein technischer Bericht, eine Protokollbeschreibung, ein Prover mit einem schnellen C++-Verifier und einem Lean-Verifier sowie Lean-Beweise für die übergeordneten Sicherheitsaussagen. Anthropic zufolge hat Claude einen großen Teil der Optimierungsarbeit geleistet. Die Lean-Aussagen sollen es anderen ermöglichen, die Behauptungen zu prüfen.
• Hintergrund: Anthropic zufolge wurde das Ziel der Frontier Safety Roadmap, bis zum 30. September 2026 einen Prototyp für nachweisbare Inferenz zu entwickeln, mit einem separaten Projekt erreicht. Dieses signiert den Inferenzverkehr und berechnet die Inferenz auf einem vertrauenswürdigen Server erneut. Die hier vorgestellte Arbeit verfolgt dasselbe Ziel mit einer anderen Methode.