Anthropic lance FlashProve, un prototype open source permettant de prouver quel modèle a produit une réponse

Anthropic a publié des recherches sur l’inférence vérifiable : une preuve cryptographique (un zkSNARK) qu’une réponse provient d’un ensemble précis de poids de modèle engagé, vérifiable par un utilisateur qui ne possède pas ces poids. Selon l’article, cette méthode pourrait aider à détecter un modèle remplacé discrètement par un service de routage ou altéré par un attaquant, et offrir aux évaluateurs et aux régulateurs un moyen de vérifier quel modèle est utilisé.

• Résultat mesuré (chiffres d’Anthropic) : sur Llama 4 Maverick (mélange d’experts de 400 milliards de paramètres, poids sur 4 bits), un seul H100 génère des preuves à environ 110 tokens par seconde, avec environ 19 Mo par requête de 1 024 tokens. Anthropic indique que cela représente environ 70 à 95 fois le temps GPU nécessaire pour exécuter le modèle avec vLLM, et que les systèmes open source antérieurs sont plusieurs ordres de grandeur plus lents.
• Vérification : le client télécharge un engagement d’environ 6,5 Mo, et la vérification d’une preuve prend environ 17 secondes sur un processeur à 24 cœurs, sans GPU. La preuve ne révèle pas les poids, mais ne masque pas l’architecture.
• Limites : les preuves sont générées après coup, par lots, et non pendant l’inférence. Anthropic parle d’une avancée intermédiaire, et non d’un programme de recherche achevé.
• Publication sous licence Apache 2.0 : l’article de blog, un rapport technique, une description du protocole, un prouveur accompagné d’un vérificateur C++ rapide et d’un vérificateur Lean, ainsi que des preuves Lean des énoncés de sécurité de haut niveau. Anthropic indique que Claude a réalisé une grande partie du travail d’optimisation et que les énoncés Lean sont publiés pour permettre à chacun d’auditer ses affirmations.
• Contexte : Anthropic indique avoir atteint l’objectif de sa Frontier Safety Roadmap — un prototype d’inférence vérifiable d’ici au 30 septembre 2026 — grâce à un projet distinct qui signe le trafic d’inférence et recalcule l’inférence sur un serveur de confiance ; ces travaux poursuivent le même objectif par une autre méthode.