Anthropic lanza FlashProve, un prototipo de código abierto para demostrar qué modelo generó una respuesta

Anthropic publicó una investigación sobre inferencia demostrable: una prueba criptográfica (un zkSNARK) de que una respuesta provino de un conjunto específico y comprometido de pesos del modelo, que puede verificar un usuario sin tener los pesos. La publicación señala que esto podría ayudar a detectar si un servicio de enrutamiento sustituyó un modelo en secreto o si un atacante lo manipuló, y podría ofrecer a evaluadores y reguladores una forma de comprobar qué modelo se está usando.

• Resultado medido (cifras de Anthropic): con Llama 4 Maverick (mezcla de expertos de 400.000 millones de parámetros, pesos de 4 bits), una H100 genera pruebas a unos 110 tokens por segundo, con unos 19 MB por solicitud de 1.024 tokens. Anthropic afirma que esto requiere aproximadamente entre 70 y 95 veces más tiempo de GPU que ejecutar el modelo con vLLM, y que los sistemas anteriores de código abierto son órdenes de magnitud más lentos.
• Verificación: el cliente descarga un compromiso de unos 6,5 MB, y comprobar una prueba tarda unos 17 segundos en una CPU de 24 núcleos, sin GPU. La prueba no revela los pesos, pero tampoco oculta la arquitectura.
• Límites: las pruebas se generan a posteriori, en lotes, y no durante la inferencia. Anthropic lo describe como un avance intermedio, no como una agenda de investigación concluida.
• Publicado bajo Apache 2.0: la entrada del blog, un informe técnico, una descripción del protocolo, un generador de pruebas con un verificador rápido en C++ y otro en Lean, y pruebas en Lean de las afirmaciones de seguridad de alto nivel. Anthropic afirma que Claude produjo buena parte del trabajo de optimización y que las declaraciones en Lean están disponibles para que cualquiera pueda auditar sus afirmaciones.
• Contexto: Anthropic afirma que cumplió el objetivo de su Frontier Safety Roadmap de tener un prototipo de inferencia demostrable para el 30 de septiembre de 2026 mediante un proyecto independiente que firma el tráfico de inferencia y vuelve a calcular la inferencia en un servidor de confianza; este trabajo persigue el mismo objetivo con un método distinto.