Anthropic lança o FlashProve, um protótipo de código aberto para comprovar qual modelo produziu uma resposta

A Anthropic publicou uma pesquisa sobre inferência comprovável: uma prova criptográfica (um zkSNARK) de que uma resposta veio de um conjunto específico e comprometido de pesos do modelo, verificável por um usuário que não tem acesso a esses pesos. A publicação diz que isso poderia ajudar a detectar quando um serviço de roteamento troca um modelo sem avisar ou quando um invasor o adultera, além de oferecer a avaliadores e órgãos reguladores uma forma de verificar o que está sendo disponibilizado.

• Resultado medido (números da Anthropic): com o Llama 4 Maverick (mistura de especialistas com 400B de parâmetros e pesos de 4 bits), uma única H100 gera provas a cerca de 110 tokens por segundo, com aproximadamente 19 MB por solicitação de 1.024 tokens. A Anthropic diz que isso exige cerca de 70–95 vezes o tempo de GPU necessário para executar o modelo no vLLM e que os sistemas anteriores de código aberto são ordens de grandeza mais lentos.
• Verificação: o cliente baixa um compromisso de cerca de 6,5 MB, e a verificação de uma prova leva aproximadamente 17 segundos em uma CPU de 24 núcleos, sem GPU. A prova não revela os pesos, mas não oculta a arquitetura.
• Limites: as provas são geradas posteriormente, em lotes, e não durante a inferência. A Anthropic considera isso um avanço intermediário, não uma agenda de pesquisa concluída.
• Lançado sob a licença Apache 2.0: a publicação do blog, um relatório técnico, uma descrição do protocolo, um provador com um verificador rápido em C++ e um verificador em Lean, além de provas em Lean das declarações de segurança de alto nível. A Anthropic diz que Claude produziu boa parte do trabalho de otimização e que as declarações em Lean estão disponíveis para que as pessoas possam auditar suas afirmações.
• Contexto: a Anthropic diz que cumpriu, por meio de um projeto separado, a meta da Frontier Safety Roadmap de criar um protótipo de inferência comprovável até 30 de setembro de 2026. Esse projeto assina o tráfego de inferência e recalcula a inferência em um servidor confiável; este trabalho busca a mesma meta por outro método.