Anthropic выпускает FlashProve — прототип с открытым исходным кодом для доказательства того, какая модель сгенерировала ответ

Anthropic опубликовала исследование проверяемого инференса: криптографическое доказательство (zkSNARK), подтверждающее, что ответ получен с использованием определённого зафиксированного набора весов модели. Его может проверить пользователь, у которого нет доступа к этим весам. В публикации говорится, что это поможет обнаруживать незаметную подмену модели сервисом маршрутизации или её изменение злоумышленником, а также даст оценщикам и регуляторам возможность проверять, какая модель используется.

• Измеренные результаты (по данным Anthropic): для Llama 4 Maverick (смесь экспертов с 400 млрд параметров, 4-битные веса) один H100 генерирует доказательства примерно со скоростью 110 токенов в секунду; на запрос из 1 024 токенов приходится около 19 МБ. Anthropic утверждает, что это примерно в 70–95 раз больше времени работы GPU, чем при запуске модели на vLLM, а предыдущие системы с открытым исходным кодом работают на порядки медленнее.
• Проверка: клиент загружает коммитмент размером около 6,5 МБ; проверка доказательства занимает около 17 секунд на 24-ядерном CPU, без GPU. Доказательство не раскрывает веса, но не скрывает архитектуру.
• Ограничения: доказательства создаются постфактум, пакетами, а не во время инференса. Anthropic называет это промежуточным результатом, а не завершённой исследовательской программой.
• Выпущено под лицензией Apache 2.0: публикация в блоге, технический отчёт, описание протокола, средство создания доказательств с быстрым верификатором на C++ и верификатором на Lean, а также доказательства на Lean для основных утверждений о безопасности. Anthropic сообщает, что Claude выполнил значительную часть работы по оптимизации, а формулировки утверждений на Lean опубликованы, чтобы желающие могли проверить заявления компании.
• Контекст: Anthropic сообщает, что цель из её плана Frontier Safety Roadmap — создать прототип проверяемого инференса к 30 сентября 2026 года — была достигнута в рамках отдельного проекта, который подписывает трафик инференса и повторно выполняет инференс на доверенном сервере. Эта работа преследует ту же цель, но другим способом.