Anthropic, 어떤 모델이 응답을 생성했는지 증명하는 오픈소스 프로토타입 FlashProve 출시

Anthropic은 검증 가능한 추론에 관한 연구를 공개했습니다. 응답이 특정한, 사전에 커밋된 모델 가중치 집합에서 나왔음을 증명하는 암호학적 증명(zkSNARK)으로, 가중치를 갖고 있지 않은 사용자도 확인할 수 있습니다. 게시물은 라우팅 서비스가 모델을 몰래 바꿔치기하거나 공격자가 모델을 변조했는지 감지하는 데 도움이 되고, 평가자와 규제 당국이 어떤 모델이 제공되고 있는지 확인할 방법이 될 수 있다고 설명합니다.

• 측정 결과(Anthropic의 수치): Llama 4 Maverick(매개변수 400B의 전문가 혼합 모델, 4비트 가중치)에서 H100 한 대는 초당 약 110토큰의 속도로 증명을 생성하며, 1,024토큰 요청당 약 19MB가 필요합니다. Anthropic에 따르면 이는 vLLM으로 모델을 실행하는 것보다 GPU 사용 시간이 약 70~95배 길며, 기존 오픈소스 시스템은 몇 자릿수나 더 느립니다.
• 검증: 클라이언트는 약 6.5MB의 커밋먼트를 다운로드하며, GPU 없이 24코어 CPU에서 증명을 확인하는 데 약 17초가 걸립니다. 증명은 가중치를 공개하지 않지만 아키텍처는 숨기지 않습니다.
• 한계: 추론 중이 아니라 추론이 끝난 뒤 배치 단위로 증명을 생성합니다. Anthropic은 이를 완성된 연구 의제가 아니라 중간 단계의 진전이라고 설명합니다.
• Apache 2.0 라이선스로 공개: 블로그 게시물, 기술 보고서, 프로토콜 설명, 고속 C++ 검증기와 Lean 검증기를 포함한 증명 생성기, 그리고 최상위 보안 주장을 형식화한 Lean 증명입니다. Anthropic은 최적화 작업의 상당 부분을 Claude가 수행했으며, 주장을 사람들이 감사할 수 있도록 Lean 명제를 공개했다고 밝혔습니다.
• 맥락: Anthropic에 따르면 Frontier Safety Roadmap의 목표인 2026년 9월 30일까지 검증 가능한 추론 프로토타입을 만드는 일은 별도 프로젝트를 통해 달성했습니다. 그 프로젝트는 추론 트래픽에 서명하고 신뢰할 수 있는 서버에서 추론을 다시 계산합니다. 이번 연구는 다른 방법으로 같은 목표를 추구합니다.