Anthropic ra mắt FlashProve, nguyên mẫu mã nguồn mở để chứng minh mô hình nào đã tạo ra một câu trả lời

Anthropic công bố nghiên cứu về suy luận có thể chứng minh: một bằng chứng mật mã (zkSNARK) xác nhận câu trả lời được tạo ra từ một bộ trọng số mô hình cụ thể đã được cam kết, để người dùng không có trọng số vẫn có thể kiểm tra. Bài đăng cho biết phương pháp này có thể giúp phát hiện khi dịch vụ định tuyến âm thầm đổi mô hình hoặc khi kẻ tấn công can thiệp, đồng thời giúp chuyên gia đánh giá và cơ quan quản lý kiểm tra mô hình đang được cung cấp.

• Kết quả đo được (theo số liệu của Anthropic): với Llama 4 Maverick (mô hình hỗn hợp chuyên gia 400B tham số, trọng số 4-bit), một GPU H100 tạo bằng chứng với tốc độ khoảng 110 token/giây, mỗi yêu cầu 1.024 token tốn khoảng 19 MB. Anthropic cho biết việc này tiêu tốn thời gian GPU gấp khoảng 70–95 lần so với chạy mô hình bằng vLLM; các hệ thống mã nguồn mở trước đây chậm hơn nhiều bậc độ lớn.
• Xác minh: máy khách tải xuống một bản cam kết khoảng 6,5 MB; việc kiểm tra bằng chứng mất khoảng 17 giây trên CPU 24 lõi, không cần GPU. Bằng chứng không tiết lộ trọng số nhưng không che giấu kiến trúc.
• Giới hạn: bằng chứng được tạo sau khi suy luận hoàn tất, theo từng lô, chứ không phải trong lúc suy luận. Anthropic gọi đây là tiến bộ bước đầu, không phải một hướng nghiên cứu đã hoàn thiện.
• Phát hành theo giấy phép Apache 2.0: bài blog, báo cáo kỹ thuật, mô tả giao thức, công cụ tạo bằng chứng cùng bộ xác minh C++ nhanh và bộ xác minh Lean, cũng như các chứng minh Lean cho những tuyên bố bảo mật cấp cao nhất. Anthropic cho biết Claude đã thực hiện phần lớn công việc tối ưu hóa, và các tuyên bố trong Lean được đưa vào để mọi người có thể kiểm tra các khẳng định của họ.
• Bối cảnh: Anthropic cho biết mục tiêu trong Lộ trình An toàn Frontier là có nguyên mẫu suy luận có thể chứng minh trước ngày 30 tháng 9 năm 2026 đã được đáp ứng bằng một dự án riêng, dự án này ký lưu lượng suy luận và tính toán lại suy luận trên máy chủ đáng tin cậy; nghiên cứu hiện tại theo đuổi cùng mục tiêu bằng một phương pháp khác.