Anthropic 詳述 1,000 個 Fable 5.2 agents 如何重現費馬最後定理的形式化證明

Anthropic 表示，一支由 1,000 個執行早期版本 Claude Fable 5.2 的 agents 組成的團隊，在 28.7 小時內重現了費馬最後定理的 Lean 形式化證明；Anthropic 稱這是一次玩具實驗。去年 9 月，數十個 agents 在一個內部模型上完成形式化，該模型的能力大致相當於 Fable 5.1，並由一位研究員引導；整個過程耗時 11 天，產生約 60 億個輸出 tokens。Anthropic 表示，這次新實驗使用的輸出 tokens 只有前次的三分之一，產生的證明長度則僅為七分之一，而且沒有使用 Prove2Me 平台，也沒有研究員從旁引導。

設定。 每個 agent 都在自己的輕量級虛擬機器中使用 shell 和檔案編輯器，無法連上網路，並配備 Lean 和 Mathlib；每個 agent 有自己的 Git 分支，可透過合併請求將修改合併至 main，並共用一個 Postgres 資料庫。Anthropic 給團隊 60 個待證命題、一句話概述的經典證明路徑、所需定義，以及前次工作中已證明的 47 個引理，並安排 1 位負責人和 999 位協作者。Anthropic 表示，除此之外，並未對團隊的組織方式提供其他指引。

Agents 的工作方式。 Anthropic 表示，負責人在前 10 分鐘內建立了五個資料庫資料表，分別用於管理順序、指派事項、備註、子任務和已完成工作。早期，協作者認為 60 個命題中有 47 個無法在預算內完成；負責人先將它們擱置，之後在前 10 個命題於約 70 分鐘內證明完畢後，又重新著手處理。約在第 18 小時，團隊將約 750 位協作者轉而投入 Langlands–Tunnell；先前負責該項工作的領隊認為，能及時完成的機率低於 1%。協作者將其拆解為一棵包含 2,418 個任務、最深達 10 層的任務樹；該命題在第 28.4 小時證明完成，最終定理則於第 28.7 小時完成。

安全控管。 Anthropic 表示，除了沙箱之外，每個 shell 指令和檔案編輯在執行前都會由一個經提示設定的分類器檢查；若分類器攔截任何操作，整個團隊就會停止，交由人員審查；此外，還有一個離線監控器會檢視團隊的行動。Anthropic 表示，超過 100 萬次工具呼叫中，沒有任何一次達到必須攔截的標準。此次實驗只使用了以行動為基礎的監控器；不久之後，Anthropic 又加入一個也會讀取思維鏈和 agents 之間通訊內容的監控器。Anthropic 指出，他們會在可能尚未完成發布前對齊評估的模型上進行這類實驗。

注意事項。 Anthropic 表示，這項成果並不代表不再需要 Prove2Me 這類專業領域平台；而且 agents 往往會過早放棄難題，也會誤判問題難度，因此人類的鼓勵仍可能有所幫助。