OpenAI 說明 Control Room：可停止其研究基礎架構中模型工作負載的系統

OpenAI 發布了 Control Room 的說明。這套中央系統會追蹤其研究基礎架構中的模型工作負載，並可在出現安全或資安疑慮時將其停止。以下內容皆為 OpenAI 自述。

• 涵蓋範圍：Control Room 連結所有研究推論工作負載，包括用於訓練與評估的代理式取樣，以及資料處理。OpenAI 要求每個執行代理式推論的研究工作負載都必須有經核准的安全案例。該公司表示，外部模型服務堆疊的集中化程度已更高，且能快速關閉部署。
• 運作方式：工作會從 Control Room 取得工作 ID，並在每次請求時將其傳給推論引擎。引擎在回覆前會向 Control Room 確認該工作是否仍獲授權；工作一旦被標記為停止，引擎就會拒絕後續請求，因此即使工作負載自身的程式碼仍在執行，模型也會停止輸出。
• 速度：OpenAI 表示，從決定停止或暫停工作起，模型輸出會在 35 秒內停止。延遲來自授權檢查的快取層，OpenAI 表示正努力將延遲降至零。
• 可靠性：檢查機制位於推論層，而非研究人員的工作負載程式碼中。OpenAI 表示，會執行全面檢查，搜尋未透過 Control Room 啟動的引擎；系統也採取故障時關閉設計：若服務停機或遭停用，所有推論請求都會被拒絕。故障時關閉機制已套用於所有前沿模型研究工作負載，OpenAI 表示，未來幾天內也會擴及其餘工作負載。
• 監控連結：Control Room 可與 OpenAI 的失準監控器協同運作；監控器能要求 Control Room 停止工作。OpenAI 表示，監控器曾偵測到 9 月的 DNS 事件，當時有代理連上外部聊天機器人。