OpenAI 的 Decisions API 現已正式推出

OpenAI 表示，於 10 月 6 日進入公開測試版的 Decisions API 現已正式推出。據 OpenAI 表示，應用程式和代理程式可用它來分類文字與影像、評估輸入內容，並決定接下來要做什麼，而無須生成完整的模型回應。在測試版公告中，OpenAI 表示，透過 Responses API，Decisions API 的決策速度最高可達 GPT-6 Luna 的 10 倍。

OpenAI 表示，自測試版推出以來，已新增以下功能：

• 原生整合 GPT-Live，讓語音應用程式能在人們說話時即時回應。
• 提示快取，降低重複使用上下文時的成本。
• 原生 JSON 輸入，可直接傳入結構化的應用程式資料。
• 在個別問題指示中加入影像，方便將多張影像與共同參照圖進行比較。
• 每次請求最多可提出 400 個問題，是先前上限的兩倍。
• 在美國和歐盟提供推論資料落地服務，並在亞洲多個地區增加容量。

運作方式與費用：開發者定義問題及可接受的答案，提供文字、影像或 JSON，即可取得三種答案類型之一：機率（predicate）、選項或分數。OpenAI 表示，此 API 以 GPT-6 Luna 打造，並透過專用的 Decisions endpoint 提供。輸入費用為每百萬 token $0.10，快取輸入每百萬 token $0.01，且不收取輸出 token 費用。

OpenAI 引述了客戶提供的成效數據，這些數字來自客戶本身：Box 在 30 個測試案例中，路由選擇速度約提升 5 倍，準確度與 Responses API 相同；Datadog 表示，p95 速度比前沿模型快 40 倍，且準確度相近；Ramp 表示，速度提升 4 倍，成本比 GPT-6 Luna 低 30%；Sierra 表示，p95 延遲低於 280 毫秒，單次呼叫成本降低 90%；Speak 表示，搭配 GPT-Live 時，採取下一步行動所需時間從 1.4 秒降至 0.13 秒。