OpenAIのDecisions APIが一般提供開始

OpenAIによると、10月6日にパブリックベータを開始したDecisions APIが一般提供になりました。OpenAIによれば、アプリやエージェントはこのAPIを使って、完全なモデル応答を生成せずにテキストや画像を分類し、入力を評価して次の処理を判断できます。ベータ版の発表では、Responses API経由のGPT-6 Lunaと比べて、最大10倍速く判断できると説明していました。

ベータ開始以降、OpenAIは以下を追加したとしています。

• GPT-Liveとのネイティブ連携。音声アプリがユーザーの発話に合わせて反応できます。
• プロンプトキャッシュ。コンテキストを再利用する際のコストを削減します。
• ネイティブのJSON入力。構造化されたアプリデータを直接渡せます。
• 個別の質問指示への画像追加。複数の画像を共通の参照画像と比較できます。
• 1リクエストあたり最大400問。従来の上限の2倍です。
• 米国とEUでの推論データ処理地域の選択に加え、アジアの複数地域で容量を拡大。

仕組みと料金： 開発者は質問と回答として許可する選択肢を定義し、テキスト、画像、またはJSONを渡します。返される回答は、確率（predicate）、選択肢、スコアの3種類です。OpenAIによると、GPT-6 Lunaを用いて構築されており、専用のDecisionsエンドポイントから利用できます。料金は入力が100万トークンあたり$0.10、キャッシュ済み入力が100万トークンあたり$0.01で、出力トークンの料金はかかりません。

OpenAIが紹介している顧客の成果は、各社による数値です。Boxは、30件のテストケースでResponses APIと同じ精度を保ちながら、ルート選択が約5倍速くなったとしています。Datadogは、同等の精度でフロンティアモデルよりp95レイテンシが40倍速いと報告。RampはGPT-6 Lunaより4倍速く、30%安いと報告しています。Sierraはp95が280 ms未満で、1回の呼び出しあたりのコストが90%低下したとしています。SpeakはGPT-Liveにより、次のアクションまでの時間が1.4 sから0.13 sに短縮したと報告しています。