OpenAIのAgents APIに非同期関数とベータ版のセッション単位の予算管理機能が追加

Agents APIチームのOpenAIエンジニアが、チームの最新の追加機能を紹介しました。

• 非同期関数。 エージェントはツールを呼び出した後、結果を待たずに処理を続けられます。たとえば、時間のかかる検索を早めに開始したり、リクエスト内の独立した部分に並行して回答したり、アプリケーションで結果が得られた時点で返したりできます。
• 予算管理（ベータ版）。 セッションごとにエージェントの予算を制限、監視、管理できるため、1人の顧客がアカウントのトークンを使い切るのを防げます。利用を希望する場合は、エンジニアにリクエストしてください。
• 12時間のプロンプトキャッシュ。 プロンプトを12時間キャッシュできます。エンジニアによると、長時間稼働するエージェントや個人向けエージェントを使う顧客から、コスト削減につながったとの声が寄せられています。

エンジニアは、来週に向けた機能リクエストを募りました。