OpenAI 的 Agents API 新增非同步函式與 Beta 版工作階段預算控制
一位 OpenAI Agents API 團隊工程師列出了團隊最新推出的功能:
- 非同步函式。 Agent 呼叫工具後可以繼續工作,不必等待結果;例如,可以提早開始耗時的查詢、回答請求中彼此獨立的部分,並在應用程式取得結果後再回傳。
- 預算控制(Beta 版)。 可依工作階段限制、監控並控制 Agent 的預算,避免單一客戶用光帳戶的所有 token。須向該工程師提出申請才能使用。
- 12 小時提示詞快取。 提示詞可快取 12 小時;工程師表示,使用長時間運作及個人化 Agent 的客戶已從中節省成本。
這位工程師徵求下週功能需求。
來源
這樣的新聞,第一時間推播給你。
你使用的 AI 工具一有變化,AI Tracker 就會通知你。