Die Agents API von OpenAI erhält asynchrone Funktionen und eine Budgetkontrolle pro Sitzung in der Beta

Ein OpenAI-Ingenieur aus dem Agents-API-Team hat die jüngsten Ergänzungen des Teams aufgelistet:

• Asynchrone Funktionen. Ein Agent kann weiterarbeiten, nachdem er ein Tool aufgerufen hat, ohne auf das Ergebnis zu warten. So kann er beispielsweise frühzeitig langsame Abfragen starten, unabhängige Teile einer Anfrage beantworten und Ergebnisse zurückgeben, sobald die Anwendung sie bereitstellt.
• Budgetkontrolle (Beta). Das Budget eines Agenten lässt sich pro Sitzung begrenzen, überwachen und steuern, damit ein einzelner Kunde nicht alle Tokens eines Kontos aufbraucht. Der Zugang ist auf Anfrage beim Ingenieur erhältlich.
• 12-Stunden-Prompt-Cache. Prompts können 12 Stunden lang im Cache bleiben. Laut dem Ingenieur konnten Kunden mit langlebigen und persönlichen Agenten damit bereits Kosten sparen.

Der Ingenieur bat um Funktionswünsche für nächste Woche.