Agents API od OpenAI zyskuje funkcje asynchroniczne i testową kontrolę budżetu na sesję

Inżynier z zespołu Agents API OpenAI wymienił najnowsze dodatki:

• Funkcje asynchroniczne. Agent może kontynuować pracę po wywołaniu narzędzia, nie czekając na wynik — na przykład wcześniej rozpocząć czasochłonne wyszukiwanie, odpowiedzieć na niezależne części zapytania i zwrócić wyniki, gdy aplikacja je otrzyma.
• Kontrola budżetu (beta). Ograniczaj, monitoruj i kontroluj budżet agenta w ramach sesji, aby jeden klient nie mógł wykorzystać wszystkich tokenów na koncie. Dostęp można uzyskać, zwracając się do inżyniera.
• 12-godzinny cache promptów. Prompty mogą pozostawać w cache przez 12 godzin; według inżyniera klienci korzystający z długotrwale działających agentów osobistych zauważyli dzięki temu oszczędności.

Inżynier poprosił o propozycje funkcji na przyszły tydzień.