L’Agents API di OpenAI aggiunge funzioni asincrone e un controllo del budget per sessione in beta

Un ingegnere del team Agents API di OpenAI ha elencato le ultime novità del team:

• Funzioni asincrone. Un agente può continuare a lavorare dopo aver chiamato uno strumento, senza attendere il risultato, ad esempio per avviare in anticipo ricerche lente, rispondere a parti indipendenti di una richiesta e restituire i risultati quando l’applicazione li ha disponibili.
• Controllo del budget (beta). Limita, monitora e controlla il budget di un agente per sessione, così che un cliente non possa consumare tutti i token di un account. Per accedere, è necessario contattare l’ingegnere.
• Cache dei prompt di 12 ore. I prompt possono restare nella cache per 12 ore; secondo l’ingegnere, i clienti con agenti personali e di lunga durata hanno ottenuto risparmi grazie a questa funzione.

L’ingegnere ha chiesto di inviare richieste di funzionalità per la prossima settimana.