L'API Agents d'OpenAI ajoute des fonctions asynchrones et un contrôle budgétaire bêta par session

Un ingénieur de l'équipe Agents API d'OpenAI a présenté les dernières nouveautés de l'équipe :

• Fonctions asynchrones. Un agent peut poursuivre son travail après avoir appelé un outil, sans attendre le résultat. Il peut ainsi lancer à l'avance des recherches longues, répondre aux différentes parties indépendantes d'une demande et renvoyer les résultats lorsque l'application les reçoit.
• Contrôle budgétaire (bêta). Limitez, surveillez et contrôlez le budget d'un agent par session, afin qu'un seul client ne puisse pas épuiser tous les tokens d'un compte. L'accès est possible sur demande auprès de l'ingénieur.
• Cache de prompt de 12 heures. Les prompts peuvent rester en cache pendant 12 heures ; selon l'ingénieur, des clients utilisant des agents personnels et de longue durée ont constaté des économies grâce à cette fonctionnalité.

L'ingénieur a demandé des suggestions de fonctionnalités pour la semaine prochaine.