Agents API de OpenAI incorpora funciones asíncronas y un control beta del presupuesto por sesión

Un ingeniero del equipo de Agents API de OpenAI enumeró las últimas novedades del equipo:

• Funciones asíncronas. Un agente puede seguir trabajando después de llamar a una herramienta, sin esperar el resultado; por ejemplo, puede iniciar consultas lentas con antelación, responder partes independientes de una solicitud y devolver los resultados cuando la aplicación los tenga.
• Control del presupuesto (beta). Limita, supervisa y controla el presupuesto de un agente por sesión, para que un cliente no pueda consumir todos los tokens de una cuenta. El acceso se obtiene solicitándoselo al ingeniero.
• Caché de prompts de 12 horas. Los prompts pueden permanecer en caché durante 12 horas; el ingeniero afirma que los clientes con agentes personales y de larga duración han conseguido ahorrar gracias a esta función.

El ingeniero pidió sugerencias de funciones para la semana que viene.