Agents API da OpenAI adiciona funções assíncronas e controle de orçamento beta por sessão

Um engenheiro da equipe do Agents API listou as adições mais recentes da equipe:

• Funções assíncronas. Um agente pode continuar trabalhando depois de chamar uma ferramenta, sem esperar pelo resultado — por exemplo, para iniciar consultas demoradas mais cedo, responder a partes independentes de uma solicitação e retornar os resultados quando a aplicação os tiver.
• Controle de orçamento (beta). Limite, monitore e controle o orçamento de um agente por sessão, para que um cliente não consuma todos os tokens de uma conta. O acesso pode ser solicitado ao engenheiro.
• Cache de prompt por 12 horas. Os prompts podem permanecer em cache por 12 horas; segundo o engenheiro, clientes com agentes pessoais e de longa duração encontraram economia com esse recurso.

O engenheiro pediu sugestões de recursos para a próxima semana.