Agents API của OpenAI bổ sung hàm bất đồng bộ và tính năng kiểm soát ngân sách beta theo từng phiên

Một kỹ sư thuộc nhóm Agents API của OpenAI đã liệt kê những tính năng mới nhất của nhóm:

• Hàm bất đồng bộ. Một agent có thể tiếp tục làm việc sau khi gọi công cụ mà không cần chờ kết quả, chẳng hạn như bắt đầu sớm các truy vấn tra cứu chậm, trả lời những phần độc lập của yêu cầu và trả kết quả khi ứng dụng có chúng.
• Kiểm soát ngân sách (beta). Giới hạn, giám sát và kiểm soát ngân sách của agent theo từng phiên, để một khách hàng không thể dùng hết token của cả tài khoản. Muốn sử dụng, hãy gửi yêu cầu cho kỹ sư này.
• Bộ nhớ đệm prompt 12 giờ. Prompt có thể được lưu trong bộ nhớ đệm trong 12 giờ; kỹ sư cho biết các khách hàng dùng agent chạy lâu và agent cá nhân đã nhận thấy mức tiết kiệm nhờ tính năng này.

Kỹ sư này mời mọi người gửi yêu cầu tính năng cho tuần tới.