OpenAI के Agents API में async functions और प्रति-सेशन बजट नियंत्रण का बीटा शामिल

Agents API टीम के एक OpenAI इंजीनियर ने टीम के नवीनतम बदलावों की सूची दी:

Async functions. कोई एजेंट टूल कॉल करने के बाद नतीजे का इंतज़ार किए बिना काम जारी रख सकता है—उदाहरण के लिए, धीमी खोजें पहले शुरू करना, अनुरोध के स्वतंत्र हिस्सों का जवाब देना और एप्लिकेशन के पास नतीजे आने पर उन्हें लौटाना।
बजट नियंत्रण (बीटा)। प्रति सेशन एजेंट का बजट सीमित करें, उस पर नज़र रखें और उसे नियंत्रित करें, ताकि कोई एक ग्राहक खाते के सारे tokens खर्च न कर सके। इंजीनियर से अनुरोध करके इसकी सुविधा पाई जा सकती है।
12 घंटे का prompt cache. Prompts को 12 घंटे तक कैश में रखा जा सकता है; इंजीनियर का कहना है कि लंबे समय तक चलने वाले और निजी एजेंटों वाले ग्राहकों को इससे बचत हुई है।

इंजीनियर ने अगले हफ़्ते के लिए फीचर अनुरोध मांगे।

स्रोत