Claude Messages API में संदेश थ्रेड अब सार्वजनिक बीटा में, बातचीत सर्वर पर कैश होती है

Anthropic के ClaudeDevs खाते के मुताबिक, Messages API में संदेश थ्रेड अब सार्वजनिक बीटा में हैं। API हर चरण के बीच बातचीत सर्वर पर रखता है, इसलिए अनुरोध में पूरी बातचीत के बजाय केवल नए संदेश और पिछले संदेश की ID भेजनी होती है, और Claude जवाब देना जल्द शुरू करता है।

Anthropic का कहना है कि उसने Claude Code में संदेश थ्रेड पहले ही एकीकृत कर दिए हैं: 500K से 1M टोकन वाले अनुरोधों में, पहला टोकन आने का औसत समय लगभग 35% कम है, और लंबी बातचीत में औसत अनुरोध का आकार लगभग 800 KB से घटकर 1.8 KB रह गया। इसका इस्तेमाल करने के लिए अनुरोधों में thread पैरामीटर और beta हेडर जोड़ें। Anthropic के अनुसार, यह Claude Platform, AWS पर Claude Platform, Microsoft Foundry में Claude और Google Cloud पर Claude में उपलब्ध है—सामान्य टोकन दरों पर। ये आंकड़े Anthropic के अपने हैं।

Anthropic के लेख में विवरण दिए गए हैं: पहला अनुरोध पूरी बातचीत भेजता है और एक थ्रेड शुरू करता है; इसके बाद हर अनुरोध में नए संदेश और पिछले जवाब की ID भेजी जाती है। थ्रेड मेमोरी में रखे जाते हैं, एन्क्रिप्ट किए जाते हैं और डिस्क पर नहीं लिखे जाते। आखिरी अनुरोध के 5 मिनट बाद वे समाप्त हो जाते हैं; इसके बाद नया थ्रेड शुरू करने के लिए क्लाइंट पूरी बातचीत फिर से भेजता है। Claude हर चरण में पूरी बातचीत पढ़ता रहता है, इसलिए टोकन का इस्तेमाल समान रहता है। Anthropic का कहना है कि यह लंबे समय तक चलने वाले कोडिंग एजेंटों, कंप्यूटर इस्तेमाल करने वाले एजेंटों (स्क्रीनशॉट थ्रेड के साथ रहते हैं) और दस्तावेज़ या छवियों पर आधारित वर्कफ़्लो के लिए उपयोगी है। कंपनी के मुताबिक, अधिकांश Claude Code उपयोगकर्ताओं के लिए संदेश थ्रेड डिफ़ॉल्ट रूप से चालू हैं।