OpenAI ने बताया कि Azure Cosmos DB पर उसने अपने स्टोरेज प्लेटफ़ॉर्म Habitat को कैसे स्केल किया

23 अक्टूबर, 2026 की इंजीनियरिंग सीरीज़ के दूसरे भाग में OpenAI ने Habitat के बारे में बताया है—यह ChatGPT, API और Codex के पीछे का ऑनलाइन स्टोरेज प्लेटफ़ॉर्म है। OpenAI का कहना है कि Habitat 40 क्षेत्रों में 1 अरब से ज़्यादा उपयोगकर्ताओं को सेवा देता है और 500 पेटाबाइट से ज़्यादा डेटा रखता है। पोस्ट के उसके सारांश के मुताबिक, ChatGPT के लिए रीड 12× तेज़ हुए हैं।

OpenAI ने Azure Cosmos DB पर तीन चरणों का वर्णन किया है: डेटाबेस की अपनी सीमाओं पर निर्भर रहना, जिससे पड़ोसी वर्कलोड से दिक्कतें हुईं और पार्टिशन बँटने पर थ्रूपुट घटता गया; हर नए उपयोग के लिए अलग कंटेनर बनाना, जिससे क्षमता की योजना बनाना हर प्रोडक्ट टीम पर बोझ बन गया; और फिर एक साझा, मल्टी-टेनेंट कंटेनर पर लौटना, जिसमें हॉट-की थ्रॉटलिंग, अनुरोध-प्राथमिकता के स्तर और Azure द्वारा इसके लिए बनाया गया नया सर्वरलेस मोड शामिल है। OpenAI का कहना है कि उसके बाद के महीनों में प्रोविज़निंग या पड़ोसी वर्कलोड से जुड़ी कोई घटना नहीं हुई है।

OpenAI यह भी कहता है कि उसका सबसे बड़ा Cosmos DB अकाउंट दसियों पेटाबाइट डेटा रखता है और प्रति सेकंड 20M से ज़्यादा क्वेरी संभालता है। पोस्ट में 2024 के आखिर में हुई दो आउटेज का भी ज़िक्र है—एक क्षेत्रीय बिजली विफलता और फ़ेलबैक के दौरान कनेक्शन की बाढ़—जिनके बाद Azure टीम के साथ मिलकर परीक्षण किए गए। पोस्ट में ओवरहेड कम करने के लिए ग्लोबल कैशिंग और Rust प्रॉक्सी पर भी चर्चा है। सभी आँकड़े OpenAI के अपने दावे हैं।