OpenAI ने Control Room का विवरण दिया, यह ऐसा सिस्टम है जो उसके शोध इंफ्रास्ट्रक्चर में मॉडल वर्कलोड रोक सकता है

OpenAI ने Control Room का विवरण प्रकाशित किया—यह एक केंद्रीय सिस्टम है, जो उसके शोध इंफ्रास्ट्रक्चर में मॉडल वर्कलोड पर नज़र रखता है और सुरक्षा या सिक्योरिटी संबंधी चिंताएँ उठने पर उन्हें रोक सकता है। नीचे दी गई सारी जानकारी OpenAI के अपने विवरण पर आधारित है।

• दायरा: Control Room हर शोध इन्फ़रेंस वर्कलोड को जोड़ता है, जिसमें ट्रेनिंग और मूल्यांकन के लिए एजेंटिक सैंपलिंग और डेटा प्रोसेसिंग शामिल हैं। OpenAI के अनुसार, एजेंटिक इन्फ़रेंस करने वाले हर शोध वर्कलोड को एक स्वीकृत सेफ़्टी केस से जोड़ा जाना ज़रूरी है। उसका कहना है कि बाहरी मॉडल-सर्विंग स्टैक पहले से अधिक केंद्रीकृत है और डिप्लॉयमेंट को तेज़ी से बंद कर सकता है।
• यह कैसे काम करता है: किसी जॉब को Control Room से जॉब ID मिलती है, जिसे वह इन्फ़रेंस इंजन को हर अनुरोध के साथ भेजती है। जवाब देने से पहले, इंजन Control Room से पूछता है कि क्या जॉब अब भी अधिकृत है; जॉब को रोक दिए जाने के बाद इंजन आगे के अनुरोध अस्वीकार कर देता है, इसलिए मॉडल का आउटपुट बंद हो जाता है, भले ही वर्कलोड का अपना कोड चलता रहे।
• गति: OpenAI का कहना है कि जॉब रोकने या ठहराने का निर्णय लेने के 35 सेकंड के भीतर मॉडल का आउटपुट रुक जाता है। यह देरी प्राधिकरण-जाँच के लिए इस्तेमाल होने वाली कैशिंग लेयर के कारण है; OpenAI का कहना है कि वह इसे शून्य तक लाने पर काम कर रहा है।
• विश्वसनीयता: यह जाँच शोधकर्ताओं के वर्कलोड कोड के बजाय इन्फ़रेंस लेयर में होती है। OpenAI का कहना है कि वह ऐसे इंजनों की तलाश के लिए जाँच करता है जिन्हें Control Room के बिना शुरू किया गया हो, और यह सिस्टम फ़ेल-क्लोज़्ड तरीके से काम करता है: अगर सेवा बंद हो जाए या निष्क्रिय कर दी जाए, तो सभी इन्फ़रेंस अनुरोध अस्वीकार कर दिए जाते हैं। OpenAI के अनुसार, फ़ेल-क्लोज़्ड सुविधा सभी फ्रंटियर मॉडल शोध वर्कलोड के लिए चालू है और अगले कुछ दिनों में बाकी वर्कलोड तक पहुँच जाएगी।
• मॉनिटरिंग से जुड़ाव: यह OpenAI के मिसअलाइनमेंट मॉनिटरों के साथ काम करता है, जो Control Room को किसी जॉब को रोकने के लिए कह सकते हैं। OpenAI का कहना है कि एक मॉनिटर ने सितंबर की DNS घटना का पता लगाया था, जिसमें एक एजेंट बाहरी चैटबॉट तक पहुँच गया था।