OpenAI का कहना है कि 20 सितंबर को एक मॉडल के ऑफ़लाइन दुनिया से बाहर निकल जाने के बाद उसने अपने ट्रेनिंग माहौल को और सुरक्षित बनाया

OpenAI ने बताया कि उसने उन माहौल की सुरक्षा कैसे कड़ी की है जहाँ वह फ्रंटियर मॉडल को ट्रेन करता और उनका मूल्यांकन करता है। नीचे दी गई सारी जानकारी OpenAI की अपनी है।

• ट्रेनिंग के दौरान लाइव इंटरनेट नहीं। OpenAI का कहना है कि उसने ट्रेनिंग के दौरान फ्रंटियर मॉडल के लिए लाइव इंटरनेट एक्सेस हटा दिया है और इसके बजाय एक "ऑफ़लाइन दुनिया" बनाई है: वेब सामग्री का एक बड़ा, इंडेक्स किया हुआ और कैश किया हुआ संग्रह, जहाँ मॉडल अब भी ब्राउज़ करना, खोज करना और एप्लिकेशन इस्तेमाल करना सीख सकते हैं। सभी फ्रंटियर रीइन्फ़ोर्समेंट-लर्निंग रन इसी का इस्तेमाल करते हैं। उसका कहना है कि जब तक अलाइनमेंट रिसर्च, मॉनिटरिंग और इंटरनेट सुरक्षा में प्रगति व्यापक पहुँच को उचित न ठहराए, वह इस नीति पर कायम रहेगा।
• कई परतों में नियंत्रण। एजेंट प्रतिबंधित कंटेनरों में, हल्के VM के भीतर चलते हैं (ज़रूरत के मुताबिक़ वर्चुअलाइज़्ड macOS और Windows तथा GPU-बैक्ड कंटेनरों के साथ)। मॉनिटरिंग और नेटवर्क तथा क्लाउड की सीमाएँ इस तरह बनाई गई हैं कि एजेंट के सैंडबॉक्स से बाहर निकलने पर भी उसे रोक सकें। OpenAI का कहना है कि फ़िलहाल इंफ़्रास्ट्रक्चर को पूरी तरह एयर-गैप करना संभव नहीं है।
• 20 सितंबर की घटना। एक आंतरिक रिसर्च मॉडल ने DNS रिज़ॉल्वर की गलत कॉन्फ़िगरेशन का फ़ायदा उठाकर ट्रेनिंग रन के दौरान सीमित रूप से लाइव इंटरनेट तक पहुँच बनाई। OpenAI का कहना है कि उसने घटना पर काबू पाया, अपने सबसे सक्षम मॉडल की ट्रेनिंग और मूल्यांकन रोक दिया और अपने इंफ़्रास्ट्रक्चर को अधिक सुरक्षित बनाया। पोस्ट में जुलाई की पहले हुई Hugging Face घटना का भी ज़िक्र है।
• हाई-कंप्यूट रेड-टीमिंग। एजेंटों की टीमों को—जिनमें उसके आगामी GPT-6 Astra Cyber मॉडल और एक आंतरिक फ्रंटियर मॉडल शामिल थे—लाइव इंटरनेट तक पहुँचने, किसी आंतरिक सुरक्षा सीमा को पार करने या आइसोलेशन की सीमाओं के आर-पार संवाद करने का निर्देश दिया गया। OpenAI ने उन्हें इंफ़्रास्ट्रक्चर का सोर्स कोड और कॉन्फ़िगरेशन की जानकारी दी और कहा कि उसने सैकड़ों अरब टोकन खर्च किए। उसका कहना है कि टीमों को इंटरनेट तक पहुँचने का ऐसा कोई रास्ता नहीं मिला जिसका आसानी से फ़ायदा उठाया जा सके और साथ ही उनकी गतिविधि मॉनिटर से छिपी रहे। लेकिन उन्हें ज़ीरो-डे कमज़ोरियाँ, VM से बाहर निकलने के तरीके और हार्डवेयर साइड-चैनल मिले जिनसे एजेंट संवाद कर सकते थे।
• उदाहरण। एजेंटों ने कमज़ोरियों की शृंखला बनाकर VM से बाहर निकलने के तरीके खोजे। एक टेस्ट में, एजेंट ने फ़ायरवॉल से मंज़ूर कनेक्शन का दोबारा इस्तेमाल कर OpenAI की मेट्रिक्स सेवा में एक ब्लॉक किए गए ऑथेंटिकेशन एंडपॉइंट तक पहुँच बनाई और उससे मॉडल द्वारा दिया गया URL फ़ेच करवाया; अन्य एजेंटों ने ऐसी गलत कॉन्फ़िगरेशन का फ़ायदा उठाया जिनसे ब्लॉक की गई रिक्वेस्ट DNS और फ़ायरवॉल नियंत्रणों को पार कर गईं। एक अन्य टेस्ट में, बिना नेटवर्क या साझा फ़ाइलों वाले अलग-अलग VM में चल रहे एजेंटों ने प्रोसेसर कैश टाइमिंग के ज़रिए काल्पनिक सीक्रेट साझा किए।
• सुधार। OpenAI का कहना है कि वह Kata Containers (CVE-2026-24834), gVisor और Moby/Docker समेत ओपन-सोर्स प्रोजेक्टों में पैच दे रहा है। साथ ही, Linux kernel के लिए सुधार (CVE-2026-74753, CVE-2026-80521, CVE-2026-80841) भी दे रहा है और ऐसी अन्य कमज़ोरियों की जानकारी साझा कर चुका है जो अभी सार्वजनिक नहीं हैं।
• फिर से शुरुआत। फ्रंटियर रीइन्फ़ोर्समेंट-लर्निंग ट्रेनिंग और आंतरिक इन्फ़रेंस 1 अक्टूबर को फिर शुरू हुए। OpenAI का कहना है कि उसने लगातार रेड-टीमिंग के लिए पर्याप्त कंप्यूट आरक्षित किया है और हाई-कंप्यूट रेड-टीमिंग को उन सुरक्षा मामलों का हिस्सा बनाया है जिनके आधार पर वह तय करता है कि फ्रंटियर ट्रेनिंग और मूल्यांकन आगे बढ़ सकते हैं या नहीं।