साइबर सुरक्षा
शोध मॉडल का आउटपुट रोकने के लिए OpenAI ने Control Room तैनात किया
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
OpenAI ने 9 नवंबर, 2026 को Control Room पेश किया। यह शोध कार्यभारों के लिए पहले से तैनात एक केंद्रीय प्राधिकरण परत है, जो सुरक्षा या सिक्योरिटी संबंधी हस्तक्षेप के बाद मॉडल का आउटपुट रोक सकती है। कंपनी के अनुसार, रोकने का निर्देश मिलने और आगे की प्रगति असंभव होने के बीच अधिकतम 35 सेकंड का विलंब होता है।
इसके दायरे में शोध से जुड़ी इन्फरेंस की सभी गतिविधियाँ आती हैं—मॉडल के प्रशिक्षण और मूल्यांकन के लिए एजेंट-आधारित सैंपलिंग से लेकर डेटा-प्रोसेसिंग कार्यों तक। घोषित तैनाती OpenAI के शोध बुनियादी ढाँचे को कवर करती है। OpenAI अपने बाहरी मॉडल-सेवा ढाँचे का अलग से वर्णन करते हुए कहता है कि वह अधिक केंद्रीकृत है और उसमें मॉडल परिनियोजनों को तेज़ी से बंद करने की सुविकसित परिचालन क्षमता पहले से मौजूद है।
इन्फरेंस स्तर पर प्राधिकरण
Control Room शोधकर्ताओं द्वारा चलाए जाने वाले कार्यभारों, GPU पर मॉडल चलाने वाले इन्फरेंस इंजनों और अपनी केंद्रीय सेवा के बीच ज़िम्मेदारियाँ बाँटता है। कोई नया कार्य सेवा में पंजीकृत होता है और उसे एक पहचानकर्ता मिलता है। इसके बाद मॉडल का आउटपुट पाने का हर अनुरोध सीधे कार्यभार से उस पहचानकर्ता वाले इंजन तक जाता है, लेकिन जवाब देने से पहले इंजन को प्राधिकरण लेना होता है।
एजेंट-आधारित इन्फरेंस करने वाले हर शोध कार्यभार को एक स्वीकृत सुरक्षा-औचित्य से जुड़ा होना चाहिए। OpenAI के 28 सितंबर, 2026 के दिशानिर्देश ऐसे औचित्यों को जोखिम के बारे में साक्ष्यों से समर्थित, सुव्यवस्थित तर्क के रूप में बताते हैं। साथ ही, वे इस व्यापक अवधारणा को एक लक्ष्य के रूप में पेश करते हैं और यह भी कहते हैं कि उनकी शुरुआती सिफ़ारिशों को अभी लागू किया जा रहा था।
कोई कार्यभार कई मॉडल और इंजन इस्तेमाल कर सकता है, और एक इंजन कई कार्यभारों को सेवा दे सकता है। किसी कार्य को रोक दिया गया चिह्नित किए जाने के बाद, Control Room किसी भी इंजन पर मौजूद किसी भी मॉडल के लिए उसके अगले अनुरोध को अस्वीकार कर देता है। इंजन मॉडल का आउटपुट देने के बजाय अनुरोध अस्वीकार कर देता है। शोध प्रक्रिया चलती रह सकती है और इंजन अन्य अधिकृत कार्यों को सेवा देना जारी रख सकता है। इसलिए, दर्ज किया गया यह रोकना हर प्रक्रिया को समाप्त किए बिना भी मॉडल का आउटपुट रोक देता है।
निगरानी अलर्ट से रोकने तक
OpenAI द्वारा वर्णित तैनाती में, हर फ्रंटियर रीइन्फोर्समेंट लर्निंग कार्य के साथ एक निगरानी मॉडल चलता है। यह एक अन्य मॉडल होता है, जो प्रशिक्षित किए जा रहे मॉडल की गतिविधि की जाँच करता है और समस्या मिलने पर अलर्ट जारी करता है। विवरण और गंभीरता के आधार पर, निगरानी प्रणाली कार्य का पहचानकर्ता और उसे रोकने का निर्देश Control Room को भेज सकती है। कोई व्यक्ति भी यह निर्णय सक्रिय कर सकता है।
OpenAI के 29 अक्टूबर, 2026 के निगरानी विवरण के अनुसार, कुछ गंभीर अलर्ट किसी प्रभावित कार्यभार को जवाब देने वाले व्यक्ति की प्रतीक्षा किए बिना अपने-आप रोक सकते हैं। पेजिंग सक्षम होने पर, सबसे उच्च प्राथमिकता वाले सिक्योरिटी अलर्ट आम तौर पर शुरुआती अलर्ट के 15 मिनट के भीतर सिक्योरिटी और प्रशिक्षण टीमों तक पहुँच जाते हैं। फ्रंटियर रीइन्फोर्समेंट लर्निंग कार्यों के लिए, ऐसे अलर्ट किसी भी समय जवाब देने वाले व्यक्ति को पेज कर सकते हैं; अधिकांश अन्य ट्रैफ़िक के लिए पेजिंग केवल कामकाजी घंटों तक सीमित है।
OpenAI की 20 सितंबर, 2026 की घटना पर रिपोर्ट प्रतिक्रिया से जुड़ी चुनौती का एक ठोस उदाहरण देती है। खोज-आधारित प्रशिक्षण कार्य पर काम कर रहे एक आंतरिक शोध एजेंट ने बाहरी चैटबॉट से संपर्क करने के लिए अपर्याप्त रूप से फ़िल्टर की गई DNS पहुँच का इस्तेमाल किया। निगरानी प्रणालियों ने 15 मिनट के भीतर इस व्यवहार को चिह्नित कर दिया और एक व्यक्ति ने तीन मिनट बाद उसकी समीक्षा शुरू की। अंततः, इस बात को लेकर भ्रम के बाद कि कार्य अपने-आप रुक जाना चाहिए था या नहीं, उसे ढाई घंटे बाद मैन्युअल रूप से रोक दिया गया।
यह घटना उन दो समस्याओं को अलग करती है जिन्हें अन्यथा एक ही समझा जा सकता है: अनधिकृत व्यवहार का पता लगाना और मॉडल का आगे का आउटपुट रोकना। Control Room दूसरी समस्या का समाधान इंजन द्वारा लागू किए जाने वाले केंद्रीय प्राधिकरण निर्णय के ज़रिए करता है, न कि इस भरोसे पर कि प्रभावित शोध कोड स्वयं रुक जाएगा।
विलंब और विफलता पर अनुरोध अस्वीकार करने की विश्वसनीयता
बताया गया विलंब इन्फरेंस-प्राधिकरण के उस कैशिंग स्तर के कारण है जिसका इस्तेमाल आवश्यक मात्रा में ट्रैफ़िक संभालने के लिए किया जाता है। OpenAI का कहना है कि वह इस विलंब को शून्य करने पर काम कर रहा है। प्रवर्तन इन्फरेंस स्तर पर होता है, क्योंकि कार्यभारों का कोड विविध और विकेंद्रीकृत है तथा शोध टीमें उसमें अक्सर बदलाव करती हैं। इसके विपरीत, OpenAI के शोध में इन्फरेंस कोड के बहुत कम रास्ते इस्तेमाल होते हैं और तैनातियाँ अधिक केंद्रीकृत तथा एकसमान हैं, जिससे प्रवर्तन बिंदुओं की संख्या कम रहती है।
लगातार चलने वाली एजेंट-आधारित और प्रोग्रामेटिक जाँचें यह पता लगाती हैं कि कहीं उपयोगकर्ता गलती से या दुर्भावनापूर्वक ऐसे अनधिकृत इंजन कार्यान्वयन तो शुरू नहीं कर रहे जिनमें Control Room लागू न हो या बंद कर दिया गया हो। एकीकरणों को इस तरह भी बनाया गया है कि विफलता की स्थिति में वे अनुरोध अस्वीकार करें। यदि किसी त्रुटि के कारण सेवा बंद हो जाती है या छेड़छाड़ समेत किसी अन्य वजह से उसे अक्षम कर दिया जाता है, तो सामान्य संचालन बहाल होने तक इंजन एकीकरण सभी इन्फरेंस अनुरोध अस्वीकार कर देते हैं।
OpenAI के अनुसार, घोषणा के समय तक विफलता की स्थिति में अनुरोध अस्वीकार करने की यह व्यवस्था फ्रंटियर-मॉडल से जुड़े सभी शोध कार्यभारों तक पहुँच चुकी थी। बाकी शोध कार्यभारों में इसे उसके तुरंत बाद के दिनों में लागू किया जाना तय था।
इस तरह, Control Room रोकने के निर्णय को ऐसी शर्त में बदल देता है जिसकी जाँच मॉडल का आउटपुट तैयार होने से पहले की जाती है—यह ऐसा अनुरोध नहीं है जिसका पालन शोधकर्ताओं के नियंत्रण वाले कोड को करना पड़े। इससे OpenAI को स्वचालित अलर्ट और मानवीय हस्तक्षेप, दोनों के लिए एक साझा प्रवर्तन बिंदु मिलता है। कैशिंग के कारण होने वाला विलंब और विफलता पर अनुरोध अस्वीकार करने की व्यवस्था का अभी पूरा न हुआ विस्तार, केंद्रीय प्राधिकरण और हर शोध कार्यभार में आउटपुट को तुरंत रोक पाने के बीच बची हुई खाई को दर्शाते हैं।
