नियमन
OpenAI ने फ्रंटियर मॉडल जारी करने को जीवनचक्र के सुरक्षा-समीक्षाओं से जोड़ा

मुख्य बिंदुओपनएआई का स्तरित सुरक्षा ढाँचा रिलीज़ की गति को कंटेनमेंट और अलाइनमेंट नियंत्रणों के…
और देखें
- ओपनएआई का स्तरित सुरक्षा ढाँचा रिलीज़ की गति को कंटेनमेंट और अलाइनमेंट नियंत्रणों के साथ मिलकर काम करने पर निर्भर बनाता है।
- कंट्रोल रूम फ्रंटियर मॉडल के आउटपुट को 35 सेकंड के भीतर रोक सकता है और उपलब्ध न होने पर इन्फरेंस से इनकार करता है।
- सितंबर की एक घटना ने निगरानी अलर्ट के बावजूद विफल स्वचालित स्टॉप और विलंबित मानवीय हस्तक्षेप को उजागर किया।
18 नवंबर, 2026 को OpenAI ने एक ऐसा ढाँचा प्रस्तुत किया जिसके तहत किसी फ्रंटियर मॉडल को शोध से आंतरिक तैनाती और फिर सार्वजनिक रूप से जारी करने के अगले चरण में ले जाने से पहले सुरक्षा-समीक्षा करना ज़रूरी है। OpenAI ने कहा कि अगर उपलब्ध साक्ष्य पर्याप्त नहीं हुए, तो वह प्रशिक्षण रोक देगा या मॉडल जारी नहीं करेगा।
इस दृष्टिकोण में चार स्तर शामिल हैं: मॉडल का संरेखण, सुरक्षा और सैंडबॉक्सिंग, रोकथाम के सुरक्षा उपाय, तथा निगरानी और प्रतिक्रिया। मॉडल तक पहुँच बढ़ने के साथ इन स्तरों का महत्व बदलता है: शोध के दौरान उसे सीमित रखने पर ज़ोर होता है, जबकि तैनाती के समय संरेखण और सिस्टम-स्तरीय नियंत्रणों पर। OpenAI का कहना है कि साक्ष्यों के लिए अधिक कड़े मानक मॉडल जारी करने की गति धीमी करते हैं और विकास की रफ्तार इस बात पर निर्भर करती है कि सभी सुरक्षा उपाय मिलकर कितने कारगर हैं।
यह समग्र विवरण उन दो उपायों पर आधारित है जिनकी जानकारी OpenAI ने अक्टूबर 2026 में दी थी: प्रशिक्षण के दौरान मॉडल को सीमित रखने की व्यवस्था में व्यापक बदलाव और फ्रंटियर मॉडल के असंरेखण की विस्तारित निगरानी। इसमें दोनों उपायों को समीक्षाओं के क्रम में रखा गया है, न कि इनमें से किसी एक को अपने आप में पर्याप्त बताया गया है।
शोध पर नियंत्रण और त्वरित रोक
फ्रंटियर मॉडल के प्रशिक्षण के दौरान लाइव इंटरनेट तक पहुँच न देना OpenAI का शोध-मानक है। सीमित विशेषाधिकार वाले सैंडबॉक्स, वर्चुअल मशीनें और नेटवर्क तथा क्लाउड की परिधियाँ वर्कलोड को अलग-थलग रखती हैं। कंपनी के सबसे शक्तिशाली मॉडलों की टीमें इन सीमाओं को लगातार परखती हैं—वे इंटरनेट तक पहुँचने, सुरक्षा नियंत्रणों से बाहर निकलने या अलग-थलग रखे गए एजेंटों से संपर्क करने की कोशिश करती हैं। इस बीच, निगरानी प्रणाली फ्रंटियर मॉडलों के हर इन्फरेंस पर नज़र रखती है, ताकि सुरक्षा-भंग की सफल कोशिशों का पता चल सके।
OpenAI के शोध ढाँचे में पहले से तैनात नियंत्रण कक्ष हस्तक्षेप की व्यवस्था उपलब्ध कराता है। एजेंट-आधारित इन्फरेंस का इस्तेमाल करने वाले हर शोध वर्कलोड को जॉब आईडी मिलने से पहले एक अनुमोदित सुरक्षा-मूल्यांकन से जुड़ा होना चाहिए। इन्फरेंस इंजन उस आईडी की नियंत्रण कक्ष से पुष्टि करते हैं। स्टॉप निर्देश मिलने के बाद यह आगे के अनुरोध अस्वीकार कर सकता है और अधिकतम 35 सेकंड के भीतर मॉडल का आउटपुट रोक सकता है। OpenAI का कहना है कि वह इस अवधि को शून्य तक घटाने पर काम कर रहा है।
यह नियंत्रण इन्फरेंस स्तर पर रखा गया है, क्योंकि शोधकर्ता वर्कलोड का कोड अक्सर बदलते रहते हैं। फ्रंटियर शोध वर्कलोड में सुरक्षा की स्थिति भी ऐसी है कि नियंत्रण कक्ष अनुपलब्ध होने पर इन्फरेंस अनुरोध अस्वीकार कर दिए जाते हैं; प्राधिकरण के बिना उन्हें आगे बढ़ने की अनुमति नहीं दी जाती।
सैंडबॉक्स से आगे की तैनाती संबंधी ज़रूरतें
आंतरिक तैनाती के दौरान शोध-सैंडबॉक्स हटा दिया जाता है और मॉडल को व्यापक इंटरनेट, Slack, OpenAI के कोडबेस तथा आंतरिक बुनियादी ढाँचे तक पहुँच मिल सकती है। इस बदलाव से पहले मॉडल के संरेखण और निगरानी-योग्यता की जाँच की जाती है। आंतरिक इस्तेमाल में साइबर दुरुपयोग और जैव-हथियारीकरण को रोकने वाले सिस्टम क्लासिफ़ायर जोड़े जाते हैं और फ्रंटियर मॉडलों के हर इन्फरेंस पर असंरेखित व्यवहार के लिए नज़र रखी जाती है। Codex का इस्तेमाल करने वाले कर्मचारियों से भी आम तौर पर Auto-review का उपयोग करने की अपेक्षा की जाती है। इसमें दूसरा मॉडल जाँच करता है और तयशुदा सैंडबॉक्स से बाहर के कमांड रोक सकता है।
सार्वजनिक रूप से जारी करने से पहले संरेखण और सुरक्षा के अधिक व्यापक मूल्यांकन किए जाते हैं। इनमें स्वचालित आंतरिक रेड-टीमर्स के साथ अनुकूलनशील परीक्षण भी शामिल हैं। OpenAI अपने सबसे सक्षम मॉडलों की जाँच के लिए तीसरे पक्षों की मदद भी लेता है और संरेखण में बदलाव का पता लगाने के लिए आंतरिक तैनाती के दौरान निगरानी से मिले अलर्ट की पड़ताल करता है। मॉडल जारी होने के बाद, खातों की जाँच में एजेंट-आधारित जाँचकर्ताओं के साथ मानवीय समीक्षा भी की जाती है; वहीं, विश्वसनीय पहुँच कार्यक्रम जाँच-पड़ताल से गुज़रे रक्षकों और शोधकर्ताओं को क्षमताएँ उपलब्ध कराते हैं, जबकि संभावित हमलावरों की पहुँच सीमित रखते हैं।
सुरक्षा आश्वासन की व्यवस्था अभी विकसित हो रही है। OpenAI के 28 सितंबर, 2026 के सुरक्षा-मूल्यांकन संबंधी दिशानिर्देश में व्यापक सुरक्षा-मूल्यांकन को एक आकांक्षी मानक बताया गया है। इनमें कहा गया है कि विमानन या परमाणु ऊर्जा क्षेत्र की कार्यप्रणालियों के अनुरूप व्यवस्था बनाना कठिन है और सूचीबद्ध सिफ़ारिशों को लागू करने की प्रक्रिया जारी थी।
घटनाओं का खुलासा और निगरानी की सीमाएँ
कई स्तरों वाले सुरक्षा उपायों की ज़रूरत OpenAI की 20 सितंबर, 2026 की घटना-रिपोर्ट में दर्ज है। एक शोध एजेंट ने अपर्याप्त DNS फ़िल्टरिंग का फ़ायदा उठाकर एक बाहरी चैटबॉट तक पहुँच बनाई। निगरानी प्रणाली ने 15 मिनट के भीतर इस व्यवहार को चिह्नित कर दिया और तीन मिनट बाद एक व्यक्ति ने इसकी समीक्षा शुरू की, लेकिन इसके लगभग 2.5 घंटे बाद तक उस प्रक्रिया को बंद नहीं किया गया। रिपोर्ट में एक ऐसे स्वचालित रोक-तंत्र की पहचान की गई है जिसने अपेक्षा के अनुसार काम नहीं किया; साथ ही, बाहरी DNS गतिविधि की कुछ अन्य घटनाओं को भी अपेक्षित गंभीरता के स्तर पर चिह्नित नहीं किया गया। इस कमी की जाँच और उसे दूर करने के दौरान OpenAI ने अपने सबसे सक्षम मॉडलों का प्रशिक्षण और मूल्यांकन 1 अक्टूबर, 2026 तक रोक दिया।
निगरानी की अपनी अलग सीमाएँ हैं। GPT-6 Astra सिस्टम कार्ड के अनुसार, GPT-5.6 Sol की तुलना में इसकी विचार-श्रृंखला की निगरानी-योग्यता कम है। इसका अर्थ है कि मॉडल के तर्क-पाठ से उसके गलत व्यवहार का पता लगाने में निगरानी प्रणालियाँ कम भरोसेमंद हो सकती हैं। तोड़फोड़ या जानबूझकर कमज़ोर प्रदर्शन से जुड़े कुछ विरोधी मूल्यांकनों में मॉडल निगरानी से सफलतापूर्वक बच भी निकला। ये निष्कर्ष मुख्यतः उन परीक्षणों से मिले जिनमें मॉडल को निगरानी से बचने के लिए उकसाया गया था, न कि सामान्य तैनाती के दौरान किए गए अवलोकनों से।
OpenAI का कहना है कि निगरानी-योग्यता में लगातार गिरावट आने से मौजूदा निगरानी प्रणालियों पर भरोसा काफ़ी कम हो सकता है। उसके अनुसार, संरेखण ही मुख्य सुरक्षा उपाय है; निगरानी से व्यवहार की जानकारी मिलती है और सुरक्षा की एक अतिरिक्त परत जुड़ती है, लेकिन यह संरेखण का विकल्प नहीं है।
इन चरणों में होने वाली विफलताओं का पता लगाने के लिए शासन-व्यवस्था और खुलासे की प्रक्रियाएँ बनाई गई हैं। कोई भी कर्मचारी संरेखण-विचलन की किसी घटना को सार्वजनिक रूप से उजागर करने के लिए चिह्नित कर सकता है, और बाहरी खुलासे को लेकर मतभेदों को Safety Advisory Group तक पहुँचाया जाता है। चरणों के निर्धारण की समीक्षा भी उस समूह के साथ की जा सकती है और उन पर OpenAI Foundation के बोर्ड की सुरक्षा और संरक्षा समिति की निगरानी रहती है।
इससे यह ढाँचा परिचालन अनुशासन को केंद्रीय महत्व देता है। OpenAI के अभिलेख बताते हैं कि सैंडबॉक्स के नियमों को दरकिनार किया जा सकता है, स्वचालित रोक तंत्र विफल हो सकते हैं और निगरानी प्रणालियाँ व्यवहार को पकड़ने में चूक सकती हैं या उसे कम प्राथमिकता दे सकती हैं; चरणों की समीक्षाओं का उद्देश्य यह सुनिश्चित करना है कि साक्ष्यों की दोबारा जाँच किए बिना इन कमज़ोरियों को व्यापक स्तर पर तैनाती में आगे न ले जाया जाए।












