साझेदारियाँ
OpenAI ने अंतर्निहित सुरक्षा समीक्षाओं के लिए चार स्वतंत्र मूल्यांकनकर्ताओं को नियुक्त किया

मुख्य बिंदुचेकपॉइंट्स और प्रशिक्षण डेटा तक निरंतर पहुँच मूल्यांकनकर्ताओं को उन विफलताओं का परीक्षण…
और देखें
- चेकपॉइंट्स और प्रशिक्षण डेटा तक निरंतर पहुँच मूल्यांकनकर्ताओं को उन विफलताओं का परीक्षण करने देती है जिन्हें OpenAI के अपने मॉनिटर चूक सकते हैं।
- Apollo Research जाँच करता है कि क्या मॉडल गुप्त रूप से डेवलपर्स के विरुद्ध कार्य कर सकते हैं और क्या सुरक्षा उपाय इसे पकड़ पाएँगे।
- सुरक्षा और संरक्षा समिति को असंपादित रिपोर्टें मिलती हैं और समीक्षाओं के दौरान यह मूल्यांकनकर्ताओं से निजी रूप से बात कर सकती है।
OpenAI ने 16 नवंबर, 2026 को घोषणा की कि उसने अपने अंतर्निहित मूल्यांकनों के पहले चरण के लिए Apollo Research, METR, Transluce और Goodfire के साथ समझौते किए हैं। ये चारों संगठन प्रशिक्षण और आंतरिक उपयोग के दौरान संरेखण और सुरक्षा उपायों का मूल्यांकन करेंगे। इसके लिए उन्हें मॉडल चेकपॉइंट, स्रोत कोड, प्रशिक्षण डेटा और निगरानी प्रणालियों तक पहुँच मिल सकती है।
इस पहल की प्रमुख विशेषता लंबे समय तक आंतरिक मॉडलों और प्रणालियों तक निरंतर पहुँच है, विशेष रूप से उन तक जिनका संबंध OpenAI के सुरक्षा मामलों से है। OpenAI का कहना है कि इस पहुँच का उद्देश्य मूल्यांकनकर्ताओं को साक्ष्यों और संदर्भ की जाँच करने, स्वतंत्र मूल्यांकन करने और ऐसी विफलताओं का पता लगाने देना है जिनकी उसे आशंका नहीं रही होगी। वह इन मूल्यांकनों की सार्वजनिक रिपोर्टिंग को लोगों को यह बेहतर ढंग से समझने का अवसर देने का एक तरीका भी बताता है कि प्रयोगशालाएँ जोखिमों का मूल्यांकन और प्रबंधन कैसे करती हैं।
हर मूल्यांकनकर्ता के लिए अलग दायित्व
Apollo Research यह जाँच करेगा कि क्या मॉडल अपने विकासकर्ताओं की मंशा के विरुद्ध गुप्त रूप से काम कर सकते हैं और क्या OpenAI के सुरक्षा उपाय ऐसे व्यवहार का पता लगा पाएँगे। इसके दो चरणों वाले मूल्यांकन में चार दावे शामिल हैं: प्रशिक्षण ने तोड़फोड़ को बढ़ावा नहीं दिया; मज़बूत मूल्यांकन और रेड टीमिंग से ऐसा व्यवहार सामने नहीं आता; आंतरिक उपयोग के दौरान मॉडलों ने ऐसा करने की कोशिश नहीं की है; और इसके पीछे के तर्क का पता लगाया जा सकता है।
Apollo के पहले चरण के लिए OpenAI चुनिंदा सार्वजनिक और अप्रकाशित मॉडल तथा प्रशिक्षण चेकपॉइंट, प्रासंगिक प्रशिक्षण डेटा और मूल्यांकन परिणाम, प्रशिक्षण में किए गए हस्तक्षेपों के रिकॉर्ड, निगरानी प्रणालियाँ और चिह्नित व्यवहार उपलब्ध कराएगा। Apollo को ऐसे शोधकर्ताओं से भी संपर्क मिलेगा जो संदर्भ दे सकें, साथ ही स्वतंत्र परीक्षण के लिए आवश्यक उपकरण और कंप्यूटिंग संसाधन भी मिलेंगे।
Goodfire व्याख्येयता—यानी मॉडल के आंतरिक कामकाज के विश्लेषण—में विशेषज्ञता रखने वाले शोधकर्ताओं को टीम में शामिल करेगा और प्रशिक्षण दौरों की निगरानी, त्रुटि-निवारण तथा संरेखण के लिए अपने मंच का उपयोग करेगा। उसके निष्कर्षों का मुख्य पाठकवर्ग OpenAI के शोधकर्ता होंगे, जो उनका इस्तेमाल सुरक्षा में सुधार करने के लिए करेंगे। सहयोग आगे बढ़ने के साथ Goodfire सीखों और निष्कर्षों को प्रकाशित भी करेगा।
METR का पहले चरण का संरेखण मूल्यांकन उस सुदृढीकरण-अधिगम प्रशिक्षण दौर पर केंद्रित है जिसे OpenAI ने अब तक का अपना सबसे बड़ा दौर बताया है। इसमें वे विफलताएँ भी शामिल हैं जिन पर मौजूदा परीक्षणों और निगरानी प्रणालियों की नज़र शायद न पड़ी हो। चुने गए प्रशिक्षण दौर तथा सहमत पहुँच, संसाधनों और सुरक्षा व्यवस्थाओं के दायरे में METR स्वतंत्र रूप से प्राथमिकताएँ तय करेगा और खोजों, विश्लेषणों तथा व्यवहार उजागर करने वाले प्रयोगों को बार-बार आगे बढ़ाएगा। उसे संबंधित चेकपॉइंट, प्रशिक्षण और मूल्यांकन रोलआउट तथा संरेखण-विचलन की निगरानी के रिकॉर्ड उपलब्ध होंगे। शुरुआती दायरा इसी प्रशिक्षण दौर तक सीमित है; इसमें संरेखण-विचलन का व्यापक सर्वेक्षण शामिल नहीं है।
METR की निगरानी प्रणाली का अलग मूल्यांकन अभी कम तय है। दोनों संगठनों ने व्यापक अभ्यास करने पर शुरुआती सहमति जताई है, लेकिन उसका दायरा आपसी सहमति होने तक लंबित है।
Transluce शुरुआत OpenAI के प्रशिक्षण-पश्चात संरेखण मूल्यांकनों की गुणवत्ता और कवरेज की जाँच से करेगा। उसे चुनिंदा सार्वजनिक और अप्रकाशित मॉडल, मूल्यांकन के परिणाम, सहायक व्यवहार-संबंधी डेटा, सुरक्षा-मामलों के दस्तावेज़ और शोधकर्ताओं तक पहुँच मिलेगी; साथ ही उपकरण और कंप्यूटिंग संसाधन भी उपलब्ध होंगे।
दोनों पक्ष 2027 की शुरुआत में लगभग आठ सप्ताह का एक अनुवर्ती मूल्यांकन करने का इरादा भी साझा करते हैं। इस काम में अतिरिक्त मॉडलों तक पहुँच का विस्तार होगा, संरेखण मूल्यांकनों तक पहुँच अधिक गहरी होगी और यह जानकारी मिलेगी कि मूल्यांकन के नतीजे जारी करने संबंधी निर्णयों को कैसे प्रभावित करते हैं। घोषणा में इसे साझा इरादे के रूप में बताया गया है, जिससे यह शुरुआती मूल्यांकन से अलग है।
पहुँच के साथ सुरक्षा और निगरानी भी
हर सहयोग की शुरुआत सहमत दायरे और काम के लिए ज़रूरी पहुँच, संसाधनों तथा सुरक्षा व्यवस्थाओं से होती है। प्रोटोकॉल के अनुसार, मूल्यांकनकर्ता साक्ष्यों की पड़ताल करने, अपने तरीकों को बेहतर बनाने और निष्कर्षों के आधार पर आगे के मूल्यांकन प्रस्तावित करने के लिए स्वतंत्र होंगे। अतिरिक्त पहुँच की ज़रूरतों पर विचार करने की प्रक्रिया भी इसमें शामिल है।
यदि सीधे पहुँच देने से मॉडल के वज़न या संरचना जैसी संवेदनशील बौद्धिक संपदा उजागर हो सकती है, तो OpenAI विकल्पों पर विचार करेगा। इनमें मूल्यांकनकर्ताओं को अपने शोधकर्ताओं के साथ जोड़कर विश्लेषण करवाना भी शामिल है। संवेदनशील गोपनीय जानकारी सँभालने वाले मूल्यांकनकर्ता OpenAI के कार्यालयों में कंपनी के उपकरणों का उपयोग करके काम करेंगे। उनसे कम-से-कम OpenAI के कर्मचारियों के समान सुरक्षा मानकों का पालन करने की अपेक्षा होगी; कुछ प्रयोगों के लिए और कड़े नियम लागू हो सकते हैं।
निगरानी की ज़िम्मेदारी OpenAI Foundation के बोर्ड की स्वतंत्र निगरानी समिति, सुरक्षा और संरक्षा समिति, के पास है। समिति को बिना किसी संपादन के रिपोर्टें मिलेंगी और काम के दौरान वह मूल्यांकनकर्ताओं से, निजी तौर पर भी, बात कर सकेगी। विवादों को पहले समाधान के लिए सुरक्षा सलाहकार समूह और OpenAI के वरिष्ठ अधिकारियों के पास भेजा जाएगा, और इसके लिए एक तय समय-सीमा होगी। मतभेदों को आगे बढ़ाए जाने पर समिति को तुरंत सूचित करना होगा; जिन मामलों का समाधान नहीं हो पाएगा, उन्हें समिति के पास भेजा जाएगा।
कर्मचारियों से बातचीत पारदर्शिता का एक अलग प्रश्न खड़ा करती है। ये चर्चाएँ गोपनीय रहती हैं; यानी उनसे मिली जानकारी मूल्यांकनों में इस्तेमाल की जा सकती है, लेकिन उसे प्रकाशित नहीं किया जा सकता और न ही कर्मचारियों के नाम से जोड़ा जा सकता है। मूल्यांकनकर्ता ऐसी जानकारी की पुष्टि करने, उसे सुधारने या स्पष्ट करने वाला OpenAI-प्रमाणित बयान माँग सकते हैं। इसके बाद वे प्रमाणित बयान प्रकाशित कर सकते हैं या यह बता सकते हैं कि OpenAI ने उसकी पुष्टि करने से इनकार कर दिया। इससे गोपनीय रूप से जुटाई गई जानकारी को सार्वजनिक करने का एक सीमित रास्ता मिलता है।
प्रकाशन के अधिकार और वित्तीय खुलासे
मूल्यांकनकर्ता अपने आकलन प्रकाशित करते समय स्वतंत्र रहते हैं, जबकि OpenAI गोपनीय जानकारी को संपादित करके हटाने का अधिकार अपने पास रखता है। वह ऐसे निष्कर्षों पर कार्रवाई करने के लिए जिम्मेदार प्रकटीकरण में देरी का अनुरोध भी कर सकता है, जिनसे सुरक्षा या संरक्षा संबंधी जोखिम पैदा हो सकते हैं, और अनसुलझे मुद्दों का समाधान कर सकता है। OpenAI का कहना है कि सार्वजनिक रिपोर्टों में निष्कर्षों और उनकी सीमाओं को स्पष्ट किया जाना चाहिए, जबकि अधिक विस्तृत गोपनीय रिपोर्टें निगरानी निकायों को कार्रवाई के लिए आवश्यक साक्ष्य उपलब्ध कराती हैं।
प्रतिभागियों के बीच वित्तीय व्यवस्थाएँ अलग-अलग हैं। Apollo Research और Goodfire ऐसा पारिश्रमिक स्वीकार करते हैं जो उनके आकलन के नतीजों पर निर्भर नहीं होता। METR और Transluce वित्तीय पारिश्रमिक स्वीकार नहीं करते, हालाँकि वे अपने आकलनों में इस्तेमाल के लिए API क्रेडिट या कंप्यूट संसाधन स्वीकार कर सकते हैं।
हितों के टकराव के खुलासे और काम से विराम की प्रक्रियाएँ अभी मूल्यांकनकर्ताओं के साथ मिलकर विकसित की जा रही हैं। OpenAI भाग लेने वाले तीसरे पक्ष के कर्मचारियों से कहता है कि वे किसी अन्य AI डेवलपर के साथ प्रतिनियुक्ति पर काम शुरू करने से पहले थोड़े समय का विराम लें, ताकि अनजाने में गोपनीय जानकारी उजागर होने का जोखिम कम हो।
OpenAI को शुरुआत में तकनीकी पहुँच, कार्यस्थल और सुरक्षा संबंधी चुनौतियों की आशंका है। उसका कहना है कि प्रोटोकॉल विकसित होते रहेंगे। दीर्घकाल में, लंबे समय तक प्रतिनियुक्ति पर काम करना इसका लक्ष्य है; सुरक्षा रूपरेखा के अनुपालन, संगठनात्मक संस्कृति और प्रक्रियाओं का आकलन भविष्य में विचाराधीन है।
पहला चरण शासन की एक ठोस कसौटी तय करता है: क्या आंतरिक स्तर तक गहरी पहुँच और स्वतंत्र प्रकाशन, उन विफलताओं के बारे में उपयोगी सार्वजनिक साक्ष्य दे सकते हैं जिन्हें आंतरिक परीक्षण पकड़ नहीं पाते, जबकि OpenAI सहमत कार्य-सीमाओं, स्थल पर सुरक्षा नियंत्रणों, जानकारी संपादित करके हटाने के अधिकार और प्रकटीकरण में संभावित देरी को बरकरार रखता है।












