साझेदारियाँ
OpenAI के तोड़फोड़ संबंधी पायलट में छह मूल्यांकनकर्ताओं को शामिल करेगा Apollo Research

मुख्य बिंदुOpenAI सुरक्षा या बौद्धिक संपदा के कारण दायरे में आने वाली सामग्री को रोक सकता है…
और देखें
- OpenAI सुरक्षा या बौद्धिक संपदा के कारण दायरे में आने वाली सामग्री को रोक सकता है, लेकिन प्रतिकूल होने के कारण नहीं।
- OpenAI Apollo के निष्कर्षों के पीछे के संवेदनशील साक्ष्यों को संपादित कर सकता है, जबकि Apollo के निर्णयों को अक्षुण्ण रख सकता है।
- Apollo का तर्क है कि मेटा-पारदर्शिता अधिकार आवश्यक हैं क्योंकि अप्रकट प्रतिबंध अनुपस्थित समस्याओं को आश्वस्त करने वाला बना सकते हैं।
Apollo Research ने 16 नवंबर 2026 को घोषणा की कि उसके छह मूल्यांकनकर्ता चार महीने तक OpenAI के भीतर काम करेंगे। वे जाँचेंगे कि क्या उसके मॉडल प्रशिक्षण, मूल्यांकन और आंतरिक तैनाती के दौरान संरेखण या नियंत्रण तंत्रों को विफल करने की कोशिश करते हैं।
टीम चार सवालों की जाँच करेगी: क्या प्रशिक्षण तोड़फोड़ करने के लिए प्रोत्साहित करता है, क्या मूल्यांकन से ऐसा व्यवहार सामने लाया जा सकता है, क्या आंतरिक तैनाती के दौरान तोड़फोड़ होती है, और क्या तोड़फोड़ से जुड़ी तर्क-प्रक्रिया का पता लगाया जा सकता है। दायरे में किसी मॉडल के अपने संरेखण या नियंत्रणों को, साथ ही उसके उत्तरवर्ती मॉडलों के संरेखण या नियंत्रणों को कमज़ोर करने की कोशिशें शामिल हैं।
इस व्यवस्था का उद्देश्य बाहरी जाँच को Apollo की पिछली मूल्यांकन-पद्धति से आगे ले जाना है, जो प्रशिक्षण-पश्चात चरण में और सार्वजनिक रूप से जारी किए जाने से कुछ ही समय पहले होती थी। Apollo का मानना है कि यह समय-निर्धारण चालबाज़ी जैसे असंरेखित व्यवहारों की जाँच करने या आंतरिक तैनाती के दौरान गैर-सार्वजनिक उपयोगों का परीक्षण करने के लिए पर्याप्त नहीं है। कर्मचारियों जैसी पहुँच के साथ भीतर ही किए जाने वाले मूल्यांकन इन सीमाओं को दूर करने के लिए हैं।
Apollo इस पायलट को पूर्ण आंतरिक मूल्यांकन के बजाय एक महत्वाकांक्षी पहला कदम बताता है। उसके सामान्य मानक के अनुसार, मूल्यांकनकर्ताओं को सभी प्रासंगिक अभिलेखों तक पहुँच मिलनी चाहिए, भले ही कोई डेवलपर प्रतिकूल जानकारी छिपाने की कोशिश करे; निष्कर्ष उपयुक्त बाहरी पाठकों के सामने रखे जाने चाहिए, भले ही डेवलपर इस पर आपत्ति करे; और सीमाओं के बारे में इतनी सार्वजनिक व्याख्या दी जानी चाहिए कि पाठक समझ सकें कि कोई रिपोर्ट क्या स्थापित कर सकती है और क्या नहीं।
दायरे के अनुसार पहुँच और कर्मचारियों से संपर्क
प्रशिक्षण के प्रोत्साहनों के आकलन के लिए, OpenAI ने प्रासंगिक प्रशिक्षण कोड और डेटासेट, उपलब्ध तर्क-चिह्नों और पुरस्कारों सहित रीइन्फोर्समेंट लर्निंग रोलआउट, तथा मॉडल के मध्यवर्ती चेकपॉइंट से प्रश्न पूछने की सुविधा देने की प्रतिबद्धता जताई है। आकलन के अन्य दावों के लिए पहुँच की विस्तृत व्यवस्थाओं पर सहमति होना अभी बाकी है।
आकलन सहमत दावों, मॉडलों और समयावधियों तक सीमित है। OpenAI तकनीकी रूप से संभव न होने, सुरक्षा जोखिमों या बौद्धिक संपदा की रक्षा के कारण किसी दायरे में आने वाली सामग्री को रोक सकता है, यदि वह इसे उचित रूप से आवश्यक समझे। वह केवल इसलिए जानकारी या कर्मचारियों तक पहुँच नहीं रोक सकता कि सामग्री प्रतिकूल है। उसे Apollo को बताना होगा कि सामग्री रोकी गई है और इसके लिखित कारण देने होंगे; साथ ही, जहाँ OpenAI इसे संभव और प्रासंगिक माने, वहाँ रोके गए अभिलेखों की श्रेणियाँ और उनकी अनुमानित मात्रा भी बतानी होगी। Apollo किसी निर्दिष्ट OpenAI संपर्क के माध्यम से व्यापक पहुँच का अनुरोध कर सकता है और इनकार के मामलों को उच्च स्तर पर उठा सकता है, लेकिन पहुँच का विस्तार सुनिश्चित नहीं है।
कर्मचारियों से संपर्क भी नियंत्रित है। Apollo विशिष्ट विशेषज्ञता वाले लोगों से बात करने का अनुरोध कर सकता है और व्यक्तियों के नाम सुझा सकता है, लेकिन अधिकृत प्रतिभागियों का चयन OpenAI करेगा और औपचारिक बातचीत का रिकॉर्ड रखना होगा। यदि कोई अन्य कर्मचारी गोपनीय जानकारी उठाता है, तो Apollo को सार्थक चर्चा रोकनी होगी और आगे की बातचीत अपने निर्दिष्ट OpenAI संपर्क के माध्यम से करनी होगी, भले ही वह जानकारी इस काम के दायरे में आती हो।
मूल्यांकनकर्ता OpenAI के हार्डवेयर पर काम करेंगे और ऐसे अलग-अलग संचार माध्यमों का उपयोग करेंगे जिनकी निगरानी की जा सकती है। सामान्य नियम के रूप में, उन्हें Slack जैसे कर्मचारियों के सामान्य संचार माध्यमों तक पहुँच नहीं होगी। Apollo का कहना है कि अनौपचारिक बातचीत और Slack से ऐसी प्रासंगिक जानकारी सामने आ सकती है, जिसका मूल्यांकनकर्ता ने अनुरोध न किया हो; वह चाहता है कि भविष्य के आकलनों में ऐसी जानकारी को भी दायरे में शामिल किया जाए।
सार्वजनिक रिपोर्टें और संपादन के अधिकार
Apollo दो सार्वजनिक रिपोर्टें जारी करने की योजना बना रहा है। पहली रिपोर्ट तोड़फोड़ के लिए प्रशिक्षण से मिलने वाले प्रोत्साहनों पर होगी; दूसरी में मूल्यांकन, आंतरिक तैनाती और तोड़फोड़-संबंधी तर्क-प्रक्रिया का पता लगाने की क्षमता शामिल होगी। हर रिपोर्ट में तरीकों, निष्कर्षों, सीमाओं, उन सवालों का वर्णन होगा जिनका आकलन नहीं किया जा सका, और ऐसे सहायक साक्ष्य शामिल होंगे जिन्हें प्रकाशित किया जा सकता है।
OpenAI रिपोर्टों की समीक्षा करेगा और गोपनीय जानकारी को हटाने का अनुरोध कर सकता है, जिसमें निष्कर्षों का समर्थन करने वाले साक्ष्य भी शामिल हैं। वह Apollo के निष्कर्षों को नहीं हटा सकता और न ही केवल इसलिए कुछ हटाने का अनुरोध कर सकता है कि कोई निष्कर्ष प्रतिकूल है। हालाँकि, वह ऐसे साक्ष्य हटा सकता है जिन्हें वह संवेदनशील बौद्धिक संपदा मानता है, चाहे वे साक्ष्य किसी निष्कर्ष में सीधे योगदान देते हों या नहीं। इसलिए, सार्वजनिक पाठक किसी निष्कर्ष के पीछे के सभी साक्ष्यों की जाँच नहीं कर पाएँगे, हालाँकि Apollo बता सकता है कि इन कटौतियों से उसके निष्कर्ष प्रभावित हुए या नहीं। OpenAI बिना संपादन वाली रिपोर्टें अपने बोर्ड की सुरक्षा एवं संरक्षा समिति के साथ साझा करेगा।
कर्मचारियों से बातचीत पर आधारित दावों के लिए OpenAI की औपचारिक पुष्टि आवश्यक होगी, जब तक कि Apollo उन्हें स्वतंत्र रूप से स्थापित न कर दे। यह आवश्यकता औपचारिक साक्षात्कारों में अधिकृत कर्मचारियों द्वारा दी गई जानकारी पर भी लागू होती है। यदि OpenAI पुष्टि देने से इनकार करता है, तो Apollo इस इनकार का खुलासा कर सकता है और बता सकता है कि इससे उसके निष्कर्ष कैसे प्रभावित होते हैं, लेकिन वह अंतर्निहित गोपनीय जानकारी उजागर नहीं कर सकता।
मेटा-पारदर्शिता के नियम
अलग मेटा-पारदर्शिता अधिकार Apollo को सार्वजनिक रूप से इस काम का दायरा और शर्तें, माँगी गई और मिली पहुँच, रोकी गई या विलंबित सामग्री तथा इसके दिए गए कारण, रिपोर्ट से कुछ हटाने के अनुरोध और उनका महत्व, और ऐसा कोई भी दबाव बताने की अनुमति देते हैं जिसके बारे में उसे लगा कि उसने उसके काम को प्रभावित किया। Apollo अपनी पहुँच और प्रकाशन की शर्तों पर OpenAI की पूर्व समीक्षा के बिना चर्चा कर सकता है।
Apollo इन अधिकारों को हर मूल्यांकन कार्य के लिए न्यूनतम मानक मानता है। इनके बिना, समस्याओं की कोई सूचना न होना भरोसा जगाने वाला लग सकता है, भले ही यह जाँच या जानकारी सार्वजनिक करने पर लगी पाबंदियों का नतीजा हो। इसलिए पायलट के निष्कर्षों को पहुँच और प्रकाशन पर लगी सीमाओं के विवरण के साथ पढ़ना होगा: एक ही निष्कर्ष का महत्व इस बात पर निर्भर करते हुए अलग-अलग हो सकता है कि मूल्यांकनकर्ता क्या जाँच और सार्वजनिक कर सके।












