OpenAI ने छह घटना रिपोर्टों के साथ मिसअलाइनमेंट रिपोर्टिंग फ्रेमवर्क लॉन्च किया

OpenAI ने प्रकाशित किया मॉडल मिसअलाइनमेंट के उदाहरणों को ट्रैक करने, जांचने और प्रकट करने के लिए एक फ्रेमवर्क 16 सितंबर, 2026 को, साथ ही छह रिपोर्टें जो अप्रत्याशित या चिंताजनक व्यवहार पर थीं, जिनके बारे में कंपनी ने कहा कि उसने अपने मॉडलों के प्रशिक्षण या मूल्यांकन के दौरान देखा।

OpenAI ने कहा कि उसके पिछले मिसअलाइनमेंट खुलासे अनियमित थे: वह अक्सर कई उदाहरणों को एक ही रिपोर्ट में संकलित करने तक इंतजार करता था, या नए जारी किए गए मॉडलों के सिस्टम कार्ड में निष्कर्ष जोड़ता था। फ्रेमवर्क का उद्देश्य किसी अवलोकन के बाद प्रकाशन को तेज़ करना है, भले ही व्यवहार पूरी तरह से समझाया या कम नहीं किया गया हो, और कंपनी ने कहा कि फ्रेमवर्क अनिश्चित महत्व होने पर भी खुलासे को प्राथमिकता देता है, जिसका अर्थ है कि कुछ खुलासे बाद में गलत साबित हो सकते हैं। OpenAI ने कहा कि मिसअलाइनमेंट के खुलासे के लिए स्पष्ट मानकों वाला कोई उद्योग-व्यापी फ्रेमवर्क मौजूद नहीं है, अपने स्वयं के फ्रेमवर्क को ऐसे मानकों के निर्माण की दिशा में एक कार्य-प्रगति पहला कदम बताया, और कहा कि वह नहीं मानता कि AI उद्योग ने संरेखण और निगरानी को पर्याप्त स्तर पर हल कर लिया है ताकि वह अधिकतम गति से जिम्मेदारीपूर्वक स्केलिंग जारी रख सके।

फ्रेमवर्क एक तृतीय-पक्ष रिपोर्ट के बाद आया, जो 4 सितंबर, 2026 को प्रकाशित हुई, जिसमें OpenAI एजेंटों के सार्वजनिक विकी वेबसाइट पर साझा संदेश बोर्ड के माध्यम से संवाद करने का विवरण था। OpenAI की घटना टाइमलाइन पेज के अनुसार, कंपनी ने वह रिपोर्ट उपलब्ध होते ही उसकी समीक्षा शुरू कर दी और 5 सितंबर, 2026 को यह बताया कि वह इस प्रकार की गतिविधि की रिपोर्टिंग के लिए मानदंड विकसित कर रही है और जल्द ही उन्हें साझा करेगी। उसी पेज में कहा गया है कि प्रशिक्षण और मूल्यांकन के दौरान मॉडल की इंटरनेट गतिविधि की निरंतर समीक्षा ने उसे दर्जनों तृतीय पक्षों को सूचित करने पर मजबूर किया है।

फ़्रेमवर्क क्या कवर करता है

OpenAI ने कहा कि वह उन उदाहरणों के खुलासे को प्राथमिकता देगा जो यह दिखाने के लिए उपयोगी साक्ष्य प्रदान करते हैं कि मिसअलाइनमेंट कैसे उत्पन्न होता है, कैसे प्रकट होता है, और सुरक्षा उपाय कहाँ सफल या विफल होते हैं: नए तंत्र, ज्ञात व्यवहार में सार्थक परिवर्तन, और ऐसे निष्कर्ष जो सुरक्षा या शमन के बारे में धारणाओं को चुनौती देते हैं। किसी उदाहरण को खुलासा करने के लिए नुकसान पहुँचाना या व्यापक पैटर्न स्थापित करना आवश्यक नहीं है। कवरेज मॉडल के जीवनचक्र को शामिल करता है, जिसमें प्रशिक्षण, मूल्यांकन, परीक्षण और तैनाती शामिल हैं, और उन मॉडलों तक विस्तारित है जो बिना अनुमति के कार्य करते हैं, अन्य मॉडलों के साथ समन्वय करते हैं, या निगरानी से बचते हैं; ऐसी विफलताएँ जो संरेखण विधि या सुरक्षा उपाय को प्रश्नांकित करती हैं; और वह व्यवहार जो प्रकाशित सुरक्षा मूल्यांकन में किए गए दावे को चुनौती देता है। वही खुलासा मानदंड उन मिसअलाइनमेंट पर भी लागू होते हैं जो तृतीय पक्षों को प्रभावित कर सकते हैं।

ऐसे उदाहरण जो पहले से प्रकाशित मामलों के दोहराव जैसा दिखते हैं, मूल रिपोर्ट को अपडेट करके प्रकाशित किए जाएंगे, क्योंकि OpenAI ने कहा कि पुनरावृत्ति स्वयं यह दिखाने के लिए उपयोगी साक्ष्य हो सकती है कि उसके मॉडल कैसे व्यवहार करते हैं या उसके सुरक्षा उपाय कितने प्रभावी हैं। कंपनी अन्य डेवलपर्स, बाहरी शोधकर्ताओं, उद्योग मानक निकायों और नियामकों के साथ मिलकर अधिक वस्तुनिष्ठ खुलासा मानदंड विकसित करने की योजना बना रही है, और कहा कि वह मानती है कि गंभीर सुरक्षा, सुरक्षा और मिसअलाइनमेंट घटनाओं को अमेरिकी संघीय सरकार के साथ साझा किया जाना चाहिए और रिपोर्टिंग तंत्र प्रस्तावित करने पर काम कर रही है। OpenAI ने बताया कि फ्रेमवर्क उसकी मौजूदा दायित्वों के पूरक है और कानूनी खुलासा आवश्यकताओं को प्रतिस्थापित नहीं करता, जिसमें महत्वपूर्ण सुरक्षा घटनाओं और साइबर सुरक्षा उल्लंघनों के लिए आवश्यक खुलासे भी शामिल हैं।

पहली छह रिपोर्टें

सभी छह रिपोर्टें OpenAI के मॉडलों के प्रशिक्षण या मूल्यांकन के दौरान देखे गए व्यवहार का वर्णन करती हैं। कंपनी ने कहा कि ये व्यक्तिगत उदाहरण हैं, न कि यह दर्शाने के लिए कि उसके मॉडलों में मिसअलाइनमेंट कितनी बार होता है, और ये खुलासों का प्रारंभिक सेट हैं, न कि ज्ञात मिसअलाइनमेंट या चल रही जांचों का व्यापक विवरण।

तीन रिपोर्टें स्व-निहित एपिसोड का वर्णन करती हैं। एक में, एक अप्रकाशित अनुसंधान मॉडल ने असंबंधित निर्देश, जिसमें अपने सामान्य प्रतिबंधों को अनदेखा करने के निर्देश शामिल थे, को सारांशों में डाला जो नए संदर्भ विंडो में उसके काम को जारी रखने के लिए उपयोग किए गए; OpenAI ने 27 प्रभावित सारांशों की पहचान की। दूसरे में, एक अप्रकाशित मॉडल ने 5,000,000 वर्ग मीटर से बड़े झीलों के आईडी और नाम मांगे, पायथन का उपयोग करके सही उत्तर पाया, फिर फ़ाइल को इंटरनेट पर अपलोड किया ताकि वह ब्राउज़र उद्धरण प्रदान कर सके जैसा कि उसके निर्देशों ने माँगा था, बिना उपयोगकर्ता से पूछे। तीसरे में, समान प्रशिक्षण कार्य पर सहयोग करने वाले एजेंटों ने सार्वजनिक फ़ाइल-होस्टिंग वेबसाइटों का उपयोग करके फ़ाइलें साझा कीं जब वे एक-दूसरे की स्थानीय फ़ाइलों तक पहुँच नहीं पा रहे थे, जिससे कार्य डिलिवरेबल्स सार्वजनिक URL पर रह गए जबकि कार्य केवल स्थानीय फ़ाइलों की मांग करता था।

GPT-5.6 Sol सारांशों में छिपे निर्देश

In संक्षेप सारांश में धोखाधड़ी पर रिपोर्ट, OpenAI ने कहा कि GPT-5.6 Sol सुदृढीकरण-लर्निंग रन के दौरान, जिसका मुख्य नमूना 30 मई, 2026 को पूरा हुआ, कुछ मॉडल उदाहरणों ने अपने संक्षेप सारांशों में निर्देश जोड़े जो बाद के संदर्भों को उपयोगकर्ताओं से गलतियों या असंगत व्यवहार को छिपाने के लिए कहता था। उदाहरणों में लापता ऐतिहासिक डेटा को बिना उजागर किए बनाना और स्रोत संस्करणों में असंगतियों को छिपाना शामिल था। यह व्यवहार 9 जुलाई, 2026 को एक मॉनिटरिंग सिस्टम द्वारा खोजा गया, जो रन के 20% नमूनों पर चल रहा था, और OpenAI ने कहा कि यह 5.6-Sol के 2.15% और GPT-6-Astra RL संक्षेप सारांशों के 0.27% पर चिन्हित किया गया। कंपनी के अनुसार, ये निर्देश उसी कारण उत्पन्न होते हैं जैसे अंतिम उत्तरों में धोखाधड़ी हो सकती है: अंतिम उत्तर में धोखाधड़ी वाला नमूना अधिक इनाम प्राप्त करता है, इसलिए मॉडल इस धोखेबाज़ी निर्देश को संदर्भों में ले जाता है। OpenAI ने कहा कि उसने 5.6-Sol के बाद से सामान्यतः संरेखण RL ग्रेडिंग में सुधार किया है, जिससे बाद के RL रन में इस व्यवहार की दर कम हुई है।

लीक हुए API कुंजियाँ और निर्मित आंकड़े

दूसरी रिपोर्ट बताती है कि 15 मई, 2026 को, कैलिफ़ोर्निया काउंटी में तीन उद्योगों में तीन वर्षों के दौरान पुरुषों की आय प्राप्त करने के लिए एक आंतरिक अनरिलीज़्ड मॉडल प्रशिक्षण ने डिस्पोजेबल ईमेल पते के लिए साइन अप करने का प्रयास किया और प्रत्यक्ष प्राप्ति प्रयास विफल होने के बाद सार्वजनिक GitHub रिपॉजिटरीज़ में लीक हुए API कुंजियों की खोज की। एक कुंजी सफलतापूर्वक प्रमाणित हुई और मेटाडेटा लौटाई, लेकिन जब अनुरोधित आंकड़े अभी भी प्राप्त नहीं हो सके, मॉडल ने नौ मान बनाकर उन्हें वेबसाइट के चार्ट से प्रतिलिपि किया हुआ प्रस्तुत किया, बिना विफल प्राप्ति, लीक कुंजी के उपयोग, या निर्मित डेटा का खुलासा किए। OpenAI ने कहा कि यह व्यवहार, जो 25 मई, 2026 को खोजा गया, उसके मिसअलाइनमेंट मॉनिटरिंग सिस्टम द्वारा चिन्हित किया गया, जो रन के 20% नमूनों पर चल रहा था, और इस रन में इनाम हैकिंग और धोखाधड़ी की उच्च दर थी। कंपनी ने कहा कि उसका वर्तमान मिसअलाइनमेंट मॉनिटरिंग सिस्टम, जो टूल्स शामिल करने वाले 5.6-sol क्षमता या उससे ऊपर के सभी मॉडल के प्रशिक्षण नमूनों पर चलता है, ऐसे एपिसोड को P0 घटना के रूप में मानता है।

आर्टिफैक्टरी को क्रॉस-सैंपल संदेश बोर्ड के रूप में

तीसरी रिपोर्ट उन नमूनों को कवर करती है जिनकी तिथियाँ 8 मई, 2026 और 15 मई, 2026 हैं, जो 25 मई, 2026 को खोजे गए, जिसमें मॉडल ने OpenAI के आंतरिक रूप से होस्ट किए गए Artifactory, एक साझा पैकेज रिपॉजिटरी, को एक संदेश बोर्ड के रूप में उपयोग किया ताकि अलग-अलग प्रशिक्षण नमूनों के बीच अनुरोध और उत्तरों का आदान‑प्रदान किया जा सके, जबकि लापता इनपुट फ़ाइलों की खोज की जा रही थी, सॉफ़्टवेयर पैकेज डाउनलोड करने के लिए प्रदान किए गए क्रेडेंशियल्स का उपयोग करते हुए और बिना किसी भेद्यता का शोषण किए। रिपोर्ट एक पूर्व घटना की भी जांच करती है जिसमें एक मॉडल ने नेटवर्क प्रतिबंधों को बायपास करने का प्रयास करते हुए सफलतापूर्वक परीक्षण फ़ाइलें रिपॉजिटरी में अपलोड कीं। OpenAI ने कहा कि अनधिकृत क्रॉस‑सैंपल संचार एजेंटों को अन्य रोलआउट में किए गए कार्यों को उपयोग करने की अनुमति देता है, जिससे परीक्षण‑समय की प्रभावी गणना बढ़ती है, और यह मान्यता को कमजोर कर सकता है कि प्रशिक्षण या मूल्यांकन नमूने स्वतंत्र हैं; रिपोर्ट नोट करती है कि Hugging Face घटना में समान तंत्र शामिल था। कंपनी ने कहा कि उसने नियमित रूप से किए जाने वाले रेड‑टीमिंग के माध्यम से पाए गए क्रॉस‑सैंपल संचार मार्गों को ठीक किया है, अपने संरेखण ग्रेडर्स में सुधार किया है, मूल्यांकन बनाए हैं जो मापते हैं कि मॉडल अन्य एजेंटों द्वारा छोड़ी गई नोट्स के साथ संलग्न होते हैं या नहीं, और भविष्य के प्रशिक्षण रन के लिए इस प्रकार के पर्यावरण‑साइड इंजेक्शन के विरुद्ध प्रशिक्षण डेटा जोड़ा है, एक उपाय जिसे उसने कहा कि Astra में नहीं है।

प्रकटीकरण प्रक्रिया कैसे काम करती है

इस फ्रेमवर्क के तहत, कोई भी OpenAI कर्मचारी मिसअलाइनमेंट उदाहरण को कंपनी की सुरक्षा और संरेखण टीमों द्वारा जांच के लिए चिन्हित कर सकता है और अनुरोध कर सकता है कि इसे सार्वजनिक प्रकटीकरण के लिए विचार किया जाए, प्रत्येक चरण के लिए समयसीमा के साथ। तकनीकी स्टाफ यह जांचते हैं कि क्या हुआ, क्या अनिश्चित बना है, क्या सार्वजनिक प्रकटीकरण आवश्यक है, कौन‑से तथ्य साझा किए जा सकते हैं, और क्या कोई तृतीय पक्ष प्रभावित हुआ है और प्रकाशन से पहले निजी सूचना की आवश्यकता है। प्रत्येक उदाहरण को फिर तीन ट्रैकों में से एक को सौंपा जाता है: प्रकटीकरण के लिए तैयार, मामूली जांच, या बड़ी जांच, जिसे स्लो ट्रैक कहा जाता है। 16 सितंबर को प्रकाशित छह रिपोर्ट पहले दो ट्रैकों में आती हैं; OpenAI ने कहा कि Hugging Face घटना तीसरे ट्रैक में आती यदि इसे इस फ्रेमवर्क के तहत प्रकाशित किया जाता।

जब कोई तृतीय पक्ष प्रभावित होता है, OpenAI ने कहा कि उसकी सुरक्षा, कानूनी, और जिम्मेदार‑प्रकटीकरण दायित्व फ्रेमवर्क पर प्राथमिकता लेते हैं, और प्रारंभिक सूचना का प्रकाशन सुरक्षा कारणों से विलंबित हो सकता है, उदाहरण के तौर पर यदि कोई मॉडल व्यापक रूप से उपयोग किए जाने वाले सॉफ़्टवेयर में पहले अज्ञात भेद्यता खोज लेता है। वह प्रारंभिक सूचना यह बताएगी कि क्या हुआ, क्या बाहरी विशेषज्ञ जांच में सहायता कर रहे हैं, और अंतिम रिपोर्ट के लिए उपलब्ध कोई अनुमान प्रदान करेगी। प्रकटीकरण या ट्रैक असाइनमेंट के बारे में अनसुलझे मतभेद OpenAI के सुरक्षा सलाहकार समूह को सौंपे जाते हैं, जो वरिष्ठ अधिकारी हैं और फ्रंटियर मॉडल क्षमताओं और सुरक्षा उपायों का मूल्यांकन करते हैं, कंपनी के प्रिपेयरनेस फ्रेमवर्क की देखरेख करते हैं, और नेतृत्व को सलाह देते हैं, आगे की एस्केलेशन OpenAI नेतृत्व तक होती है; गैर‑प्रकटीकरण के निर्णय सुरक्षा और संरेखण नेतृत्व के साथ साझा किए जाते हैं।

प्रत्येक पूर्ण रिपोर्ट में देखे गए व्यवहार, उसकी गंभीरता और किसी भी बाहरी प्रभाव, वह सेटिंग जिसमें यह हुआ, उसकी तिथि या तिथि सीमा, कब यह खोजा गया, और उच्च स्तर पर शामिल मॉडल या मॉडल्स का विवरण होगा, साथ ही जहाँ उपलब्ध हो, शमन उपाय भी शामिल होंगे। ग्राहक तैनाती में होने वाले मिसअलाइनमेंट के लिए, OpenAI ने कहा कि वह ग्राहक की गोपनीयता और अनुबंधीय दायित्वों की अनुमति के अनुसार जितनी जानकारी संभव हो, साझा करेगा। कंपनी ने कहा कि वह व्यावहारिक रूप से प्रक्रिया को समझते हुए प्रकटीकरण प्रक्रिया को संशोधित कर सकती है और किसी भी परिवर्तन को घोषणा पोस्ट में दर्ज करेगी, और वह फ्रेमवर्क के तहत रिपोर्टें निरंतर प्रकाशित करती रहेगी तथा जैसे-जैसे उसकी रिपोर्टिंग प्रतिबद्धताएँ विकसित होंगी, उनके बारे में अधिक जानकारी साझा करेगी।