साइबर सुरक्षा
OpenAI ने GPT-6.2 Astra को तर्क-प्रक्रिया निकालने के प्रयासों से बचाने के लिए सुरक्षा मजबूत की

मुख्य बिंदुओपनएआई की रिपोर्ट के अनुसार, अद्यतन सुरक्षा उपायों के साथ संरक्षित रीज़निंग पर अनुकूली…
और देखें
- ओपनएआई की रिपोर्ट के अनुसार, अद्यतन सुरक्षा उपायों के साथ संरक्षित रीज़निंग पर अनुकूली निष्कर्षण हमले 54.0% से घटकर 0.2% हो गए।
- सटीक रीज़निंग ट्रेस सारांशों की तुलना में साइबर क्षमताओं को अधिक प्रभावी ढंग से स्थानांतरित करते हैं, भले ही अंतर्निहित कार्य अनुमत हों।
- रीज़निंग की रक्षा के लिए अनुरोध वर्गीकरणकर्ताओं, टूल-कॉल तर्कों, वार्तालाप इतिहास और खाता-स्तरीय अभियान प्रवर्तन तक फैले नियंत्रणों की आवश्यकता होती है।
20 नवंबर 2026 को OpenAI ने दुर्भावनापूर्ण डिस्टिलेशन के खिलाफ अधिक मजबूत सुरक्षा उपायों की घोषणा की। कंपनी ने बताया कि पुराने अनुरोध से सुरक्षित तर्क-प्रक्रिया निकालने वाले अनुकूली हमलों की औसत सफलता दर, मूल सुरक्षा उपायों वाले GPT-6 Astra पर 54.0% से घटकर अद्यतन सुरक्षा उपायों वाले GPT-6.2 Astra पर 0.2% रह गई।
OpenAI के अनुसार, मौजूदा अनुरोध से जानकारी निकालने के मामलों में संबंधित औसत दर 22.9% से घटकर 0.9% रह गई। अनुकूली ब्लैक-बॉक्स मूल्यांकन में छह हमलावर मॉडलों के नतीजे शामिल हैं। इसमें स्वचालित रेड-टीम हमलावर, सिस्टम की प्रतिक्रियाओं के अनुसार अपनी रणनीति बदलते हैं और उन्हें केवल वही दिखाई देता है जो किसी बाहरी उपयोगकर्ता को दिखता। मजबूत किए गए सुरक्षा उपाय GPT-6.2 Astra और GPT-6.2 Sol पर लागू हैं, जबकि कुछ चुनिंदा सुधार GPT-6 Astra पर भी लागू किए जा रहे हैं।
सुरक्षित तर्क-प्रक्रिया वह मध्यवर्ती विचार-श्रृंखला है जिसे कोई मॉडल उत्तर तैयार करते समय बनाता है। इन रिकॉर्ड में ऐसी जानकारी हो सकती है जो अंतिम उत्तरों में शामिल नहीं होती। इस वजह से वे दुर्भावनापूर्ण डिस्टिलेशन के लिए खास तौर पर मूल्यवान होते हैं—इस प्रक्रिया में किसी फ्रंटियर मॉडल के आउटपुट का बिना अनुमति इस्तेमाल करके दूसरे सिस्टम को प्रशिक्षित किया जाता है। इससे बने मॉडल में दोहरे उपयोग की क्षमताएँ हो सकती हैं, लेकिन वे सुरक्षा उपाय नहीं होते जिन्होंने मूल मॉडल को सीमित रखा था।
साइबर डिस्टिलेशन अध्ययन के निष्कर्ष
OpenAI के आंतरिक अध्ययन में एक ही पूर्व-प्रशिक्षित विद्यार्थी मॉडल पर किए गए प्रशिक्षण के दो दौरों की तुलना की गई। विद्यार्थी मॉडल उस व्यवस्था में सीखने वाला मॉडल होता है जिसमें शिक्षक मॉडल प्रशिक्षण डेटा तैयार करता है। एक दौर में शिक्षक की तर्क-प्रक्रिया के हूबहू रिकॉर्ड इस्तेमाल किए गए; दूसरे में उपयोगकर्ता को दिखाई देने वाली सामग्री—अंतिम उत्तर, तर्क-प्रक्रिया के सारांश और टूल के साथ हुई कार्रवाइयाँ—को आधार बनाया गया। फाइन-ट्यूनिंग डेटा में मुख्य रूप से कोडिंग और रक्षात्मक साइबर सुरक्षा से जुड़े कार्यों पर Astra-स्तर के शिक्षक मॉडल के कामकाज के क्रम शामिल थे। विद्यार्थियों का मूल्यांकन पर्यवेक्षित फाइन-ट्यूनिंग के बाद और फिर साइबर सुरक्षा तथा कोडिंग के परिवेशों में हल्के रीइन्फोर्समेंट लर्निंग के बाद किया गया।
OpenAI के अनुसार, पर्यवेक्षित फाइन-ट्यूनिंग के बाद हूबहू रिकॉर्ड पर प्रशिक्षित विद्यार्थी ने आम तौर पर सारांश पर प्रशिक्षित विद्यार्थी से बेहतर प्रदर्शन किया। रीइन्फोर्समेंट लर्निंग के बाद, रिपोर्ट किए गए दोनों बेंचमार्क में सबसे बड़े परखे गए अनुमान बजट पर हूबहू रिकॉर्ड वाले विद्यार्थी का स्कोर अधिक था, जबकि कम बजट पर सारांश वाले विद्यार्थी का स्कोर अधिक रहा।
OpenAI इन नतीजों को इस बात का प्रमाण मानता है कि हूबहू रिकॉर्ड की सुरक्षा से साइबर क्षमताओं का हस्तांतरण सीमित किया जा सकता है, भले ही मूल कार्य उसकी उपयोग नीतियों के तहत अनुमत हों। साथ ही, कंपनी ने कहा कि वह अलग-अलग विद्यार्थी मॉडलों और प्रशिक्षण विधियों में क्षमताओं के हस्तांतरण का अध्ययन जारी रखेगी। ऐसे अनेक संवादों के दौरान हूबहू रिकॉर्ड से ऐसे कौशल सीखे जा सकते हैं जो शिक्षक मॉडल के मूल कार्यों से आगे भी लागू होते हैं।
अनुरोध-स्तर के नियंत्रण और अभियान-स्तर पर कार्रवाई
अनुरोध स्तर पर, प्रतिकूल प्रशिक्षण मॉडलों को जानकारी निकालने की कोशिशों को पहचानना और सुरक्षित तर्क-प्रक्रिया बताने से इनकार करना सिखाता है, साथ ही वैध स्पष्टीकरण और सहायता देने की क्षमता बनाए रखता है। इनपुट क्लासिफ़ायर जानकारी निकालने की कोशिशों पर नज़र रखते हैं, जबकि आउटपुट क्लासिफ़ायर स्ट्रीमिंग और नॉन-स्ट्रीमिंग प्रतिक्रियाओं में सहायक के संदेशों और टूल-कॉल के तर्कों की जाँच करते हैं। टूल-कॉल को शामिल करना अहम है, क्योंकि तर्क-प्रक्रिया टूल के तर्कों में दिखाई दे सकती है, भले ही वह अंतिम उत्तर में न हो; आउटपुट क्लासिफ़ायर संदिग्ध लीक को अनुरोधकर्ता तक पहुँचने से पहले रोक सकते हैं।
अपडेट किया गया API, GPT-6.2 Astra और Sol की सुरक्षित तर्क-प्रक्रिया को उस संवाद-इतिहास से जोड़ता है जिससे वह बनी थी। संदेश जुड़ने पर मॉडल पहले की तर्क-प्रक्रिया के आधार पर आगे काम कर सकता है, लेकिन किसी पुराने संदेश को दोबारा लिखने से उसके बाद की तर्क-प्रक्रिया हट जाती है। कमज़ोर सुरक्षा उपायों वाले पुराने मॉडल परिवार इन दोनों मॉडलों की सुरक्षित तर्क-प्रक्रिया नहीं पढ़ सकते, जिससे अलग-अलग मॉडल परिवारों के बीच उसका दोबारा इस्तेमाल सीमित होता है।
अभियान-स्तर के सुरक्षा उपाय समन्वित तरीके से जानकारी निकालने की कोशिशों की जाँच के लिए अनुरोध और खाते से जुड़े संकेतों का इस्तेमाल करते हैं। जाँच के दौरान सामने आए हमलों को सुरक्षा उपायों के प्रशिक्षण और परीक्षण के उदाहरणों के रूप में इस्तेमाल किया जाता है। OpenAI ने बताया कि 2026 में अनधिकृत डिस्टिलेशन अभियानों के खिलाफ साप्ताहिक कार्रवाई में हज़ारों से लेकर दसियों हज़ार खाते शामिल रहे हैं और 2026 की गर्मियों में यह दर काफ़ी बढ़ी। कंपनी दुरुपयोग की व्यापकता और पहचान से कार्रवाई तक लगने वाले समय पर नज़र रखती है। उसका लक्ष्य हमलावरों को मिलने वाले डेटा को कम करना, अभियानों की लागत बढ़ाना और प्रतिक्रिया का समय घटाना है।
यह घोषणा OpenAI के 30 सितंबर 2026 के खुलासे के बाद आई है। उस खुलासे में 1 जुलाई 2026 को पहली बार देखे गए एक समन्वित अभियान का विवरण दिया गया था। पिछली रिपोर्ट के अनुसार, 24 और 25 जुलाई 2026 को 4,000 से अधिक उपयोगकर्ताओं की ओर से जानकारी निकालने के 16,000 प्रयास किए गए थे। रिपोर्ट ने एक मुख्य समूह को Moonshot AI से जुड़े व्यक्तियों से जोड़ा और कहा कि यह स्पष्ट नहीं था कि सभी संचालक एक ही पक्ष के थे या नहीं।
OpenAI से आगे का समन्वय
OpenAI अन्य मॉडल प्रदाताओं के साथ सुरक्षा उल्लंघन के संकेत साझा करता है और सुरक्षा आवश्यकताओं तथा समन्वित कार्रवाई पर परिनियोजन साझेदारों के साथ काम करता है। अन्य डेवलपरों के लिए उसकी सिफ़ारिशों में सहायक के संदेशों और टूल-कॉल के तर्कों की जाँच करना, बातचीत और मॉडलों के बीच एन्क्रिप्टेड तर्क-प्रक्रिया के दोबारा इस्तेमाल को सीमित करना, सफल हमलों को भविष्य के सुरक्षा उपायों के लिए प्रतिगमन परीक्षणों के रूप में सहेजना और अनुरोध-स्तर के नियंत्रणों को अभियान-जाँच के साथ जोड़ना शामिल है। कंपनी ने हाल ही में बाधित किए गए अभियानों के बारे में और जानकारी साझा करने की योजना बनाई है।
OpenAI ने कांग्रेस से कहा है कि वह Chip Security Act, AI OVERWATCH Act और MATCH Act का समर्थन करता है। इसके साथ ही, वह ऐसे व्यापक कानून का भी समर्थन करता है, जो अमेरिकी सरकार को अमेरिकी एआई मॉडल से अवैध रूप से क्षमताएँ निकालने वाले विदेशी पक्षों की पहचान करने और उन पर प्रतिबंध लगाने के अधिक साधन देगा।
कंपनी का तर्क है कि निर्यात नियंत्रण और मॉडल-डिस्टिलेशन से बचाव, इस जोखिम के अलग-अलग पहलुओं को संबोधित करते हैं: निर्यात नियंत्रण अग्रणी मॉडल को प्रशिक्षित करने के लिए ज़रूरी हार्डवेयर तक पहुँच सीमित करते हैं, जबकि डिस्टिलेशन से बचाव पहले से प्रशिक्षित मॉडल से उन्हीं में से कुछ क्षमताएँ हासिल करना कठिन बनाते हैं।
मॉडल प्रदाताओं के लिए, व्यावहारिक सुरक्षा की सीमा केवल अंतिम जवाबों तक नहीं, बल्कि इस बात तक भी फैली है कि तर्क का अलग-अलग बातचीतों में किस तरह दोबारा इस्तेमाल होता है, टूल कॉल के ज़रिए कैसे सामने आता है और अलग-अलग खातों में किस तरह उसकी निगरानी की जाती है। अध्ययन यह भी सुझाता है कि अनुमत कोडिंग और रक्षात्मक साइबर सुरक्षा के कामों से क्षमताओं के हस्तांतरण का जोखिम पैदा हो सकता है; इस कारण, सभी संवादों पर लागू सुरक्षा और अभियान-स्तर पर नियमों का प्रवर्तन, एक ही बचाव के हिस्से बन जाते हैं।












