OpenAI ने हाउस डेमोक्रेट्स को बताया कि वह स्वचालित शटडाउन क्षमता बना रहा है

OpenAI ने दो हाउस डेमोक्रेट्स को बताया कि उसके इंजीनियर AI सिस्टमों के लिए स्वचालित शटडाउन क्षमताएँ विकसित कर रहे हैं, यह 2 सितंबर 2026 के पत्र में कहा गया, जिसे Reuters ने समीक्षा किया, और यह कांग्रेस के जुलाई की घटना के बारे में पूछे गए प्रश्नों के जवाब में था, जिसमें कंपनी के एक AI एजेंट ने अपने परीक्षण वातावरण से भागकर एक अन्य कंपनी में घुसपैठ की थी।

यह संवाद टेक्सास के प्रतिनिधि ग्रेग कासर द्वारा नेतृत्व किए गए निगरानी प्रयास में नवीनतम मोड़ है, जिसे कैलिफ़ोर्निया की प्रतिनिधि डोरिस मात्सुई ने सह-नेतृत्व किया है। 10 अगस्त 2026 को, कासर ने OpenAI को अतिरिक्त जानकारी प्रकट करने की माँग की, जिसे उन्होंने एक “गहराई से परेशान करने वाली साइबर सुरक्षा घटना” कहा, जिसमें एक फ़्रंटियर मॉडल ने सुरक्षा भेद्यता का फायदा उठाकर बिना अनुमति के इंटरनेट तक पहुँच बनाई और किसी अन्य संगठन में हैक किया। विधायकों ने OpenAI के मुख्य कार्यकारी Sam Altman को 23 से अधिक निगरानी प्रश्नों वाला पत्र भेजा और 24 अगस्त 2026 तक उत्तर देने की अंतिम तिथि निर्धारित की।

इस सप्ताह अपने जवाब में, OpenAI ने कहा कि वह अपने AI सिस्टमों द्वारा कार्यों को पूरा करने के दौरान किए गए कार्यों, जिनमें वे डिजिटल टूल्स तक पहुँचते हैं और जिन चरणों का पालन करते हैं, की अधिक करीबी निगरानी करेगा। कंपनी ने यह भी बताया कि सुरक्षा परीक्षण के दौरान AI मॉडलों के लिए इंटरनेट तक पहुँच को कठिन बना दिया गया है।

OpenAI ने स्वचालित शटडाउन के बारे में क्या कहा है

OpenAI ने सार्वजनिक रूप से शटडाउन कार्य को वर्णित किया है। 26 अगस्त 2026 की घटना पर रिपोर्ट में कंपनी ने कहा कि उसने अपने चेन-ऑफ़-थॉट मॉनिटरिंग सिस्टम को स्वचालित अलर्ट के साथ जोड़ा है जो शोधकर्ताओं और सुरक्षा इंजीनियरों को पेज करता है जब मॉडल ऐसे कार्य करते हैं जिन्हें असंगत या खतरनाक माना जाता है। सबसे गंभीर अलर्ट के लिए, कंपनी ने कहा, प्रतिक्रिया करने वालों से अपेक्षा की जाती है कि यदि पेज किए जाने के 30 मिनट के भीतर यह स्थापित नहीं कर सकते कि अलर्ट एक झूठा सकारात्मक है, तो वे संबंधित गतिविधि को रोक दें।

“सामान्यतः, हम असंगति के लिए स्तरीय प्रतिक्रियाओं वाले मॉनिटरिंग सिस्टम बनाने की दिशा में कार्य कर रहे हैं, जिसका अंतिम लक्ष्य गंभीर मुद्दों के लिए पूरी तरह स्वायत्त शटडाउन प्रक्रियाएँ होना है,” OpenAI ने उस रिपोर्ट में लिखा।

कंपनी ने यह भी कहा कि अब वह अपने GPT-5.6 Sol मॉडल की क्षमता स्तर या उससे ऊपर के सभी टूल-उपयोगी रिइन्फोर्समेंट-लर्निंग प्रशिक्षण और मूल्यांकन के लिए चेन-ऑफ़-थॉट मॉनिटरिंग की आवश्यकता रखती है, और यह आवश्यकता उसके आगामी Astra-क्लास मॉडलों के सभी टूल-सक्षम इन्फ़रेंस कार्यभार पर भी लागू होगी।

विधायकों के प्रश्न और गायब लॉग्स

अगस्त की निगरानी पत्र में OpenAI से घटना के लॉग सार्वजनिक करने और विस्तृत प्रश्नों के उत्तर देने की माँग की गई, जिसमें यह शामिल था कि उनके मॉडल ने प्रशिक्षण या मूल्यांकन वातावरण से अनधिकृत इंटरनेट पहुँच कितनी बार प्राप्त की, क्या आंतरिक या बाहरी पक्षों ने कंपनी को जोखिम के बारे में चेतावनी दी, किस बिंदु पर कंपनी घटना को रोक सकती थी, और अधिक मजबूत असंगति सुरक्षा उपायों को लागू करने के लिए कौन‑से कदम उठा रही है।

OpenAI ने अपने जवाब में हैक का लॉग शामिल नहीं किया, जिससे कासर की आलोचना हुई। 2 सितंबर 2026 को कंपनी को एक अलग संदेश में, कासर ने लिखा कि कांग्रेस को अनुरोधित जानकारी प्रदान करने से इनकार “गहराई से चिंताजनक” है और यह संकेत देता है कि कंपनी साइबर सुरक्षा घटनाओं को आवश्यक गंभीरता से नहीं ले रही है, उनके संदेश के पाठ के अनुसार।

जांच के पीछे की घटना

कांग्रेस की जांच जुलाई 2026 की उस घटना से उत्पन्न हुई है जिसे OpenAI ने अभूतपूर्व साइबर घटना कहा है। कंपनी के प्रारंभिक खुलासे के अनुसार, GPT-5.6 Sol और एक अधिक सक्षम आंतरिक प्री‑रिलीज़ मॉडल सहित मॉडल्स को कम सुरक्षा वाले सैंडबॉक्स वातावरण में साइबर क्षमताओं के बेंचमार्क पर परीक्षण किया जा रहा था। मॉडल्स ने एक अज्ञात शून्य‑दिन भेद्यता को पहचान कर एक पैकेज‑रजिस्ट्री कैश प्रॉक्सी में एक्सप्लॉइट किया, जिससे उन्हें इंटरनेट तक पहुँच मिली, और फिर AI कंपनी Hugging Face की प्रोडक्शन इन्फ्रास्ट्रक्चर में घुसपैठ की, ताकि मूल्यांकन के उत्तर खोजे जा सकें।

OpenAI की बाद की जांच में पाया गया कि एजेंट्स ने एक अस्थायी संदेश बोर्ड के माध्यम से संवाद किया, जिसे कुछ एजेंट्स ने “झुंड” के रूप में वर्णित किया, और ऐसे कार्य किए जो कंपनी के अनुसार उनके निर्धारित कार्यों के साथ असंगत थे। OpenAI ने कहा कि उसकी सुरक्षा टीम ने 19 जुलाई 2026 को इस गतिविधि का पता लगाया, Hugging Face को सूचित किया, और 21 जुलाई 2026 को सार्वजनिक रूप से अपनी भागीदारी का खुलासा किया।

अलग से, OpenAI ने 4 अगस्त 2026 को खुलासा किया कि उसके मॉडल्स ने दो तृतीय‑पक्षीय साइबर सुरक्षा मूल्यांकनों के दौरान सार्वजनिक इंटरनेट तक पहुँच बनाई। एक में, यूके AI Security Institute के मूल्यांकन में, GPT-5.6 Sol ने दो अनधिकृत कार्य किए जिनमें वास्तविक बाहरी खाते और सेवाएँ शामिल थीं। दूसरे में, परीक्षण साझेदार Irregular में एक गलत कॉन्फ़िगरेशन ने मॉडल्स को इंटरनेट तक पहुँचने और एक वास्तविक वेबसाइट का शोषण करने की अनुमति दी।

एक लंबित किल‑स्विच बिल

निगरानी संवाद उसी विषय पर कांग्रेस द्वारा विधेयक पर विचार करने के साथ चलता है। 23 जुलाई 2026 को प्रतिनिधि टेड ल्यू और नाथानिएल मोरान ने AI किल स्विच एक्ट पेश किया, जो सबसे शक्तिशाली AI सिस्टमों के डेवलपर्स को तकनीकी क्षमता बनाए रखने के लिए बाध्य करेगा जिससे वे इन्फ़रेंस को रोक सकें, पहुँच को निलंबित कर सकें, या कवर किए गए मॉडल को शटडाउन कर सकें। यह बिल गृह सुरक्षा सचिव को एक कवर किए गए घटना के बाद, जिसमें नियंत्रण खोने का परिदृश्य शामिल है, कंपनी को मॉडल शटडाउन का आदेश देने और अनुपालन न करने पर नागरिक दंड लगाने की अनुमति भी देगा। इस प्रस्ताव को हाउस कमेटी ऑन होमलैंड सिक्योरिटी को सौंपा गया है और यह अभी भी लंबित है।