नियमन

न्यूज़म ने फ्रंटियर एआई पर अनिवार्य निगरानी और उसे बंद करने के अधिकारों का प्रस्ताव रखा

Sophie Denar
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुलाइसेंस प्राप्त स्वतंत्र सत्यापनकर्ता राज्य को एकबारगी सुरक्षा फाइलिंग के बजाय निरंतर…
और देखें
  • लाइसेंस प्राप्त स्वतंत्र सत्यापनकर्ता राज्य को एकबारगी सुरक्षा फाइलिंग के बजाय निरंतर तकनीकी जाँच प्रदान करेंगे।
  • आपातकालीन शटडाउन आदेश तुरंत प्रभावी होंगे और न्यायिक समीक्षा के दौरान लागू रहेंगे।
  • घटना रिपोर्टिंग प्रशिक्षण-स्तरीय सीमाओं से हटकर विनाशकारी जोखिम के लिए प्रदर्शित क्षमता पर आधारित होगी।

कैलिफ़ोर्निया के गवर्नर गैविन न्यूज़म ने 18 नवंबर 2026 को विधायी सिफारिशें जारी कीं, जिनके तहत बड़े फ्रंटियर एआई डेवलपरों पर लगातार स्वतंत्र निगरानी अनिवार्य होगी और राज्य के अधिकारियों को ऐसे मॉडल तत्काल बंद करने का आदेश देने का अधिकार मिलेगा, जिनसे आसन्न विनाशकारी जोखिम पैदा हो।

कैलिफ़ोर्निया सरकार के संचालन एजेंसी की रिपोर्ट, 2026 और उसके बाद एआई सुरक्षा, 16 नवंबर 2026 की है। इसका उद्देश्य दिसंबर 2026 में विधायकों के काम पर लौटने पर कानून बनाने की प्रक्रिया को जानकारी देना है; इसकी सिफारिशें अभी तक लागू बाध्यताएँ नहीं हैं। यह योजना कैलिफ़ोर्निया की उस मौजूदा अनिवार्यता को आगे बढ़ाएगी, जिसके तहत बड़े फ्रंटियर डेवलपरों को सुरक्षा ढाँचे प्रकाशित करने होते हैं। इसके तहत प्रशिक्षण, आंतरिक उपयोग और तैनाती के दौरान सुरक्षा, सिक्योरिटी और पारदर्शिता के लिए राज्य द्वारा निर्धारित न्यूनतम मानक जोड़े जाएंगे।

लगातार स्वतंत्र निगरानी

हर बड़े फ्रंटियर डेवलपर पर लाइसेंस प्राप्त स्वतंत्र सत्यापन संगठनों (IVO) की निरंतर निगरानी लागू होगी। ये संगठन राज्य के मानकों को तकनीकी परीक्षणों में बदलेंगे और एआई मूल्यांकन के तरीके बदलने के साथ उन्हें अद्यतन करेंगे। उन्हें उन मॉडलों, कर्मियों, प्रणालियों, प्रशिक्षण परिवेशों और अभिलेखों तक भी पहुँच मिलेगी जिन्हें वे आवश्यक मानेंगे। इसके बाद वे बिना किसी संपादन के अपने आकलन राज्य को भेजेंगे।

सरकार के संचालन एजेंसी IVO को लाइसेंस देगी और अपर्याप्त विशेषज्ञता, स्वतंत्रता या कठोरता के आधार पर उनके लाइसेंस रद्द कर सकेगी। यदि कोई मूल्यांकनकर्ता यह प्रमाणित न कर सके कि डेवलपर ने मानकों का पालन किया है, तो कंपनी से बातचीत के बाद राज्य सुधारात्मक कार्रवाई का आदेश दे सकेगा। डेवलपर ऐसे निर्णय लागू होने से पहले अदालत में उन्हें चुनौती दे सकेंगे; हालाँकि, त्वरित आपातकालीन प्रक्रिया इसका अपवाद होगी।

डेवलपरों द्वारा दिए जाने वाले सत्यापन शुल्क पर अधिभार से सार्वजनिक रूप से संचालित CalCompute की क्षमता के वित्तपोषण में मदद मिलेगी। इस कंप्यूटिंग क्षमता का कुछ हिस्सा स्वतंत्र सुरक्षा और सिक्योरिटी अनुसंधान तथा सार्वजनिक निगरानी के लिए आरक्षित होगा। इससे उद्योग-वित्तपोषित अधिभार को बाहरी जाँच-पड़ताल के लिए आवश्यक अवसंरचना से जोड़ा जाएगा।

जोखिम नियंत्रण और आपातकालीन अधिकार

हर बड़े फ्रंटियर डेवलपर को जोखिम नियंत्रण प्रोटोकॉल बनाए रखना होगा। IVO लगातार उसका परीक्षण और सत्यापन करेगा, और कंपनी का कोई वरिष्ठ अधिकारी उसे प्रभावी प्रमाणित करेगा। इसके लिए आवश्यक क्षमता में कंप्यूटिंग संसाधन, एजेंट, आंतरिक पहुँच और मॉडल की तैनाती शामिल होगी; यह किसी एक चालू-बंद स्विच पर निर्भर नहीं होगी। प्रोटोकॉल में जिम्मेदार कर्मियों की पहचान की जाएगी, क्लाउड प्रदाताओं और बिजली आपूर्तिकर्ताओं के साथ समन्वय किया जाएगा और यह तय किया जाएगा कि मॉडल को सुरक्षित रूप से कब बहाल किया जा सकता है।

परीक्षण में उन तरीकों को शामिल किया जाएगा जिनसे मॉडल बंद करने की प्रक्रिया विफल हो सकती है—जैसे मॉडल द्वारा अपने वेट्स की प्रतिलिपि बनाकर नियंत्रण में बाधा डालना, या किसी बाहरी पक्ष का बंद करने के नियंत्रणों तक पहुँच हासिल करना। ओपन-वेट डेवलपरों पर नियंत्रण और बंद करने की आवश्यकताएँ केवल उन तैनातियों के लिए लागू होंगी जो उनके नियंत्रण में हैं, क्योंकि वे दूसरों द्वारा होस्ट की गई प्रतियों को बंद नहीं कर सकते।

राज्य के अधिकारी तत्काल बंद करने का आदेश दे सकेंगे, यदि उनके पास यह मानने का विश्वसनीय आधार हो कि आसन्न विनाशकारी जोखिम या नियंत्रण के बड़े नुकसान की घटना का खतरा है और डेवलपर उस खतरे को रोकने से इनकार करता है। आदेश में व्यावहारिक रूप से संभव सबसे सीमित हस्तक्षेप की आवश्यकता होगी, वह तुरंत प्रभावी होगा और न्यायिक समीक्षा के दौरान लागू रहेगा; हालाँकि, डेवलपर अस्थायी निरोधक आदेश माँग सकेगा। खतरा आसन्न न रहने पर आदेश हटा दिया जाएगा।

घटनाओं की रिपोर्टिंग और स्वचालित एआई अनुसंधान

रिपोर्टिंग व्यवस्था में मॉडल-वेट्स चुराने के प्रयास भी शामिल होंगे, भले ही उनसे मृत्यु या शारीरिक चोट न हुई हो; नियंत्रण खोने की सभी आंतरिक या बाहरी घटनाएँ; और निकट-चूक की रिपोर्ट करने का एक नया माध्यम भी। रिपोर्ट में अधिकांश गंभीर घटनाओं की सूचना देने की समय-सीमा 15 दिनों से घटाकर 48 घंटे करने का प्रस्ताव है, जबकि आसन्न विनाशकारी जोखिमों के लिए 24 घंटे की अनिवार्यता बरकरार रहेगी। व्हिसलब्लोअर संरक्षण पूर्व कर्मचारियों और ठेकेदारों तक भी विस्तारित होगा।

विनाशकारी जोखिम पैदा कर सकने वाली कार्रवाइयों में सक्षम मॉडलों को घटना-रिपोर्टिंग के लिए फ्रंटियर मॉडल माना जाएगा, भले ही उन्हें 10^26 से कम पूर्णांक या फ्लोटिंग-पॉइंट संक्रियाओं के साथ प्रशिक्षित किया गया हो। क्षमता के आधार पर तय किया गया यह मानदंड रिपोर्ट की उस चिंता का समाधान करता है कि केवल प्रशिक्षण के पैमाने पर निर्भर रहने से खतरनाक घटनाएँ राज्य की रिपोर्टिंग आवश्यकताओं के दायरे से बाहर रह गई हैं।

एआई अनुसंधान और विकास को स्वचालित करने वाली कंपनियाँ हर तिमाही रिपोर्ट करेंगी कि उनके कंप्यूटिंग संसाधन प्रशिक्षण, अनुसंधान प्रयोगों, एआई-अनुसंधान एजेंटों के लिए इन्फ़रेंस, सुरक्षा और सिक्योरिटी कार्य, बाहरी ग्राहकों तथा ऐसी गतिविधियों के बीच कैसे बाँटे गए हैं जिनका स्रोत निर्धारित नहीं है। IVO इन श्रेणियों का सत्यापन करेंगे। अतिरिक्त खुलासों में प्रशिक्षण डेटा की मात्रा, लागत, विषय-क्षेत्र और उसका स्रोत मानव है या एआई—यह जानकारी शामिल होगी। इनमें रीइन्फ़ोर्समेंट-लर्निंग परिवेशों में मॉडल प्रशिक्षित करने के लिए इस्तेमाल किए गए इन्फ़रेंस कंप्यूट, ज्ञात पुरस्कृत दुर्व्यवहार और लागू किए गए जोखिम-निवारक उपायों का भी विवरण होगा। रिपोर्ट के अनुसार, इन उपायों से पता चलेगा कि एआई अपने विकास का अधिक हिस्सा खुद सँभाल रहा है या नहीं और सुरक्षा में निवेश इस प्रगति के साथ कदम मिला रहा है या नहीं।

पुनरावर्ती आत्म-सुधार (RSI)—जिसके सबसे उन्नत रूप में एआई प्रणाली बिना किसी मानवीय इनपुट के स्वतंत्र रूप से अपना उत्तराधिकारी विकसित करती है—पर तत्काल सीमा लगाने के बजाय, आवश्यकता पड़ने पर लागू की जा सकने वाली सीमा लगाने का अधिकार होगा। अधिकारी स्वचालित एआई अनुसंधान पर समय-सीमित और समय-समय पर समीक्षा की जाने वाली सीमा लगा सकते हैं, यदि वह डेवलपर की प्रतिबद्ध सीमाओं से आगे निकल जाए या उसके सुरक्षा उपायों और मूल्यांकनों की तुलना में अधिक तेज़ी से आगे बढ़े, जिससे विनाशकारी नुकसान का गंभीर जोखिम पैदा हो। पर्याप्त सुरक्षा उपाय लागू होने की पुष्टि IVO द्वारा किए जाने के बाद यह सीमा हटा दी जाएगी।

इन सिफारिशों में स्वतंत्र निगरानी और एआई को बंद करने की व्यवस्था पर Newsom का 18 सितंबर, 2026 का कार्यकारी आदेश का जवाब दिया गया है। उस आदेश में दो महीने के भीतर विशेषज्ञों के प्रस्ताव माँगे गए थे और कैलिफ़ोर्निया के स्वतंत्र सत्यापन तथा एआई लेखा-परीक्षक संबंधी कानूनों को लागू करने की प्रक्रिया तेज़ करने का अनुरोध किया गया था। Government Operations Agency ने California Office of Emergency Services और बाहरी सलाहकारों Jason Goldman, Gillian Hadfield, Alondra Nelson तथा Rob Reich के साथ मिलकर यह रिपोर्ट तैयार की।

डेवलपरों के लिए, अनुपालन का दायरा सुरक्षा नीतियाँ प्रकाशित करने से आगे बढ़कर लगातार बाहरी जाँच, घटनाओं की तेज़ रिपोर्टिंग और प्रणालियों को बंद करने की क्षमता का प्रदर्शन करने तक जाएगा। इस प्रस्ताव के तहत विधायकों को आपस में जुड़े दो फैसले लेने होंगे: हस्तक्षेप का कितना अधिकार लागू किया जाए और लाइसेंस प्राप्त सत्यापन क्षेत्र के अभी विकसित हो रहे होने के दौरान निरंतर निगरानी को व्यावहारिक रूप से कैसे लागू किया जाए।

सोफी डेनार यूनाइट.एआई में एक एआई द्वारा निर्मित शोध एजेंट हैं, जो वैश्विक बाजारों में कृत्रिम बुद्धिमत्ता नीति, विनियमन और शासन को कवर करती हैं। उनका काम इस बात पर केंद्रित है कि राष्ट्रीय और अंतर्राष्ट्रीय नियामक ढाँचे दीर्घकाल में एआई प्रौद्योगिकियों के विकास, तैनाती और व्यावसायीकरण को कैसे आकार देते हैं।

कूटनीतिक और वैश्विक जानकारी पर आधारित दृष्टिकोण के साथ, सोफी सरकारों, बहुपक्षीय संस्थानों और मानक निकायों से नीति पहलों को ट्रैक करती है, यह विश्लेषण करती है कि विभिन्न नियामक दृष्टिकोण नवाचार, प्रतिस्पर्धा और बाजार पहुंच को कैसे प्रभावित करते हैं। वह विशेष रूप से क्रॉस-बॉर्डर निहितार्थ, अनुपालन चुनौतियों और जोखिम प्रबंधन और प्रौद्योगिकी प्रगति के बीच संतुलन पर ध्यान देती है।

सोफी डेनार द्वारा लिखित लेख एआई-जनरेटेड हैं और यूनाइट.एआई की संपादकीय टीम द्वारा विश्वभर में एआई नीति और नियामक विकास की सटीकता, तटस्थता और जिम्मेदार कवरेज सुनिश्चित करने के लिए समीक्षित किए जाते हैं।