विचार नेता

हाँ, EU AI Act एजेंटिक एआई को भी दायरे में लाता है—जानिए कैसे

Dr. Ley Muller Gyda Grodås Christiansen
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुएजेंटिक एआई पहले से ही यूरोपीय संघ के एआई अधिनियम के दायरे में आता है क्योंकि यह एक एआई…
और देखें
  • एजेंटिक एआई पहले से ही यूरोपीय संघ के एआई अधिनियम के दायरे में आता है क्योंकि यह एक एआई प्रणाली की परिभाषा को पूरा करता है।
  • एआई अधिनियम विशिष्ट प्रौद्योगिकियों का नाम लेने के बजाय यह नियंत्रित करता है कि प्रौद्योगिकी क्या करती है और कौन से जोखिम पैदा करती है।
  • एआई अधिनियम के खिलाफ पैरवी करने वाली तकनीकी दिग्गज कंपनियां स्व-नियमन को आगे बढ़ा रही हैं जो नियामक अधिग्रहण के समान है।

आजकल यह धारणा ज़ोर पकड़ रही है कि एजेंटिक एआई और एआई एजेंट किसी नियामकीय दायरे से बाहर हैं—यानी EU AI Act उन्हें नियंत्रित करने में सक्षम नहीं है। हमने यह बात नॉर्वे के प्रतिष्ठित समाचार माध्यमों (Morgenbladet और Dagensnæringsliv) में पढ़ी है, और प्रमुख शिक्षाविदों (University of Oslo) ने भी इसे दोहराया है। हमें इन दावों में दो बुनियादी खामियाँ दिखती हैं… और हमारा मानना है कि ये तथ्य पर नहीं, बल्कि आशंकाओं पर आधारित हैं।

पहली बात, EU AI Act के तहत एजेंटिक एआई विनियमित है।

दूसरी बात, ऐसे दावे मौजूदा नियमों को कमज़ोर करते हैं। वे इस धारणा को मज़बूत करते हैं कि एआई कंपनियाँ अपने सिस्टम से जुड़े जोखिमों का प्रबंधन करने के लिए बेहतर स्थिति में हैं—यह एक आम तर्क है, जो नियामकीय कब्ज़े की राह खोलता है।

हम Standards Norway की राष्ट्रीय एआई समिति के नियुक्त सदस्यों के रूप में AI Act के साथ काफ़ी निकटता से काम करते हैं। हम उन यूरोपीय समितियों में भी शामिल हैं जो उच्च-जोखिम वाले एआई सिस्टम के प्रदाताओं के लिए सामंजस्यपूर्ण मानक विकसित करती हैं; ये मानक कंपनियों को AI Act की कानूनी आवश्यकताएँ पूरी करने में मदद करते हैं।

EU AI Act के तहत एजेंटिक एआई कई तरीकों से विनियमित है

यूरोपीय आयोग ने “एजेंट” और “एजेंटिक एआई” पर आसान भाषा में पढ़े जा सकने वाले कई अक्सर पूछे जाने वाले प्रश्न प्रकाशित किए हैं और स्पष्ट किया है: हाँ, ये नियमन के दायरे में आते हैं, क्योंकि वे एआई सिस्टम की व्यापक परिभाषा में शामिल हैं (AI Act के तहत एआई एजेंटों को कैसे संबोधित किया गया है? | AI Act Service Desk)। इसके कुछ और उदाहरण:

  • एजेंटिक एआई अक्सर बड़े भाषा मॉडल पर आधारित होता है, जिन्हें सामान्य प्रयोजन वाले एआई मॉडल के रूप में विनियमित किया जाता है।
  • जब कोई एजेंटिक एआई सिस्टम इंसानों के साथ संवाद करता है, तो नियमन की पारदर्शिता संबंधी आवश्यकताएँ भी लागू हो जाती हैं।
  • अगर किसी एआई मॉडल को प्रणालीगत जोखिम पैदा करने वाला वर्गीकृत किया जाता है, तो उसके प्रदाता पर अतिरिक्त आवश्यकताएँ लागू होती हैं। इनमें अन्य बातों के साथ-साथ मॉडल की क्षमताओं का आकलन भी शामिल है—जिसमें उसकी स्वायत्त और एजेंटिक विशेषताएँ भी आती हैं।

AI Act में “एजेंट” शब्द का उल्लेख नहीं है, लेकिन इसकी वजह यह है कि यह तकनीक के खास प्रकारों को विनियमित नहीं करता। इसके बजाय, यह विनियमित करता है कि तकनीक को क्या करने के लिए बनाया गया है और उन कार्यों से जुड़े जोखिम क्या हैं।

AI Act का उद्देश्य हमारे मौलिक अधिकारों की रक्षा करना है

अधिक विनियमन चाहने वालों की ओर से AI Act की कई आलोचनाएँ इस संरचनात्मक असंभवता से जुड़ी हैं कि जोखिमों को पूरी तरह खत्म नहीं किया जा सकता। लेकिन किसी अंतरराष्ट्रीय नियामकीय ढाँचे के लिए भविष्य के हर जोखिम का पूर्वानुमान लगाना असंभव होता।

इसके बजाय, AI Act उन एआई सिस्टम से पैदा होने वाले जोखिमों पर केंद्रित है जो स्वास्थ्य, सुरक्षा और मौलिक अधिकारों को प्रभावित कर सकते हैं—इसका उल्लेख पहले अनुच्छेद के पहले ही वाक्य में है।

EUR-Lex – 02024R1689-20260727 – EN – EUR-Lex से लिया गया स्क्रीनशॉट

इस पहले वाक्य में जिस बात पर हमने ज़ोर नहीं दिया है, वह भी अहम है: AI Act बाज़ार-केंद्रित है। इसका उद्देश्य एआई के उपयोग को प्रोत्साहित करना है। इसे नवाचार को बढ़ावा देना है। दूसरे शब्दों में, AI Act एआई-समर्थक है। इसी संदर्भ में कुछ अनुप्रयोगों और क्षेत्रों को विनियमित किया जाता है।

कुछ क्षेत्रों को पहले से ही उच्च-जोखिम वाला वर्गीकृत किया गया है

इसके कुछ उदाहरण हैं—इन क्षेत्रों में इस्तेमाल होने वाले एआई सिस्टम:

  • भर्ती
  • आवश्यक सेवाओं का आवंटन
  • चिकित्सा उपकरण
  • महत्वपूर्ण अवसंरचना में एकीकृत सिस्टम, जहाँ सुरक्षा सर्वोपरि है।

ऐसे एआई सिस्टम के प्रदाताओं—चाहे वे एजेंटिक हों या नहीं—को व्यापक जोखिम-प्रबंधन प्रणालियाँ स्थापित करनी होंगी, जिनमें यह आकलन करना भी शामिल है कि उपयोगकर्ता एआई सिस्टम का दुरुपयोग कैसे कर सकते हैं।

नियामकीय कब्ज़ा: जब प्रदाता खुद को विनियमित करने का प्रस्ताव देते हैं

अगर हम Anthropic, OpenAI और Meta की बातों के साथ-साथ नॉर्वे की बहस में उठ रही कुछ आवाज़ों पर ध्यान दें, तो ऐसा लग सकता है कि एआई और एजेंटिक एआई इतने जटिल हैं कि AI Act उन्हें संभाल नहीं सकता। वे EU के लिए बहुत उन्नत हैं। वे इतने ख़तरनाक हैं कि उन्हें कंपनियों के अलावा कोई और विनियमित नहीं कर सकता।

हमें तब सावधान रहना चाहिए, जब दुनिया की सबसे शक्तिशाली प्रौद्योगिकी कंपनियाँ—जिन्होंने AI Act को कम सख़्ती से लागू करवाने के लिए ज़ोरदार लॉबिंग की है—अब दावा कर रही हैं कि उनके सबसे शक्तिशाली सिस्टम को नियंत्रित करने के लिए यह नियमन अपर्याप्त है। उनका सुझाया समाधान है कि वे खुद को “विनियमित” करें।

यह नियामकीय कब्ज़े का एक पारंपरिक तरीका है। इस प्रक्रिया में कानून और नियम धीरे-धीरे उन्हीं संस्थाओं के हित में ढाले जाते हैं, जिन्हें नियंत्रित करने के लिए वे बनाए गए हैं।

संयुक्त राज्य अमेरिका इसका स्पष्ट उदाहरण है (अति-बुद्धिमत्ता के युग का शुभारंभ – The White House)। सुपरइंटेलिजेंस पर व्हाइट हाउस समझौता X, Meta, Anthropic, OpenAI और Google के नेताओं के साथ एक “स्वैच्छिक समझौता” है, जिसके तहत ये कंपनियाँ खुद को विनियमित करने का वादा करती हैं। दस्तावेज़ में कहा गया है कि भविष्य में किसी काल्पनिक समय पर कानून उचित हो सकते हैं: “समय के साथ, इन कदमों को कानूनों या विनियमों में शामिल करना उचित हो सकता है।” समय के साथ। शायद। विनियमों पर विचार करना उचित हो सकता है।

हालाँकि, फिलहाल अमेरिकियों से अपेक्षा की जाती है कि वे भरोसा करें कि ये बड़ी टेक कंपनियाँ खुद को नियंत्रित करेंगी।

संयुक्त राज्य अमेरिका के विपरीत, यूरोप में बाध्यकारी कानून है: AI Act।

फिर भी, नियमन पर कब्ज़ा किए जाने का जोखिम बना हुआ है—जिसमें इस कानून के प्रति भरोसा कमज़ोर होना भी शामिल है। क्योंकि अगर टेक दिग्गज लोगों को यह यक़ीन दिला सकें कि AI Act पर्याप्त अच्छा नहीं है, तो हम अब इसके प्रवर्तन का समर्थन नहीं करेंगे। यह दावा करना कि एजेंटिक एआई इतनी उन्नत/बुद्धिमान/खतरनाक है कि AI Act उसे संभाल नहीं सकता, ऐसे तर्क हैं जो नियमन के प्रति हमारे समर्थन को कमज़ोर करते हैं।

एक बार नियमन पर कब्ज़ा हो जाने के बाद, उसे पलटना मुश्किल होता है।

हम इस चिंता से सहमत हैं कि कुछ एआई प्रणालियाँ ऐसे परिणाम ला सकती हैं जिनका पहले से अनुमान लगाना मुश्किल हो। ठीक इसी कारण हमें जोखिम-प्रबंधन की प्रक्रियाओं की ज़रूरत है—जैसा कि AI Act भी अपेक्षा करता है। (डॉ. Muller उस समिति में काम करते हैं जो जोखिम-प्रबंधन के लिए सामंजस्यपूर्ण मानक, 18228, विकसित करने का काम लगभग पूरा कर चुकी है।)

यूरोपीय संघ का AI Act संपूर्ण नहीं है और संभवतः इसे आगे विकसित करने की ज़रूरत होगी। हालाँकि, एजेंटिक एआई को यूरोपीय संघ के AI Act के दायरे से बाहर का क्षेत्र बताने से सुरक्षा नहीं, बल्कि केवल अनिश्चितता बढ़ती है।

डॉ. Ley Muller नैतिक एआई शासन में विशेषज्ञता रखती हैं। वह एआई मानकीकरण समितियों की सदस्य हैं और एआई शासन से जुड़ी परामर्श कंपनी Values-driven AI भी चलाती हैं। अपने आधे समय में वह यूरोपीय एआई प्रदाताओं को AI Act की आवश्यकताएँ पूरी करने में मदद करती हैं; बाकी आधे समय में वह बड़े सार्वजनिक संगठनों को छाया एआई के इस्तेमाल का प्रबंधन करने और एआई रणनीतियों पर व्यापक हितधारक सहमति बनाने में मदद करती हैं।

Gyda Grodås Christiansen डिजिटल स्वास्थ्य, स्वास्थ्य सूचना-विज्ञान और कृत्रिम बुद्धिमत्ता के शासन के क्षेत्र में कार्यरत वरिष्ठ सलाहकार हैं। वह CEN/CENELEC की संयुक्त तकनीकी समिति 21 और Standard Norway के माध्यम से अंतरराष्ट्रीय मानकीकरण में योगदान देती हैं। उनका काम स्वास्थ्य सेवा में अंतरसंचालनीयता, स्वास्थ्य डेटा और कृत्रिम बुद्धिमत्ता को ज़िम्मेदारी से अपनाने पर केंद्रित है।