ड्राफ्ट यूरोपीय संघ के कृत्रिम बुद्धिमत्ता अधिनियम की विफलताएं

यूरोपीय संघ के ड्राफ्ट ‘एआई अधिनियम’ की एक नई कानूनी आलोचना ने प्रस्तावित नियमों की एक विस्तृत श्रृंखला की आलोचना की है, जो अप्रैल में जारी किए गए थे, यह निष्कर्ष निकालते हुए कि दस्तावेज़ का अधिकांश भाग 1980 के दशक के उपभोक्ता नियमन से “सिले हुए” है; यह वास्तव में यूरोप में एक नियंत्रित कृत्रिम बुद्धिमत्ता वातावरण को बढ़ावा देता है, न कि क्षेत्र को सुसंगत नियमन के तहत लाने के लिए; और – कई अन्य आलोचनाओं के बीच – प्रस्ताव एक भविष्य के नियामक कृत्रिम बुद्धिमत्ता ढांचे को रेखांकित करते हैं जो “थोड़ा अर्थ और प्रभाव” है।

यूसीएल लंदन और निजमेगन में रेडबाउड विश्वविद्यालय के शोधकर्ताओं के बीच एक सहयोग के रूप में ड्राफ्ट यूरोपीय संघ के कृत्रिम बुद्धिमत्ता अधिनियम को डिमिस्टिफाइंग शीर्षक वाला प्रिंट है।

इस पेपर में प्रस्तावित कार्यान्वयन (इसके बजाय बहुत प्रशंसित इरादे) के बारे में नकारात्मक राय के बढ़ते शरीर में जोड़ा गया है, जिसमें यह तर्क दिया गया है कि प्रस्तावित दिशानिर्देश ‘अधूरे, संकीर्ण और जानबूझकर अस्पष्ट’ हैं, जो यूरोपीय आयोग के दस्तावेज़ को ‘फेक एथिक्स’ के प्रस्तावक के रूप में वर्णित करते हैं।

मैनिपुलेटिव एआई सिस्टम

नई पेपर का तर्क है कि एआई अधिनियम के प्रस्तावित ‘मैनिपुलेटिव सिस्टम’ पर प्रतिबंध वास्तविक प्रभाव के बजाय प्रतिबंधों के भाषण मूल्य में अधिक रुचि रखने वाले आयोग द्वारा एक अस्पष्ट और यहां तक कि विरोधाभासी ‘हानि’ की परिभाषा से बाधित है।

प्रस्तावित नियमों में दो कथित प्रतिबंधित अभ्यासों का रूपरेखा है:

(a) एक व्यक्ति के चेतना से परे उपस्थित होने वाली तकनीकों को तैनात करने वाली एक एआई प्रणाली का बाजार में उतारना, सेवा में डालना या उपयोग करना, जो एक व्यक्ति के व्यवहार को भौतिक या मनोवैज्ञानिक नुकसान का कारण बनने या बनने की संभावना के साथ सामग्री रूप से विकृत करने के लिए।

(b) एक विशिष्ट समूह के व्यक्तियों की कमजोरियों का फायदा उठाने वाली एक एआई प्रणाली का बाजार में उतारना, सेवा में डालना या उपयोग करना, जो आयु, शारीरिक या मानसिक विकलांगता के कारण होता है, जो उस समूह से संबंधित एक व्यक्ति के व्यवहार को विकृत करने के लिए, जो भौतिक या मनोवैज्ञानिक नुकसान का कारण बनता है या बनने की संभावना है।

शोधकर्ताओं का तर्क है कि ये प्रतिबंध यह नहीं संबोधित करते हैं कि क्या एआई प्रदाता की सेवाओं या सॉफ्टवेयर उनके स्वयं के उद्देश्यों को आगे बढ़ाने में सफल हैं या नहीं, लेकिन केवल यह कि अंतिम उपयोगकर्ता प्रक्रिया में ‘हानि’ का सामना करता है या नहीं। वे यह भी तर्क देते हैं कि मसौदे की हानि की परिभाषा व्यक्तिगत उपयोगकर्ताओं तक सीमित है, न कि सामूहिक या सामाजिक हानि के प्रकार के लिए जो हाल के वर्षों में कई एआई-आधारित विवादों से तर्कसंगत रूप से अनुमानित किया जा सकता है, जैसे कि कैम्ब्रिज एनालिटिका की विफलता।

पेपर यह देखता है कि ‘वास्तविक जीवन में, हानि एक एकल घटना को गंभीरता की सीमा तक पहुंचाए बिना जमा हो सकती है, जिससे इसका प्रमाण देना मुश्किल हो जाता है।’

हानिकारक एआई सिस्टम, लेकिन यूरोपीय संघ के लिए नहीं

एआई अधिनियम सार्वजनिक स्थानों में कानून प्रवर्तन द्वारा ‘रियल-टाइम’ बायोमेट्रिक प्रणालियों पर प्रतिबंध लगाने का प्रस्ताव करता है। हालांकि कुछ सार्वजनिक संदेह आतंकवाद विरोधी, बाल तस्करी और एक यूरोपीय गिरफ्तारी वारंट के पीछा के लिए प्रस्तावों द्वारा बनाए गए अपवादों पर केंद्रित है, शोधकर्ताओं का यह भी ध्यान दें कि कुछ भी आपूर्तिकर्ताओं को दमनकारी शासन को बायोमेट्रिक प्रणालियों को बेचने से रोकता नहीं है।

पेपर यह देखता है कि यह पहले से ही ऐतिहासिक अभ्यास है, जैसा कि 2020 की एमनेस्टी इंटरनेशनल की रिपोर्ट में खुलासा किया गया था।

यह आगे कहता है कि एआई अधिनियम का ‘रियल-टाइम’ बायोमेट्रिक प्रणाली का विनिर्देश मनमाना है, और ऑफलाइन विश्लेषणात्मक प्रणालियों को बाहर करता है, जैसे कि विरोध प्रदर्शन की घटनाओं से वीडियो फुटेज की बाद की प्रसंस्करण।

इसके अलावा, यह ध्यान दिया जाता है कि प्रस्ताव कानून प्रवर्तन से संबंधित नहीं होने वाली बायोमेट्रिक प्रणालियों को प्रतिबंधित करने के लिए कोई तंत्र प्रदान नहीं करता है, जो इसके बजाय जीडीपीआर को स्थगित कर देता है; और जीडीपीआर स्वयं ‘प्रत्येक स्कैन किए गए व्यक्ति के लिए उच्च गुणवत्ता वाली व्यक्तिगत सहमति’ की आवश्यकता को रखता है, जो ‘प्रभावी रूप से असंभव’ है।

एआई अधिनियम के इस खंड की शब्दावली शोधकर्ताओं से भी आलोचना का विषय है। मसौदा यह निर्दिष्ट करता है कि बायोमेट्रिक प्रणालियों के ‘व्यक्तिगत उपयोग’ के लिए सक्षम प्राधिकारियों द्वारा पूर्व-प्राधिकरण की आवश्यकता होगी – लेकिन यह स्पष्ट नहीं करता है कि इस संदर्भ में ‘व्यक्तिगत उपयोग’ का क्या अर्थ है। पेपर यह देखता है कि विवादास्पद वारंट ‘थीमेटिक’ हो सकते हैं, और व्यापक संगठनों, उद्देश्यों और स्थानों से संबंधित हो सकते हैं।

इसके अलावा, मसौदा नियमों में यह निर्दिष्ट नहीं किया गया है कि जारी किए गए प्राधिकरणों की संख्या और प्रकार के लिए एक पारदर्शिता तंत्र है, जो सार्वजनिक जांच को समस्याग्रस्त बना देता है।

‘हार्मोनाइज्ड स्टैंडर्ड’ को नियामकों को आउटसोर्स करना

शोध यह कहता है कि एआई अधिनियम में वास्तव में सबसे महत्वपूर्ण संस्थाएं उल्लिखित नहीं हैं: सीईएन (यूरोपीय मानकीकरण समिति) और सीईएनईएलईसी (यूरोपीय इलेक्ट्रोटेक्निकल मानकीकरण समिति) – तीन यूरोपीय मानकीकरण संगठनों (ईएसओ) में से दो जिन्हें यूरोपीय आयोग को मानकीकृत मानक तैयार करने का निर्देश देने के लिए माना जा सकता है, जो अक्सर कertain प्रकार की एआई सेवाओं और तैनाती के लिए शासी नियामक ढांचे बने रहेंगे।

इसका मतलब यह है कि एआई उत्पादक प्रस्तावित नियमों का पालन करने के बजाय प्रतिस्पर्धी नियमों के मानकों का पालन करने का विकल्प चुन सकते हैं जब वे 2024-5 में लागू होंगे।

पेपर के शोधकर्ताओं का यह भी मानना है कि मानक निकायों के बीच हस्तक्षेपकारी वर्षों के औद्योगिक लॉबिंग से इन ‘अनिवार्य मानकों’ को काफी हद तक फिर से परिभाषित किया जा सकता है, और सुझाव देते हैं कि ‘आदर्श’ नियमन को एक उच्च नैतिक स्तर और विधायी स्पष्टता से शुरू करना चाहिए, यदि केवल इस अपरिहार्य गिरावट की प्रक्रिया के लिए ही नहीं।

भावना पहचान प्रणालियों के भ्रम को वैध बनाना

एआई अधिनियम में भावना पहचान और वर्गीकरण प्रणालियों की तैनाती के खिलाफ एक प्रावधान है – जो ढांचे जो व्यक्तिगत रूप से पहचान नहीं कर सकते हैं, लेकिन दावा करते हैं कि वे किसी व्यक्ति को क्या महसूस हो रहा है या लिंग, जातीयता, और विभिन्न अन्य आर्थिक और सामाजिक संकेतकों के संदर्भ में उन्हें वर्गीकृत करने में सक्षम हैं।

शोधकर्ताओं का तर्क है कि यह खंड निरर्थक है, क्योंकि जीडीपीआर पहले से ही ऐसी प्रणालियों के पurveyors को उपयोगकर्ताओं को स्पष्ट जानकारी प्रदान करने के लिए बाध्य करता है, ताकि उपयोगकर्ता ऑप्ट-आउट कर सकें (जो ऑनलाइन सेवा का उपयोग नहीं करने या ऐसी प्रणालियों के अस्तित्व में आने वाले क्षेत्र में प्रवेश नहीं करने के लिए हो सकता है)।

अधिक महत्वपूर्ण बात यह है कि पेपर दावा करता है कि यह खंड एक खारिज की गई प्रौद्योगिकी को वैध बनाता है, और एफएसीएस-शैली की भावना पहचान प्रणालियों को फ्रेनोलॉजी और अन्य प्रारंभिक औद्योगिक युग के सामाजिक वर्गीकरण के लिए लगभग शामनिक दृष्टिकोण के लज्जाजनक इतिहास के प्रकाश में चित्रित करता है।

‘वे दावा करते हैं कि भावना का पता लगाने वाले लोग सरल, संदेहास्पद कराधान का उपयोग करते हैं; सांस्कृतिक और संदर्भों में सार्वभौमिकता को गलत तरीके से मानते हैं; और ‘फ्रेनोलॉजिकल पिछले [चेहरे की संरचना से] पात्र विशेषताओं का विश्लेषण करने के लिए’ वापस जाने का जोखिम उठाते हैं। अधिनियम के भावना पहचान और बायोमेट्रिक वर्गीकरण के प्रावधान जोखिम को कम करने के लिए पर्याप्त नहीं लगते हैं। ‘

एक बहुत ही विनम्र प्रस्ताव

इनके अलावा, शोधकर्ता डीपफेक्स, कार्बन उत्सर्जन की कमी, नियामक पर्यवेक्षण की दोहराव, और अभियोजन योग्य कानूनी संस्थाओं की पर्याप्त परिभाषा के संबंध में एआई अधिनियम में अन्य कथित कमियों को संबोधित करते हैं।

वे विधायकों और नागरिक कार्यकर्ताओं से पहचाने गए मुद्दों को संबोधित करने के लिए कार्रवाई करने का आग्रह करते हैं, और आगे यह भी ध्यान देते हैं कि उनके द्वारा प्रस्तावित नियमों के व्यापक विश्लेषण में कई अन्य क्षेत्रों को छोड़ना पड़ा है, जो जगह की कमी के कारण है।

फिर भी, पेपर अधिनियम की कृत्रिम बुद्धिमत्ता प्रणालियों के क्षैतिज नियमन प्रणाली को पेश करने के प्रयास की प्रशंसा करता है, जिसमें कई ‘संवेदनशील तत्व’ हैं, जैसे कि जोखिम मूल्यांकन स्तरों की एक पदानुक्रम बनाना, प्रतिबंधों को पेश करने की प्रतिबद्धता, और एक सार्वजनिक डेटाबेस का प्रस्ताव जिसमें प्रदाताओं को यूरोपीय वैधता प्राप्त करने के लिए योगदान करने की आवश्यकता होगी, हालांकि यह ध्यान देते हुए कि यह बाद की आवश्यकता संभवतः कानूनी दुविधाओं को उठाएगी।