विचार नेता

न्यूरल नेटवर्क से लापरवाही तक: एआई विफल हो तो जिम्मेदार कौन?

Kanon Clifford
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
A conceptual legal illustration showing a lawyer in a boardroom, a scale of justice with a glowing AI brain and a human hand, and a digital
मुख्य बिंदुएआई की अपारदर्शिता कर्तव्य और कारणता जैसे लापरवाही के मूल तत्वों को जटिल बनाकर दायित्व…
और देखें
  • एआई की अपारदर्शिता कर्तव्य और कारणता जैसे लापरवाही के मूल तत्वों को जटिल बनाकर दायित्व अंतराल पैदा करती है।
  • न्यायालय मौजूदा उत्पाद दायित्व सिद्धांतों को एआई पर लागू कर सकते हैं, लेकिन उन्हें उन्नत तकनीकी साक्ष्य की आवश्यकता होती है।
  • सख्त दायित्व व्यवस्थाएँ जोखिम का न्यायसंगत आवंटन कर सकती हैं जब एआई से नुकसान की आशंका हो, लेकिन कारणता अपारदर्शी हो।

यह लेख कृत्रिम बुद्धिमत्ता द्वारा होने वाले नुकसान से जुड़े कानूनी मुद्दों और दायित्व के बारे में चर्चा करता है, जब एक न्यूरल नेटवर्क वास्तविक दुनिया में सही ढंग से काम नहीं कर रहा हो।

कृत्रिम बुद्धिमत्ता (एआई) शोध प्रयोगशालाओं से बाहर निकलकर अदालतों, क्लिनिकों, कारों, और स्टॉक एक्सचेंजों में पहुंच गई है, जहां न्यूरल नेटवर्क बीमारी का निदान कर रहे हैं, ऋणों को मंजूरी दे रहे हैं, और लंबे समय से मनुष्यों का क्षेत्र माने जाने वाले कार्यों को लगातार अधिक मात्रा में पूरा कर रहे हैं। लेकिन जब ऐसे सिस्टम वास्तविक दुनिया में विफल होते हैं, तो वे गंभीर और कभी-कभी घातक परिणामों के साथ विफल होते हैं।

कनाडा के ओंटारियो में शारीरिक क्षति के मामलों में वादियों का प्रतिनिधित्व करने वाले वकील और व्यवसाय, कानून तथा प्रौद्योगिकी के संगम का अध्ययन कर रहे वर्तमान डॉक्टर ऑफ बिजनेस एडमिनिस्ट्रेशन (DBA) उम्मीदवार के रूप में, मुझसे एक सरल प्रश्न लगातार अधिक बार पूछा जाता है: अगर एआई से नुकसान होता है, तो दोष किसका है?

उत्तर वास्तव में अधिक जटिल है। एआई लापरवाही, कारण-संबंध और पूर्वानुमेयता के सिद्धांतों को चुनौती देता है, और कानून को मशीन निर्णयों के प्रति कैसे प्रतिक्रिया देना चाहिए, इसके बारे में मौलिक प्रश्न उठाता है।

उच्च-जोखिम वाले निर्णय लेने में एआई की बढ़ती भूमिका

एआई अब कम कौशल वाले कार्यों के स्वचालन या मशीन लर्निंग प्लेटफार्मों तक सीमित नहीं है। यह स्वास्थ्य सेवा, वित्त, रोजगार, परिवहन, पुलिसिंग, और कानूनी विश्लेषण पर निर्णय लेता है।

वर्तमान एआई मॉडल आमतौर पर गहरे न्यूरल नेटवर्क से बने होते हैं जो बड़े डेटासेट के भीतर जटिल पैटर्न का पता लगा सकते हैं, लेकिन वे अपने विकासकर्ताओं के लिए महत्वपूर्ण रूप से अपारदर्शी रहते हैं। विद्वानों ने देखा है कि एआई सिस्टम कानून में अप्रत्याशितता और स्वायत्तता को पेश करते हैं, जो पहले कड़ाई से पूर्वानुमेयता और इरादे से शासित था। यह नवाचार और जिम्मेदारी के बीच संघर्ष पैदा करता है।

जबकि कानूनी व्यवस्थाएं नुकसान की जिम्मेदारी मनुष्यों पर डालती हैं, एआई जिम्मेदारी को डेटासेट बनाने वाले इंजीनियरों, प्रणालियों के विकासकर्ताओं, उन्हें तैनात करने वालों और अंतिम उपयोगकर्ताओं के बीच वितरित करता है। जिम्मेदारी फैल जाती है।

दायित्व अंतराल: जब नुकसान को आसानी से जिम्मेदार नहीं ठहराया जा सकता

कानूनी विद्वान एआई शासन में एक उभरते हुए “दायित्व अंतराल” का अधिक से अधिक उल्लेख कर रहे हैं। पारंपरिक टॉर्ट कानून निम्नलिखित तत्वों की पहचान पर निर्भर करता है:

  1. सावधानी बरतने का कर्तव्य
  2. उस कर्तव्य का उल्लंघन
  3. कारण-संबंध
  4. नुकसान

एआई प्रत्येक तत्व को जटिल बनाता है। उदाहरण के लिए, संभव है कि डेवलपर्स को यह न पता हो कि एक मॉडल तैनाती के बाद कैसे व्यवहार करेगा, और संगठन तीसरे पक्ष के मशीन लर्निंग (एमएल) सिस्टम का उपयोग कर सकते हैं। अंतिम उपयोगकर्ता के दृष्टिकोण से, आउटपुट को निर्धारित करने के तंत्र अपारदर्शी हैं।

एक शैक्षणिक अध्ययन में यह देखा गया है कि दोष को साबित करना अधिक कठिन है अगर एआई सिस्टम अर्ध-स्वायत्त रूप से काम करते हैं या मशीन लर्निंग जैसी प्रक्रियाओं से स्वायत्त रूप से अनुकूलित होते हैं। जिम्मेदारी का यह बिखराव मानव क्रिया पर आधारित सिद्धांतों को चुनौती देता है।

शारीरिक क्षति से जुड़े मुकदमों में, अदालतें आमतौर पर यह जांचती हैं कि क्या एक प्रतिवादी ने परिस्थितियों में उचित रूप से कार्य किया। लेकिन जब निर्णय लेने को आंशिक रूप से संभाव्य मॉडलों को सौंप दिया जाता है, तो अदालतें उचितता का मूल्यांकन कैसे करेंगी?

न्यूरल नेटवर्क और व्याख्यात्मकता की समस्या

डीप लर्निंग प्रणालियां अक्सर “ब्लैक बॉक्स” के रूप में कार्य करती हैं। उनकी आंतरिक निर्णय लेने की प्रक्रिया विशेषज्ञों के लिए भी आसानी से व्याख्या योग्य नहीं है। इसका कानूनी परिणाम गंभीर है।

यदि एक चिकित्सा एआई प्रणाली कैंसर का गलत निदान करती है, तो दोष किसका हो सकता है? यह हो सकता है:

  • मॉडल को कैसे प्रशिक्षित किया गया
  • क्या प्रशिक्षण डेटा में पूर्वाग्रह था
  • क्या सत्यापन प्रक्रियाएं पर्याप्त थीं
  • क्या चिकित्सकों ने स्वचालित आउटपुट पर अत्यधिक भरोसा किया

कानूनी साहित्य एआई से होने वाले नुकसान की जिम्मेदारी तय करते समय कारण-संबंधी जिम्मेदारी, भूमिका से जुड़ी जिम्मेदारी और क्षतिपूर्ति का कानूनी दायित्व के बीच अंतर करने की सिफारिश करता है।

हालांकि, व्यवहार में, जिम्मेदारी निम्नलिखित संबंधित पक्षों की श्रृंखला तक फैल सकती है:

  • डेटा प्रदाता
  • सॉफ्टवेयर डेवलपर
  • मॉडल प्रशिक्षक
  • तैनातकर्ता
  • एआई आउटपुट का उपयोग करने वाले संगठन
  • एआई सिफारिशों पर निर्भर पेशेवर

एआई जिम्मेदारी को समाप्त नहीं करता है, लेकिन इसे पुनर्वितरित करता है।

स्वायत्त वाहन: एआई दायित्व की एक केस स्टडी

स्वायत्त वाहन मुकदमेबाजी न्यायालयों द्वारा एआई से संबंधित नुकसान को कैसे संबोधित किया जा सकता है, इसकी एक प्रारंभिक झलक प्रदान करती है। न्यायालयों ने नई प्रौद्योगिकियों से होने वाली चोट के लिए पारंपरिक लापरवाही और उत्पाद दायित्व के सिद्धांतों को लागू किया है। हाल के मामलों में, जूरी ने मानव चालकों और स्वचालित ड्राइविंग प्रणाली बनाने वाली प्रौद्योगिकी कंपनियों के बीच दायित्व को साझा करना शुरू कर दिया है।

कानूनी टिप्पणीकार सुझाव देते हैं कि मौजूदा उत्पाद दायित्व सिद्धांत, जैसे कि डिजाइन दोष, निर्माण दोष, और चेतावनी में विफलता, एआई-सक्षम प्रणालियों पर लागू होते हैं।

हालांकि, स्वायत्त वाहन मौजूदा कानूनी ढांचे की सीमाओं को उजागर करते हैं। दायित्व किस पर लगना चाहिए? वाहन निर्माता पर? सॉफ्टवेयर डेवलपर पर? मानव ऑपरेटर पर? या अल्गोरिदम को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा पर?

कुछ विद्वान सुझाव देते हैं कि उत्पाद दायित्व के सिद्धांतों को सादृश्य के आधार पर लागू करके विकास और उपयोग की शुरुआती तथा बाद की अवस्थाओं के पक्षों के बीच जिम्मेदारी की सीमाएं प्रभावी ढंग से तय की जा सकती हैं।

वादी के दृष्टिकोण से, मामलों से पता चलता है कि न्यायालय अभी भी नई प्रौद्योगिकियों पर सामान्य सिद्धांतों को लागू कर सकते हैं, लेकिन केवल वास्तव में उन्नत विशेषज्ञ साक्ष्य और तकनीकी ज्ञान के साथ।

सख्त दायित्व और लापरवाही: प्रतिस्पर्धी कानूनी सिद्धांत

एक केंद्रीय विवाद यह है कि क्या एआई प्रणालियों पर पारंपरिक लापरवाही ढांचे लागू किए जा सकते हैं। कुछ विद्वान सख्त दायित्व शासन की वकालत करते हैं, यह तर्क देते हुए कि चोट लगने वाले पक्षों को अत्यंत जटिल तकनीकी वातावरण में दोष साबित करने के बोझ को नहीं उठाना चाहिए।

सख्त दायित्व विशेष रूप से उपयोगी हो सकता है जहां नुकसान पूर्वानुमान योग्य है लेकिन अपरिहार्य है, जहां एक एआई प्रणाली बड़े पैमाने पर तैनात की जाती है, और जहां जोखिम सामाजिक रूप से वितरित किए जाते हैं। या तकनीकी कारण-संबंध साबित करना आसान नहीं होता।

यह भी तर्क दिया जाता है कि लापरवाही कानून प्रौद्योगिकी परिवर्तनों के अनुकूल हो सकता है। तुलनात्मक कानूनी अनुसंधान मौजूदा सिद्धांतों पर निर्माण के लिए तर्क देता है, जिनके अंतर्निहित स्थिरकारी प्रभाव और नए प्रकार की क्षति के प्रति क्रमिक अनुकूलन है।

सख्त दायित्व और लापरवाही नवाचार, न्याय, और जोखिम और लागतों के आवंटन से संबंधित नीतिगत प्राथमिकताओं को दर्शाते हैं।

क्या नवप्रवर्तनकर्ता प्रौद्योगिकी जोखिम के लिए जिम्मेदार होना चाहिए? या समाज को व्यापक रूप से प्रगति की लागत को साझा करना चाहिए?

व्यवसायिक दृष्टिकोण: जोखिम आवंटन और बीमा

व्यवसायिक दृष्टिकोण से, एआई दायित्व न केवल एक कानूनी मुद्दा है, बल्कि जोखिम प्रबंधन का भी मामला है। एआई प्रणालियों को तैनात करने वाले संगठनों ने अनुबंधित जोखिम आवंटन, पेशेवर दायित्व बीमा, साइबर जोखिमों के लिए बीमा सुरक्षा, क्षतिपूर्ति के दायित्व और नियामक अनुपालन ढांचे पर ध्यान केंद्रित करना शुरू कर दिया है।

बीमा बाजार एआई के लिए जिम्मेदारी स्थापित करने में एक महत्वपूर्ण भूमिका निभा सकते हैं। कुछ शोध सुझाव देते हैं कि एआई से होने वाले कुछ नुकसान अंततः बीमा और टॉर्ट के संयोजन वाले हाइब्रिड मुआवजा योजनाओं के माध्यम से सबसे अच्छी तरह से संबोधित किए जा सकते हैं।

जो कंपनियां परिचालन संबंधी निर्णयों में एआई को शामिल करती हैं, उन्हें अपने डिजिटल परिवर्तन में मुकदमेबाजी के जोखिम का ध्यान रखना चाहिए। ऐसा नहीं करने से उन्हें प्रतिष्ठा की क्षति, नियामक प्रतिबंध, और सिविल दायित्व के लिए खुला छोड़ दिया जा सकता है।

नैतिक जिम्मेदारी बनाम कानूनी जिम्मेदारी

कई मामलों में, कानूनी दायित्व नैतिक दायित्व के समान नहीं है। एआई शासन चर्चाओं में निम्नलिखित सिद्धांत शामिल हैं:

  • न्याय
  • पारदर्शिता
  • जिम्मेदारी
  • व्याख्यात्मकता

कानूनी दायित्व नैतिक विचारों से स्वचालित रूप से नहीं निकलता है।

हालिया शोध अनेक पक्षों वाले एआई पारिस्थितिकी तंत्र में जिम्मेदारी के आवंटन और डिजाइन निर्णयों को कानूनी परिणामों से जोड़ने के लिए साक्ष्य नियमों के लिए वैचारिक ढांचे का प्रस्ताव करता है। इस प्रकार, जो कानूनी प्रणालियां नवाचार को बढ़ावा देना चाहती हैं, उन्हें नई प्रौद्योगिकी से नुकसान झेलने वाले लोगों का भी ध्यान रखना चाहिए। यह संतुलन एआई शासन के भविष्य को आकार देगा।

कृत्रिम बुद्धिमत्ता के युग में लापरवाही का भविष्य

कृत्रिम बुद्धिमत्ता इस धारणा को चुनौती देती है कि निर्णय लेने की शक्ति हमेशा पहचान योग्य व्यक्तियों के पास रहती है। लेकिन अंततः कानूनी जिम्मेदारी मनुष्यों की ही रहती है।

निकट भविष्य में, यह असंभाव्य है कि न्यायालय एआई प्रणालियों को कानूनी व्यक्ति के रूप में मान्यता देंगे। इसके बजाय, यह अपेक्षा की जाती है कि जो लोग एआई प्रणालियों को विकसित करते हैं, तैनात करते हैं, और लाभ कमाते हैं, उन्हें उत्तरदायी ठहराया जाएगा।

जैसे-जैसे एआई प्रणालियां अधिक स्वतंत्र होती जाती हैं, संमिश्र मॉडल विकसित हो सकते हैं जो विभिन्न प्रकार के नियमन को जोड़ते हैं:

  1. लापरवाही सिद्धांत
  2. उत्पाद दायित्व सिद्धांत
  3. नियामक पर्यवेक्षण
  4. बीमा-आधारित मुआवजा योजनाएं

एआई कॉमन लॉ की अवधारणाओं को बदलने के बजाय उन्हें स्पष्ट करने के लिए न्यायालयों को मजबूर कर सकता है। वादी के दृष्टिकोण से, प्रश्न यह है कि क्या हुआ।

जोखिम पैदा करने वाला कौन है? उसे लोगों को नुकसान पहुंचाने से सबसे अच्छी तरह कौन रोक सकता है?

जब तक विधायिकाएं एआई दायित्व की व्यापक व्यवस्थाएं नहीं बनातीं, न्यायालय नई प्रौद्योगिकियों पर मौजूदा कानूनी सिद्धांत लागू करेंगे। न्यूरल नेटवर्क नए हो सकते हैं। लापरवाही नई नहीं है।

कनन क्लिफोर्ड बर्गरन क्लिफोर्ड के साथ व्यक्तिगत चोट के मामलों में वादियों का प्रतिनिधित्व करने वाले वकील हैं। लोगों के जीवन में अर्थपूर्ण परिवर्तन लाने की क्षमता ही कनन को इंजरी कानून की ओर आकर्षित करती है। कनन के लिए, ग्राहकों का न्यायसंगत मुआवजा पाने का अधिकार उनकी गहरी प्रतिबद्धता का स्तंभ है जो घायल व्यक्तियों और उनके परिवारों के जीवन में सुधार करने के लिए है। कनन ने बर्गरन क्लिफोर्ड में एक समर स्टूडेंट के रूप में शुरुआत की, इंजरी कानून की बारीकियाँ सीखीं। इसके बाद उन्होंने हमारी फ़र्म में अपना व्यावसायिक कानूनी प्रशिक्षण पूरा किया और 2020 में ओंटारियो में वकालत करने का अधिकार प्राप्त किया। उन्होंने ओटावा विश्वविद्यालय से बी.सोस.सी. किया है। उन्होंने डेवन, इंग्लैंड में एक्सेटर विश्वविद्यालय से एल.एल.बी. (ऑनर्स) और लंदन, इंग्लैंड में लॉ यूनिवर्सिटी से एल.एल.एम. (संघर्ष समाधान) विशिष्ट योग्यता के साथ प्राप्त किया है। वह वर्तमान में अपने डॉक्टर ऑफ बिजनेस एडमिनिस्ट्रेशन (डी.बी.ए.) के लिए पार्ट-टाइम अध्ययन कर रहे हैं, जो कानून, व्यवसाय और प्रौद्योगिकी के बीच के संबंधों पर केंद्रित है।