जिम्मेदार एआई क्या है? सिद्धांत, चुनौतियां और लाभ

जिम्मेदार एआई (आरएआई) एआई सिस्टम डिजाइन और तैनाती को संदर्भित करता है जो पारदर्शी, निष्पक्ष, जवाबदेह और नैतिक दिशानिर्देशों का पालन करते हैं। एआई सिस्टम अधिक मजबूत और व्यापक होते जा रहे हैं, यह सुनिश्चित करना आवश्यक है कि वे जिम्मेदारी से विकसित और सुरक्षा और नैतिक दिशानिर्देशों का पालन करते हैं।

स्वास्थ्य, परिवहन, नेटवर्क प्रबंधन और निगरानी जैसे सुरक्षा-संवेदनशील एआई अनुप्रयोग हैं जहां सिस्टम विफलता के गंभीर परिणाम हो सकते हैं। बड़ी कंपनियां जानती हैं कि आरएआई प्रौद्योगिकी जोखिमों को कम करने के लिए आवश्यक है। हालांकि, एमआईटी स्लोन/बीसीजी रिपोर्ट में 1093 उत्तरदाताओं के साथ, 54% कंपनियों में जिम्मेदार एआई विशेषज्ञता और प्रतिभा की कमी थी।

हालांकि विचार नेताओं और संगठनों ने जिम्मेदार एआई के लिए सिद्धांत विकसित किए हैं, एआई सिस्टम के जिम्मेदार विकास को सुनिश्चित करना अभी भी चुनौतियों का सामना करता है। आइए इस विचार को विस्तार से जानने का प्रयास करें:

जिम्मेदार एआई के 5 सिद्धांत

1. निष्पक्षता

प्रौद्योगिकीविदों को ऐसी प्रक्रियाएं डिजाइन करनी चाहिए ताकि एआई सिस्टम सभी व्यक्तियों और समूहों के साथ निष्पक्षता से व्यवहार करे, पूर्वाग्रह के बिना। इसलिए, उच्च जोखिम वाले निर्णय लेने वाले अनुप्रयोगों में निष्पक्षता प्राथमिक आवश्यकता है।

निष्पक्षता को इस प्रकार परिभाषित किया गया है:

“विभिन्न जनसांख्यिकीय समूहों पर प्रभाव की जांच करना और कानूनी, सांस्कृतिक और नैतिक आवश्यकताओं के वांछित सेट को संतुष्ट करने के लिए समूह निष्पक्षता की कई गणितीय परिभाषाओं में से एक का चयन करना।”

2. जवाबदेही

जवाबदेही का अर्थ है कि एआई सिस्टम विकसित और तैनात करने वाले व्यक्तियों और संगठनों को अपने निर्णयों और कार्यों के लिए जवाबदेह होना चाहिए। एआई सिस्टम तैनात करने वाली टीम को यह सुनिश्चित करना चाहिए कि उनका एआई सिस्टम पारदर्शी, व्याख्यात्मक, लेखा परीक्षा योग्य है और समाज को नुकसान नहीं पहुंचाता है।

जवाबदेही में सात घटक शामिल हैं:

1. संदर्भ (जवाबदेही की आवश्यकता के लिए उद्देश्य)
2. सीमा (जवाबदेही का विषय)
3. एजेंट (कौन जवाबदेह है?)
4. मंच (जवाबदेह पार्टी को रिपोर्ट करने के लिए)
5. मानक (जवाबदेही के लिए मानदंड)
6. प्रक्रिया (जवाबदेही की विधि)
7. परिणाम (जवाबदेही के परिणाम)

3. पारदर्शिता

पारदर्शिता का अर्थ है कि एआई सिस्टम में निर्णय लेने के पीछे का कारण स्पष्ट और समझने योग्य है। पारदर्शी एआई सिस्टम व्याख्यात्मक हैं।

विश्वसनीय कृत्रिम बुद्धिमत्ता के लिए मूल्यांकन सूची (एएलटीएआई) के अनुसार, पारदर्शिता में तीन मुख्य तत्व हैं:

1. ट्रेसबिलिटी (डेटा, प्रीप्रोसेसिंग चरण और मॉडल सुलभ हैं)
2. व्याख्यात्मकता (निर्णय लेने/पूर्वानुमान के पीछे का तर्क स्पष्ट है)
3. खुला संचार (एआई सिस्टम की सीमाओं के बारे में)

4. गोपनीयता

गोपनीयता जिम्मेदार एआई का एक मुख्य सिद्धांत है। यह व्यक्तिगत जानकारी की सुरक्षा से संबंधित है। यह सिद्धांत यह सुनिश्चित करता है कि लोगों की व्यक्तिगत जानकारी को सहमति से एकत्र किया जाता है और अवांछित लोगों के हाथों में नहीं आता है।

हाल ही में, क्लियरव्यू नामक एक कंपनी का मामला सामने आया, जो कानून प्रवर्तन और विश्वविद्यालयों के लिए चेहरा पहचान मॉडल बनाती है। यूके के डेटा वॉचडॉग ने क्लियरव्यू एआई पर 7.5 मिलियन पाउंड का जुर्माना लगाया क्योंकि उन्होंने यूके के निवासियों की छवियों को सामाजिक मीडिया से 20 अरब छवियों के डेटाबेस बनाने के लिए सहमति के बिना एकत्र किया था।

5. सुरक्षा

सुरक्षा का अर्थ है कि एआई सिस्टम सुरक्षित हैं और समाज के लिए खतरा नहीं हैं। एआई सुरक्षा खतरे का एक उदाहरण विरोधी हमले हैं। ये दुर्भाग्यपूर्ण हमले एमएल मॉडल को गलत निर्णय लेने के लिए धोखा देते हैं। जिम्मेदार एआई के लिए एआई सिस्टम को साइबर हमलों से बचाना आवश्यक है।

जिम्मेदार एआई की 4 प्रमुख चुनौतियां और जोखिम

1. पूर्वाग्रह

मानव पूर्वाग्रह, जैसे कि आयु, लिंग, राष्ट्रीयता और जाति से संबंधित, डेटा संग्रह को प्रभावित कर सकते हैं, जिससे पूर्वाग्रहित एआई मॉडल हो सकते हैं। यूएस वाणिज्य विभाग के अध्ययन में पाया गया कि चेहरा पहचान एआई रंग के लोगों को गलत पहचान देती है। इसलिए, कानून प्रवर्तन में चेहरा पहचान एआई का उपयोग करने से गलत गिरफ्तारी हो सकती है। इसके अलावा, निष्पक्ष एआई मॉडल बनाना चुनौतीपूर्ण है क्योंकि उन्हें परिभाषित करने के लिए 21 अलग-अलग मापदंड हैं। इसलिए, एक ट्रेड-ऑफ है; एक निष्पक्ष एआई पैरामीटर को संतुष्ट करने का मतलब दूसरे की बलि देना है।

2. व्याख्यात्मकता

व्याख्यात्मकता जिम्मेदार एआई विकसित करने में एक महत्वपूर्ण चुनौती है। यह एआई मॉडल के निर्णय लेने की प्रक्रिया को समझने के बारे में है।

गहरे तंत्रिका नेटवर्क व्याख्यात्मकता की कमी है क्योंकि वे कई छिपे हुए न्यूरॉन्स की परतों के साथ ब्लैक बॉक्स के रूप में काम करते हैं, जिससे निर्णय लेने की प्रक्रिया को समझना मुश्किल हो जाता है। यह स्वास्थ्य देखभाल, वित्त जैसे उच्च जोखिम वाले निर्णय लेने में एक चुनौती हो सकती है।

इसके अलावा, एमएल मॉडल में व्याख्यात्मकता को औपचारिक रूप देना चुनौतीपूर्ण है क्योंकि यह विषयगत और डोमेन-विशिष्ट है।

3. शासन

शासन का अर्थ है एआई सिस्टम के विकास और तैनाती की देखरेख करने वाले नियम, नीतियों और प्रक्रियाओं का एक सेट। हाल ही में, एआई शासन वार्ता में महत्वपूर्ण प्रगति हुई है, जिसमें संगठनों ने ढांचे और नैतिक दिशानिर्देश प्रस्तुत किए हैं।

विश्वसनीय एआई के लिए ईयू के नैतिक दिशानिर्देश, ऑस्ट्रेलियाई एआई नैतिकता ढांचे और ओईसीडी एआई सिद्धांत एआई शासन ढांचे के उदाहरण हैं।

हालांकि, हाल के वर्षों में एआई में तेजी से प्रगति इन एआई शासन ढांचे को पीछे छोड़ सकती है। इस संबंध में, एआई सिस्टम की निष्पक्षता, व्याख्यात्मकता और नैतिकता का मूल्यांकन करने के लिए एक ढांचे की आवश्यकता है।

4. नियमन

जैसे-जैसे एआई सिस्टम अधिक व्यापक होते जा रहे हैं, नैतिक और सामाजिक मूल्यों पर विचार करने के लिए नियमन की आवश्यकता है। जिम्मेदार एआई में एक महत्वपूर्ण चुनौती यह है कि एआई नवाचार को दबाने के बिना नियमन विकसित किया जाए।

सामान्य डेटा संरक्षण नियम (जीडीपीआर), कैलिफोर्निया उपभोक्ता गोपनीयता अधिनियम (सीसीपीए) और व्यक्तिगत जानकारी संरक्षण कानून (पीआईपीएल) जैसे नियामक निकायों के बावजूद, एआई शोधकर्ताओं ने पाया कि 97% यूरोपीय संघ की वेबसाइटें जीडीपीआर कानूनी ढांचे की आवश्यकताओं का पालन नहीं करती हैं।

इसके अलावा, विधायकों को एआई की परिभाषा पर सहमत होने में एक महत्वपूर्ण चुनौती का सामना करना पड़ता है, जिसमें क्लासिक एआई सिस्टम और नवीनतम एआई अनुप्रयोग शामिल हैं।

जिम्मेदार एआई के 3 प्रमुख लाभ

1. कम पूर्वाग्रह

जिम्मेदार एआई निर्णय लेने की प्रक्रियाओं में पूर्वाग्रह को कम करता है, जिससे एआई सिस्टम में विश्वास बढ़ता है। एआई सिस्टम में पूर्वाग्रह को कम करने से निष्पक्ष और समान स्वास्थ्य देखभाल प्रणाली और वित्तीय सेवाओं में पूर्वाग्रह को कम किया जा सकता है।

2. बढ़ी हुई पारदर्शिता

जिम्मेदार एआई पारदर्शी एआई अनुप्रयोग बनाता है जो एआई सिस्टम में विश्वास बढ़ाता है। पारदर्शी एआई सिस्टम त्रुटि और दुरुपयोग के जोखिम को कम करते हैं। बढ़ी हुई पारदर्शिता एआई सिस्टम की लेखा परीक्षा को आसान बनाती है, हितधारकों का विश्वास जीतती है और जवाबदेह एआई सिस्टम का नेतृत्व करती है।

3. बेहतर सुरक्षा

सुरक्षित एआई अनुप्रयोग डेटा गोपनीयता सुनिश्चित करते हैं, विश्वसनीय और हानिरहित आउटपुट उत्पन्न करते हैं और साइबर हमलों से सुरक्षित होते हैं।

माइक्रोसॉफ्ट और गूगल जैसी प्रौद्योगिकी दिग्गज कंपनियां, जो एआई सिस्टम विकसित करने में अग्रणी हैं, ने जिम्मेदार एआई के सिद्धांत विकसित किए हैं। जिम्मेदार एआई सुनिश्चित करता है कि एआई में नवाचार व्यक्तियों और समाज के लिए हानिकारक नहीं है।

विचार नेताओं, शोधकर्ताओं, संगठनों और कानूनी अधिकारियों को जिम्मेदार एआई साहित्य की निरंतर समीक्षा करनी चाहिए ताकि एआई नवाचार के लिए सुरक्षित भविष्य सुनिश्चित किया जा सके।

एआई से संबंधित अधिक सामग्री के लिए, unite.ai पर जाएं。