5 मूलभूत स्तंभ जो जिम्मेदार AI को सुनिश्चित करने के लिए आवश्यक हैं

हम नए डिजिटल अर्थव्यवस्था में उत्पन्न होने वाले डेटा के महासागरों को संसाधित करने के लिए एआई/एमएल सिस्टम में अभिभूत विकास देख रहे हैं। हालांकि, इस विकास के साथ, एआई के नैतिक और कानूनी निहितार्थों पर गंभीरता से विचार करने की आवश्यकता है।

जैसा कि हम एआई सिस्टम को अधिक जटिल और महत्वपूर्ण कार्यों को सौंपते हैं, जैसे कि स्वचालित ऋण अनुमोदन, हमें यह सुनिश्चित करना होगा कि ये सिस्टम जिम्मेदार और विश्वसनीय हैं। एआई में पूर्वाग्रह को कम करना एक बड़ा क्षेत्र बन गया है और इसके बड़े नैतिक निहितार्थ हैं, जैसे कि हम इन सिस्टम को कितनी स्वतंत्रता देते हैं।

जिम्मेदार एआई की अवधारणा एक महत्वपूर्ण ढांचा है जो आपके एआई डिप्लॉयमेंट में विश्वास बनाने में मदद कर सकता है। जिम्मेदार एआई के लिए पांच मूलभूत स्तंभ हैं। यह लेख इन्हें विस्तार से बताने के लिए है ताकि आप बेहतर सिस्टम बना सकें।

1. पुनरुत्पादन

सॉफ्टवेयर विकास की दुनिया में एक पुरानी कहावत है जो कहती है: “हे, यह मेरे कंप्यूटर पर काम करता है” एमएल और एआई में, यह वाक्य इस तरह बदल सकता है: “हे, यह मेरे डेटासेट पर काम करता है” इसका मतलब यह है कि मशीन लर्निंग मॉडल अक्सर एक ब्लैक बॉक्स हो सकते हैं। कई प्रशिक्षण डेटासेट में नमूना पूर्वाग्रह या पुष्टि पूर्वाग्रह जैसे अंतर्निहित पूर्वाग्रह हो सकते हैं जो अंतिम उत्पाद की सटीकता को कम कर सकते हैं।

एआई/एमएल सिस्टम को अधिक पुनरुत्पादन योग्य बनाने में मदद करने के लिए, पहला कदम एमएलओप्स पाइपलाइन को मानकीकृत करना है। यहां तक कि सबसे चतुर डेटा वैज्ञानिकों के पास अपनी पसंदीदा प्रौद्योगिकियां और लाइब्रेरी होती हैं, जिसका अर्थ है कि फीचर इंजीनियरिंग और परिणामी मॉडल व्यक्ति से व्यक्ति के लिए एकसमान नहीं होते हैं। एमएलफ्लो जैसे टूल्स का उपयोग करके, आप एमएलओप्स पाइपलाइन को मानकीकृत कर सकते हैं और इन अंतरों को कम कर सकते हैं।

एआई/एमएल सिस्टम को अधिक पुनरुत्पादन योग्य बनाने का एक और तरीका “गोल्ड डेटासेट” का उपयोग है। ये प्रतिनिधि डेटासेट हैं जो मूल रूप से नए मॉडलों के परीक्षण और सत्यापन के रूप में कार्य करते हैं जो उत्पादन के लिए जारी किए जाने से पहले।

2. पारदर्शिता

जैसा कि पहले कहा गया है, कई एमएल मॉडल, विशेष रूप से न्यूरल नेटवर्क, ब्लैक बॉक्स हैं। उन्हें अधिक जवाबदेह बनाने के लिए, हमें उन्हें अधिक व्याख्यात्मक बनाने की आवश्यकता है। सरल सिस्टम जैसे कि निर्णय पेड़ के लिए, यह समझना बहुत आसान है कि सिस्टम ने एक निश्चित निर्णय क्यों लिया, लेकिन जैसा कि एआई सिस्टम की सटीकता और जटिलता बढ़ जाती है, इसकी व्याख्यात्मकता अक्सर कम हो जाती है।

एक新的 शोध क्षेत्र है जिसे “व्याख्यात्मकता” कहा जाता है, जो जटिल एआई सिस्टम जैसे कि न्यूरल नेटवर्क और गहरे शिक्षण को पारदर्शिता लाने की कोशिश कर रहा है। ये प्रॉक्सी मॉडल का उपयोग करके न्यूरल नेटवर्क के प्रदर्शन की नकल करते हैं, लेकिन वे यह भी समझाने की कोशिश करते हैं कि कौन से विशेषताएं महत्वपूर्ण हैं।

यह सब न्यायसंगतता की ओर ले जाता है; आप जानना चाहते हैं कि एक निश्चित निर्णय क्यों लिया गया और सुनिश्चित करें कि यह निर्णय न्यायसंगत है। आप यह भी सुनिश्चित करना चाहते हैं कि अनुपयुक्त विशेषताएं नहीं मानी जाती हैं ताकि पूर्वाग्रह आपके मॉडल में प्रवेश न करे।

3. जवाबदेही

संभवतः जिम्मेदार एआई का सबसे महत्वपूर्ण पहलू जवाबदेही है। इस विषय पर बहुत चर्चा है, यहां तक कि सरकारी क्षेत्र में, क्योंकि यह उन नीतियों से संबंधित है जो एआई परिणामों को चला रही हैं। यह नीति-निर्देशित दृष्टिकोण यह निर्धारित करता है कि मानव को किस चरण में शामिल किया जाना चाहिए।

जवाबदेही के लिए मजबूत मॉनिटर और मैट्रिक्स की आवश्यकता होती है जो नीति निर्माताओं और एआई/एमएल सिस्टम को मार्गदर्शन करने में मदद करें। जवाबदेही वास्तव में पुनरुत्पादन और पारदर्शिता को एक साथ जोड़ती है, लेकिन यह प्रभावी पर्यवेक्षण की आवश्यकता होती है, जो एआई नैतिकता समितियों के रूप में हो सकती है। ये समितियां नीति निर्णय ले सकती हैं, यह तय कर सकती हैं कि क्या महत्वपूर्ण है, और न्यायसंगतता की समीक्षा कर सकती हैं।

4. सुरक्षा

एआई सुरक्षा डेटा की गोपनीयता और अखंडता पर केंद्रित है। जब सिस्टम डेटा को संसाधित कर रहे होते हैं, तो आप चाहते हैं कि वे एक सुरक्षित वातावरण में हों। आप चाहते हैं कि डेटा आपके डेटाबेस में आराम करते समय और पाइपलाइन के माध्यम से बुलाते समय दोनों एन्क्रिप्ट किया जाए, लेकिन जब यह एक मशीन लर्निंग मॉडल में प्लेन टेक्स्ट के रूप में फीड किया जाता है तो कमजोरियां अभी भी मौजूद हैं। होमोमॉर्फिक एन्क्रिप्शन जैसी प्रौद्योगिकियां इस समस्या को हल करती हैं जो एन्क्रिप्टेड वातावरण में मशीन लर्निंग प्रशिक्षण की अनुमति देती हैं।

एक और पहलू मॉडल की सुरक्षा है। उदाहरण के लिए, मॉडल इनवर्जन हमले हैकरों को मॉडल के निर्माण के लिए उपयोग किए जाने वाले प्रशिक्षण डेटा सीखने की अनुमति देते हैं। मॉडल जहरीले हमले भी हैं जो प्रशिक्षण के दौरान मॉडल में खराब डेटा डालते हैं और इसके प्रदर्शन को पूरी तरह से नुकसान पहुंचाते हैं। अपने मॉडल का परीक्षण करना इन जैसे विरोधी हमलों के लिए इसे सुरक्षित और सुरक्षित रख सकता है।

5. गोपनीयता

गूगल और ओपनमाइंड दो संगठन हैं जो हाल ही में एआई गोपनीयता पर जोर दे रहे हैं, और ओपनमाइंड ने इस विषय पर हाल ही में एक सम्मेलन आयोजित किया है। जीडीपीआर और सीसीपीए जैसे नए नियमों के साथ, और संभावित रूप से अधिक आने वाले हैं, गोपनीयता एआई मॉडल को प्रशिक्षित करने के तरीके में एक केंद्रीय भूमिका निभाएगी।

ग्राहकों के डेटा को गोपनीयता-संवेदनशील तरीके से संभालने का एक तरीका यह है कि संघीय सीखने का उपयोग किया जाए। यह विकेंद्रीकृत मशीन लर्निंग का तरीका है जो स्थानीय रूप से अलग-अलग मॉडल को प्रशिक्षित करता है, और फिर एक केंद्रीय केंद्र में प्रत्येक मॉडल को समग्र करता है, डेटा को सुरक्षित, सुरक्षित और निजी रखते हुए। एक और तरीका यह है कि सांख्यिकीय शोर पेश किया जाए ताकि ग्राहकों के व्यक्तिगत मान न छूटें। यह आपको समग्र के साथ काम करने में मदद करता है ताकि एक व्यक्ति का डेटा बरकरार रहे और एल्गोरिदम के लिए उपलब्ध न हो।

एआई को जिम्मेदार रखना

 अंततः, एआई को जिम्मेदार रखना प्रत्येक संगठन के लिए है जो एआई/एमएल सिस्टम डिजाइन कर रहा है। जिम्मेदार एआई के इन पांच पहलुओं के भीतर प्रौद्योगिकियों का जानबूझकर पीछा करके, आप न केवल कृत्रिम बुद्धिमत्ता की शक्ति का लाभ उठा सकते हैं, बल्कि आप ऐसा एक विश्वसनीय और सीधे तरीके से कर सकते हैं जो आपके संगठन, ग्राहकों और नियामकों को आश्वस्त करेगा।