आर्टिफ़िशियल इंटेलिजेंस में पूर्वाग्रह का पर्दाफ़ाश: चुनौतियाँ और समाधान

हाल के वर्षों में जेनरेटिव आर्टिफ़िशियल इंटेलिजेंस की प्रगति ने विभिन्न उद्योगों में एंटरप्राइज़ अनुप्रयोगों में वृद्धि देखी है, जिनमें वित्त, स्वास्थ्य सेवा, परिवहन शामिल हैं। इस प्रौद्योगिकी का विकास साइबर सुरक्षा रक्षा प्रौद्योगिकियों, क्वांटम कंप्यूटिंग में प्रगति और नए वायरलेस संचार तकनीकों जैसी अन्य उभरती प्रौद्योगिकियों को भी जन्म देगा। हालांकि, इस अगली पीढ़ी की प्रौद्योगिकियों के विस्फोट के साथ अपनी खुद की चुनौतियाँ आती हैं।

उदाहरण के लिए, आर्टिफ़िशियल इंटेलिजेंस को अपनाने से अधिक जटिल साइबर हमले हो सकते हैं, कंप्यूट पावर में वृद्धि के कारण मेमोरी और स्टोरेज की बोतलें और आर्टिफ़िशियल इंटेलिजेंस मॉडल द्वारा प्रस्तुत पूर्वाग्रहों के नैतिक चिंताएं। अच्छी खबर यह है कि एनटीटी रिसर्च ने गहरे तंत्रिका नेटवर्क (डीएनएन) में पूर्वाग्रह को दूर करने का एक तरीका प्रस्तावित किया है, जो एक प्रकार की आर्टिफ़िशियल इंटेलिजेंस है।

यह शोध एक महत्वपूर्ण सफलता है, क्योंकि पूर्वाग्रह-मुक्त आर्टिफ़िशियल इंटेलिजेंस मॉडल नियुक्ति, आपराधिक न्याय प्रणाली और स्वास्थ्य सेवा में योगदान करेंगे जब वे जैसे विशेषताओं से प्रभावित नहीं होंगे। भविष्य में, भेदभाव को उन kinds के स्वचालित प्रणालियों का उपयोग करके समाप्त किया जा सकता है, जिससे उद्योग-व्यापी डीईएंडआई व्यवसाय पहल को बेहतर बनाने में मदद मिलेगी। अंत में, पूर्वाग्रह-मुक्त आर्टिफ़िशियल इंटेलिजेंस मॉडल उत्पादकता में सुधार करेंगे और इन कार्यों को पूरा करने में लगने वाले समय को कम करेंगे। हालांकि, कुछ व्यवसायों को अपने आर्टिफ़िशियल इंटेलिजेंस-जनित कार्यक्रमों को बंद करने के लिए मजबूर किया गया है क्योंकि प्रौद्योगिकी के पक्षपातपूर्ण समाधान हैं।

उदाहरण के लिए, अमेज़न ने एक भर्ती एल्गोरिदम का उपयोग बंद कर दिया जब उसने पाया कि एल्गोरिदम में महिलाओं के खिलाफ पक्षपात था, क्योंकि यह उन आवेदकों को पसंद करता था जिन्होंने अपने रेज़्यूमे में “निष्पादित” या “पकड़ा” जैसे शब्दों का अधिक बार उपयोग किया था। एक और पूर्वाग्रह का उदाहरण जॉय बुओलामविनी से आता है, जो 2023 में टाइम के अनुसार आर्टिफ़िशियल इंटेलिजेंस में सबसे प्रभावशाली लोगों में से एक हैं, जिन्होंने एमआईटी में टिमनिट गेब्रू के साथ मिलकर दिखाया कि चेहरे की विश्लेषण प्रौद्योगिकियों में अल्पसंख्यकों के लिए अधिक त्रुटि दर थी, विशेष रूप से अल्पसंख्यक महिलाओं के लिए, संभावित रूप से अपर्याप्त प्रतिनिधित्व वाले प्रशिक्षण डेटा के कारण।

हाल के वर्षों में, डीएनएन विज्ञान, इंजीनियरिंग और व्यवसाय में सर्वव्यापी हो गए हैं, और यहां तक कि लोकप्रिय अनुप्रयोगों में भी, लेकिन वे कभी-कभी ऐसे उपायों पर निर्भर करते हैं जो पूर्वाग्रह पैदा कर सकते हैं। एमआईटी के एक अध्ययन के अनुसार, वैज्ञानिकों ने हाल के वर्षों में गहरे तंत्रिका नेटवर्क विकसित किए हैं जो ध्वनियों और छवियों सहित विभिन्न प्रकार के इनपुट का विश्लेषण कर सकते हैं। ये नेटवर्क साझा विशेषताओं की पहचान कर सकते हैं, जिससे उन्हें लक्ष्य शब्दों या वस्तुओं को वर्गीकृत करने में सक्षम बनाता है। वर्तमान में, ये मॉडल जैविक संवेदी प्रणालियों की नकल करने के लिए क्षेत्र में प्राथमिक मॉडल हैं।

एनटीटी रिसर्च के वरिष्ठ वैज्ञानिक और हार्वर्ड विश्वविद्यालय के सेंटर फॉर ब्रेन साइंस में एसोसिएट हिडेनोरी तानाका और तीन अन्य वैज्ञानिकों ने एक नए एल्गोरिदम के साथ एक डीएनएन की त्रुटियों या “नुकसान” को कम करने के लिए एक नए तरीके का प्रस्ताव किया है, जो मॉडल की पूर्वाग्रह-प्रवण विशेषताओं पर निर्भरता को कम करता है।

उन्होंने मोड कनेक्टिविटी के माध्यम से तंत्रिका नेटवर्क के नुकसान के परिदृश्य का अध्ययन किया, यह अवलोकन कि न्यूरल नेटवर्क के न्यूनतमकर्ता, जो प्रशिक्षण डेटासेट पर प्रशिक्षित किए जाते हैं, सरल पथों के माध्यम से जुड़े हुए हैं जो कम नुकसान हैं। विशेष रूप से, उन्होंने निम्नलिखित प्रश्न पूछा:

वे यह जानना चाहते थे कि क्या विभिन्न तंत्रों द्वारा अपनी भविष्यवाणियां करने वाले न्यूनतमकर्ता कम नुकसान वाले सरल पथों से जुड़े हुए हैं? उन्होंने पाया कि निष्क्रिय ठीक-ट्यूनिंग मॉडल के निर्णय लेने के तंत्र को मौलिक रूप से बदलने में असमर्थ है, क्योंकि यह नुकसान के परिदृश्य पर एक अलग घाटी में जाने की आवश्यकता है। इसके बजाय, आपको मॉडल को कम नुकसान वाले “सिंक” या “घाटियों” को अलग करने वाली बाधाओं पर चलाने की आवश्यकता है। लेखक इस सुधारात्मक एल्गोरिदम को कनेक्टिविटी-आधारित फ़ाइन-ट्यूनिंग (सीबीएफटी) कहते हैं।

इस विकास से पहले, एक डीएनएन, जो छवियों जैसे मछली (इस अध्ययन में उपयोग की जाने वाली एक छवि) को वर्गीकृत करता है, वस्तु के आकार और पृष्ठभूमि दोनों को इनपुट पैरामीटर के रूप में उपयोग करता है। इसके नुकसान-कम करने वाले पथ इसलिए यांत्रिक रूप से भिन्न मोड में काम करेंगे: एक वैध विशेषता के रूप में आकार पर निर्भर, और दूसरा पृष्ठभूमि रंग के रूप में एक पूर्वाग्रहपूर्ण विशेषता पर निर्भर। इस प्रकार, ये मोड रैखिक कनेक्टिविटी की कमी होगी, या कम नुकसान वाला एक सरल पथ।

शोध टीम ने मोड कनेक्टिविटी पर एक यांत्रिक दृष्टिकोण को समझने के लिए दो सेट पैरामीटरों पर विचार किया जो क्रमशः पृष्ठभूमि और वस्तु के आकार के रूप में इनपुट विशेषताओं का उपयोग करके नुकसान को कम करते हैं। और फिर उन्होंने खुद से पूछा, क्या ऐसे यांत्रिक रूप से भिन्न न्यूनतमकर्ता नुकसान के परिदृश्य में कम नुकसान वाले पथों से जुड़े हुए हैं? क्या इन तंत्रों की भिन्नता उनके कनेक्टिविटी पथों की सरलता को प्रभावित करती है? क्या हम इस कनेक्टिविटी का उपयोग वांछित तंत्रों का उपयोग करने वाले न्यूनतमकर्ताओं के बीच स्विच करने के लिए कर सकते हैं?

दूसरे शब्दों में, गहरे तंत्रिका नेटवर्क, जो एक विशिष्ट डेटासेट पर प्रशिक्षित होते हैं, जब उन्हें एक अलग डेटासेट पर परीक्षण किया जाता है, तो वे बहुत अलग व्यवहार कर सकते हैं। टीम का प्रस्ताव मूल रूप से साझा समानताओं की अवधारणा पर आधारित था। यह पिछले मोड कनेक्टिविटी के विचार पर आधारित है, लेकिन एक मोड़ के साथ – यह तंत्रों के समानता पर विचार करता है। उनके शोध ने निम्नलिखित निष्कर्षों को जन्म दिया:

• विभिन्न तंत्रों वाले न्यूनतमकर्ता जटिल, गैर-रैखिक तरीके से जुड़े हो सकते हैं
• जब दो न्यूनतमकर्ता रैखिक रूप से जुड़े होते हैं, तो यह उनके तंत्रों की समानता से जुड़ा होता है
• साधारण फ़ाइन-ट्यूनिंग पर्याप्त नहीं हो सकती है उन अवांछित विशेषताओं को दूर करने के लिए जो पहले प्रशिक्षण के दौरान उठाई गई थीं
• यदि आप परिदृश्य में रैखिक रूप से विच्छिन्न क्षेत्रों को पाते हैं, तो आप मॉडल के आंतरिक कार्यों में कुशल परिवर्तन कर सकते हैं

जबकि यह शोध आर्टिफ़िशियल इंटेलिजेंस की पूरी क्षमता को हार्नेस करने में एक बड़ा कदम है, आर्टिफ़िशियल इंटेलिजेंस के आसपास के नैतिक चिंताएं अभी भी एक ऊपर की लड़ाई हो सकती हैं। प्रौद्योगिकीविदों और शोधकर्ताओं को आर्टिफ़िशियल इंटेलिजेंस और अन्य बड़े भाषा मॉडलों में गोपनीयता, स्वायत्तता, दायित्व जैसी अन्य नैतिक कमजोरियों से निपटने के लिए काम करना जारी रखना होगा।

आर्टिफ़िशियल इंटेलिजेंस का उपयोग व्यक्तिगत डेटा की विशाल मात्रा को इकट्ठा करने और संसाधित करने के लिए किया जा सकता है। इस डेटा का अनधिकृत या अनैतिक उपयोग व्यक्तियों की गोपनीयता को खतरे में डाल सकता है, जिससे निगरानी, डेटा उल्लंघन और पहचान की चोरी के बारे में चिंताएं उत्पन्न हो सकती हैं। आर्टिफ़िशियल इंटेलिजेंस स्वायत्त अनुप्रयोगों जैसे स्व-ड्राइविंग कारों के दायित्व के मामले में भी खतरा पैदा कर सकता है। दायित्व और जवाबदेही के लिए कानूनी ढांचे और नैतिक मानकों की स्थापना आगामी वर्षों में आवश्यक होगी।

निष्कर्ष में, जेनरेटिव आर्टिफ़िशियल इंटेलिजेंस प्रौद्योगिकी की तेजी से वृद्धि विभिन्न उद्योगों के लिए आशा की किरण है, जिनमें वित्त, स्वास्थ्य सेवा और परिवहन शामिल हैं। इन वादा भरे विकास के बावजूद, आर्टिफ़िशियल इंटेलिजेंस के आसपास की नैतिक चिंताएं अभी भी महत्वपूर्ण हैं। जब हम इस आर्टिफ़िशियल इंटेलिजेंस के परिवर्तनकारी युग को नेविगेट करते हैं, तो यह आवश्यक है कि प्रौद्योगिकीविदों, शोधकर्ताओं और नीति निर्माताओं को मिलकर काम करने के लिए कानूनी ढांचे और नैतिक मानकों की स्थापना करने के लिए जो आर्टिफ़िशियल इंटेलिजेंस प्रौद्योगिकी के जिम्मेदार और लाभकारी उपयोग को सुनिश्चित करेंगे। एनटीटी रिसर्च और मिशिगन विश्वविद्यालय के वैज्ञानिक आर्टिफ़िशियल इंटेलिजेंस में पूर्वाग्रह को दूर करने के लिए एक एल्गोरिदम के प्रस्ताव के साथ खेल से आगे हैं और आगे बढ़ रहे हैं।