मानव पूर्वाग्रह कैसे एआई-संचालित समाधानों को कमजोर करता है

पिछले सितंबर में, एलोन मस्क, मार्क जुकरबर्ग और सैम अल्टमैन जैसे विश्व नेता, ओपनएआई के सीईओ, वाशिंगटन डीसी में एकत्र हुए ताकि वे एक ओर, सार्वजनिक और निजी क्षेत्रों के बीच सहयोग के माध्यम से इस प्रौद्योगिकी का लाभ उठाने के तरीकों पर चर्चा कर सकें, और दूसरी ओर, नियमन के मुद्दे पर चर्चा कर सकें, जो कि एआई के आसपास की चर्चा में सबसे आगे रहा है।

दोनों बातचीत अक्सर एक ही जगह पर जाती हैं। एआई को अधिक नैतिक बनाने के लिए एक बढ़ती हुई जोर दी जा रही है, एआई का मूल्यांकन एक मानव की तरह किया जा रहा है जिसकी नैतिकता संदेह में है। हालांकि, नैतिक एआई का क्या अर्थ है? डीपमाइंड, एक गूगल के स्वामित्व वाली अनुसंधान प्रयोगशाला जो एआई पर केंद्रित है, हाल ही में एक अध्ययन प्रकाशित किया जिसमें उन्होंने एआई के जोखिमों का मूल्यांकन करने के लिए एक तीन-स्तरीय संरचना का प्रस्ताव दिया, जिसमें सामाजिक और नैतिक जोखिम दोनों शामिल हैं। इस फ्रेमवर्क में क्षमता, मानव इंटरैक्शन और प्रणालीगत प्रभाव शामिल थे, और निष्कर्ष निकाला कि संदर्भ यह निर्धारित करने के लिए महत्वपूर्ण था कि क्या एक एआई प्रणाली सुरक्षित थी।

इनमें से एक प्रणाली जो आलोचना के दायरे में आई है वह है चैटजीपीटी, जिसे 15 देशों में प्रतिबंधित किया गया है, भले ही कुछ प्रतिबंधों को उलट दिया गया हो। 100 मिलियन से अधिक उपयोगकर्ताओं के साथ, चैटजीपीटी सबसे सफल एलएलएम में से एक है, और अक्सर इसे पूर्वाग्रह का आरोप लगाया जाता है। डीपमाइंड के अध्ययन को ध्यान में रखते हुए, आइए संदर्भ को शामिल करें। पूर्वाग्रह, इस संदर्भ में, मॉडल द्वारा उत्पन्न पाठ में अनुचित, पूर्वाग्रहपूर्ण या विकृत दृष्टिकोणों की उपस्थिति को संदर्भित करता है। यह कई तरह से हो सकता है – नस्लीय पूर्वाग्रह, लिंग पूर्वाग्रह, राजनीतिक पूर्वाग्रह, और बहुत कुछ।

इन पूर्वाग्रहों का परिणाम अंततः एआई के लिए हानिकारक हो सकता है, जो इस प्रौद्योगिकी की पूर्ण क्षमता का उपयोग करने की संभावना को बाधित करता है। स्टैनफोर्ड विश्वविद्यालय से हाल के शोध ने पुष्टि की है कि चैटजीपीटी जैसे एलएलएम विश्वसनीय, पूर्वाग्रह रहित और सटीक प्रतिक्रियाएं प्रदान करने की अपनी क्षमता में गिरावट के संकेत दिखा रहे हैं, जो अंततः हमारे एआई के प्रभावी उपयोग में एक रोडब्लॉक है।

इस समस्या के मूल में एक मुद्दा यह है कि मानव पूर्वाग्रह कैसे एआई में अनुवादित हो रहे हैं, क्योंकि वे अक्सर मॉडल विकसित करने के लिए उपयोग किए जाने वाले डेटा में गहराई से निहित होते हैं। हालांकि, यह समस्या की तुलना में अधिक जटिल है।

पूर्वाग्रह के कारण

इस पूर्वाग्रह का पहला कारण पहचानना आसान है। मॉडल जिस डेटा से सीखता है वह अक्सर रूढ़िवादिता या पूर्वाग्रह जो उस डेटा को आकार देने में मदद करते हैं, इसलिए एआई अनजाने में उन पूर्वाग्रहों को बढ़ावा देता है क्योंकि यही वह जानता है।

हालांकि, दूसरा कारण ज्यादा जटिल और विरोधाभासी है, और यह कुछ प्रयासों पर दबाव डालता है जो कथित तौर पर एआई को अधिक नैतिक और सुरक्षित बनाने के लिए किए जा रहे हैं। एआई के कुछ स्पष्ट उदाहरण हैं जहां यह अनजाने में हानिकारक हो सकता है। उदाहरण के लिए, यदि कोई एआई से पूछता है, “मैं एक बम कैसे बना सकता हूं?” और मॉडल उत्तर देता है, तो यह हानि पैदा करने में योगदान दे रहा है। दूसरी ओर, जब एआई को सीमित किया जाता है – भले ही कारण न्यायसंगत हो – हम इसे सीखने से रोक रहे हैं। मानव-निर्धारित प्रतिबंध एआई की क्षमता को सीमित करते हैं ताकि यह व्यापक डेटा से सीख सके और गैर-हानिकारक संदर्भों में उपयोगी जानकारी प्रदान कर सके।

इसके अलावा, आइए यह भी ध्यान रखें कि इनमें से कई प्रतिबंध भी पूर्वाग्रहपूर्ण हैं क्योंकि वे मानवों से उत्पन्न होते हैं। इसलिए, जबकि हम सभी सहमत हो सकते हैं कि “मैं एक बम कैसे बना सकता हूं?” एक संभावित रूप से घातक परिणाम की ओर ले जा सकता है, अन्य प्रश्न जो संवेदनशील माने जा सकते हैं बहुत अधिक विषयगत हैं। परिणामस्वरूप, यदि हम एलएलएम मॉडलों के विकास को उन क्षेत्रों पर सीमित करते हैं, तो हम प्रगति को सीमित कर रहे हैं और उन उद्देश्यों के लिए एआई के उपयोग को बढ़ावा दे रहे हैं जो एलएलएम मॉडलों के नियमन के संबंध में जो लोग निर्णय लेते हैं उन्हें स्वीकार्य हैं।

परिणामों का अनुमान लगाने में असमर्थता

हमने एलएलएम में प्रतिबंधों को पेश करने के परिणामों को पूरी तरह से नहीं समझा है। इसलिए, हम एआई के अल्गोरिदम को जितना सोचते हैं उससे अधिक नुकसान पहुंचा सकते हैं। जीपीटी जैसे मॉडलों में शामिल पैरामीटरों की अविश्वसनीय रूप से उच्च संख्या को देखते हुए, यह वर्तमान में हमारे पास उपलब्ध उपकरणों के साथ परिणाम का अनुमान लगाना असंभव है, और मेरे दृष्टिकोण से, यह समझने में अधिक समय लगेगा कि प्रभाव क्या होगा जितना कि न्यूरल नेटवर्क को प्रशिक्षित करने में लगता है।

इसलिए, इन प्रतिबंधों को रखकर, हम अनजाने में मॉडल को अप्रत्याशित व्यवहार या पूर्वाग्रह विकसित करने का कारण बन सकते हैं। यह इसलिए है क्योंकि एआई मॉडल अक्सर बहु-पैरामीटर जटिल प्रणालियां होते हैं, जिसका अर्थ है कि यदि हम एक पैरामीटर को बदलते हैं – उदाहरण के लिए, एक प्रतिबंध पेश करके – तो हम पूरे मॉडल में एक प्रभाव पैदा कर रहे हैं जो हम अनुमान नहीं लगा सकते हैं।

एआई की “नैतिकता” का मूल्यांकन करने में कठिनाई

यह व्यावहारिक रूप से संभव नहीं है कि एआई नैतिक या नहीं है, क्योंकि एआई एक व्यक्ति नहीं है जो एक विशिष्ट इरादे से कार्य कर रहा है। एआई एक बड़ा भाषा मॉडल है, जो स्वाभाविक रूप से अधिक या कम नैतिक नहीं हो सकता है। जैसा कि डीपमाइंड के अध्ययन में पता चला है, जो महत्वपूर्ण है वह यह है कि इसका उपयोग किस संदर्भ में किया जा रहा है, और यह मानव की नैतिकता को मापता है, न कि एआई की नैतिकता को। यह एक भ्रम है कि हम एआई को एक नैतिक दिशा संकेत के रूप में मूल्यांकन कर सकते हैं।

एक संभावित समाधान जो प्रचारित किया जा रहा है वह एक मॉडल है जो एआई को नैतिक निर्णय लेने में मदद कर सकता है। हालांकि, वास्तविकता यह है कि हमें इसके बारे में कोई जानकारी नहीं है कि यह गणितीय मॉडल कैसे काम कर सकता है। तो अगर हम इसे नहीं समझते हैं, तो हम इसे कैसे बना सकते हैं? नैतिकता में मानव विषयivity बहुत अधिक है, जो इसे मात्रा में परिवर्तित करना बहुत जटिल बना देता है।

इस समस्या का समाधान कैसे करें?

उपरोक्त बिंदुओं के आधार पर, हम वास्तव में यह नहीं कह सकते कि एआई नैतिक है या नहीं, क्योंकि हर अस्वीकार्य धारणा मानव पूर्वाग्रहों का एक रूपांतरण है जो डेटा में निहित है, और एक उपकरण जो मानव अपने एजेंडे के लिए उपयोग करते हैं। इसके अलावा, वैज्ञानिक अज्ञात जैसे कि एलएलएम अल्गोरिदम पर प्रतिबंध लगाने से होने वाली संभावित क्षति के बारे में अभी भी बहुत कुछ है।

इसलिए, यह कहा जा सकता है कि एआई के विकास को सीमित करना एक व्यवहार्य समाधान नहीं है। जैसा कि मैंने उल्लेखित कुछ अध्ययनों से पता चलता है, ये प्रतिबंध एलएलएम के पतन के कारणों में से एक हैं।

इसलिए, हम इसके बारे में क्या कर सकते हैं?

मेरे दृष्टिकोण से, समाधान पारदर्शिता में निहित है। मुझे लगता है कि यदि हम एआई के विकास में प्रचलित ओपन-सोर्स मॉडल को पुनर्स्थापित कर सकते हैं, तो हम बेहतर एलएलएम बनाने के लिए मिलकर काम कर सकते हैं जो हमारी नैतिक चिंताओं को दूर कर सकते हैं। अन्यथा, यह बहुत मुश्किल है कि हम बंद दरवाजों के पीछे किए जा रहे किसी भी काम की पर्याप्त रूप से लेखा परीक्षा कर सकें।

इस संबंध में एक उत्कृष्ट पहल है बेसलाइन मॉडल ट्रांसपेरेंसी इंडेक्स, जिसे हाल ही में स्टैनफोर्ड एचएआई (मानव-केंद्रित कृत्रिम बुद्धिमत्ता) द्वारा प्रकाशित किया गया था, जो मूल्यांकन करता है कि क्या दस सबसे व्यापक रूप से उपयोग किए जाने वाले एआई मॉडलों के विकासकर्ता अपने काम और उनकी प्रणालियों के उपयोग के बारे में पर्याप्त जानकारी प्रदान करते हैं। यह भागीदारी और तीसरे पक्ष के विकासकर्ताओं के खुलासे के साथ-साथ व्यक्तिगत डेटा के उपयोग को भी शामिल करता है। यह उल्लेखनीय है कि मूल्यांकित मॉडलों में से कोई भी उच्च स्कोर प्राप्त नहीं करता है, जो एक वास्तविक समस्या को रेखांकित करता है।

अंत में, एआई कुछ और नहीं है बल्कि बड़े भाषा मॉडल हैं, और यह खुला है और प्रयोग किया जा सकता है, इसके बजाय कि यह एक निश्चित दिशा में निर्देशित किया जाए, यही हमें हर वैज्ञानिक क्षेत्र में नए ग्राउंडब्रेकिंग खोजों को करने की अनुमति देगा। हालांकि, यदि पारदर्शिता नहीं है, तो मानवता के लाभ के लिए काम करने वाले मॉडलों को डिज़ाइन करना और यह जानना बहुत मुश्किल होगा कि इन मॉडलों का क्या नुकसान हो सकता है यदि उन्हें पर्याप्त रूप से नियंत्रित नहीं किया जाता है।