एआई मॉडल और प्लेटफ़ॉर्म
एआई पूर्वाग्रह और सांस्कृतिक रूढ़िवादिता: प्रभाव, सीमाएं और कम करने के तरीके
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
आर्टिफ़िशियल इंटेलिजेंस (एआई), विशेष रूप से जनरेटिव एआई, मानव संज्ञान और बुद्धिमत्ता को समझने और नकल करने की अपनी क्षमता के साथ अपेक्षाओं को पार कर रहा है। हालांकि, कई मामलों में, एआई प्रणालियों के परिणाम या भविष्यवाणियां विभिन्न प्रकार के एआई पूर्वाग्रह को प्रतिबिंबित कर सकती हैं, जैसे कि सांस्कृतिक और जातीय।
Buzzfeed के “बार्बी ऑफ द वर्ल्ड” ब्लॉग (जो अब हटा दिया गया है) इन सांस्कृतिक पूर्वाग्रहों और अशुद्धियों को स्पष्ट रूप से प्रदर्शित करता है। इन ‘बार्बी’ को मिडजॉर्नी – एक अग्रणी एआई इमेज जनरेटर का उपयोग करके बनाया गया था, यह जानने के लिए कि विभिन्न दुनिया के हिस्सों में बार्बी कैसी दिखेंगी। हम इस पर बाद में और चर्चा करेंगे।
लेकिन यह पहली बार नहीं है जब एआई “नस्लवादी” या असटीक परिणाम उत्पन्न किया है। उदाहरण के लिए, 2022 में, एप्पल पर मुकदमा दायर किया गया था जिसमें आरोप लगाया गया था कि एप्पल वॉच के ब्लड ऑक्सीजन सेंसर में रंग के लोगों के खिलाफ पूर्वाग्रह था। एक अन्य मामले में, ट्विटर उपयोगकर्ताओं ने पाया कि ट्विटर का स्वचालित इमेज-क्रॉपिंग एआई गोरे लोगों के चेहरों को काले व्यक्तियों और पुरुषों की तुलना में महिलाओं के चेहरों पर पसंद करता था। ये महत्वपूर्ण चुनौतियां हैं, और उन्हें संबोधित करना काफी चुनौतीपूर्ण है।
इस लेख में, हम एआई पूर्वाग्रह क्या है, इसके समाज पर क्या प्रभाव पड़ता है, और व्यावहारिक रूप से इसके मुद्दों को कैसे कम किया जा सकता है, इस पर एक नज़र डालेंगे।
एआई पूर्वाग्रह क्या है?
एआई पूर्वाग्रह तब होता है जब एआई मॉडल विशिष्ट जनसांख्यिकी के खिलाफ भेदभावपूर्ण परिणाम उत्पन्न करते हैं। एआई प्रणालियों में कई प्रकार के पूर्वाग्रह हो सकते हैं और असटीक परिणाम पैदा कर सकते हैं। एआई पूर्वाग्रह के कुछ प्रकार हैं:
- रूढ़िवादिता पूर्वाग्रह: रूढ़िवादिता पूर्वाग्रह एआई मॉडल के परिणामों में रूढ़िवादिता या किसी विशिष्ट जनसांख्यिकी के बारे में धारणाओं को संदर्भित करता है।
- जातीय पूर्वाग्रह: जातीय पूर्वाग्रह एआई में तब होता है जब एआई मॉडल का परिणाम किसी व्यक्ति या समूह के खिलाफ भेदभावपूर्ण और अन्यायपूर्ण होता है, जो उनकी जाति के कारण होता है।
- सांस्कृतिक पूर्वाग्रह: सांस्कृतिक पूर्वाग्रह तब होता है जब एआई मॉडल के परिणाम एक संस्कृति को दूसरे की तुलना में पसंद करते हैं।
एआई प्रणालियों के परिणामों को बाधित करने वाले अन्य मुद्दे हैं:
- असटीकता: असटीकता तब होती है जब एआई मॉडल द्वारा उत्पन्न परिणाम असंगत प्रशिक्षण डेटा के कारण गलत होते हैं।
- हॉलुसिनेशन: हॉलुसिनेशन तब होता है जब एआई मॉडल कल्पनाशील और झूठे परिणाम उत्पन्न करते हैं जो वास्तविक डेटा पर आधारित नहीं होते हैं।
एआई पूर्वाग्रह का समाज पर प्रभाव
एआई पूर्वाग्रह का समाज पर प्रभाव हानिकारक हो सकता है। पूर्वाग्रहपूर्ण एआई प्रणालियां असटीक परिणाम उत्पन्न कर सकती हैं जो समाज में पहले से मौजूद पूर्वाग्रह को बढ़ावा देती हैं। ये परिणाम भेदभाव और अधिकारों के उल्लंघन को बढ़ा सकते हैं, नौकरी प्रक्रियाओं को प्रभावित कर सकते हैं, और एआई प्रौद्योगिकी में विश्वास को कम कर सकते हैं।
इसके अलावा, पूर्वाग्रहपूर्ण एआई परिणाम अक्सर असटीक भविष्यवाणियों की ओर ले जाते हैं जो निर्दोष व्यक्तियों के लिए गंभीर परिणाम हो सकते हैं। उदाहरण के लिए, अगस्त 2020 में, रॉबर्ट मैकडैनियल शिकागो पुलिस विभाग के भविष्यवाणी पुलिसिंग एल्गोरिदम द्वारा एक “व्यक्ति của रुचि” के रूप में चिह्नित किया गया था।
इसी तरह, पूर्वाग्रहपूर्ण स्वास्थ्य संबंधी एआई प्रणालियां रोगियों के लिए गंभीर परिणाम हो सकती हैं। 2019 में, साइंस ने पाया कि एक व्यापक रूप से उपयोग किया जाने वाला यूएस मेडिकल एल्गोरिदम रंग के लोगों के खिलाफ पूर्वाग्रहपूर्ण था, जिससे काले रोगियों को कम जोखिम वाले देखभाल प्रबंधन में कमी आई।
बार्बी ऑफ द वर्ल्ड
जुलाई 2023 में, बज़फीड ने एक ब्लॉग प्रकाशित किया जिसमें दुनिया भर की 194 एआई-जनरेटेड बार्बी शामिल थीं। पोस्ट ट्विटर पर वायरल हो गया। हालांकि बज़फीड ने एक अस्वीकरण बयान लिखा, लेकिन इससे नेटिज़न्स को जातीय और सांस्कृतिक अशुद्धियों की ओर ध्यान नहीं मिला। उदाहरण के लिए, जर्मन बार्बी की एआई-जनरेटेड छवि एक एसएस नाज़ी जनरल की वर्दी पहने हुए थी।
इसी तरह, दक्षिण सूडान की बार्बी की एआई-जनरेटेड छवि एक बंदूक पकड़े हुए दिखाई दे रही थी, जो एआई एल्गोरिदम में गहराई से जड़े पूर्वाग्रह को प्रतिबिंबित करती है।
इसके अलावा, कई अन्य छवियों में सांस्कृतिक अशुद्धियां दिखाई दीं, जैसे कि कतर की बार्बी एक घुत्रा पहने हुए थी, जो अरब पुरुषों द्वारा पहने जाने वाला एक पारंपरिक सिरदरबंद है।
इस ब्लॉग पोस्ट ने सांस्कृतिक रूढ़िवादिता और पूर्वाग्रह के लिए बड़ी प्रतिक्रिया प्राप्त की। लंदन इंटरडिसिप्लिनरी स्कूल (एलआईएस) ने इसे प्रतिनिधित्वात्मक नुकसान कहा, जिसे गुणवत्ता मानकों को लागू करने और एआई पर्यवेक्षण निकाय स्थापित करने से नियंत्रित किया जाना चाहिए।
एआई मॉडल की सीमाएं
एआई की क्षमता कई उद्योगों को क्रांतिकारी बनाने की है। लेकिन अगर ऐसे दृश्य जैसे ऊपर उल्लिखित बढ़ते हैं, तो यह एआई की सामान्य अपनाने में गिरावट का कारण बन सकता है, जिससे अवसरों की कमी हो सकती है। ऐसे मामले आमतौर पर एआई प्रणालियों में महत्वपूर्ण सीमाओं के कारण होते हैं, जैसे कि:
- रचनात्मकता की कमी: चूंकि एआई केवल दिए गए प्रशिक्षण डेटा पर आधारित निर्णय ले सकता है, इसलिए यह रचनात्मक समस्या-समाधान में बाधा उत्पन्न करता है।
- संदर्भगत समझ की कमी: एआई प्रणालियों को संदर्भगत सूक्ष्मताओं या किसी क्षेत्र की भाषा अभिव्यक्तियों को समझने में कठिनाई होती है, जिससे परिणामों में त्रुटियां हो सकती हैं।
- प्रशिक्षण पूर्वाग्रह: एआई ऐतिहासिक डेटा पर निर्भर करता है जो विभिन्न प्रकार के भेदभावपूर्ण नमूने हो सकते हैं। प्रशिक्षण के दौरान, मॉडल आसानी से भेदभावपूर्ण पैटर्न सीख सकता है और अन्यायपूर्ण और पूर्वाग्रहपूर्ण परिणाम उत्पन्न कर सकता है।
एआई मॉडल में पूर्वाग्रह को कम करने के तरीके
विशेषज्ञों का अनुमान है कि 2026 तक, 90% ऑनलाइन सामग्री सिंथेटिक रूप से उत्पन्न की जा सकती है। इसलिए, जेनरेटिव एआई प्रौद्योगिकियों में मौजूद मुद्दों को तेजी से कम करना महत्वपूर्ण है।
एआई मॉडल में पूर्वाग्रह को कम करने के लिए कई प्रमुख रणनीतियां लागू की जा सकती हैं। इनमें से कुछ हैं:
- डेटा गुणवत्ता सुनिश्चित करें: एआई मॉडल में पूर्ण, सटीक और साफ डेटा को शामिल करने से पूर्वाग्रह को कम किया जा सकता है और अधिक सटीक परिणाम उत्पन्न किए जा सकते हैं।
- विविध डेटासेट: एआई प्रणाली में विविध डेटासेट को पेश करने से पूर्वाग्रह को कम करने में मदद मिल सकती है क्योंकि एआई प्रणाली समय के साथ अधिक समावेशी हो जाती है।
- प्रतिक्रिया लूप: एक निरंतर प्रतिक्रिया और सीखने के लूप के साथ, एआई मॉडल अपने परिणामों में सुधार कर सकते हैं।
- विनियमन में वृद्धि: वैश्विक एआई विनियमन एआई प्रणालियों की गुणवत्ता को सीमाओं के पार बनाए रखने के लिए महत्वपूर्ण है। इसलिए, अंतर्राष्ट्रीय संगठनों को एआई मानकीकरण सुनिश्चित करने के लिए एक साथ काम करना चाहिए।
- जिम्मेदार एआई को बढ़ावा दें: जिम्मेदार एआई रणनीतियां एआई पूर्वाग्रह को कम करने में सकारात्मक योगदान करती हैं, न्याय और सटीकता को बढ़ावा देती हैं, और यह सुनिश्चित करती हैं कि एआई प्रणालियां विविध उपयोगकर्ता आधार की सेवा करती हैं और निरंतर सुधार की दिशा में काम करती हैं।
विविध डेटासेट, नैतिक जिम्मेदारी, और खुले संचार माध्यमों को शामिल करके, हम सुनिश्चित कर सकते हैं कि एआई दुनिया भर में सकारात्मक परिवर्तन का स्रोत है।
यदि आप एआई पूर्वाग्रह और समाज में इसकी भूमिका के बारे में अधिक जानना चाहते हैं, तो निम्नलिखित ब्लॉग पढ़ें:
