एआई पूर्वाग्रह और सांस्कृतिक रूढ़िवादिता: प्रभाव, सीमाएं और कमी

आर्टिफ़िशियल इंटेलिजेंस (एआई), विशेष रूप से जनरेटिव एआई, मानव संज्ञान और बुद्धिमत्ता को समझने और अनुकरण करने की अपनी क्षमता के साथ अपेक्षाओं को पार करता रहता है। हालांकि, कई मामलों में, एआई प्रणालियों के परिणाम या भविष्यवाणियां विभिन्न प्रकार के एआई पूर्वाग्रह को प्रतिबिंबित कर सकती हैं, जैसे कि सांस्कृतिक और नस्लीय।

बज़फीड के “वर्ल्ड की बार्बी” ब्लॉग (जो अब हटा दिया गया है) इन सांस्कृतिक पूर्वाग्रहों और अशुद्धियों को स्पष्ट रूप से प्रकट करता है। ये ‘बार्बी’ मिडजॉर्नी – एक अग्रणी एआई इमेज जनरेटर का उपयोग करके बनाई गई थीं, ताकि यह पता लगाया जा सके कि विश्व के विभिन्न हिस्सों में बार्बी कैसी दिखेंगी। हम बाद में इसके बारे में और चर्चा करेंगे।

लेकिन यह पहली बार नहीं है जब एआई “नस्लवादी” या असटीक परिणाम उत्पन्न किया है। उदाहरण के लिए, 2022 में, एप्पल पर मुकदमा दायर किया गया था जिसमें आरोप लगाया गया था कि एप्पल वॉच का रक्त ऑक्सीजन सेंसर रंग के लोगों के खिलाफ पक्षपाती था। एक अन्य मामले में, ट्विटर उपयोगकर्ताओं ने पाया कि ट्विटर का स्वचालित छवि-क्रॉपिंग एआई गोरे लोगों के चेहरों को काले व्यक्तियों और पुरुषों की तुलना में महिलाओं को पसंद करता था। ये महत्वपूर्ण चुनौतियां हैं, और उन्हें संबोधित करना काफी चुनौतीपूर्ण है।

इस लेख में, हम एआई पूर्वाग्रह क्या है, यह हमारे समाज पर कैसे प्रभाव डालता है, और संक्षेप में चर्चा करेंगे कि प्रैक्टिशनर्स इसे कैसे कम कर सकते हैं ताकि सांस्कृतिक रूढ़िवादिता जैसी चुनौतियों का सामना किया जा सके।

एआई पूर्वाग्रह क्या है?

एआई पूर्वाग्रह तब होता है जब एआई मॉडल विशिष्ट जनसांख्यिकी के खिलाफ भेदभावपूर्ण परिणाम उत्पन्न करते हैं। एआई प्रणालियों में कई प्रकार के पूर्वाग्रह हो सकते हैं और असटीक परिणाम उत्पन्न कर सकते हैं। एआई पूर्वाग्रह के कुछ प्रकार हैं:

• रूढ़िवादी पूर्वाग्रह: रूढ़िवादी पूर्वाग्रह एआई मॉडल के परिणामों में रूढ़िवादिता या किसी विशिष्ट जनसांख्यिकी के बारे में धारणाओं को संदर्भित करता है।
• नस्लीय पूर्वाग्रह: एआई में नस्लीय पूर्वाग्रह तब होता है जब एआई मॉडल का परिणाम नस्ल या जाति के आधार पर किसी व्यक्ति या समूह के प्रति भेदभावपूर्ण और अन्यायपूर्ण होता है।
• सांस्कृतिक पूर्वाग्रह: सांस्कृतिक पूर्वाग्रह तब होता है जब एआई मॉडल के परिणाम एक संस्कृति को दूसरे की तुलना में पसंद करते हैं।

एआई पूर्वाग्रह के अलावा, अन्य मुद्दे भी एआई प्रणाली के परिणामों को बाधित कर सकते हैं, जैसे:

• असटीकता: असटीकता तब होती है जब एआई मॉडल द्वारा उत्पन्न परिणाम असंगत प्रशिक्षण डेटा के कारण गलत होते हैं।
• हॉलुसिनेशन: हॉलुसिनेशन तब होता है जब एआई मॉडल कल्पनाशील और झूठे परिणाम उत्पन्न करते हैं जो वास्तविक डेटा पर आधारित नहीं होते हैं।

एआई पूर्वाग्रह का समाज पर प्रभाव

एआई पूर्वाग्रह का समाज पर प्रभाव हानिकारक हो सकता है। पूर्वाग्रहित एआई प्रणालियां असटीक परिणाम उत्पन्न कर सकती हैं जो समाज में पहले से मौजूद पूर्वाग्रह को बढ़ावा देती हैं। ये परिणाम भेदभाव और अधिकारों के उल्लंघन को बढ़ा सकते हैं, भर्ती प्रक्रियाओं पर प्रभाव डाल सकते हैं, और एआई प्रौद्योगिकी में विश्वास को कम कर सकते हैं।

इसके अलावा, पूर्वाग्रहित एआई परिणाम अक्सर असटीक भविष्यवाणियों की ओर ले जाते हैं जो निर्दोष व्यक्तियों के लिए गंभीर परिणाम हो सकते हैं। उदाहरण के लिए, अगस्त 2020 में, रॉबर्ट मैकडैनियल शिकागो पुलिस विभाग के पूर्वाग्रहित पredictive policing एल्गोरिदम के कारण एक अपराध का शिकार हो गए थे, जिसने उन्हें “व्यक्ति của интерес” के रूप में चिह्नित किया था।

इसी तरह, पूर्वाग्रहित स्वास्थ्य सेवा एआई प्रणालियों के परिणाम रोगियों के लिए गंभीर हो सकते हैं। 2019 में, साइंस ने पाया कि एक व्यापक रूप से उपयोग किया जाने वाला यूएस मेडिकल एल्गोरिदम रंग के लोगों के खिलाफ नस्लीय रूप से पूर्वाग्रहित था, जिसके परिणामस्वरूप काले रोगियों को कम जोखिम वाले प्रबंधन की देखभाल मिली।

वर्ल्ड की बार्बी

जुलाई 2023 में, बज़फीड ने एक ब्लॉग प्रकाशित किया जिसमें दुनिया भर की 194 एआई-जनरेटेड बार्बी शामिल थीं। पोस्ट ट्विटर पर वायरल हो गया। हालांकि बज़फीड ने एक अस्वीकरण बयान लिखा, लेकिन यह नेटिज़न्स को नस्लीय और सांस्कृतिक अशुद्धियों की ओर ध्यान दिलाने से नहीं रोका।

इसी तरह, दक्षिण सूडान बार्बी की एआई-जनरेटेड छवि एक बंदूक पकड़े हुए दिखाई गई, जो एआई एल्गोरिदम में गहराई से जड़े पूर्वाग्रह को दर्शाती है।

इसके अलावा, कई अन्य छवियों में सांस्कृतिक अशुद्धियां दिखाई दीं, जैसे कि कतर बार्बी एक गुत्रा पहने हुए थी, जो एक पारंपरिक हेडड्रेस है जो अरब पुरुषों द्वारा पहनी जाती है।

इस ब्लॉग पोस्ट को सांस्कृतिक रूढ़िवादिता और पूर्वाग्रह के लिए व्यापक आलोचना का सामना करना पड़ा। लंदन इंटरडिसिप्लिनरी स्कूल (एलआईएस) ने इसे प्रतिनिधित्व हानि कहा, जिसे गुणवत्ता मानकों को लागू करके और एआई पर्यवेक्षण निकाय स्थापित करके नियंत्रित किया जाना चाहिए।

एआई मॉडल की सीमाएं

एआई कई उद्योगों को क्रांतिकारी बनाने की क्षमता रखता है। लेकिन अगर ऊपर वर्णित दृश्य जैसे मामले बढ़ते हैं, तो यह एआई की सामान्य अपनाने में गिरावट की ओर ले जा सकता है, जिससे अवसरों की कमी हो सकती है। ऐसे मामले आमतौर पर एआई प्रणालियों में महत्वपूर्ण सीमाओं के कारण होते हैं, जैसे:

• रचनात्मकता की कमी: चूंकि एआई केवल दिए गए प्रशिक्षण डेटा पर आधारित निर्णय ले सकता है, इसलिए यह रचनात्मक समस्या-समाधान में बाधा डालता है।

• संदर्भगत समझ की कमी: एआई प्रणालियों को क्षेत्र की संदर्भगत विशिष्टताओं या भाषा अभिव्यक्तियों को समझने में कठिनाई होती है, जो अक्सर परिणामों में त्रुटियों की ओर ले जाती है।

• प्रशिक्षण पूर्वाग्रह: एआई ऐतिहासिक डेटा पर निर्भर करता है जो विभिन्न प्रकार के भेदभावपूर्ण नमूनों को शामिल कर सकता है। प्रशिक्षण के दौरान, मॉडल आसानी से भेदभावपूर्ण पैटर्न सीख सकता है और अन्यायपूर्ण और पूर्वाग्रहित परिणाम उत्पन्न कर सकता है।

एआई मॉडल में पूर्वाग्रह को कम करने के लिए कैसे

विशेषज्ञों का अनुमान है कि 2026 तक, 90% ऑनलाइन सामग्री सिंथेटिक रूप से उत्पन्न की जा सकती है। इसलिए, जेनरेटिव एआई प्रौद्योगिकियों में मौजूद मुद्दों को तेजी से कम करना महत्वपूर्ण है।

एआई मॉडल में पूर्वाग्रह को कम करने के लिए कई प्रमुख रणनीतियों को लागू किया जा सकता है। इनमें से कुछ हैं:

• डेटा की गुणवत्ता सुनिश्चित करें: एआई मॉडल में पूर्ण, सटीक और स्वच्छ डेटा को शामिल करने से पूर्वाग्रह को कम किया जा सकता है और अधिक सटीक परिणाम उत्पन्न किए जा सकते हैं।
• विविध डेटासेट: एआई प्रणाली में विविध डेटासेट को शामिल करने से पूर्वाग्रह को कम किया जा सकता है क्योंकि एआई प्रणाली समय के साथ अधिक समावेशी हो जाती है।

• फीडबैक लूप: एक निरंतर फीडबैक और सीखने के लूप के साथ, एआई मॉडल अपने परिणामों में सुधार कर सकते हैं।

• विनियमन में वृद्धि: वैश्विक एआई विनियमन एआई प्रणालियों की गुणवत्ता को सीमाओं के पार बनाए रखने के लिए महत्वपूर्ण है। इसलिए, अंतर्राष्ट्रीय संगठनों को एक साथ मिलकर एआई मानकीकरण सुनिश्चित करना चाहिए।

• जिम्मेदार एआई की बढ़ती अपनाना: जिम्मेदार एआई रणनीतियां एआई पूर्वाग्रह को कम करने में, न्याय और सटीकता को बढ़ावा देने में और विविध उपयोगकर्ता आधार की सेवा करने में सकारात्मक योगदान करती हैं।

विविध डेटासेट, नैतिक जिम्मेदारी और खुले संचार माध्यमों को शामिल करके, हम सुनिश्चित कर सकते हैं कि एआई दुनिया भर में सकारात्मक परिवर्तन का स्रोत है।

यदि आप एआई पूर्वाग्रह और समाज में इसकी भूमिका के बारे में अधिक जानना चाहते हैं, तो निम्नलिखित ब्लॉग पढ़ें:

• कैसे शहर निष्पक्ष एआई एल्गोरिदम का लाभ उठाकर अग्रणी प्रौद्योगिकियों को तैनात कर रहे हैं
• एआई समाचार में गलत सूचना और पूर्वाग्रह से लड़ सकता है
• वित्तीय अपराध के भीतर एआई-आधारित प्रणालियों का पूर्वाग्रह और न्याय
• न्यूज़ लेखों के लिए एक एआई-चालित पूर्वाग्रह जांचकर्ता, पायथन में उपलब्ध