नैतिकता
शोधकर्ताओं ने कंप्यूटर विजन में पूर्वाग्रह से लड़ने के लिए एक नया टूल विकसित किया
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
कृत्रिम बुद्धिमत्ता (एआई) के क्षेत्र में हाल ही में जो समस्या सामने आई है, वह कंप्यूटर विजन में पूर्वाग्रह की है। कई विशेषज्ञ अब एआई प्रणालियों में पूर्वाग्रह का पता लगा रहे हैं, जिसके परिणामस्वरूप विभिन्न अनुप्रयोगों में पक्षपातपूर्ण परिणाम मिल रहे हैं, जैसे कि अदालत के सजा कार्यक्रम।
इनमें से कुछ समस्याओं को ठीक करने के लिए एक बड़ा प्रयास किया जा रहा है, और सबसे नए विकास प्रिंसटन विश्वविद्यालय से आया है। संस्थान के शोधकर्ताओं ने एक नया टूल बनाया है जो एआई प्रणालियों को प्रशिक्षित करने के लिए उपयोग की जाने वाली छवियों में संभावित पूर्वाग्रह को पहचान सकता है।
यह कार्य 24 अगस्त को वर्चुअल यूरोपीय कंप्यूटर विजन सम्मेलन में प्रस्तुत किया गया था।
एआई प्रणालियों में पूर्वाग्रह
वर्तमान एआई प्रणालियों में पूर्वाग्रह का एक प्रमुख कारण यह है कि वे अक्सर ऑनलाइन स्रोतों से आने वाली बड़ी छवि सेट्स पर प्रशिक्षित होते हैं। ये छवियां स्टीरियोटाइपिकल हो सकती हैं, और जब वे कंप्यूटर विजन को विकसित करने के लिए आगे बढ़ती हैं, तो परिणाम अनजाने में प्रभावित हो सकता है। कंप्यूटर विजन वह है जो कंप्यूटरों को लोगों, वस्तुओं और क्रियाओं की पहचान करने में सक्षम बनाता है।
शोधकर्ताओं द्वारा विकसित टूल ओपन-सोर्स है, और यह दृश्य डेटा सेट में संभावित पूर्वाग्रह को स्वचालित रूप से प्रकट करने में सक्षम है। यह कंप्यूटर विजन मॉडल को प्रशिक्षित करने से पहले छवि सेट्स को लेकर कार्य करता है, और कम प्रतिनिधित्व और स्टीरियोटाइप्स से संबंधित मुद्दों को पहले ही हल किया जा सकता है।
REVISE
नया टूल REVISE कहलाता है, और यह सांख्यिकीय विधियों पर निर्भर करता है ताकि डेटा सेट में संभावित पूर्वाग्रह की पहचान की जा सके। यह वस्तु-आधारित, लिंग-आधारित और भूगोल-आधारित तीन क्षेत्रों पर केंद्रित है।
REVISE पूरी तरह से स्वचालित है और पहले की विधियों पर आधारित है जिसमें डेटा सेट छवियों को फिल्टर और संतुलित करना शामिल था ताकि उपयोगकर्ता को अधिक नियंत्रण मिल सके।
नया टूल मौजूदा छवि अनोटेशन और मापों पर निर्भर करता है ताकि डेटा सेट की सामग्री का विश्लेषण किया जा सके। इनमें से कुछ मौजूदा अनोटेशन में वस्तु गणना और छवियों का मूल देश शामिल है।
टूल के काम करने के एक उदाहरण में, REVISE ने दिखाया कि लोगों और फूलों की छवियां लिंग के आधार पर अलग-अलग थीं। पुरुष फूलों के साथ अधिक बार समारोहों या बैठकों में दिखाई देते थे, जबकि महिलाएं फूलों के साथ चित्रों या स्टेज किए गए दृश्यों में अधिक बार दिखाई देती थीं।
ओल्गा रुस्साकोव्स्की कंप्यूटर विज्ञान की सहायक प्रोफेसर और विज़ुअल एआई लैब की प्रमुख अन्वेषक हैं। इस पत्र को स्नातक छात्र एंजेलिना वांग और कंप्यूटर विज्ञान के संबंधित प्रोफेसर अरविंद नारायण के साथ सह-लेखक किया गया है।
टूल द्वारा विसंगतियों की पहचान करने के बाद, “फिर यह सवाल है कि क्या यह एक पूरी तरह से निर्दोष तथ्य है, या कुछ गहरा हो रहा है, और यह बहुत मुश्किल है,” रुस्साकोव्स्की ने कहा।
अधिक प्रतिनिधित्व या गलत तरीके से प्रस्तुत क्षेत्र
विश्व के विभिन्न क्षेत्र कंप्यूटर विजन डेटा सेट में कम प्रतिनिधित्व करते हैं, जिससे एआई प्रणालियों में पूर्वाग्रह हो सकता है। एक खोज यह थी कि संयुक्त राज्य अमेरिका और यूरोपीय देशों से एक बड़ी मात्रा में छवियां आती हैं। REVISE ने यह भी खुलासा किया कि दुनिया के अन्य हिस्सों से छवियों में अक्सर स्थानीय भाषा में छवि कैप्शन नहीं होते हैं, जिसका अर्थ है कि कई पर्यटकों के दृष्टिकोण से एक देश को देखा जा सकता है।
“… यह भूगोल विश्लेषण दिखाता है कि वस्तु पहचान अभी भी बहुत पक्षपातपूर्ण और बहिष्कारपूर्ण हो सकती है, और यह विभिन्न क्षेत्रों और लोगों को असमान रूप से प्रभावित कर सकती है,” रुस्साकोव्स्की ने जारी रखा।
“कंप्यूटर विज्ञान में डेटा सेट संग्रह की प्रथाओं को हाल तक बहुत गहनता से नहीं देखा गया है,” वांग ने कहा। जब छवि संग्रह की बात आती है, तो वे “इंटरनेट से स्क्रैप किए जाते हैं, और लोगों को यह एहसास नहीं होता है कि उनकी छवियां डेटा सेट में उपयोग की जा रही हैं। हमें विभिन्न समूहों के लोगों से छवियां एकत्र करनी चाहिए, लेकिन जब हम ऐसा करते हैं, तो हमें सावधानी से यह सुनिश्चित करना चाहिए कि हम उन्हें सम्मानपूर्वक प्राप्त कर रहे हैं।”
विसेंटे ऑर्डोनेज-रोमन वर्जीनिया विश्वविद्यालय में कंप्यूटर विज्ञान के सहायक प्रोफेसर हैं।
“टूल और बेंचमार्क एक महत्वपूर्ण कदम हैं … वे हमें पाइपलाइन में पहले ही पूर्वाग्रह को पकड़ने की अनुमति देते हैं और हमारी समस्या सेटअप और धारणाओं को पुनः विचार करने की अनुमति देते हैं,” ऑर्डोनेज-रोमन ने कहा। “कंप्यूटर विजन में प्रतिनिधित्व और स्टीरियोटाइप्स के प्रसार के बारे में कुछ विशिष्ट चुनौतियाँ हैं। प्रिंसटन विज़ुअल एआई लैब जैसे कार्य हमें इनमें से कुछ मुद्दों को रोशन करने और उन्हें दूर करने के लिए रणनीतियों की पेशकश करने में मदद करते हैं।”
शोधकर्ताओं द्वारा विकसित नया टूल एआई प्रणालियों में मौजूद पूर्वाग्रह को दूर करने में मदद करने के लिए एक महत्वपूर्ण कदम है। अब इन मुद्दों को हल करने का समय है, क्योंकि जैसे-जैसे प्रणालियां आगे बढ़ेंगी और अधिक जटिल होंगी, यह बहुत मुश्किल हो जाएगा।
