लिंग पूर्वाग्रह वाले डेटा पर प्रशिक्षित एआई मॉडल बीमारी के निदान में खराब प्रदर्शन करते हैं

हाल ही में, एक अध्ययन प्रकाशित किया गया था जो पीएनएएस पत्रिका में और अर्जेंटीना के शोधकर्ताओं द्वारा किया गया था, जिसमें यह निहित किया गया था कि प्रशिक्षण डेटा में लिंग पूर्वाग्रह की उपस्थिति बीमारियों और अन्य चिकित्सा समस्याओं के निदान में मॉडल के प्रदर्शन को खराब कर देती है। स्टेटन्यूज़ द्वारा रिपोर्ट के अनुसार, शोधकर्ताओं की टीम ने मॉडलों को प्रशिक्षित करने के लिए प्रयोग किया जहां महिला रोगियों का प्रतिनिधित्व कम या बिल्कुल नहीं था, और पाया कि एल्गोरिदम ने महिला रोगियों के निदान में काफी खराब प्रदर्शन किया। यही बात तब भी सच साबित हुई जब पुरुष रोगियों को बाहर कर दिया गया या उनका प्रतिनिधित्व कम था।

पिछले पांच वर्षों में, जैसे ही एआई मॉडल और मशीन लर्निंग अधिक व्यापक हो गए हैं, पूर्वाग्रहित डेटासेट और उनके परिणामस्वरूप पूर्वाग्रहित मशीन लर्निंग मॉडल की समस्याओं पर अधिक ध्यान दिया गया है। मशीन लर्निंग में डेटा पूर्वाग्रह अजीब, सामाजिक रूप से हानिकारक और विशिष्ट एआई अनुप्रयोगों का कारण बन सकता है, लेकिन जब यह चिकित्सा अनुप्रयोगों की बात आती है तो जीवन दांव पर लग सकते हैं। हालांकि, समस्या के बावजूद, कुछ अध्ययनों ने ही पूर्वाग्रहित डेटा के कितने हानिकारक प्रभावों का मूल्यांकन करने का प्रयास किया है। शोध दल द्वारा किए गए अध्ययन में पाया गया कि डेटा पूर्वाग्रह का प्रभाव पहले की तुलना में अधिक गंभीर हो सकता है।

चिकित्सा संदर्भों में, एआई मॉडल का उपयोग करने के लिए एक सबसे लोकप्रिय तरीका है रोगियों का निदान करना चिकित्सा छवियों के आधार पर। शोध दल ने विभिन्न चिकित्सा स्थितियों जैसे निमोनिया, कार्डियोमेगाली या हर्निया का पता लगाने के लिए एक्स-रे से मॉडलों का विश्लेषण किया। शोध दल ने तीन ओपन-सोर्स मॉडल आर्किटेक्चर का अध्ययन किया: इन्सेप्शन-वी3, रेसनेट और डेन्सनेट-121। मॉडल को स्टैनफोर्ड विश्वविद्यालय और नेशनल इंस्टीट्यूट ऑफ हेल्थ से दो ओपन-सोर्स डेटासेट से प्राप्त छाती एक्स-रे पर प्रशिक्षित किया गया था। हालांकि डेटासेट स्वयं लिंग प्रतिनिधित्व के मामले में काफी संतुलित हैं, शोधकर्ताओं ने डेटा को कृत्रिम रूप से पूर्वाग्रहित किया जिसमें लिंग असंतुलन था।

शोध दल ने पांच अलग-अलग प्रशिक्षण डेटासेट बनाए, प्रत्येक में पुरुष/महिला रोगी स्कैन के विभिन्न अनुपात थे। पांच प्रशिक्षण सेट इस प्रकार थे:

• सभी छवियां पुरुष रोगियों की थीं
• सभी छवियां महिला रोगियों की थीं
• 25% पुरुष रोगी और 75% महिला रोगी
• 75% महिला रोगी और 25% पुरुष रोगी
• आधे पुरुष रोगी और आधे महिला रोगी

मॉडल को एक उपसेट पर प्रशिक्षित करने के बाद, इसे पुरुष और महिला दोनों रोगियों के स्कैन के संग्रह पर परीक्षण किया गया। विभिन्न चिकित्सा स्थितियों में, एक उल्लेखनीय प्रवृत्ति थी जो मॉडल की सटीकता में बहुत खराब थी जब प्रशिक्षण डेटा काफी लिंग पूर्वाग्रहित था। एक दिलचस्प बात यह है कि यदि प्रशिक्षण डेटा में एक लिंग का प्रतिनिधित्व अधिक था, तो उस लिंग को प्रशिक्षण डेटा में अधिक प्रतिनिधित्व से लाभ नहीं हुआ। चाहे मॉडल को एक लिंग के लिए पूर्वाग्रहित डेटा पर प्रशिक्षित किया गया हो या दूसरे के लिए, यह एक समावेशी डेटासेट पर प्रशिक्षित होने की तुलना में उस लिंग पर बेहतर प्रदर्शन नहीं करता था।

अध्ययन के वरिष्ठ लेखक, एन्जो फेरांते, स्टेटन्यूज़ द्वारा उद्धृत के रूप में यह समझाया गया है कि अध्ययन यह रेखांकित करता है कि प्रशिक्षण डेटा का विविध और प्रतिनिधित्व करना कितना महत्वपूर्ण है सभी आबादी के लिए जिन्हें आप मॉडल का परीक्षण करना चाहते हैं।

यह पूरी तरह से स्पष्ट नहीं है कि क्यों मॉडल एक लिंग पर प्रशिक्षित होने पर दूसरे लिंग पर खराब प्रदर्शन करते हैं। कुछ विसंगतियां शारीरिक मतभेदों के कारण हो सकती हैं, लेकिन विभिन्न सामाजिक और सांस्कृतिक कारक भी कुछ अंतर के लिए जिम्मेदार हो सकते हैं। उदाहरण के लिए, महिलाएं पुरुषों की तुलना में अपनी बीमारी की प्रगति के एक अलग चरण में एक्स-रे प्राप्त कर सकती हैं। यदि यह सच है, तो यह प्रशिक्षण छवियों में पाए जाने वाले विशेषताओं (और इसलिए मॉडल द्वारा सीखे जाने वाले पैटर्न) को प्रभावित कर सकता है। यदि यह मामला है, तो शोधकर्ताओं के लिए अपने डेटासेट को पूर्वाग्रह मुक्त करना बहुत मुश्किल हो जाता है, क्योंकि पूर्वाग्रह डेटा संग्रह के तंत्र के माध्यम से डेटासेट में बेक किया जाता है।

यहां तक कि उन शोधकर्ताओं को भी जो डेटा विविधता पर करीब से नजर रखते हैं, उनके पास कभी-कभी पूर्वाग्रहित या तिरछे डेटा के साथ काम करने का कोई विकल्प नहीं होता है। जब चिकित्सा स्थितियों के निदान में एक असमानता होती है, तो अक्सर डेटा असंतुलित हो जाता है। उदाहरण के लिए, स्तन कैंसर रोगियों के डेटा几乎 पूरी तरह से महिलाओं से एकत्र किए जाते हैं। इसी तरह, ऑटिज्म महिलाओं और पुरुषों के बीच अलग तरह से प्रकट होता है, और इसके परिणामस्वरूप, यह स्थिति लड़कों में लड़कियों की तुलना में बहुत अधिक दर से निदान की जाती है।

फिर भी, यह शोधकर्ताओं के लिए बहुत महत्वपूर्ण है कि वे जिस तरह से भी संभव हो पूर्वाग्रहित डेटा और डेटा पूर्वाग्रह के लिए नियंत्रित करें। इस उद्देश्य से, भविष्य के अध्ययन शोधकर्ताओं को पूर्वाग्रहित डेटा के प्रभाव को मापने में मदद करेंगे।