एआई मॉडल और प्लेटफ़ॉर्म
एल्गोरिदमिक पूर्वाग्रह को स्वास्थ्य सेवा में संबोधित करने के लिए एल्गोरिथम का उपयोग किया जा सकता है यदि इसे ठीक से प्रशिक्षित किया जाए
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
स्टैनफोर्ड विश्वविद्यालय, हार्वर्ड विश्वविद्यालय और शिकागो विश्वविद्यालय के शोधकर्ताओं की एक टीम ने एल्गोरिदम को कnee के एक्स-रे में गठिया का निदान करने के लिए प्रशिक्षित किया। यह पता चला कि जब रोगियों की रिपोर्ट का उपयोग एल्गोरिदम के लिए प्रशिक्षण डेटा के रूप में किया जाता है, तो एल्गोरिदम काले रोगियों के रिकॉर्ड का विश्लेषण करते समय रेडियोलॉजिस्ट की तुलना में अधिक सटीक था।
एल्गोरिदमिक पूर्वाग्रह की समस्या
चिकित्सा क्षेत्र में मशीन लर्निंग एल्गोरिदम का उपयोग रोगियों के लिए परिणामों में सुधार करने की संभावना है, लेकिन रोगियों का निदान करने के लिए एआई एल्गोरिदम का उपयोग करने से जुड़ी समस्याएं भी हैं। तैनात एआई मॉडल के प्रभावों पर किए गए अध्ययनों में एल्गोरिदमिक पूर्वाग्रह से जुड़े कई उल्लेखनीय घटनाओं का पता चला है। इनमें एल्गोरिदम शामिल हैं जो कार्डियोलॉजी इकाइयों के लिए अल्पसंख्यकों को कम संदर्भ देते हैं, भले ही सभी रिपोर्ट किए गए लक्षण समान थे।
अध्ययन के एक लेखक, कैलिफोर्निया विश्वविद्यालय बर्कले के स्कूल ऑफ पब्लिक हेल्थ में प्रोफेसर ज़ियाद ओबेरमेयर, ने रेडियोलॉजिस्ट द्वारा एक्स-रे के निदान और रोगियों द्वारा रिपोर्ट किए गए दर्द की मात्रा के बीच विसंगतियों की जांच के लिए एआई का उपयोग करने का फैसला किया। हालांकि काले रोगियों और कम आय वाले रोगियों ने उच्च स्तर के दर्द की सूचना दी, उनके एक्स-रे व्याख्याओं को सामान्य आबादी के समान अंक दिए गए थे। रिपोर्ट किए गए दर्द के स्तर के डेटा ने एनआईएच से प्राप्त किया, और शोधकर्ताओं ने जांच करना चाहा कि क्या मानव डॉक्टर डेटा के विश्लेषण में कुछ चूक रहे हैं।
वायर्ड द्वारा रिपोर्ट किए अनुसार, इन मतभेदों के संभावित कारणों की पहचान करने के लिए, ओबेरमेयर और अन्य शोधकर्ताओं ने एनआईएच के डेटा पर प्रशिक्षित एक कंप्यूटर विजन मॉडल को डिज़ाइन किया। एल्गोरिदम को एक्स-रे का विश्लेषण करने और छवियों के आधार पर एक रोगी के दर्द के स्तर की भविष्यवाणी करने के लिए डिज़ाइन किया गया था। सॉफ्टवेयर ने छवियों के भीतर ऐसे पैटर्न पाए जो एक रोगी के दर्द के स्तर के साथ बहुत अधिक सहसंबद्ध थे।
जब एल्गोरिदम को एक अनदेखी छवि प्रस्तुत की जाती है, तो मॉडल एक रोगी के रिपोर्ट किए गए दर्द के स्तर के लिए भविष्यवाणियां लौटाता है। मॉडल द्वारा लौटाई गई भविष्यवाणियां रोगियों के वास्तविक रिपोर्ट किए गए दर्द के स्तर के साथ अधिक बारीकी से संरेखित थीं, जो रेडियोलॉजिस्ट द्वारा सौंपे गए स्कोर की तुलना में थीं। यह विशेष रूप से काले रोगियों के लिए सच था। ओबेरमेयर ने वायर्ड के माध्यम से समझाया कि कंप्यूटर विजन एल्गोरिदम काले रोगियों में दर्द से जुड़े घटनाओं का पता लगाने में सक्षम था।
सिस्टम को ठीक से प्रशिक्षित करना
रिपोर्ट के अनुसार, एक्स-रे का मूल्यांकन करने के लिए मानदंड मूल रूप से 1957 में उत्तरी इंग्लैंड में किए गए एक छोटे से अध्ययन के परिणामों पर आधारित थे। ओस्टियोआर्थराइटिस मूल्यांकन मानदंड विकसित करने के लिए उपयोग की जाने वाली प्रारंभिक आबादी आधुनिक संयुक्त राज्य अमेरिका की विविध आबादी से बहुत अलग थी, इसलिए यह आश्चर्य की बात नहीं है कि विविध लोगों के निदान में गलतियां होती हैं।
नई अध्ययन से पता चलता है कि जब एआई एल्गोरिदम को ठीक से प्रशिक्षित किया जाता है, तो वे पूर्वाग्रह को कम कर सकते हैं। प्रशिक्षण रोगियों की प्रतिक्रिया पर आधारित था, न कि विशेषज्ञ राय पर। ओबेरमेयर और उनके सहयोगियों ने पहले दिखाया कि एक सामान्य रूप से उपयोग किया जाने वाला एआई एल्गोरिदम काले रोगियों की तुलना में श्वेत रोगियों को प्राथमिकता देता है, लेकिन ओबेरमेयर ने यह भी दिखाया कि सही डेटा पर एक मशीन लर्निंग सिस्टम को प्रशिक्षित करने से पूर्वाग्रह को रोका जा सकता है।
अध्ययन की एक उल्लेखनीय अस्पष्टता यह है कि शोध टीम द्वारा विकसित एआई मॉडल एक ब्लैक बॉक्स है, और शोधकर्ता स्वयं यह नहीं जानते हैं कि एल्गोरिदम एक्स-रे में किस प्रकार की विशेषताओं का पता लगा रहा है, जिसका अर्थ है कि वे डॉक्टरों को यह नहीं बता सकते हैं कि वे क्या याद कर रहे हैं।
अन्य रेडियोलॉजिस्ट और शोधकर्ता ब्लैक बॉक्स में गहराई से जाने और उनमें मौजूद पैटर्न को उजागर करने का प्रयास कर रहे हैं, जिससे डॉक्टरों को यह समझने में मदद मिलेगी कि वे क्या याद कर रहे हैं। एमोरी विश्वविद्यालय में रेडियोलॉजिस्ट और प्रोफेसर, जूडी गिचोया, एआई मॉडल को प्रशिक्षित करने के लिए एक्स-रे का एक अधिक व्यापक और विविध सेट इकट्ठा कर रहे हैं। गिचोया रेडियोलॉजिस्ट को इन एक्स-रे पर विस्तृत नोट्स बनाने के लिए कहेंगे। इन नोट्स की तुलना मॉडल के आउटपुट से की जाएगी ताकि यह देखा जा सके कि क्या एल्गोरिदम द्वारा पता लगाए गए पैटर्न का पता लगाया जा सकता है।
