शोधकर्ता मशीन लर्निंग के एक लंबे समय से चले आ रहे अनुमान को चुनौती दे रहे हैं

कार्नेगी मेलन विश्वविद्यालय के शोधकर्ता एक लंबे समय से चले आ रहे मशीन लर्निंग अनुमान को चुनौती दे रहे हैं कि सार्वजनिक नीति निर्णय लेने के लिए उपयोग किए जाने वाले अल्गोरिदम में सटीकता और न्याय के बीच एक व्यापार है।

मशीन लर्निंग का उपयोग कई क्षेत्रों में बढ़ रहा है, जैसे कि आपराधिक न्याय, भर्ती, स्वास्थ्य सेवा वितरण और सामाजिक सेवा हस्तक्षेप। इस वृद्धि के साथ-साथ यह चिंता भी बढ़ रही है कि क्या इन नए अनुप्रयोगों से मौजूदा असमानताएं और भी बढ़ सकती हैं। वे विशेष रूप से नस्लीय अल्पसंख्यकों या आर्थिक रूप से वंचित व्यक्तियों के लिए हानिकारक हो सकते हैं।

सिस्टम को समायोजित करना

बायस के खिलाफ रक्षा करने के लिए डेटा, लेबल, मॉडल प्रशिक्षण, स्कोरिंग सिस्टम और सिस्टम के अन्य पहलुओं में लगातार समायोजन किए जा रहे हैं। हालांकि, सैद्धांतिक अनुमान यह रहा है कि जब इन समायोजनों में वृद्धि होती है, तो सिस्टम कम सटीक हो जाता है।

सीएमयू की टीम ने एक नए अध्ययन में इस सिद्धांत को चुनौती देने का प्रयास किया है, जो नेचर मशीन इंटेलिजेंस में प्रकाशित हुआ है।

रायद घानी कंप्यूटर साइंस के स्कूल के मशीन लर्निंग विभाग (एमएलडी) और हीन्ज़ कॉलेज ऑफ़ इन्फ़र्मेशन सिस्टम और पब्लिक पॉलिसी में प्रोफेसर हैं। उन्हें किट रोडोल्फा, एमएलडी में एक शोध वैज्ञानिक, और हेमांक लाम्बा, एससीएस में एक पोस्ट-डॉक्टरल शोधकर्ता ने जॉइन किया।

वास्तविक दुनिया के अनुप्रयोगों का परीक्षण

शोधकर्ताओं ने वास्तविक दुनिया के अनुप्रयोगों में इस अनुमान का परीक्षण किया, और उन्हें जो मिला वह यह था कि कई नीति डोमेन में व्यापार बेहद कम है।

“आप वास्तव में दोनों प्राप्त कर सकते हैं। आपको सटीकता की बलि देने की आवश्यकता नहीं है ताकि न्यायसंगत और न्यायपूर्ण प्रणालियों का निर्माण किया जा सके,” घानी ने कहा। “लेकिन इसके लिए आपको जानबूझकर न्यायसंगत और न्यायपूर्ण प्रणालियों को डिज़ाइन करना होगा। ऑफ-द-शेल्फ प्रणालियाँ काम नहीं करेंगी।”

टीम ने उन स्थितियों पर ध्यान केंद्रित किया जहाँ मांग वाले संसाधन सीमित हैं। इन संसाधनों के आवंटन में मशीन लर्निंग की मदद मिलती है।

उन्होंने चार क्षेत्रों में प्रणालियों पर ध्यान केंद्रित किया:

• जेल में वापस आने के जोखिम के आधार पर सीमित मानसिक स्वास्थ्य देखभाल पहुँच को प्राथमिकता देना ताकि पुनः अपराध को कम किया जा सके;
• सुरक्षा उल्लंघनों की भविष्यवाणी करना ताकि शहर के सीमित आवास निरीक्षकों को बेहतर ढंग से तैनात किया जा सके;
• उच्च विद्यालय से समय पर स्नातक नहीं होने वाले छात्रों के जोखिम को मॉडलिंग करना ताकि उन्हें अतिरिक्त समर्थन की आवश्यकता वाले छात्रों की पहचान की जा सके;
• और शिक्षकों को कक्षा की जरूरतों के लिए क्राउडफंडिंग लक्ष्यों तक पहुँचने में मदद करना।

शोधकर्ताओं ने पाया कि सटीकता के लिए अनुकूलित मॉडल रुचि के परिणामों की प्रभावी ढंग से भविष्यवाणी कर सकते हैं। हालांकि, उन्होंने हस्तक्षेप के लिए सिफारिशों में काफी विसंगतियों का भी प्रदर्शन किया।

महत्वपूर्ण परिणाम तब आया जब शोधकर्ताओं ने मॉडल के आउटपुट को न्यायसंगत बनाने के लिए समायोजन लागू किए। उन्होंने पाया कि जब नस्ल, आयु या आय पर आधारित विसंगतियों को हटा दिया गया, तो सटीकता में कोई नुकसान नहीं हुआ।

“हम चाहते हैं कि कृत्रिम बुद्धिमत्ता, कंप्यूटर विज्ञान और मशीन लर्निंग समुदाय इस अनुमान को स्वीकार करना बंद कर दें कि सटीकता और न्याय के बीच एक व्यापार है और जानबूझकर उन प्रणालियों को डिज़ाइन करना शुरू करें जो दोनों को अधिकतम करती हैं,” रोडोल्फा ने कहा। “हमें उम्मीद है कि नीति निर्माता नीति निर्णय लेने में मदद करने के लिए मशीन लर्निंग को एक उपकरण के रूप में अपनाएंगे ताकि वे न्यायसंगत परिणाम प्राप्त कर सकें।”