एनएसएफ और अमेज़ॅन ग्रांट न्यूयॉर्क विश्वविद्यालय में शोध का समर्थन करता है ताकि शहरों में निर्णय लेने में एआई के पूर्वाग्रह को कम किया जा सके

न्यूयॉर्क विश्वविद्यालय के शोधकर्ताओं की एक टीम नए तरीकों और उपकरणों को विकसित करने जा रही है जो प्रणालीगत पूर्वाग्रहों को कम करने और शहरी आवास निरीक्षण, पुलिसिंग और अदालतों जैसे क्षेत्रों में अधिक न्यायसंगत सार्वजनिक नीति प्रभाव पैदा करने के लिए डिज़ाइन किए गए हैं।

राष्ट्रीय विज्ञान फाउंडेशन (एनएसएफ) और अमेज़ॅन से 1 मिलियन डॉलर के ग्रांट के तहत, कंप्यूटर विज्ञान के प्रोफेसर डैनियल बी नील तीन साल के शोध परियोजना का नेतृत्व करेंगे जो शहरी सार्वजनिक क्षेत्र के संगठनों द्वारा कृत्रिम बुद्धिमत्ता (एआई) के बढ़ते उपयोग पर केंद्रित है। (AMZN )

“मानव निर्णय और एल्गोरिदमिक निर्णय में प्रणालीगत पूर्वाग्रह की संभावना होती है जो नस्ल, लिंग और सामाजिक-आर्थिक रेखाओं के साथ असमानता और असमानता जैसे खराब परिणामों का कारण बन सकती है,” नील ने कहा, जो न्यूयॉर्क विश्वविद्यालय के सेंटर फॉर अर्बन साइंस एंड प्रोग्रेस (सीयूएसपी) के संकाय के सदस्य हैं और न्यूयॉर्क विश्वविद्यालय के टैंडन स्कूल ऑफ इंजीनियरिंग में प्रोफेसर हैं।

“हम यह समझना चाहते हैं कि एल्गोरिदम मानव निर्णय लेने में कैसे सुधार कर सकते हैं और नीति हस्तक्षेपों को डिज़ाइन और लागू करने वालों की मदद करने के लिए तरीकों और उपकरणों को विकसित करना चाहते हैं।”

परियोजना टीम एक नए, पाइपलाइन अवधारणा को विकसित करेगी जिसमें सात अलग-अलग चरण होंगे: डेटा, मॉडल, भविष्यवाणियां, सिफारिशें, निर्णय, प्रभाव और परिणाम। यह “एंड-टू-एंड फेयरनेस पाइपलाइन” कई स्रोतों से पूर्वाग्रह के लिए खाता होगा, पूर्वाग्रह को असमान परिणामों में परिणाम करने के लिए पाइपलाइन के माध्यम से कैसे प्रसारित किया जाता है, इसका मॉडलिंग करेगा, और अप्रकाशित पूर्वाग्रह के प्रति संवेदनशीलता का आकलन करेगा।

दूसरा, टीम पाइपलाइन के प्रत्येक चरण में पूर्वाग्रह की पहचान और सुधार के लिए एक सामान्य विधिपरक ढांचा बनाएगी, एक प्रकार का पूर्वाग्रह स्कैन, साथ ही एल्गोरिदमिक निर्णय समर्थन उपकरण जो मानव निर्णय लेने वाले को सिफारिशें प्रदान करते हैं (जैसे कि न्याय की ओर मानव निर्णयों को मार्गदर्शन करने के लिए एल्गोरिदमिक “नड्जेस”)।

अंत में, परियोजना टीम आपराधिक न्याय और आवास डोमेन में पूर्वाग्रह की उपस्थिति और विस्तार के लिए नए मेट्रिक्स बनाएगी, और उपकरण जो इस्तेमाल किए जा सकते हैं: (ए) न्याय से जुड़ी आबादी को न्यायसंगत रूप से सहायक हस्तक्षेप प्रदान करके कारावास को कम करने के लिए; (बी) आवास निरीक्षण और मरम्मत को प्राथमिकता देने के लिए; (सी) सिविल और आपराधिक अदालत की कार्यवाही की न्यायसंगतता का आकलन और सुधार करने के लिए; और (डी) खराब गुणवत्ता वाले आवास और आक्रामक, अन्यायपूर्ण पुलिसिंग प्रथाओं जैसे प्रतिकूल पर्यावरणीय संपर्क के असमान स्वास्थ्य प्रभावों का विश्लेषण करने के लिए।

“इस काम का अंतिम प्रभाव शहरों में रहने वाले लोगों के लिए सामाजिक न्याय को आगे बढ़ाना है, जो शहरी सेवाओं पर निर्भर करते हैं या न्याय प्रणाली से जुड़े हुए हैं, निर्णय लेने की प्रक्रियाओं में पूर्वाग्रह का आकलन और कम करने से,” नील ने कहा, जो न्यूयॉर्क विश्वविद्यालय के लर्निंग फॉर गुड लेबोरेटरी के निदेशक भी हैं और न्यूयॉर्क विश्वविद्यालय के कोरांट इंस्टीट्यूट ऑफ मैथमेटिकल साइंसेज के संकाय सदस्य हैं।

नील के अलावा, शोध टीम में रावी श्रॉफ, सीयूएसपी और न्यूयॉर्क विश्वविद्यालय के स्टीनहार्ट स्कूल ऑफ कल्चर, एजुकेशन एंड ह्यूमन डेवलपमेंट में एक सहायक प्रोफेसर; कॉन्स्टेंटिन कोंटोकोस्टा, न्यूयॉर्क विश्वविद्यालय के मैरोन इंस्टीट्यूट ऑफ अर्बन मैनेजमेंट में एक प्रोफेसर और न्यूयॉर्क विश्वविद्यालय के टैंडन स्कूल ऑफ इंजीनियरिंग में संबद्ध संकाय; और एडवर्ड मैकफ़ोवलैंड III, मिनेसोटा विश्वविद्यालय के कार्लसन स्कूल ऑफ मैनेजमेंट में एक प्रोफेसर शामिल हैं।

ग्रांट अमेज़ॅन के साथ सहयोग में कृत्रिम बुद्धिमत्ता में न्याय के लिए एनएसएफ प्रोग्राम (2040898) के तहत दिया गया था।