Ethics
एआई एथिक्स गठबंधन आपराधिकता भविष्यवाणी एल्गोरिदम की निंदा करता है
मंगलवार को कई एआई शोधकर्ता, नैतिकतावादी, डेटा वैज्ञानिक और सामाजिक वैज्ञानिक एक ब्लॉग पोस्ट जारी किया यह तर्क देते हुए कि अकादमिक शोधकर्ताओं को ऐसे शोध को आगे बढ़ाना बंद कर देना चाहिए जो अपराध के आंकड़ों और चेहरे के स्कैन जैसे कारकों के आधार पर इस संभावना का अनुमान लगाने का प्रयास करता है कि कोई व्यक्ति आपराधिक कृत्य करेगा।
ब्लॉग पोस्ट कोएलिशन फॉर क्रिटिकल टेक्नोलॉजी द्वारा लिखा गया था, जिसने तर्क दिया कि ऐसे एल्गोरिदम का उपयोग अल्पसंख्यकों के खिलाफ पूर्वाग्रह के चक्र को कायम रखता है। चेहरे की पहचान और पूर्वानुमानित पुलिसिंग एल्गोरिदम की प्रभावकारिता के कई अध्ययनों से पता चलता है कि एल्गोरिदम अल्पसंख्यकों का अधिक कठोरता से न्याय करते हैं, जो कि ब्लॉग पोस्ट के लेखकों का तर्क है कि यह आपराधिक न्याय प्रणाली में असमानताओं के कारण है। गठबंधन फॉर क्रिटिकल टेक्नोलॉजी का तर्क है कि न्याय प्रणाली पक्षपातपूर्ण डेटा उत्पन्न करती है, और इसलिए इस डेटा पर प्रशिक्षित एल्गोरिदम उन पूर्वाग्रहों को फैलाते हैं। गठबंधन का तर्क है कि "आपराधिकता" की धारणा अक्सर नस्ल पर आधारित होती है, और इसलिए इन प्रौद्योगिकियों पर किए गए शोध एल्गोरिदम की तटस्थता मानते हैं जबकि वास्तव में ऐसी कोई तटस्थता मौजूद नहीं है।
जैसा कि द वर्ज की रिपोर्ट हैशैक्षणिक कार्यों का एक बड़ा प्रकाशक, स्प्रिंगर, "इमेज प्रोसेसिंग का उपयोग करके आपराधिकता की भविष्यवाणी करने के लिए एक डीप न्यूरल नेटवर्क मॉडल" शीर्षक से एक अध्ययन प्रकाशित करने की योजना बना रहा था। अध्ययन के लेखकों ने दावा किया है कि उन्होंने चेहरे की पहचान करने वाला एक एल्गोरिदम तैयार किया है जो बिना किसी पूर्वाग्रह और लगभग 80% सटीकता के साथ किसी व्यक्ति के अपराध करने की संभावना का अनुमान लगाने में सक्षम है। फिर भी गठबंधन फॉर क्रिटिकल टेक्नोलॉजी ने स्प्रिंगर को एक खुला पत्र लिखा, जिसमें आग्रह किया गया कि प्रकाशक इसी तरह के शोध से जुड़े अध्ययन या भविष्य के अध्ययनों को प्रकाशित करने से परहेज करें।
गठबंधन का तर्क है, "स्प्रिंगर जैसे प्रमुख प्रकाशक द्वारा इस काम का प्रसार वास्तविक दुनिया में बार-बार खारिज किए गए, सामाजिक रूप से हानिकारक शोध को वैध बनाने और लागू करने की दिशा में एक महत्वपूर्ण कदम का प्रतिनिधित्व करेगा।"
स्प्रिंगर ने कहा कि वह पेपर प्रकाशित नहीं करेगा, जैसा कि एमआईटी टेक्नोलॉजी रिव्यू द्वारा रिपोर्ट किया गया है. स्प्रिंगर ने कहा कि पेपर आगामी सम्मेलन के लिए प्रस्तुत किया गया था, लेकिन सहकर्मी समीक्षा प्रक्रिया के बाद पेपर को प्रकाशन के लिए अस्वीकार कर दिया गया था।
गठबंधन फॉर क्रिटिकल टेक्नोलॉजी का तर्क है कि आपराधिकता भविष्यवाणी पत्र बड़े, हानिकारक प्रवृत्ति के लिए सिर्फ एक उदाहरण है जहां एआई इंजीनियर और शोधकर्ता संवेदनशील, सामाजिक रूप से निर्मित चर से युक्त डेटा के आधार पर व्यवहार की भविष्यवाणी करने का प्रयास करते हैं। गठबंधन का यह भी तर्क है कि अधिकांश शोध वैज्ञानिक रूप से संदिग्ध विचारों और सिद्धांतों पर आधारित हैं, जो जीव विज्ञान और मनोविज्ञान में उपलब्ध साक्ष्य द्वारा समर्थित नहीं हैं। उदाहरण के तौर पर, प्रिंसटन और गूगल के शोधकर्ता एक लेख प्रकाशित चेतावनी दी गई है कि चेहरे की विशेषताओं के आधार पर आपराधिकता की भविष्यवाणी करने में सक्षम होने का दावा करने वाले एल्गोरिदम शरीर विज्ञान जैसे बदनाम और खतरनाक छद्म विज्ञान पर आधारित हैं। शोधकर्ताओं ने नस्लवादी प्रणालियों का समर्थन करने के लिए इस्तेमाल किए जाने वाले लंबे समय से खारिज किए गए सिद्धांतों को फिर से मजबूत करने के लिए मशीन लर्निंग का उपयोग करने की अनुमति देने के खिलाफ चेतावनी दी।
ब्लैक लाइव्स मैटर आंदोलन की हालिया गति ने कई कंपनियों को इन प्रणालियों के उपयोग का पुनर्मूल्यांकन करने के लिए चेहरे की पहचान एल्गोरिदम का उपयोग करने के लिए प्रेरित किया है। शोध में पाया गया है कि गैर-प्रतिनिधि, पक्षपाती प्रशिक्षण डेटा के आधार पर ये एल्गोरिदम अक्सर पक्षपाती होते हैं।
पत्र के हस्ताक्षरकर्ताओं ने यह तर्क देने के अलावा कि एआई शोधकर्ताओं को आपराधिक भविष्यवाणी एल्गोरिदम पर शोध छोड़ देना चाहिए, उन्होंने यह भी सिफारिश की है कि शोधकर्ता पुनर्मूल्यांकन करें कि एआई मॉडल की सफलता को कैसे आंका जाता है। गठबंधन के सदस्यों का सुझाव है कि सटीकता, रिकॉल और सटीकता जैसे मेट्रिक्स के अलावा, एल्गोरिदम का सामाजिक प्रभाव सफलता के लिए एक मीट्रिक होना चाहिए। जैसा कि पेपर के लेखक लिखते हैं:
"अगर मशीन लर्निंग को अनुदान प्रस्तावों और प्रेस विज्ञप्तियों में बताए गए 'सामाजिक अच्छे' को लाना है, तो इस क्षेत्र में शोधकर्ताओं को सक्रिय रूप से बिजली संरचनाओं (और संबंधित उत्पीड़न) पर विचार करना चाहिए जो उनके काम को संभव बनाते हैं।"
