एआई नैतिकता गठबंधन द्वारा आपराधिकता पूर्वानुमान एल्गोरिदम की निंदा

मंगलवार को, कई एआई शोधकर्ता, नैतिकतावादी, डेटा वैज्ञानिक और सामाजिक वैज्ञानिक एक ब्लॉग पोस्ट जारी करने के लिए एक साथ आए जिसमें तर्क दिया गया कि अकादमिक शोधकर्ताओं को ऐसे शोध को आगे बढ़ाने से रोकना चाहिए जो अपराध की संभावना की भविष्यवाणी करने का प्रयास करता है, जैसे कि अपराध सांख्यिकी और चेहरे की स्कैनिंग जैसे चर पर आधारित एक व्यक्ति द्वारा अपराध करने की।

ब्लॉग पोस्ट को कोएलिशन फॉर क्रिटिकल टेक्नोलॉजी द्वारा लिखा गया था, जिन्होंने तर्क दिया कि ऐसे एल्गोरिदम का उपयोग अल्पसंख्यकों के खिलाफ पूर्वाग्रह के चक्र को बढ़ावा देता है। चेहरे की पहचान और भविष्य की पुलिसिंग एल्गोरिदम की प्रभावशीलता के कई अध्ययनों से पता चलता है कि एल्गोरिदम अक्सर अल्पसंख्यकों के साथ अधिक कठोर व्यवहार करते हैं, जिसके लिए ब्लॉग पोस्ट के लेखकों का तर्क है कि यह आपराधिक न्याय प्रणाली में असमानताओं के कारण है। न्याय प्रणाली पक्षपातपूर्ण डेटा का उत्पादन करती है, और इसलिए इस डेटा पर प्रशिक्षित एल्गोरिदम उन्हें बढ़ावा देते हैं, कोएलिशन फॉर क्रिटिकल टेक्नोलॉजी का तर्क है। गठबंधन का तर्क है कि “अपराधिकता” की धारणा अक्सर जाति पर आधारित होती है, और इसलिए इन प्रौद्योगिकियों पर किए गए शोध में एल्गोरिदम की तटस्थता का अनुमान लगाया जाता है जब वास्तव में ऐसी कोई तटस्थता नहीं होती है।

द वर्ज की रिपोर्ट के अनुसार, एक अकादमिक कार्यों के बड़े प्रकाशक, स्प्रिंगर, एक अध्ययन प्रकाशित करने की योजना बना रहा था जिसका शीर्षक था “चेहरे की प्रसंस्करण का उपयोग करके आपराधिकता की भविष्यवाणी के लिए एक गहरा तंत्रिका नेटवर्क मॉडल”। अध्ययन के लेखकों ने दावा किया कि उन्होंने एक चेहरे की पहचान एल्गोरिदम को डिज़ाइन किया है जो लगभग 80% सटीकता के साथ और किसी भी पूर्वाग्रह के बिना अपराध करने की संभावना की भविष्यवाणी कर सकता है। हालांकि, कोएलिशन फॉर क्रिटिकल टेक्नोलॉजी ने स्प्रिंगर को एक खुला पत्र लिखा, जिसमें प्रकाशक से अनुरोध किया गया कि वह इस अध्ययन या भविष्य में इसी तरह के शोध से संबंधित अध्ययनों को प्रकाशित करने से रोके।

“एक प्रमुख प्रकाशक जैसे स्प्रिंगर द्वारा इस कार्य का प्रसार वास्तविक दुनिया में बार-बार खारिज किए गए, सामाजिक रूप से हानिकारक शोध के प्रचार और अनुप्रयोग की ओर एक महत्वपूर्ण कदम का प्रतिनिधित्व करेगा,” गठबंधन का तर्क है।

स्प्रिंगर ने कहा कि यह पत्र प्रकाशित नहीं करेगा, जैसा कि एमआईटी टेक्नोलॉजी रिव्यू द्वारा रिपोर्ट किया गया। स्प्रिंगर ने कहा कि पत्र एक आगामी सम्मेलन के लिए जमा किया गया था, लेकिन पियर रिव्यू प्रक्रिया के बाद पत्र को प्रकाशन के लिए अस्वीकार कर दिया गया था।

कोएलिशन फॉर क्रिटिकल टेक्नोलॉजी का तर्क है कि आपराधिकता पूर्वानुमान पत्र एक बड़े हानिकारक रुझान का केवल एक उदाहरण है जहां एआई इंजीनियर और शोधकर्ता संवेदनशील, सामाजिक रूप से निर्मित चर के आधार पर व्यवहार की भविष्यवाणी करने का प्रयास करते हैं। गठबंधन का तर्क है कि बहुत सारे शोध वैज्ञानिक रूप से संदिग्ध विचारों और सिद्धांतों पर आधारित हैं, जो जीव विज्ञान और मनोविज्ञान में उपलब्ध साक्ष्य द्वारा समर्थित नहीं हैं। एक उदाहरण के रूप में, प्रिंसटन और गूगल के शोधकर्ताओं ने एक लेख प्रकाशित किया जिसमें चेतावनी दी गई कि चेहरे की विशेषताओं के आधार पर आपराधिकता की भविष्यवाणी करने का दावा करने वाले एल्गोरिदम भ्रामक और खतरनाक प्सेव्डोसाइंस जैसे फिजियोग्नोमी पर आधारित हैं। शोधकर्ताओं ने चेतावनी दी कि मशीन लर्निंग को पुनः प्रवर्तित करने की अनुमति न दें जो लंबे समय से खारिज किए गए सिद्धांतों का समर्थन करते हैं जो नस्लवादी प्रणालियों का समर्थन करते हैं।

ब्लैक लाइव्स मैटर आंदोलन की हालिया गति ने कई कंपनियों को अपने चेहरे की पहचान एल्गोरिदम के उपयोग की पुनः समीक्षा करने के लिए प्रेरित किया है। शोध से पता चलता है कि ये एल्गोरिदम अक्सर पक्षपातपूर्ण होते हैं, जो गैर-प्रतिनिधि और पक्षपातपूर्ण प्रशिक्षण डेटा पर आधारित होते हैं।

पत्र पर हस्ताक्षर करने वाले, आपराधिकता पूर्वानुमान एल्गोरिदम पर शोध छोड़ने के लिए एआई शोधकर्ताओं का तर्क देने के अलावा, उन्होंने यह भी सिफारिश की कि शोधकर्ताओं को एआई मॉडल की सफलता को कैसे मापा जाए, इसका पुनर्मूल्यांकन करना चाहिए। गठबंधन के सदस्यों का सुझाव है कि एल्गोरिदम के सामाजिक प्रभाव को सफलता के लिए एक मीट्रिक के रूप में उपयोग किया जाना चाहिए, साथ ही साथ सटीकता, रिकॉल और सटीकता जैसे मीट्रिक। जैसा कि पत्र के लेखक लिखते हैं:

“यदि मशीन लर्निंग ‘सामाजिक अच्छाई’ लाने वाली है जैसा कि अनुदान प्रस्तावों और प्रेस विज्ञप्तियों में बताया गया है, तो इस क्षेत्र में शोधकर्ताओं को सक्रिय रूप से उन शक्ति संरचनाओं (और संबंधित उत्पीड़न) पर प्रतिबिंबित करना चाहिए जो उनके काम को संभव बनाते हैं।”