एआई नैतिकता गठबंधन ने आपराधिकता पूर्वानुमान एल्गोरिदम की निंदा की

मंगलवार को, कई एआई शोधकर्ता, नैतिकतावादी, डेटा वैज्ञानिक और सामाजिक वैज्ञानिकों ने एक ब्लॉग पोस्ट जारी किया, जिसमें तर्क दिया गया कि अकादमिक शोधकर्ताओं को आपराधिक कृत्य करने की संभावना की भविष्यवाणी करने वाले शोध को आगे बढ़ाने से रोकना चाहिए, जैसे कि अपराध आंकड़ों और चेहरे की स्कैनिंग जैसे चरों पर आधारित है।

ब्लॉग पोस्ट को कोएलिशन फॉर क्रिटिकल टेक्नोलॉजी द्वारा लिखा गया था, जिन्होंने तर्क दिया कि ऐसे एल्गोरिदम का उपयोग अल्पसंख्यकों के खिलाफ पूर्वाग्रह के चक्र को बढ़ावा देता है। चेहरे की पहचान और भविष्यसूचक पुलिसिंग एल्गोरिदम की प्रभावशीलता के कई अध्ययनों से पता चलता है कि एल्गोरिदम अक्सर अल्पसंख्यकों को अधिक कठोरता से आंकते हैं, जो लेखकों का तर्क है कि आपराधिक न्याय प्रणाली में असमानताओं के कारण है। न्याय प्रणाली पक्षपातपूर्ण डेटा का उत्पादन करती है, और इसलिए इस डेटा पर प्रशिक्षित एल्गोरिदम उन्हें आगे बढ़ाते हैं, कोएलिशन फॉर क्रिटिकल टेक्नोलॉजी का तर्क है। गठबंधन का तर्क है कि “आपराधिकता” की धारणा अक्सर जाति पर आधारित होती है, और इसलिए इन प्रौद्योगिकियों पर किए गए शोध में एल्गोरिदम की तटस्थता की धारणा को माना जाता है, जबकि वास्तव में ऐसी कोई तटस्थता नहीं है।

द वर्ज की रिपोर्ट के अनुसार, एक अकादमिक कार्यों के बड़े प्रकाशक, स्प्रिंगर, एक अध्ययन प्रकाशित करने की योजना बना रहा था जिसका शीर्षक था “चेहरे की प्रसंस्करण का उपयोग करके आपराधिकता की भविष्यवाणी के लिए एक गहरा तंत्रिका नेटवर्क मॉडल”। अध्ययन के लेखकों ने दावा किया कि उन्होंने एक चेहरे की पहचान एल्गोरिदम विकसित की है जो लगभग 80% सटीकता के साथ बिना पूर्वाग्रह के एक व्यक्ति द्वारा अपराध करने की संभावना की भविष्यवाणी कर सकती है। हालांकि, कोएलिशन फॉर क्रिटिकल टेक्नोलॉजी ने स्प्रिंगर को एक खुला पत्र लिखा, जिसमें प्रकाशक से अनुरोध किया गया कि वह इस अध्ययन या इसी तरह के अन्य शोध को प्रकाशित न करे।

“स्प्रिंगर जैसे एक प्रमुख प्रकाशक द्वारा इस कार्य का प्रसार वास्तविक दुनिया में बार-बार खारिज किए गए, सामाजिक रूप से हानिकारक शोध के प्रचार और अनुप्रयोग की दिशा में एक महत्वपूर्ण कदम होगा,” गठबंधन का तर्क है।

स्प्रिंगर ने कहा कि यह पत्र प्रकाशित नहीं करेगा, जैसा कि एमआईटी टेक्नोलॉजी रिव्यू द्वारा रिपोर्ट किया गया है। स्प्रिंगर ने कहा कि पत्र एक आगामी सम्मेलन के लिए जमा किया गया था, लेकिन पियर रिव्यू प्रक्रिया के बाद पत्र को प्रकाशन के लिए अस्वीकार कर दिया गया।

कोएलिशन फॉर क्रिटिकल टेक्नोलॉजी का तर्क है कि आपराधिकता पूर्वानुमान पत्र केवल एक बड़े हानिकारक रुझान का एक उदाहरण है जहां एआई इंजीनियर और शोधकर्ता संवेदनशील, सामाजिक रूप से निर्मित चरों से युक्त डेटा पर आधारित व्यवहार की भविष्यवाणी करने का प्रयास करते हैं। गठबंधन का तर्क है कि बहुत सारे शोध वैज्ञानिक रूप से संदिग्ध विचारों और सिद्धांतों पर आधारित हैं, जो जीव विज्ञान और मनोविज्ञान में उपलब्ध साक्ष्य द्वारा समर्थित नहीं हैं। उदाहरण के लिए, प्रिंसटन और गूगल के शोधकर्ताओं ने एक लेख प्रकाशित किया, जिसमें चेतावनी दी गई कि चेहरे की विशेषताओं के आधार पर आपराधिकता की भविष्यवाणी करने वाले एल्गोरिदम भौतिकी जैसे विश्वासघाती और खतरनाक छद्म विज्ञान पर आधारित हैं। शोधकर्ताओं ने चेतावनी दी कि मशीन लर्निंग को प्राचीन सिद्धांतों को पुनर्जीवित करने की अनुमति नहीं देनी चाहिए जो नस्लवादी प्रणालियों का समर्थन करते हैं।

ब्लैक लाइव्स मैटर आंदोलन की हालिया गति ने कई कंपनियों को चेहरे की पहचान एल्गोरिदम के उपयोग की पुनः समीक्षा करने के लिए प्रेरित किया है। शोध से पता चलता है कि ये एल्गोरिदम अक्सर पक्षपातपूर्ण होते हैं, जो गैर-प्रतिनिधि और पक्षपातपूर्ण प्रशिक्षण डेटा पर आधारित होते हैं।

पत्र पर हस्ताक्षर करने वालों, इसके अलावा तर्क दिया कि एआई शोधकर्ताओं को आपराधिकता पूर्वानुमान एल्गोरिदम पर शोध छोड़ देना चाहिए, उन्होंने यह भी सिफारिश की कि शोधकर्ताओं को एआई मॉडल की सफलता का मूल्यांकन कैसे किया जाता है, इसे फिर से đánh giá करना चाहिए। गठबंधन के सदस्यों का सुझाव है कि एल्गोरिदम के सामाजिक प्रभाव को सफलता के एक माप के रूप में माना जाना चाहिए, साथ ही साथ सटीकता, रिकॉल और सटीकता जैसे मापदंडों के साथ। जैसा कि पत्र के लेखक लिखते हैं:

“यदि मशीन लर्निंग ‘सामाजिक अच्छा’ लाने जा रहा है जो अनुदान प्रस्तावों और प्रेस विज्ञप्तियों में बताया गया है, तो इस क्षेत्र में शोधकर्ताओं को अपने काम को संभव बनाने वाली शक्ति संरचनाओं (और संबंधित उत्पीड़न) पर सक्रिय रूप से प्रतिबिंबित करना चाहिए।”