अमेरिका में पहला मामला – खराब एल्गोरिदम के कारण गलत गिरफ्तारी

पिछले हफ्ते, न्यूयॉर्क टाइम्स ने रिपोर्ट की कि अमेरिका में पहला मामला सामने आया है जहां एक खराब एल्गोरिदम के कारण गलत गिरफ्तारी हुई है। यह घटना डेट्रॉइट में हुई जब रॉबर्ट जुलियन-बोरचक विलियम्स, एक अफ्रीकी अमेरिकी व्यक्ति, को गिरफ्तार किया गया क्योंकि उन्हें सुरक्षा फुटेज में दिखाए गए व्यक्ति के साथ गलत तरीके से मिलाया गया था।

अमेरिकन सिविल लिबर्टीज यूनियन (एसीएलयू) ने तुरंत कार्रवाई की और डेट्रॉइट पुलिस के खिलाफ शिकायत दर्ज की। एसीएलयू ने विलियम्स के मामले को खारिज करने और उनकी जानकारी को डेट्रॉइट के आपराधिक डेटाबेस से हटाने के लिए दबाव डाला, जिसके बाद अभियोक्ताओं ने उन कार्रवाइयों को आगे बढ़ाया।

यह विकास अमेरिका में अपनी तरह का पहला मामला है, और यह दुनिया भर में चेहरे की पहचान तकनीक के उपयोग से उत्पन्न होने वाली गंभीर चिंताओं को उजागर करता है।

चेहरे की पहचान प्रणालियों के साथ समस्याएं

चेहरे की पहचान प्रणालियों को लेकर विवाद बढ़ रहा है, और यह निजता और गलत आरोपों के बारे में चिंतित लोगों के बीच एक बहस का विषय बन गया है।

हाल के दिनों में देश भर में और दुनिया के कई हिस्सों में पुलिस की बर्बरता और भेदभाव के खिलाफ विरोध प्रदर्शन हुए हैं, जिसके कारण यह जांच और बढ़ गई है।

इन एल्गोरिदम ने कानून प्रवर्तन में एक नया पहलू जोड़ा है, और वे दोषों से भरे हुए हैं।

गलत आरोप

विलियम्स को जिस डकैती के लिए गलत तरीके से पहचाना गया था, वह अक्टूबर 2018 में हुई थी। सुरक्षा वीडियो को मार्च 2019 में मिशिगन राज्य के चेहरे की पहचान डेटाबेस में अपलोड किया गया था।

विलियम्स की फोटो एक फोटो लाइनअप में शामिल हो गई, जहां एक सुरक्षा गार्ड ने विलियम्स को अपराध करने वाले व्यक्ति के रूप में पहचाना।

एसीएलयू के अनुसार, उस गार्ड ने वास्तव में डकैती को पहले से नहीं देखा था।

जनवरी में, विलियम्स को डेट्रॉइट पुलिस विभाग से एक फोन कॉल मिला, जिसमें उन्हें अपनी गिरफ्तारी के बारे में बताया गया। जब उन्होंने फोन कॉल को मजाक में लिया, तो पुलिस एक घंटे बाद उनके घर पहुंच गई।

विलियम्स को एक हिरासत केंद्र में ले जाया गया, जहां उनकी मुगशॉट, फिंगरप्रिंट और डीएनए लिया गया, और उन्हें बाद में स्टेशन पर रात भर रखा गया।

इसके बाद एक पूछताछ हुई, जो उन्होंने कभी नहीं की थी, सिर्फ एक दोषपूर्ण पहचान प्रणाली के कारण।

विलियम्स का मामला उनकी गिरफ्तारी के दो हफ्ते बाद खारिज कर दिया गया था, लेकिन बड़े पैमाने पर, यह घटना बहुत कुछ मतलब रखती है और निजता के लिए बड़े प्रभाव हैं। चेहरे की पहचान सॉफ्टवेयर का उपयोग सरकारों और कानून प्रवर्तन एजेंसियों द्वारा बढ़ रहा है, और यह मामला गंभीर उल्लंघनों की शुरुआत हो सकता है, जो पहले से ही चीन जैसे देशों में हो रहे हैं, लेकिन अभी तक संयुक्त राज्य अमेरिका में नहीं हैं।

एक ऐसा उल्लंघन यह है कि विलियम्स का डीएनए नमूना, मुगशॉट और फिंगरप्रिंट अब सभी तकनीक के सीधे परिणाम के रूप में फाइल पर हैं। न केवल यह, बल्कि उनकी गिरफ्तारी रिकॉर्ड पर है।

निजी कंपनियां और कानून प्रवर्तन

विलियम्स का मामला तब आया जब आईबीएम, माइक्रोसॉफ्ट और अमेज़ॅन जैसी प्रमुख कंपनियों ने कानून प्रवर्तन को अपनी चेहरे की पहचान प्रौद्योगिकी प्रदान करना बंद कर दिया है।

पहली बड़ी कंपनी जिसने ऐसा किया वह आईबीएम थी, जब सीईओ अरविंद कृष्णा ने कांग्रेस को एक पत्र भेजा, जिसमें उन्होंने सामान्य उद्देश्य के लिए चेहरे की पहचान या विश्लेषण सॉफ्टवेयर प्रदान नहीं करने की बात कही। इसके अलावा, कंपनी ने इस प्रौद्योगिकी के अनुसंधान और विकास को भी रोक दिया।

“आईबीएम चेहरे की पहचान प्रौद्योगिकी के किसी भी उपयोग का विरोध करता है और इसकी निंदा करता है, जिसमें अन्य विक्रेताओं द्वारा प्रदान की जाने वाली चेहरे की पहचान प्रौद्योगिकी भी शामिल है, जैसे कि масс सurveilance, नस्लीय प्रोफाइलिंग, मूलभूत मानवाधिकारों और स्वतंत्रता के उल्लंघन, या किसी भी उद्देश्य के लिए जो हमारे मूल्यों और विश्वास और पारदर्शिता के सिद्धांतों के अनुरूप नहीं है,” पत्र में कहा गया है। “हम मानते हैं कि अब घरेलू कानून प्रवर्तन एजेंसियों द्वारा चेहरे की पहचान प्रौद्योगिकी का उपयोग कैसे किया जाना चाहिए, इस पर राष्ट्रीय संवाद शुरू करने का समय है।”

अमेज़ॅन ने इसके बाद कानून प्रवर्तन को अपने रेकॉग्निशन चेहरे की पहचान मंच का उपयोग करने की अनुमति देने पर एक साल का प्रतिबंध लगाने की घोषणा की।

यह घोषणा आईबीएम के फैसले के कुछ दिनों बाद ही आई।

चेहरे की पहचान प्रौद्योगिकी और भेदभाव के मुद्दे पर किए गए सबसे महत्वपूर्ण कार्यों में से एक 2018 का एक पत्र था, जिसे जॉय बुओलामविनी और टिमनित गेब्रू ने सह-लेखक किया था। बुओलामविनी एमआईटी मीडिया लैब में एक शोधकर्ता हैं, और गेब्रू माइक्रोसॉफ्ट रिसर्च में एक सदस्य हैं।

2018 के पत्र में पाया गया कि “मशीन लर्निंग एल्गोरिदम नस्ल और लिंग जैसे वर्गों के आधार पर भेदभाव कर सकते हैं,” अन्य बातों के अलावा।

रॉबर्ट जुलियन-बोरचक विलियम्स का मामला उन लोगों के लिए बहुत चिंताजनक है जो संयुक्त राज्य अमेरिका में रहते हैं, लेकिन यह दुनिया भर में हो रही घटनाओं का संकेतक भी है। सरकारों और कानून प्रवर्तन एजेंसियों द्वारा चेहरे की पहचान प्रौद्योगिकी का उपयोग अभी शुरू हो रहा है, और इसके दुरुपयोग को रोकने के लिए बहुत कम कुछ है। चाहे यह चीन का चेहरे की पहचान प्रौद्योगिकी का व्यापक उपयोग हो या संयुक्त राज्य अमेरिका में विलियम्स का गलत पहचान, यह तकनीक दुनिया की आबादी को नए निजता और मानवाधिकार उल्लंघनों के सेट के लिए खोलती है जो पहले मौजूद नहीं थे।