अमेरिका में पहला मामला – खराब अल्गोरिदम के कारण गलत गिरफ्तारी

पिछले हफ्ते, न्यूयॉर्क टाइम्स ने रिपोर्ट की अमेरिका में पहले मामले की खबर दी जिसमें एक खराब अल्गोरिदम के कारण गलत गिरफ्तारी हुई। यह घटना डेट्रॉइट में हुई जब रॉबर्ट जुलियन-बोरचक विलियम्स, एक अफ्रीकी अमेरिकी व्यक्ति, को गिरफ्तार किया गया क्योंकि उन्हें सुरक्षा फुटेज में दिखाए गए व्यक्ति से गलत तरीके से मिलान किया गया था जो दुकान से चोरी कर रहा था।

अमेरिकन सिविल लिबर्टीज यूनियन (एसीएलयू) ने तुरंत कार्रवाई की और डेट्रॉइट पुलिस के खिलाफ शिकायत दर्ज की। एसीएलयू ने विलियम्स के मामले को खारिज करने और उनकी जानकारी को डेट्रॉइट के आपराधिक डेटाबेस से हटाने के लिए दबाव डाला, जिसके बाद अभियोक्ताओं ने उन कार्रवाइयों को आगे बढ़ाया।

यह घटना अमेरिका में अपनी तरह की पहली घटना है, और यह दुनिया भर में राज्य द्वारा चेहरे की पहचान प्रौद्योगिकी के उपयोग के साथ उत्पन्न होने वाली गंभीर चिंताओं को उजागर करती है।

चेहरे की पहचान प्रणाली की समस्याएं

चेहरे की पहचान प्रणाली विवाद का विषय रही हैं, और निजता और गलत आरोपों के बारे में चिंतित लोगों के बीच बहस का मुद्दा बनती जा रही हैं।

हाल के देशव्यापी और दुनिया भर में पुलिस की बर्बरता और भेदभाव के खिलाफ विरोध प्रदर्शन के साथ, यह जांच और भी बढ़ गई है।

इन अल्गोरिदम ने कानून प्रवर्तन में एक नया पहलू लाया है और उनमें खामियां हैं।

गलत आरोप

विलियम्स को जिस डकैती के लिए गलत तरीके से पहचाना गया था, वह अक्टूबर 2018 में हुई थी। सुरक्षा वीडियो को मार्च 2019 में मिशिगन राज्य के चेहरे की पहचान डेटाबेस में अपलोड किया गया था।

विलियम्स की फोटो एक फोटो लाइनअप में शामिल हुई, जहां एक सुरक्षा गार्ड ने विलियम्स को अपराध करने वाले व्यक्ति के रूप में पहचाना।

एसीएलयू के अनुसार, उस गार्ड ने वास्तव में डकैती को पहले से नहीं देखा था।

जनवरी में, विलियम्स को डेट्रॉइट पुलिस विभाग से एक फोन कॉल मिला, जिसमें उन्हें उनकी गिरफ्तारी की जानकारी दी गई। जब उन्होंने फोन कॉल को मजाक में लिया, तो पुलिस एक घंटे बाद उनके घर पहुंच गई।

विलियम्स को एक हिरासत केंद्र ले जाया गया, जहां उनकी मुगशॉट, उंगलियों के निशान और डीएनए लिया गया, और उन्हें बाद में स्टेशन पर पूरी रात रखा गया।

इसके बाद, उनसे एक अपराध के बारे में पूछताछ की गई, जो उन्होंने कभी नहीं किया था, सिर्फ एक दोषपूर्ण पहचान प्रणाली के कारण।

विलियम्स का मामला उनकी गिरफ्तारी के दो हफ्ते बाद खारिज कर दिया गया था, लेकिन बड़े पैमाने पर, यह घटना बहुत कुछ मतलब रखती है और निजता के लिए बड़े पैमाने पर परिणाम हैं। सरकारों और कानून प्रवर्तन एजेंसियों द्वारा चेहरे की पहचान सॉफ्टवेयर के बढ़ते उपयोग के साथ, यह मामला गंभीर उल्लंघनों की शुरुआत हो सकती है, जो पहले से ही चीन जैसे देशों में हो रहे हैं, लेकिन अभी तक सार्वजनिक ज्ञान में नहीं हैं।

एक这样的 उल्लंघन यह है कि विलियम्स का डीएनए नमूना, मुगशॉट और उंगलियों के निशान अब सभी तकनीक के सीधे परिणाम के रूप में फाइल पर हैं। न केवल यह, बल्कि उनकी गिरफ्तारी रिकॉर्ड पर है।

निजी कंपनियां और कानून प्रवर्तन

विलियम्स का मामला तब सामने आया जब आईबीएम, माइक्रोसॉफ्ट और अमेज़न जैसी प्रमुख कंपनियों ने कानून प्रवर्तन को अपनी चेहरे की पहचान प्रौद्योगिकी प्रदान करना बंद कर दिया।

पहली बड़ी कंपनी जिसने ऐसा किया वह आईबीएम थी, जब सीईओ अरविंद कृष्णा ने कांग्रेस को एक पत्र भेजा, जिसमें उन्होंने सामान्य उद्देश्य के लिए चेहरे की पहचान या विश्लेषण सॉफ्टवेयर प्रदान नहीं करने की बात कही। इसके अलावा, कंपनी ने इस प्रौद्योगिकी के अनुसंधान और विकास को भी रोक दिया।

“आईबीएम दृढ़ता से विरोध करता है और किसी भी चेहरे की पहचान प्रौद्योगिकी के उपयोग की अनुमति नहीं देगा, जिसमें अन्य विक्रेताओं द्वारा प्रदान की जाने वाली चेहरे की पहचान प्रौद्योगिकी भी शामिल है, जन सूर्यनिगरानी, नस्लीय प्रोफाइलिंग, मूलभूत मानवाधिकारों और स्वतंत्रता के उल्लंघन, या किसी ऐसे उद्देश्य के लिए जो हमारे मूल्यों और विश्वास और पारदर्शिता के सिद्धांतों के अनुसार नहीं है,” पत्र के अनुसार। “हम मानते हैं कि अब घरेलू कानून प्रवर्तन एजेंसियों द्वारा चेहरे की पहचान प्रौद्योगिकी का उपयोग कैसे किया जाना चाहिए, इस पर राष्ट्रीय संवाद शुरू करने का समय है।”

अमेज़न ने इसके बाद कानून प्रवर्तन को अपने रेकॉग्निशन चेहरे की पहचान मंच का उपयोग करने की अनुमति देने पर एक साल की मोराटोरियम की घोषणा की।

यह घोषणा आईबीएम के फैसले के कुछ दिनों बाद ही आई।

भेदभाव और चेहरे की पहचान प्रौद्योगिकी के मुद्दे पर किए गए सबसे महत्वपूर्ण कार्यों में से एक 2018 का एक पत्र है जिसे जॉय बुओलामविनी और टिमनिट गेब्रू ने सह-लिखा था। बुओलामविनी एमआईटी मीडिया लैब में एक शोधकर्ता हैं, और गेब्रू माइक्रोसॉफ्ट रिसर्च में एक सदस्य हैं।

2018 के पत्र में पाया गया कि “मशीन लर्निंग अल्गोरिदम जाति और लिंग जैसे वर्गों के आधार पर भेदभाव कर सकते हैं,” अन्य बातों के अलावा।

रॉबर्ट जुलियन-बोरचक विलियम्स का मामला उन लोगों के लिए बहुत चिंताजनक है जो संयुक्त राज्य अमेरिका में रहते हैं, लेकिन यह दुनिया भर में हो रही घटनाओं का संकेत भी है। सरकारों और कानून प्रवर्तन एजेंसियों द्वारा चेहरे की पहचान प्रौद्योगिकी का उपयोग अभी शुरू हो रहा है, और इसके अनैतिक उपयोग को रोकने के लिए बहुत कम कुछ है। चाहे यह चीन में चेहरे की पहचान प्रौद्योगिकी का व्यापक उपयोग हो या संयुक्त राज्य अमेरिका में विलियम्स का गलत पहचान, यह प्रौद्योगिकी दुनिया की आबादी को नए गोपनीयता और मानवाधिकार उल्लंघनों के लिए खोल देती है जो पहले मौजूद नहीं थे।