شاهد الولايات المتحدة أول حالة للاعتقال الخاطئ بسبب خوارزمية سيئة

أفادت النيويورك تايمز عن أول حالة للاعتقال الخاطئ بسبب خوارزمية سيئة في الولايات المتحدة. وقعت الحادثة في ديترويت عندما اعتقل روبرت جوليان-بورشاك ويليامز، رجل أمريكي من أصل أفريقي، بعد أن تم تحديده بشكل خاطئ مع لقطات أمان تظهر شخصًا يرتكب سرقة.

انتقدت الاتحاد الأمريكي للحريات المدنية (ACLU) بسرعة الإجراء و提عت تقريرًا ضد شرطة ديترويت. بعد أن pushed ACLU لمسألة ويليامز إلى إلغاء القضية وإزالة معلوماته من قواعد البيانات الجنائية في ديترويت، واصل المدعون الإجراءات.

هذه التطورات هي الأولى من نوعها في الولايات المتحدة، وتسلط الضوء على بعض القضايا الجادة التي تظهر في جميع أنحاء العالم مع استخدام تقنية التعرف على الوجه من قبل الدولة.

مشاكل أنظمة التعرف على الوجه

لقد كانت أنظمة التعرف على الوجه موضوعًا للجدل لبعض الوقت، وتزداد زيادةً بشكل متزايد نقطة للنقاش بين أولئك الذين يهتمون بالخصوصية والاتهامات الكاذبة.

مع الاحتجاجات الأخيرة في جميع أنحاء البلاد وفي nhiều partes من العالم ضد عنف الشرطة والتمييز، زادت تلك التدقيق.

أحضرت هذه الخوارزميات جانبًا جديدًا للإنفاذ القانوني، ومليئة بالعيوب.

الاتهام الكاذب

وقعت السرقة التي تم تحديد ويليامز بشكل خاطئ على أنها ارتكبها في أكتوبر 2018. تم تحميل فيديو المراقبة إلى قاعدة بيانات التعرف على الوجه في مارس 2019.

تمكن صورة ويليامز من الدخول إلى قائمة الصور، حيث حدد حارس الأمن ويليامز على أنه الشخص الذي ارتكب الجريمة.

وفقًا لاتحاد الحريات المدنية، لم يشهد حارس الأمن السرقة بشكل مباشر.

في يناير، تلقى ويليامز مكالمة هاتفية من قسم الشرطة في ديترويت لإبلاغه باعتقاله. عندما تجاهل المكالمة على أنها مزحة، وصلت الشرطة إلى منزله بعد ساعة فقط.

تم أخذ ويليامز إلى مركز احتجاز حيث تم أخذ صورة له، وبصماته، وDNA، وتم احتجازه طوال الليل في المحطة.

ما تبعه كان استجوابًا لجريمة لم يرتكبها، كل ذلك بسبب نظام تعرف سيء.

تم إلغاء قضية ويليامز بعد أسبوعين من اعتقاله، ولكن على نطاق أوسع، كان هذا الحادث يعني الكثير أكثر وأثر كبير على الخصوصية. مع زيادة استخدام برنامج التعرف على الوجه من قبل الحكومات ووكالات إنفاذ القانون، يمكن أن يكون هذا الحادث بداية لانتهاكات جسيمة، والتي قد بدأت بالفعل في دول مثل الصين ولكنها لم تصل إلى الولايات المتحدة بعد، على الأقل حتى الآن.

من بين هذه الانتهاكات أن عينة DNA ويليامز وصورته و بصماته الآن كلها في الملف نتيجة مباشرة للتكنولوجيا. ليس ذلك فقط، ولكن اعتقاله مسجل.

الشركات الخاصة وإنفاذ القانون

يأتي قضية ويليامز مع توقف الشركات الكبيرة مثل IBM وMicrosoft وAmazon عن توفير تقنيات التعرف على الوجه لإنفاذ القانون.

كانت IBM أول شركة تقوم بذلك عندما أرسل الرئيس التنفيذي أرفيند كريشنا خطابًا إلى الكونغرس حول عدم تقديم برنامج التعرف على الوجه أو تحليل البرمجيات. بالإضافة إلى ذلك، توقفت الشركة عن بحثها وتطوير التكنولوجيا.

“تعارض IBM بشدة وستمنع استخدام أي تكنولوجيا للتعرف على الوجه، بما في ذلك تكنولوجيا التعرف على الوجه التي تقدمها بائعيها الآخرون، لمراقبة الجماهيرية أو التمييز العنصري أو انتهاكات حقوق الإنسان الأساسية والحرية، أو أي غرض لا يتوافق مع قيمنا ومبادئ الثقة والشفافية”، وفقًا للخطاب. “نعتقد الآن أن الوقت قد حان لبدء حوار وطني حول ما إذا وكيف يجب استخدام تكنولوجيا التعرف على الوجه من قبل وكالات إنفاذ القانون المحلية”.

تبعت أمازون ذلك عندما أعلنت عن مورаторيوم لمدة سنة على السماح لإنفاذ القانون باستخدام منصة أمازون Rekognition للتعرف على الوجه.

جاء الإعلان بعد أيام فقط من quyếtيبة IBM.

أحد أهم الأعمال المتعلقة بمسألة التمييز وتقنية التعرف على الوجه كان ورقة 2018 التي شارك في تأليفها جوي بوولامويني وتيمنيت جبرو. بوولامويني هي باحثة في معمل MIT الإعلامي، وجبرو هي عضو في Microsoft (MSFT ) Research.

وجدت ورقة 2018 أن “خوارزميات التعلم الآلي يمكن أن تميز على أساس الفئات مثل العرق والجنس”، من بين أشياء أخرى.

قضية روبرت جوليان-بورشاك ويليامز مُقلقة جدًا لأولئك الذين يعيشون في الولايات المتحدة، ولكنها أيضًا مؤشر على ما يحدث في جميع أنحاء العالم. استخدام تقنية التعرف على الوجه من قبل الحكومات ووكالات إنفاذ القانون مجرد بداية، وهناك القليل جدًا لمنعها من الاستخدام غير الأخلاقي. سواء كان ذلك استخدام الصين الواسع النطاق لتكنولوجيا التعرف على الوجه لمراقبة الأمن، أو قضية ويليامز التي تم تحديدها بشكل خاطئ في الولايات المتحدة، فإن التكنولوجيا تفتح الباب أمام انتهاكات جديدة للاختلاس وانتهاكات حقوق الإنسان التي لم تكن موجودة من قبل.