تحالف الأخلاقيات الإصطناعية يدين خوارزميات التنبؤ بالإجرام

في يوم الثلاثاء، أصدر عدد من باحثي الذكاء الاصطناعي والأخلاقيين وعلماء البيانات وعلماء الاجتماع منشورًا على مدونة يجادلون بأن الباحثين الأكاديميين يجب أن يوقفوا البحث الذي يهدف إلى التنبؤ بالاحتمال أن يرتكب فرد جريمة، بناءً على متغيرات مثل إحصائيات الجريمة ومسح الوجه.

كان المنشور على المدونة من تأليف تحالف التكنولوجيا النقدي، الذي جادل بأن استخدام مثل هذه الخوارزميات يؤدي إلى استمرار دورة التحيز ضد الأقليات. وجدت العديد من الدراسات حول فعالية خوارزميات التعرف على الوجه والشرطة التنبؤية أن الخوارزميات تميل إلى الحكم على الأقليات بشكل أكثر صرامة، وهو ما يجادل به مؤلفو المنشور على المدونة أنه نتيجة للاختلافات في نظام العدالة الجنائية. ينتج نظام العدالة بيانات متحيزة، وبالتالي فإن الخوارزميات التي تم تدريبها على هذه البيانات تؤدي إلى انتشار تلك التحيزات، وفقًا لما جادله تحالف التكنولوجيا النقدي. يجادل التحالف بأن概念 “الإجرام” غالبًا ما يعتمد على العرق، وبالتالي فإن البحث الذي يتم على هذه التكنولوجيا يفترض нейтрالية الخوارزميات عندما لا توجد مثل هذه النيutralية في الواقع.

كما ذكرت مجلة The Verge، كان ناشر كبير للأعمال الأكاديمية، سبرينجر، يخطط لنشر دراسة بعنوان “نموذج الشبكة العصبية العميقة للتنبؤ بالإجرام باستخدام معالجة الصور”. زعم مؤلفو الدراسة أنهم صمموا خوارزمية للتعرف على الوجه قادرة على التنبؤ بفرصة أن يرتكب فرد جريمة بدون تحيز وبدقة تقريبية تبلغ 80٪. ومع ذلك، كتب تحالف التكنولوجيا النقدي خطابًا مفتوحًا إلى سبرينجر، يحث الناشر على الامتناع عن نشر الدراسة أو أي دراسات مستقبلية تتضمن بحثًا مشابهًا.

يجادل التحالف بأن نشر هذا العمل من قبل ناشر كبير مثل سبرينجر سيكون خطوة كبيرة نحو تسويغ وتطبيق بحث مُكرر وضار اجتماعيًا في العالم الحقيقي.

أعلنت سبرينجر أنها لن تنشر الورقة، كما ذكر موقع MIT Technology Review. ذكرت سبرينجر أن الورقة تم تقديمها لمؤتمر قادم، ولكن بعد عملية المراجعة من الأقران، تم رفض الورقة لنشرها.

يجادل تحالف التكنولوجيا النقدي بأن ورقة التنبؤ بالإجرام هي مجرد حالة واحدة لاتجاه أكبر وأكثر ضررًا حيث يحاول مهندسو الذكاء الاصطناعي والباحثون التنبؤ بالسلوك بناءً على بيانات تتكون من متغيرات حساسة ومنشأة اجتماعيًا. يجادل التحالف أيضًا بأن الكثير من هذا البحث يعتمد على أفكار و نظريات علمية مشكوك فيها، والتي لا تدعمها الأدلة المتاحة في علم الأحياء وعلم النفس. على سبيل المثال، نشر باحثون من جامعة برينستون وشركة جوجل مقالًا يحذر من أن الخوارزميات التي تدعي أنها قادرة على التنبؤ بالإجرام بناءً على ميزات الوجه تعتمد على علوم زائفة خطيرة مثل علم الفراسة. حذر الباحثون من السماح للتعلم الآلي بإعادة تنشيط نظريات قديمة مُبطلة تستخدم لدعم الأنظمة العنصرية.

أدى الزخم الأخير لحملة Black Lives Matter إلى حث العديد من الشركات التي تستخدم خوارزميات التعرف على الوجه على إعادة تقييم استخدامها لهذه الأنظمة. وجدت الأبحاث أن هذه الخوارزميات متحيزة بشكل متكرر، بناءً على بيانات تدريب غير ممثلة ومحيزة.

في بالإضافة إلى حجة أن باحثي الذكاء الاصطناعي يجب أن يتخلوا عن البحث على خوارزميات التنبؤ بالإجرام، أوصى الموقعون على الرسالة أيضًا بأن ي重新 الباحثون تقييم كيفية تقييم نجاح نماذج الذكاء الاصطناعي. يوصي أعضاء التحالف بأن تأثير النظام الاجتماعي على الخوارزميات يجب أن يكون معيارًا للنجاح، بالإضافة إلى معايير مثل الدقة والاستدلال والprecision. كما كتب مؤلفو الورقة:

“إذا كان الذكاء الاصطناعي سيجلب ‘الخير الاجتماعي’ المُتَوَصَّل به في مقترحات المنح وبيانات الصحافة، فيجب على الباحثين في هذا المجال أن يعكسوا بنشاط على الهياكل القوية (والاضطهادات المرافقة) التي تجعل عملهم ممكنًا”.