الأخلاقيات
منحة NSF & Amazon تدعم البحث في NYU لمساعدة المدن في الحد من التحيزات في اتخاذ القرارات المدعومة بالذكاء الاصطناعي
سيطور فريق من الباحثين في جامعة نيويورك طرقًا وأدوات جديدة تهدف إلى تقليل التحيزات النظامية وإنتاج تأثيرات سياسات عامة أكثر مساواة في مجالات مثل تفتيش السكن الحضري والشرطة والمحاكم.
في إطار منحة بقيمة مليون دولار من مؤسسة العلوم الوطنية (NSF) وAmazon، سيقود أستاذ علوم الحاسوب دانيال ب. نيل مشروع البحث الذي يستمر ثلاث سنوات ويركز على استخدام الذكاء الاصطناعي المتزايد من قبل المنظمات الحضرية في القطاع العام – وهو عمل سيشمل إنشاء أدوات مفتوحة المصدر لتقييم وتصحيح التحيزات.
“القرارات البشرية والقرارات الخوارزمية لها إمكانية للتحيزات النظامية التي قد تؤدي إلى نتائج سيئة في النهاية مثل الاختلافات وعدم المساواة عبر الخطوط العرقية والجنسية والاجتماعية والاقتصادية”، قال نيل، وهو عضو في هيئة تدريس مركز العلوم الحضرية والتقدم (CUSP) في كلية الهندسة في NYU Tandon، وأستاذ في كلية واغنر للخدمة العامة في NYU.
“ما نريد فهمه هو كيف يمكن للخوارزميات تعزيز اتخاذ القرارات البشرية من خلال إlimination التحيزات الضمنية، وتطوير طرق وأدوات لمساعدة المصممين ومُطبقي تدخلات السياسات في المدن”.
في البحث في المخاطر والفوائد لاتخاذ القرار الخوارزمي، سيطور فريق المشروع تصورًا جديدًا لمفهوم العدالة يتكون من سبعة مراحل متميزة: البيانات والنمذجة والتنبؤات والتوصيات والقرارات والآثار والنتائج. سيتمحور “خط أنابيب العدالة من النهاية إلى النهاية” في مصادر متعددة من التحيز ونمذجة كيفية انتشار التحيزات عبر خط الأنابيب لتحقيق نتائج غير عادلة، وتقييم الحساسية للتحيزات غير المقاسة.
ثانيًا، سيبني الفريق إطارًا منهجيًا عامًا لتحديد وتصحيح التحيزات في كل مرحلة من مراحل خط الأنابيب، ونوع من مسح التحيز، إلى جانب أدوات دعم اتخاذ القرار الخوارزمية التي توفر توصيات لمُتخذ القرار البشري (مثل الدفع الخوارزمي لتوجيه القرارات البشرية نحو العدالة).
أخيرًا، سيخلق فريق المشروع مقاييس جديدة لقياس وجود ومدى التحيز في مجالات العدالة الجنائية والإسكان، والأدوات التي يمكن استخدامها ل: (أ) تقليل السجن من خلال تقديم تدخلات داعمة على نحو عادل للسكان المتورطين مع العدالة؛ (ب) تحديد الأولويات لعمليات التفتيش والإصلاح السكنية؛ (ج) تقييم وتحسين عدالة إجراءات المحاكم المدنية والجنائية؛ (د) تحليل الآثار الصحية غير المتكافئة للتعرضات البيئية الضارة، بما في ذلك السكن الرديء وممارسات الشرطة العدوانية غير العادلة.
“الآثر النهائي لهذا العمل هو تعزيز العدالة الاجتماعية لأولئك الذين يعيشون في المدن والذين يعتمدون على خدمات المدينة أو المتورطون مع نظام العدالة، من خلال تقييم وتخفيف التحيزات في عمليات اتخاذ القرار وتقليل الاختلافات”، قال نيل، الذي هو أيضًا مدير مختبر Learning for Good في NYU وأستاذ في معهد Courant للعلوم الرياضية.
بجانب نيل، يضم فريق البحث رافي شروف، أستاذ مساعد في CUSP وكلية ستينهااردت للثقافة والتعليم والتطوير البشري في NYU؛ كونستانتين كونتوكوستا، أستاذ في معهد ماريون للإدارة الحضرية وكلية NYU Tandon؛ وإدوارد مكفولاند الثالث، أستاذ في كلية كارلسون لإدارة الأعمال في جامعة مينيسوتا.
تم منح المنحة في إطار برنامج NSF للعدالة في الذكاء الاصطناعي بالتعاون مع Amazon (2040898).
