الأخلاقيات
منحة NSF و Amazon لدعم البحث في NYU لمساعدة المدن في تقليل التحيزات في اتخاذ القرارات المدعومة بالذكاء الاصطناعي
أضف Unite.AI إلى مصادرك المفضلة على Google
سيطور فريق من الباحثين في جامعة نيويورك أساليب وأدوات جديدة تهدف إلى تقليل التحيزات النظامية وتحقيق تأثيرات سياسات عامة أكثر مساواة في مجالات مثل عمليات التفتيش على المساكن والشرطة والمحاكم.
في إطار منحة بقيمة مليون دولار من مؤسسة العلوم الوطنية (NSF) و Amazon (AMZN ) ، سيقود أستاذ علوم الحاسوب دانيال ب. نيل مشروع البحث الذي يستمر ثلاث سنوات ويتركز على استخدام الذكاء الاصطناعي المتزايد من قبل المنظمات الحضرية في القطاع العام – وهو عمل يشمل إنشاء أدوات مفتوحة المصدر لتقييم وتصحيح التحيزات.
“القرارات البشرية والقرارات الخوارزمية لها إمكانية للتحيزات النظامية التي قد تؤدي إلى نتائج سيئة في_DOWNSTREAM مثل الاختلافات وعدم المساواة عبر الخطوط العرقية والجنسية والاجتماعية والاقتصادية” ، قال نيل ، وهو عضو في هيئة التدريس في مركز العلوم الحضرية والتقدم (CUSP) في مدرسة الهندسة في NYU Tandon ، وأستاذ في مدرسة واغنر للخدمة العامة في NYU.
“ما نريد فهمه هو كيف يمكن للخوارزميات تعزيز اتخاذ القرارات البشرية من خلال القضاء على التحيزات الضمنية ، وتطوير الأساليب والأدوات لمساعدة المصممين وتنفيذ تدخلات السياسات في المدن”.
في البحث في المخاطر والفوائد لاتخاذ القرارات الخوارزمية ، سيطور فريق المشروع مفهومًا جديدًا لمفاهيم العدالة يتكون من سبعة مراحل متميزة: البيانات والنمذجة والتنبؤات والتوصيات والقرارات والأثر والنتائج. سيتضمن “خط أنابيب العدالة من النهاية إلى النهاية” مصادر متعددة للتحيز ، ونمذجة كيفية انتشار التحيزات عبر الخط الأنابيب لتحقيق نتائج غير عادلة ، وتقييم الحساسية للتحيزات غير المقاسة.
ثانيًا ، سيبني الفريق إطارًا منهجيًا عامًا لتحديد وتصحيح التحيزات في كل مرحلة من مراحل الخط الأنابيب ، وهو نوع من مسح التحيز ، جنبًا إلى جنب مع أدوات دعم اتخاذ القرارات الخوارزمية التي تقدم توصيات لمAKER القرار البشري (مثل الدفع الخوارزمي لتوجيه القرارات البشرية نحو العدالة).
أخيرًا ، سيخلق فريق المشروع مقاييس جديدة لقياس وجود ومدى التحيز في مجالات العدالة الجنائية والإسكان ، والأدوات التي يمكن استخدامها لتقديم تدخلات داعمة عادلة للسكان المتورطين مع العدالة ، وتحديد الأولويات لفحوصات الصيانة والإصلاح ، وتقييم وتحسين عدالة الإجراءات الجنائية والمدنية ، وتحليل الآثار الصحية المتفرقة للتأثيرات البيئية الضارة ، بما في ذلك المساكن الرديئة والممارسات الشرطية غير العادلة.
“الآثار النهائية لهذا العمل هي تقدم العدالة الاجتماعية لأولئك الذين يعيشون في المدن والذين يعتمدون على خدمات المدينة أو يتعاملون مع نظام العدالة ، من خلال تقييم وتصحيح التحيزات في عمليات اتخاذ القرارات وتقليل الاختلافات” ، قال نيل ، وهو أيضًا مدير مختبر NYU للتعلم من أجل الخير وأستاذ في معهد نيويورك للعلوم الرياضية.
إضافة إلى نيل ، يضم فريق البحث رافي شروف ، أستاذ مساعد في CUSP و NYU Steinhardt School of Culture, Education, and Human Development ، وكونستانتين كونتوكوستا ، أستاذ في NYU Marron Institute of Urban Management وزميل هيئة التدريس في NYU Tandon ، وإدوارد ماكفولاند الثالث ، أستاذ في جامعة مينيسوتا Carlson School of Management.
تم منح المنحة في إطار برنامج NSF للعدالة في الذكاء الاصطناعي بالتعاون مع Amazon (2040898).
وأضاف نيل “نحن نريد أن نرى كيف يمكن للخوارزميات تعزيز اتخاذ القرارات البشرية من خلال القضاء على التحيزات الضمنية ، وتطوير الأساليب والأدوات لمساعدة المصممين وتنفيذ تدخلات السياسات في المدن”.
تمت المنحة من قبل NSF و Amazon لتعزيز البحث في مجال الذكاء الاصطناعي والعدالة في المدن.
