الأخلاقيات
تدعم NSF و Amazon Grant الأبحاث في جامعة نيويورك لمساعدة المدن على تقليل التحيزات في اتخاذ القرار المدعوم بالذكاء الاصطناعي
سيقوم فريق من الباحثين في جامعة نيويورك بتطوير أساليب وأدوات جديدة تهدف إلى تقليل التحيزات المنهجية وإنتاج تأثيرات أكثر إنصافًا للسياسة العامة في مجالات مثل عمليات التفتيش على المساكن في المدينة ، والشرطة ، والمحاكم.
بموجب منحة قدرها مليون دولار من مؤسسة العلوم الوطنية (NSF) وأمازون ، أستاذ علوم الكمبيوتر دانيال ب سيقود مشروع بحث مدته ثلاث سنوات يركز على الاستخدام المتزايد للذكاء الاصطناعي (AI) من قبل مؤسسات القطاع العام في المناطق الحضرية - وهو العمل الذي سيشمل إنشاء أدوات مفتوحة المصدر لتقييم وتصحيح التحيزات.
قال نيل ، عضو هيئة التدريس في مركز العلوم الحضرية والتقدم (CUSP) في كلية تاندون للهندسة بجامعة نيويورك، وأستاذ في جامعة نيويورك كلية واغنر للدراسات العليا للخدمة العامة.
"ما نريد أن نفهمه هو كيف يمكن للخوارزميات أن تعزز عملية صنع القرار البشري من خلال القضاء على التحيزات الضمنية ، وتطوير أساليب وأدوات لمساعدة أولئك الذين يصممون وينفذون تدخلات السياسة في المدن."
عند النظر في كل من مخاطر وفوائد اتخاذ القرار الخوارزمي ، سيطور فريق المشروع تصورًا جديدًا للعدالة يتألف من سبع مراحل متميزة: البيانات والنماذج والتنبؤات والتوصيات والقرارات والآثار والنتائج. سوف يفسر "خط أنابيب الإنصاف الشامل" مصادر متعددة للتحيز ، ويضع نموذجًا لكيفية انتشار التحيزات عبر خط الأنابيب لتؤدي إلى نتائج غير عادلة ، وتقييم الحساسية للتحيزات غير المقاسة.
ثانيًا ، سيبني الفريق إطارًا منهجيًا عامًا لتحديد وتصحيح التحيزات في كل مرحلة من مراحل خط الأنابيب ، وهو نوع من مسح التحيز ، جنبًا إلى جنب مع أدوات دعم القرار الخوارزمية التي تقدم توصيات لصانع القرار البشري (مثل "التنبيهات" الخوارزمية لتوجيه القرارات البشرية نحو العدالة).
أخيرًا ، سيضع فريق المشروع مقاييس جديدة لقياس وجود ومدى التحيز في مجالات العدالة الجنائية والإسكان ، والأدوات التي يمكن استخدامها من أجل: (أ) الحد من الحبس من خلال تقديم تدخلات داعمة بشكل عادل للسكان المعنيين بالعدالة ؛ (ب) إعطاء الأولوية لعمليات تفتيش وإصلاح المساكن ؛ (ج) تقييم وتحسين نزاهة إجراءات المحاكم المدنية والجنائية ؛ (د) تحليل الآثار الصحية المتباينة للتعرضات البيئية الضارة ، بما في ذلك المساكن الرديئة والممارسات الشرطية العدوانية وغير العادلة.
قال نيل: "يتمثل التأثير النهائي لهذا العمل في تعزيز العدالة الاجتماعية لأولئك الذين يعيشون في المدن والذين يعتمدون على خدمات المدينة أو يشاركون في نظام العدالة ، من خلال تقييم وتخفيف التحيزات في عمليات صنع القرار وتقليل الفوارق" ، وهو أيضًا مدير مختبر التعلم الجيد بجامعة نيويورك وعضو هيئة التدريس في معهد كورانت للعلوم الرياضية بجامعة نيويورك.
بالإضافة إلى نيل ، يضم فريق البحث رافي شروف ، الأستاذ المساعد في CUSP وكلية Steinhardt للثقافة والتعليم والتنمية البشرية بجامعة نيويورك. قسطنطين كونتوكوستا ، الأستاذ في معهد مارون للإدارة الحضرية بجامعة نيويورك وأعضاء هيئة التدريس المرتبطين بجامعة نيويورك تاندون ؛ وإدوارد مكفولاند الثالث ، أستاذ في كلية كارلسون للإدارة بجامعة مينيسوتا.
تم تقديم المنحة في إطار برنامج NSF للعدالة في الذكاء الاصطناعي بالتعاون مع Amazon (2040898).
