الأخلاقيات
الباحثون يتحدون افتراض التعلم الآلي طويل الأمد
يتحدى الباحثون في جامعة كارنيجي ميلون افتراضًا طويل الأمد للتعلم الآلي مفاده أن هناك مقايضة بين الدقة والعدالة في الخوارزميات المستخدمة لاتخاذ قرارات السياسة العامة.
يتزايد استخدام التعلم الآلي في العديد من المجالات مثل العدالة الجنائية والتوظيف وتقديم الرعاية الصحية وتدخلات الخدمة الاجتماعية. يأتي مع هذا النمو أيضًا مخاوف متزايدة بشأن ما إذا كانت هذه التطبيقات الجديدة يمكن أن تؤدي إلى تفاقم عدم المساواة القائمة. يمكن أن تكون ضارة بشكل خاص للأقليات العرقية أو الأفراد ذوي العوائق الاقتصادية.
تعديل النظام
هناك تعديلات مستمرة على البيانات والتسميات والتدريب على النموذج وأنظمة التسجيل والجوانب الأخرى للنظام من أجل الحماية من التحيز. ومع ذلك ، كان الافتراض النظري أن النظام يصبح أقل دقة عندما يكون هناك المزيد من هذه التعديلات.
شرع الفريق في CMU في تحدي هذه النظرية في دراسة جديدة نُشرت في المخابرات آلة الطبيعة.
رايد غني أستاذ في قسم التعلم الآلي بكلية علوم الكمبيوتر وكلية هاينز لأنظمة المعلومات والسياسة العامة. وانضم إليه كيت رودولفا ، عالم أبحاث في MLD ؛ وهيمانك لامبا ، باحث ما بعد الدكتوراه في SCS.
اختبار تطبيقات العالم الحقيقي
اختبر الباحثون هذا الافتراض في تطبيقات العالم الحقيقي ، وما وجدوه هو أن المقايضة لا تذكر في العديد من مجالات السياسة.
"يمكنك في الواقع الحصول على كليهما. قال غني "ليس عليك التضحية بالدقة لبناء أنظمة عادلة ومنصفة". "ولكنه يتطلب منك تصميم أنظمة عادلة لتكون عادلة ومنصفة. لن تعمل الأنظمة الجاهزة ".
ركز الفريق على المواقف التي تكون فيها الموارد المطلوبة محدودة. يساعد التعلم الآلي في تخصيص هذه الموارد.
ركزوا على الأنظمة في أربعة مجالات:
- إعطاء الأولوية للتواصل المحدود في مجال الرعاية الصحية العقلية بناءً على خطر عودة الشخص إلى السجن للحد من إعادة الحبس ؛
- التنبؤ بانتهاكات خطيرة للسلامة لنشر مفتشي المساكن المحدودة في المدينة بشكل أفضل ؛
- نمذجة مخاطر عدم تخرج الطلاب من المدرسة الثانوية في الوقت المناسب لتحديد أولئك الذين هم في أمس الحاجة إلى دعم إضافي ؛
- ومساعدة المعلمين في الوصول إلى أهداف التمويل الجماعي لتلبية احتياجات الفصل الدراسي.
وجد الباحثون أن النماذج المحسّنة من أجل الدقة يمكن أن تتنبأ بشكل فعال بنتائج الاهتمام. ومع ذلك ، فقد أظهروا أيضًا تباينات كبيرة في التوصيات الخاصة بالتدخلات.
جاءت النتائج المهمة عندما طبق الباحثون التعديلات على مخرجات النماذج التي استهدفت تحسين عدالتها. اكتشفوا أنه لم يكن هناك فقدان للدقة عند إزالة الفوارق الناتجة عن العرق أو العمر أو الدخل.
قال رودولفا: "نريد أن تتوقف مجتمعات الذكاء الاصطناعي وعلوم الكمبيوتر والتعلم الآلي عن قبول هذا الافتراض الخاص بالمقايضة بين الدقة والإنصاف والبدء عن قصد في تصميم أنظمة تزيد من كليهما". "نأمل أن يتبنى صانعو السياسات التعلم الآلي كأداة في صنع القرار لمساعدتهم على تحقيق نتائج عادلة."
