باحثون ي挑ون افتراضًا قديمًا في تعلم الآلة

ي挑ون باحثون في جامعة كارنيغي ميلون افتراضًا قديمًا في تعلم الآلة، وهو افتراض وجود تنازل بين الدقة والعدالة في الخوارزميات المستخدمة في صنع القرارات السياسية.

يتزايد استخدام تعلم الآلة في العديد من المجالات مثل العدالة الجنائية والتوظيف وتقديم الرعاية الصحية والتدخلات الاجتماعية. ومع هذا النمو، تزداد المخاوف بشأن ما إذا كان هذه التطبيقات الجديدة يمكن أن تزيد من عدم المساواة الحالية. يمكن أن تكون هذه التطبيقات ضارة بشكل خاص للأقليات العرقية أو الأفراد الذين يعانون من عجز اقتصادي.

تعديل النظام

هناك تعديلات دائمة للبيانات والتعليمات وتدريب النماذج وأنظمة التقييم وغيرها من جوانب النظام للحماية من التحيز. ومع ذلك، كان الافتراض النظري هو أن النظام يصبح أقل دقة عند وجود المزيد من هذه التعديلات.

أقدم فريق في جامعة كارنيغي ميلون على تحدي هذه النظرية في دراسة جديدة نشرت في نيتشر ماشين إن텔يجنس.

راييد غاني هو أستاذ في قسم تعلم الآلة في كلية الحاسوب العلمي وكلية هاينز للنظم المعلوماتية والسياسات العامة. انضم إليه كيت رودولفا، عالم أبحاث في قسم تعلم الآلة؛ وهيمانك لامبا، باحث ما بعد الدكتوراه في كلية الحاسوب العلمي.

اختبار التطبيقات الواقعية

اختبر الباحثون هذا الافتراض في تطبيقات واقعية، وما وجدوه هو أن التنازل بين الدقة والعدالة يعتبر زهيدًا في العديد من مجالات السياسة.

“يمكنك في الواقع الحصول على كليهما. لا تحتاج إلى التضحية بالدقة لإنشاء أنظمة عادلة ومساوية,” قال غاني. “لكن هذا يتطلب منك تصميم أنظمة متعمدة لتكون عادلة ومساوية. الأنظمة الجاهزة لن تعمل.”

ركز الفريق على الحالات التي تكون فيها الموارد المطلوبة محدودة. يساعد تعلم الآلة في تخصيص هذه الموارد.

ركزوا على أنظمة في أربعة مجالات:

• الترتيب الأولوي لخدمات الصحة النفسية المحدودة بناءً على خطر عودة الشخص إلى السجن لتقليل إعادة السجن;
• التنبؤ بالانتهاكات الجدية لسلامة المنازل لتوزيع مفتشي المنازل المحدودين في المدينة;
• نمذجة خطر عدم تخرج الطلاب من المدرسة الثانوية في الوقت المناسب لتحديد أولئك الذين يحتاجون إلى دعم إضافي;
• ومساعدة المعلمين في تحقيق أهداف التمويل الجماعي لمواد الفصل الدراسي.

وجد الباحثون أن النماذج المُختبرة لتحقيق الدقة يمكنها التنبؤ بنتائج الاهتمام بشكل فعال. ومع ذلك، أظهروا أيضًا تفاوتات كبيرة في التوصيات بالتدخلات.

النتائج المهمة جاءت عندما طبق الباحثون التعديلات على مخرجات النماذج التي تستهدف تحسين عدالتها. اكتشفوا أنه لا يوجد خسارة في الدقة عند إزالة التفاوتات المُطبخَة على العرق أو العمر أو الدخل.

“نريد من مجتمعات الذكاء الاصطناعي وعلوم الحاسوب وتعلم الآلة أن يتوقفوا عن قبول هذا الافتراض حول التنازل بين الدقة والعدالة وأن يبدأوا في تصميم أنظمة متعمدة لتحقيق كليهما،” قال رودولفا. “نأمل أن يعتمد صناع السياسات على تعلم الآلة كأداة في صنع القرارات لتحقيق نتائج عادلة.”