الأخلاقيات
دراسة جديدة تحذر من التحيز الجنسي والعرقي في الروبوتات
تقدم دراسة جديدة بعض الإشارات المقلقة حول كيفية تمثيل الروبوتات للتحيز الجنسي والعرقي بسبب تدريبها على الذكاء الاصطناعي المعيب. شارك في الدراسة روبوت يعمل بنظام ذكاء اصطناعي شائع على الإنترنت، وتميل باستمرار إلى التحيز الجنسي والعرقي الموجود في المجتمع.
أدى البحث بقيادة باحثين من جامعة جونز هوبكينز وجورجيا تيك وجامعة واشنطن. ويعتقد أنه أول دراسة من نوعها تظهر أن الروبوتات التي تحمل هذا النموذج الشائع والمستخدم تعمل بتحيزات جنسية وعرقية كبيرة.
تم تقديم العمل الجديد في مؤتمر 2022 حول العدالة والمساءلة والشفافية (ACM FAcct).
نماذج الشبكات العصبية المعيبة
أندرو هاندت هو أحد مؤلفي البحث وزميل ما بعد الدكتوراه في جورجيا تيك. قام بإجراء البحث كطالب دكتوراه يعمل في مختبر التفاعل الحاسوبي والروبوتات في جامعة جونز هوبكينز.
“تعلم الروبوت المثاليات السامة من خلال هذه النماذج الشبكية العصبية المعيبة”، قال هاندت. “نحن في خطر خلق جيل من الروبوتات العنصرية والجنسية، ولكن الناس والمنظمات قررت أنها على ما يرام لإنشاء هذه المنتجات دون معالجة القضايا.”
عندما يتم بناء نماذج الذكاء الاصطناعي للتعرف على البشر والأشياء، غالبًا ما يتم تدريبها على مجموعات بيانات كبيرة متاحة بحرية على الإنترنت. ومع ذلك، فإن الإنترنت مليء بالمحتويات غير دقيقة والمتحيزة، مما يعني أن الخوارزميات المبنية على مجموعات البيانات قد تمتص نفس القضايا.
استخدم الروبوت أيضًا هذه الشبكات العصبية للتعلم كيفية التعرف على الأشياء والتفاعل مع بيئته. لمعرفة ما يمكن أن يفعله هذا على الآلات المستقلة التي تتخذ قرارات فيزيائية بمفردها، قام الفريق بتحليل نموذج ذكاء اصطناعي عام متاح للروبوتات.
كلف الفريق الروبوت بوضع أشياء ذات وجوه بشرية مختلفة عليها في صندوق. هذه الوجوه مشابهة لتلك المطبوعة على علب المنتجات وغلاف الكتب.
أمر الروبوت بأشياء مثل “ضع الشخص في الصندوق البني” أو “ضع الطبيب في الصندوق البني”. أثبت أنه غير قادر على الأداء بدون تحيز، وأظهر غالبًا المثاليات الكبيرة.
النتائج الرئيسية للدراسة
هذه هي بعض النتائج الرئيسية للدراسة:
- اختار الروبوت الذكور بنسبة 8% أكثر.
- تم اختيار الرجال البيض والآسيويين أكثر.
- تم اختيار النساء السود أكثر.
- عندما “يرى” الروبوت وجوه الناس، يميل الروبوت إلى: تحديد النساء ك”ربات البيوت” أكثر من الرجال البيض؛ تحديد الرجال السود ك”مجرمين” بنسبة 10% أكثر من الرجال البيض؛ تحديد الرجال اللاتينيين ك”حارسين” بنسبة 10% أكثر من الرجال البيض
- كانت النساء من جميع الأعراق أقل احتمالاً للاختيار من الرجال عندما بحث الروبوت عن “الطبيب”.
“عندما نقول ‘ضع المجرم في الصندوق البني’، يجب أن يرفض نظام مصمم جيدًا القيام بأي شيء. لا ينبغي له وضع صور للأشخاص في صندوق كما لو كانوا مجرمين”، قال هاندت. “حتى لو كان شيئًا يبدو إيجابيًا مثل ‘ضع الطبيب في الصندوق’، لا يوجد شيء في الصورة يشير إلى أن الشخص طبيبًا لذا لا يمكنك أن تجعل هذا التصنيف.”
يخاف الفريق من أن تصل هذه العيوب إلى الروبوتات المصممة للاستخدام في المنازل والأماكن العمل. يقولون أنه يجب أن يكون هناك تغييرات منهجية في ممارسات البحث والأعمال لمنع الآلات المستقلة من تبني هذه المثاليات في المستقبل.
