علماء الحاسوب يتصدون للتحيز في الذكاء الاصطناعي

يعمل علماء الحاسوب من جامعة برينستون وجامعة ستانفورد حاليًا على معالجة مشاكل التحيز في الذكاء الاصطناعي (AI). إنهم يعملون على طرق تؤدي إلى مجموعات بيانات أكثر عدلاً تحتوي على صور للأشخاص. يعمل الباحثون بشكل وثيق مع ImageNet، وهو قاعدة بيانات تضم أكثر من 13 مليون صورة. على مدار العقد الماضي، ساعدت ImageNet في تعزيز رؤية الكمبيوتر. باستخدام طرقهم، أوصى الباحثون بتحسينات لقاعدة البيانات.

ImageNet تتضمن صورًا للأشياء والمناظر والأشخاص. يستخدم الباحثون الذين يطورون خوارزميات التعلم الآلي التي تصنف الصور ImageNet كمصدر للبيانات. بسبب حجم قاعدة البيانات الكبير، كان من الضروري استخدام جمع الصور الآلي وتعليقات الصور التي تمت من خلال العمل الجماعي. الآن، تعمل فريق ImageNet على تصحيح التحيزات والمشاكل الأخرى. غالبًا ما تحتوي الصور على أشخاص الذين هم نتائج غير مقصودة لبناء ImageNet.

أولغا روساكوفسكي هي مؤلف مشارك وأستاذ مساعد في علم الحاسوب في برينستون.

“يعمل رؤية الكمبيوتر الآن بشكل جيد حقًا، مما يعني أنها يتم نشرها في كل مكان في جميع السياقات،” قال. “هذا يعني أن الوقت الآن هو الوقت المناسب للتحدث عن نوع التأثير الذي تحدثه على العالم والتفكير في هذه الأنواع من قضايا العدالة.”

في الورقة الجديدة، حدد فريق ImageNet بشكل منهجي المفاهيم غير المرئية والفئات المسيئة. وشملت هذه الفئات التوصيفات العرقية والجنسية، وقترح الفريق إزالتها من قاعدة البيانات. كما طور الفريق أداة تتيح للمستخدمين تحديد واسترجاع مجموعات الصور للأشخاص، ويمكنهم القيام بذلك حسب العمر والجنس والتعبير عن الجنس ولون البشرة. الهدف هو إنشاء خوارزميات تصنف وجوه الأشخاص وأنشطتهم في الصور بطريقة أكثر عدلاً.

تم تقديم عمل الباحثين في 30 يناير في مؤتمر رابطة الحاسوب الآلي حول العدالة والمساءلة والشفافية في برشلونة، إسبانيا.

“هناك حاجة كبيرة لمشاركة الباحثين والمعاملات التي تتمتع بالخبرة الفنية الأساسية في هذه الأنواع من المحادثات،” قال روساكوفسكي. “نظرًا للواقع الذي نحتاج إلى جمع البيانات على نطاق واسع، نظرًا للواقع أنه سيتم القيام به من خلال العمل الجماعي لأن ذلك هو الأنبوب الأكثر كفاءة والمنشأة جيدًا، كيف نفعله بطريقة أكثر عدلاً – التي لا تقع في هذه الأنواع من الفخاخ السابقة؟ الرسالة الأساسية لهذه الورقة هي حول الحلول البناءة.”

تم إطلاق ImageNet في عام 2009 من قبل مجموعة من علماء الحاسوب في برينستون وستانفورد. كان من المفترض أن تكون بمثابة مورد للباحثين الأكاديميين والمعلمين. قاد إنشاء النظام خريج برينستون وأعضاء هيئة التدريس في-في لي.

كانت ImageNet قادرة على أن تصبح قاعدة بيانات كبيرة من الصور المُ etiquetted من خلال استخدام العمل الجماعي. كان واحد من المنصات الرئيسية المستخدمة هو Amazon (AMZN ) Mechanical Turk (MTurk)، وتم دفع العمال لتحديد الصور المرشحة. هذا تسبب في بعض المشاكل، وهناك العديد من التحيزات والتصنيفات غير المناسبة.

كايو يانغ هو طالب دراسات عليا في علم الحاسوب.

“عندما تطلب من الناس التحقق من الصور عن طريق تحديد الصور الصحيحة من مجموعة كبيرة من المرشحين، يشعر الناس بالضغط لتحديد بعض الصور وتكون هذه الصور هي تلك التي تحتوي على سمات مميزة أو نمطية،” قال.

الجزء الأول من الدراسة يتضمن تصفية الفئات المحتملة المسيئة أو الحساسة للأشخاص من ImageNet. تم تعريف الفئات المسيئة على أنها تلك التي تحتوي على كلمات بذيئة أو شتائم عرقية أو جنسية. واحدة من الفئات الحساسة كانت تصنيف الأشخاص根据 توجههم الجنسي أو دينهم. تم استدعاء 12 طالبًا دراسات عليا من خلفيات متنوعة لتعليق الفئات، وتم توجيههم لتحديد فئة حساسة إذا كانوا غير متأكدين منها. تم إزالة حوالي 54٪ من الفئات، أو 1593 من أصل 2932 فئة للأشخاص في ImageNet.

ثم قيم عمال MTurk “المرئية” للفئات المتبقية على مقياس من 1 إلى 5. تم تصنيف 158 فئة على أنها آمنة ومرئية، مع تقييم 4 أو أعلى. وشملت مجموعة الفئات المفلترة أكثر من 133000 صورة، والتي يمكن أن تكون مفيدة جدًا لتدريب خوارزميات رؤية الكمبيوتر.

دراسة الباحثين التمثيل الديموغرافي للأشخاص في الصور، وتم تقييم مستوى التحيز في ImageNet. غالبًا ما توفر محتويات البحث من محركات البحث نتائج تفرط في تمثيل الذكور والأشخاص ذوي البشرة الفاتحة والبالغين الذين تتراوح أعمارهم بين 18 و40 عامًا.

“لقد وجد الناس أن توزيع الديموغرافية في نتائج البحث بالصور متحيزة بشكل كبير، وهذا هو السبب في أن التوزيع في ImageNet也是 متحيزًا،” قال يانغ. “في هذه الورقة حاولنا فهم مدى تحيزها، وأيضًا اقتراح طريقة لتحقيق التوازن في التوزيع.”

أخذ الباحثون في الاعتبار ثلاث سمات محمية بموجب قوانين مكافحة التمييز في الولايات المتحدة: لون البشرة والتعبير عن الجنس والعمر. ثم قام عمال MTurk بتعليق كل سمة من سمات كل شخص في الصورة.

أظهرت النتائج أن محتوى ImageNet متحيز بشكل كبير. كان الأقل تمثيلًا هو الأشخاص ذوو البشرة الداكنة والإناث والبالغون الذين تزيد أعمارهم على 40 عامًا.

تم تصميم أداة واجهة ويب تتيح للمستخدمين الحصول على مجموعة من الصور التي تتمتع بالتوازن الديموغرافي بالطريقة التي يختارها المستخدم.

“لا نريد أن نقول ما هو الطريقة الصحيحة لتحقيق التوازن في الديموغرافية، لأنها ليست مسألة بسيطة،” قال يانغ. “التوزيع يمكن أن يكون مختلفًا في أجزاء مختلفة من العالم – توزيع الألوان في الولايات المتحدة مختلف عن توزيعها في دول آسيا، على سبيل المثال. لذلك نترك هذه المسألة للمستخدم، ونقدم أداة لاسترجاع مجموعة متوازنة من الصور.”

يعمل فريق ImageNet الآن على التحديثات الفنية لمعداتهم وقاعدة البيانات. كما يحاولون تنفيذ تصفية فئات الأشخاص وأداة إعادة التوازن التي تم تطويرها في هذا البحث. من المقرر إعادة إصدار ImageNet مع التحديثات، إلى جانب دعوة لتقديم反馈 من مجتمع أبحاث رؤية الكمبيوتر.

كما تم تأليف الورقة من قبل طالب الدكتوراه في برينستون كلينت كينامي وأستاذ مساعد في علم الحاسوب جيا دينغ. تم دعم البحث من قبل مؤسسة العلوم الوطنية.