الأخلاقيات
باحثون يطورون أداة جديدة لمكافحة التحيز في رؤية الكمبيوتر
من أحد القضايا الحديثة التي ظهرت في مجال الذكاء الاصطناعي (AI) هو قضية التحيز في رؤية الكمبيوتر. يكتشف العديد من الخبراء الآن التحيز داخل أنظمة الذكاء الاصطناعي، مما يؤدي إلى نتائج مشوهة في تطبيقات مختلفة، مثل برامج الحكم في المحاكم.
هناك جهد كبير لتلافي هذه القضايا، مع أحدث تطور قادم من جامعة برينستون. قام الباحثون في المؤسسة بتطوير أداة جديدة قادرة على وضع علامات على التحيز المحتمل في الصور المستخدمة في تدريب أنظمة الذكاء الاصطناعي.
تم تقديم العمل في 24 أغسطس في المؤتمر الأوروبي الافتراضي للرؤية الحاسوبية.
التحيز في أنظمة الذكاء الاصطناعي
من الأسباب الرئيسية للتحيز الحالي في أنظمة الذكاء الاصطناعي هي أن هذه الأنظمة يتم تدريبها غالبًا على مجموعات كبيرة من الصور من مصادر على الإنترنت. يمكن أن تكون هذه الصور نمطية، وعندما يتم استخدامها لتطوير الرؤية الحاسوبية، يمكن أن يكون الناتج متأثرًا بشكل غير مقصود.
تتيح الرؤية الحاسوبية للكمبيوتر تحديد الأشخاص والأجسام والافعال.
الأداة التي تم تطويرها من قبل الباحثين هي مفتوحة المصدر، وقادرة على الكشف تلقائيًا عن التحيز المحتمل في مجموعات البيانات المرئية. تعمل الأداة من خلال اتخاذ إجراء قبل استخدام مجموعات الصور لتدريب نماذج الرؤية الحاسوبية، ويمكن معالجة قضايا التمثيل الناقص والنمطية قبل أن تسبب تأثيرًا.
REVISE
الأداة الجديدة تسمى REVISE، وتعتمد على الأساليب الإحصائية لتحديد التحيز المحتمل في مجموعة البيانات. تركز على ثلاثة مجالات هي الكائنات والجنس والجغرافيا.
REVISE هي أداة تلقائية بالكامل، وتم بناؤها على أساس الأساليب السابقة التي شملت تصفية وتوازن صور مجموعات البيانات بحيث يمكن للمستخدم التحكم بشكل أكبر.
تعتمد الأداة الجديدة على التعليقات والقياسات الموجودة على الصور لتحليل المحتوى داخل مجموعة البيانات. بعض هذه التعليقات تشمل عدد الكائنات وبلدان المنشأ للصور.
في مثال واحد للعملية، أظهرت REVISE كيف أن الصور للأشخاص والزهور تختلف حسب الجنس. كان الذكور أكثر احتمالاً للظهور مع الزهور في المراسم أو الاجتماعات، وكانت الإناث أكثر احتمالاً للظهور مع الزهور في اللوحات أو السيناريوهات الموجهة.
أولغا روساكوفسكي هي أستاذة مساعدة في علوم الحاسوب ومحقق رئيسي في مختبر الذكاء الاصطناعي البصري. تمت 共著 الورقة مع طالبة الدراسات العليا أنجيلينا وانغ وأستاذ مساعد في علوم الحاسوب، أرفيند نارايانان.
بعد أن تكتشف الأداة التناقضات، “ثم هناك سؤال حول ما إذا كان هذا هو حقيقة بريئة تمامًا، أو شيء أعمق يحدث، وهذا صعب جدًا للتأثير التلقائي”، قالت روساكوفسكي.
المناطق غير الممثلة أو المضللة
توجد مناطق مختلفة حول العالم غير ممثلة في مجموعات بيانات الرؤية الحاسوبية، وهذا يمكن أن يؤدي إلى التحيز في أنظمة الذكاء الاصطناعي. واحدة من النتائج هي أن هناك كمية كبيرة من الصور تأتي من الولايات المتحدة ودول أوروبا. كشفت REVISE أيضًا أن الصور من مناطق أخرى من العالم غالبًا لا تحتوي على تعليقات الصور باللغة المحلية، مما يعني أن العديد منها قد يأتي من منظور سائح لبلد.
“…هذا التحليل الجغرافي يظهر أن التعرف على الكائنات يمكن أن يكون masih متحيزًا واستثنائيًا، ويمكن أن يؤثر على مناطق واشخاص مختلفين بشكل غير متساوٍ”، واصلت روساكوفسكي.
“لم يتم فحص ممارسات جمع البيانات في علوم الحاسوب بدقة حتى وقت قريب”، قال وانغ. عند جمع الصور، “يتم جمعها من الإنترنت، وغالبًا ما لا يدرك الأشخاص أن صورهم يتم استخدامها [في مجموعات البيانات]. يجب علينا جمع الصور من مجموعات أكثر تنوعًا من الناس، ولكن عندما نفعل ذلك، يجب أن نكون حذرين من أننا نحصل على الصور بطريقة محترمة”.
فينسنتي أوردينيس-رومان هو أستاذ مساعد في علوم الحاسوب في جامعة فيرجينيا.
“الأدوات والمعايير هي خطوة مهمة … تتيح لنا هذه الأدوات التقاط هذه التحيزات في وقت مبكر من خط أنابيب العمل وإعادة التفكير في إعدادنا للمشكلة والافتراضات وكذلك ممارسات جمع البيانات”، قال أوردينيس-رومان. “في الرؤية الحاسوبية هناك بعض التحديات المحددة المتعلقة بالتمثيل وانتشار النمطية. تعمل الأعمال مثل تلك التي قام بها مختبر برينستون للذكاء الاصطناعي البصري على توضيح هذه القضايا وجذب الانتباه إلى مجتمع الرؤية الحاسوبية وتقديم استراتيجيات للتخفيف منها”.
الأداة الجديدة التي طورها الباحثون هي خطوة مهمة لمساعدة في علاج التحيز الحالي في أنظمة الذكاء الاصطناعي. الآن هو الوقت المناسب لمعالجة هذه القضايا، حيث سوف يصبح من الصعب معالجتها مع تقدم الأنظمة وزيادة تعقيداتها.
