باحثون يطورون أداة جديدة لمكافحة التحيز في رؤية الكمبيوتر

من القضايا الحديثة التي ظهرت في مجال الذكاء الاصطناعي هو تحيز رؤية الكمبيوتر. اكتشف العديد من الخبراء الآن تحيزًا في أنظمة الذكاء الاصطناعي، مما يؤدي إلى نتائج مشوهة في تطبيقات مختلفة، مثل برامج الحكم في المحاكم.

هناك جهد كبير لتصحيح بعض هذه القضايا، وأحدث تطور جاء من جامعة برينستون. قام الباحثون في المؤسسة بإنشاء أداة جديدة قادرة على تحديد التحيزات المحتملة في الصور المستخدمة لتدريب أنظمة الذكاء الاصطناعي.

تم تقديم العمل في 24 أغسطس في المؤتمر الأوروبي الافتراضي للرؤية السريرية.

التحيز في أنظمة الذكاء الاصطناعي

من الأسباب الرئيسية للتحيز الحالي في أنظمة الذكاء الاصطناعي هو أنهم غالبًا ما يتم تدريبهم على مجموعات كبيرة من الصور من مصادر على الإنترنت. يمكن أن تكون هذه الصور نمطية، وعندما يتم استخدامها لتطوير رؤية الكمبيوتر، يمكن أن يكون الناتج متأثرًا دون قصد.

الأداة التي تم تطويرها من قبل الباحثين هي مفتوحة المصدر، وقادرة على الكشف تلقائيًا عن التحيزات المحتملة في مجموعات البيانات البصرية. تعمل عن طريق اتخاذ الإجراءات قبل استخدام مجموعات الصور لتدريب نماذج رؤية الكمبيوتر، ويمكن تصحيح القضايا المتعلقة بالتمثيل الناقص والنمطية قبل أن تؤثر.

REVISE

الأداة الجديدة تسمى REVISE، وتعتمد على الطرق الإحصائية لتحديد التحيزات المحتملة في مجموعة بيانات. تركز على ثلاثة مجالات هي قاعدة الكائنات، والجنس، والجغرافيا.

REVISE هو أداة كاملة التلقائية، وتم بناؤها على أساس الطرق السابقة التي شملت تصفية وتوازن صور مجموعات البيانات بحيث يمكن للمستخدم الحصول على المزيد من التحكم.

تعتمد الأداة الجديدة على التعليقات والقياسات الحالية للصور لتحليل المحتوى داخل مجموعة البيانات. بعض التعليقات الحالية تشمل عدد الكائنات وبلدان المنشأ للصور.

في مثال على عمل الأداة، أظهرت REVISE كيف أن الصور للأشخاص والزهور تختلف باختلاف الجنس. كان الرجال أكثر عرضة للظهور مع الزهور في المراسم أو الاجتماعات، وكانت الإناث أكثر عرضة للظهور مع الزهور في اللوحات أو السيناريوهات الموجهة.

أولغا روساكوفسكي هي أستاذة مساعدة في علوم الحاسوب ومحقق رئيسي في مختبر الذكاء الاصطناعي البصري. كان البحث مشتركًا مع الطالبة الدراسية أنجيلينا وانغ والأستاذ المساعد في علوم الحاسوب، أرفيند نارايانان.

بعد أن تحدد الأداة الاختلافات، “ثم هناك سؤال حول ما إذا كان هذا هو حقيقة بريئة، أو شيء أعمق يحدث، وهذا الأمر صعب جدًا للتأتمتة،” قالت روساكوفسكي.

المناطق غير الممثلة أو المضللة

توجد مناطق مختلفة حول العالم غير ممثلة في مجموعات بيانات رؤية الكمبيوتر، ويمكن أن يؤدي ذلك إلى تحيز في أنظمة الذكاء الاصطناعي. واحدة من النتائج هي أن هناك كمية كبيرة من الصور تأتي من الولايات المتحدة ودول أوروبا. كشفت REVISE أيضًا أن الصور من أجزاء أخرى من العالم غالبًا ما لا تحتوي على تعليقات الصور باللغة المحلية، مما يعني أن العديد منها قد يأتي من منظور سائح لبلد.

“هذه التحليل الجغرافي يظهر أن تحديد الكائنات يمكن أن يكون masih متحيزًا واستثنائيًا، ويمكن أن يؤثر على مناطق واشخاص مختلفين بشكل غير متساو.

“لم يتم فحص ممارسات جمع البيانات في علوم الحاسوب بدقة حتى وقت قريب،” قال وانغ. عندما يتعلق الأمر بجمع الصور، “هم ي собираются من الإنترنت، وأشخاص لا يدركون دائمًا أن صورهم يتم استخدامها [في مجموعات البيانات]. يجب علينا جمع الصور من مجموعات أكثر تنوعًا من الناس، ولكن عندما نفعل ذلك، يجب علينا أن نكون حذرين بأننا نحصل على الصور بطريقة محترمة.

فينسنتي أوردونيز-رومان هو أستاذ مساعد في علوم الحاسوب في جامعة فرجينيا.

“الأدوات والمعايير هي خطوة مهمة … إنها تسمح لنا بتقاط هذه التحيزات في وقت مبكر من خط أنابيب الإنتاج واعادة التفكير في إعداد المشكلة وافتراضاتنا، وكذلك ممارسات جمع البيانات. في رؤية الكمبيوتر، هناك تحديات محددة تتعلق بالتمثيل وانتشار النمطية. الأعمال مثل أعمال مختبر الذكاء الاصطناعي البصري في برينستون تساعد في توضيح وإبراز الانتباه إلى بعض هذه القضايا وتقديم استراتيجيات للتخفيف منها.

الأداة الجديدة التي طوّرها الباحثون هي خطوة مهمة لمساعدة تصحيح التحيز الحالي في أنظمة الذكاء الاصطناعي. الآن هو الوقت المناسب لتصحيح هذه القضايا، لأنها ستصبح أكثر صعوبة مع تقدم الأنظمة وزيادة تعقيداتها.