باحثون يلجأون إلى علم الأعصاب لتحقيق الانحياز في مجموعات البيانات

فريق من الباحثين في معهد ماساتشوستس للتكنولوجيا، وجامعة هارفارد، وشركة فوجيتسو، بحثوا عن كيفية تحقيق نموذج تعلم الآلة لتحقيق الانحياز في مجموعة البيانات. لجأوا إلى نهج علم الأعصاب لدراسة كيفية تأثير بيانات التدريب على قدرة الشبكة العصبية الاصطناعية على التعرف على الأشياء التي لم تُرَ من قبل.

نُشر البحث في نيتشر ماشين إنTELIGENCE.

تنوع البيانات في التدريب

أظهرت نتائج الدراسة أن تنوع البيانات في التدريب يؤثر على khảية الشبكة العصبية لتحقيق الانحياز. ومع ذلك، يمكن أن يكون للتنوع في البيانات تأثير سلبي على أداء الشبكة. كما أظهر الباحثون أن طريقة تدريب الشبكة العصبية يمكن أن تؤثر على khảية تحقيق الانحياز.

شافير بوكس هو باحث في قسم العلوم العصبية والإدراكية في معهد ماساتشوستس للتكنولوجيا. وهو أيضًا المؤلف الرئيسي للورقة.

“يمكن للشبكة العصبية أن تتغلب على الانحياز في مجموعة البيانات، وهو ما يشجع. لكن النقطة الرئيسية هنا هي أننا يجب أن نأخذ في الاعتبار تنوع البيانات. يجب أن نوقف التفكير في أن مجرد جمع كمية كبيرة من البيانات الخام سوف يحقق لنا شيئًا. يجب أن نكون حذرين جدًا في كيفية تصميم مجموعات البيانات في البداية،” يقول بوكس.

استخدم الفريق نهجًا من علم الأعصاب لتطوير النهج الجديد. وفقًا لبوكس، من الشائع استخدام مجموعات بيانات خاضعة للسيطرة في التجارب، لذلك بنى الفريق مجموعات بيانات تحتوي على صور لأشياء مختلفة في مواقف مختلفة. ثم قاموا بتحكم في التوليفات بحيث تكون بعض مجموعات البيانات أكثر تنوعًا من غيرها. مجموعة بيانات تحتوي على المزيد من الصور التي تظهر الأشياء من وجهة نظر واحدة فقط هي أقل تنوعًا، بينما مجموعة بيانات تحتوي على المزيد من الصور التي تظهر الأشياء من وجهات نظر متعددة هي أكثر تنوعًا.

أخذ الفريق هذه المجموعات من البيانات واستخدموها لتدريب شبكة عصبية لتصنيف الصور. ثم درسوا كيفية جودة أدائها في تحديد الأشياء من وجهات نظر لم تُرَ خلال التدريب.

وجدوا أن المزيد من التنوع في البيانات يسمح للشبكة بالتعميم بشكل أفضل للصور الجديدة أو وجهات النظر، وهذا أمر بالغ الأهمية لتحقيق الانحياز.

“لكن هذا لا يعني أن المزيد من تنوع البيانات دائمًا أفضل؛ هناك توتر هنا. عندما تصبح الشبكة العصبية أفضل في التعرف على أشياء جديدة لم تُرَ من قبل، فإنها تصبح أكثر صعوبة في التعرف على الأشياء التي رأتها من قبل،” يقول بوكس.

طرق تدريب الشبكات العصبية

كما وجد الفريق أن نموذجًا مدربًا بشكل منفصل لكل مهمة هو أفضل في تحقيق الانحياز مقارنة بنموذج مدرب لجميع المهام معًا.

“كانت النتائج حقًا مذهلة. في الواقع، عندما قمنا بهذا التجربة لأول مرة، فكرنا أنها خطأ. استغرق منا عدة أسابيع لنتحقق من أنها نتيجة حقيقية لأنها كانت غير متوقعة جدًا،” يواصل بوكس.

كشفت التحليلات العميقة أن تخصص الخلايا العصبية يلعب دورًا في هذا العملية. عندما يتم تدريب الشبكة العصبية على التعرف على الأشياء في الصور، تظهر نوعان من الخلايا العصبية. واحدة متخصصة في التعرف على فئة الكائن والآخر متخصص في التعرف على وجهة النظر.

ت trởين الخلايا العصبية المتخصصة أكثر وضوحًا عندما يتم تدريب الشبكة على أداء المهام بشكل منفصل. ومع ذلك، عندما يتم تدريب الشبكة على أداء المهام معًا، تصبح بعض الخلايا العصبية أقل تركيزًا. هذا يعني أنها لا تتخصص في مهمة واحدة، وتصبح أكثر عرضة للارتباك.

“لكن السؤال التالي الآن هو، كيف وصلت هذه الخلايا العصبية إلى هنا؟ يمكنك تدريب الشبكة العصبية وتنمية هذه الخلايا العصبية من عملية التعلم. لم ي告诉 أحد الشبكة أن تتضمن هذه الأنواع من الخلايا العصبية في هيكلها. هذا هو الأمر المثير للاهتمام،” يقول بوكس.

سيبحث الباحثون عن استكشاف هذا السؤال في أعمالهم المستقبلية، بالإضافة إلى تطبيق النهج الجديد على مهام أكثر تعقيدًا.