قد تكون التفسيرات المبالغ فيها تهديدا أكبر وأكثر صعوبة من التفسير المبالغ فيه

إذا كانت صديقتك الحميمة أليس تحب ارتداء السراويل الصفراء، فستكون ترى الكثير من السراويل الصفراء أكثر من الشخص العادي. بعد فترة من الوقت، من الممكن أن عندما ترى امرأة مختلفة ترتدي سترة صفراء، ستjump إلى ذهنك مفهوم أليس.

إذا رأيت امرأة ترتدي سترة صفراء تشبه أليس قليلاً، فقد تخطئها لبرهة قصيرة لأنك تعتقد أنها صديقتك.

لكنها ليست أليس. في النهاية، ستدرك أن السراويل الصفراء ليست مفتاحًا مفيدًا لتحديد أليس، لأنها لا ترتديها في الصيف، ولا ترتديها دائمًا في الشتاء أيضًا. في某ج نقطة من الصداقة، ستبدأ في تحويل السراويل الصفراء كمحدد محتمل لـ أليس ، لأن تجربتك معها لم تكن مرضية، والطاقة المعرفية المستخدمة في الحفاظ على هذا الاختصار لا يتم مكافأتها بشكل متكرر.

إذا كنت نظامًا للاعتراف بالصور القائم على الرؤية، فمن الممكن أن ترى أليس في كل مكان ترى فيه سترة صفراء.

ليس خطأك؛ لقد تم تكليفك بتحديد أليس بأي ثمن، من المعلومات المتاحة الأدنى، وليس هناك نقص في الموارد المعرفية للحفاظ على هذا الاختصار المبالغ فيه.

التمييز الغريب

وفقًا لمقال حديث من مختبر علوم الحاسوب والذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا (CSAIL) وخدمات أمازون ويب، هذا المرض، الذي يُطلق عليه التفسير المبالغ فيه ، شائع في مجال أبحاث الرؤية الحاسوبية (CV)؛ لا يمكن تقليله عن طريق معالجة التفسير المبالغ فيه (منذ أنه ليس ملاحة مباشرة للتفسير المبالغ فيه)؛ يتم التعبير عنه بشكل شائع في الأبحاث التي تستخدم قاعدتي البيانات الأكثر تأثيرًا في التعرف على الصور وتحويلها، CIFAR-10 و ImageNet ؛ وليس له علاجات سهلة – بالتأكيد لا علاجات رخيصة.

وجد الباحثون أن عندما يتم تقليص الصور المدربة إلى 5٪ فقط من محتواها المتناسق، استمرت مجموعة واسعة من الإطارات الشهيرة في تصنيف الصور بشكل صحيح، والتي تظهر، في معظم الحالات، كـ “هراء” مرئي لأي مراقب بشري:

الصور الأصلية للمدربة من CIFAR-10 ، مخفضة إلى 5٪ فقط من المحتوى الأصلي ، مصنفة بشكل صحيح بواسطة مجموعة من الإطارات الشهيرة للرؤية الحاسوبية بدقة بين 90-99٪. مصدر: https://arxiv.org/pdf/2003.08907.pdf

في بعض الحالات، وجد أن إطارات التصنيف هذه تعتبر الصور المخفضة أسهل في التصنيف الصحيح منها الإطارات الكاملة في البيانات الأصلية للمدربة، مع ملاحظة المؤلفين ‘[CNNs] أكثر ثقة على هذه المجموعات الفرعية من الصور الكاملة’.

هذا يشير إلى نوع محتمل من “الغش” الذي يحدث كعملية شائعة لأنظمة الرؤية الحاسوبية التي تستخدم مجموعات بيانات مثل CIFAR-10 و ImageNet ، والإطارات البenchmarke مثل VGG16 و ResNet20 و ResNet18.

التفسير المبالغ فيه له عواقب ملحوظة لأنظمة المركبات ذاتية الحكم القائمة على الرؤية الحاسوبية، والتي أصبحت محور الاهتمام مؤخرًا مع قرار تيسلا لتفضيل تفسير الصور على LiDAR وغيرها من أنظمة الحس الرايوني لخوارزميات القيادة الذاتية.

على الرغم من أن “تعلم الاختصار” هو تحدي معروف ، ومجال بحث نشط في الرؤية الحاسوبية، يعلق مؤلفو المقال على أن البحث الألماني / الكندي الذي أطلاق مشكلة في عام 2019 لا يعترف بأن المجموعات الفرعية “الزائفة” التي تتميز بالتفسير المبالغ فيه هي “بيانات صالحة إحصائيًا” ، والتي قد تحتاج إلى معالجة من حيث الهندسة المعمارية والمناهج الأعلى المستوى، بدلاً من من خلال تحسين بيانات أكثر عناية.

المقال بعنوان تفسير مبالغ فيه يكشف عن أمراض نموذج تصنيف الصور ، ويأتي من براندون كارتر، وسيدهارثا جاين، وديفيد جيفورد في CSAIL ، بالتعاون مع جونا مولر من خدمات أمازون ويب. رمز المقال متاح في https://github.com/gifford-lab/overinterpretation.

تقليل البيانات

الصور التي تم تقليصها والتي استخدمها الباحثون يطلقون عليها مجموعات الإدخال الكافية (SIS) – في الواقع، تحتوي صورة SIS على الحد الأدنى من “الهيكل الخارجي” الذي يمكن أن يحدد صورة بشكل كافٍ لتمكين نظام الرؤية الحاسوبية من تحديد الموضوع الأصلي للصورة (أي كلب ، سفينة ، إلخ.).

في الصف العلوي ، نرى صور التأكيد الكاملة من ImageNet ؛ في الأسفل ، مجموعات SIS ، مصنفة بشكل صحيح بواسطة نموذج Inception V3 بدقة 90٪ ، بناءً على كل ما تبقى من الصورة – السياق الخلفي. من الطبيعي أن يكون للعمود الأخير عواقب ملحوظة على تحديد الإشارات في خوارزميات المركبات ذاتية الحكم.

في تعليقهم على النتائج المكتسبة في الصورة أعلاه، يلاحظ الباحثون:

‘نجد أن مجموعات SIS مركزه خارج الكائن الفعلي الذي يحدد التصنيف. على سبيل المثال ، في صورة “البيتزا” ، يتم تركيز SIS على شكل الطبق والخلفية الطاولة ، وليس على البيتزا نفسها ، مما يشير إلى أن النموذج قد ي_generalize بشكل سيئ على الصور التي تحتوي على عناصر دائرية مختلفة على طاولة. في صورة “الپاندا العملاق” ، تحتوي SIS على البامبو ، الذي من المحتمل أن يظهر في مجموعة صور ImageNet لهذه الفئة. ‘

‘في صور “إشارة المرور” و “اللوحة الإرشادية” ، تتكون SIS من بيكسلات في السماء ، مما يشير إلى أن أنظمة المركبات ذاتية الحكم التي قد تعتمد على هذه النماذج يجب تقييمها بعناية لمرضيات التفسير المبالغ فيه.’

الصور SIS ليست مقطوعة بشكل عشوائي، ولكن تم إنشاؤها لمشروع بواسطة عملية Batched Gradient Backselect ، على Inception V3 و ResNet50 عبر PyTorch. يتم اشتقاق الصور بواسطة روتين استئصال يأخذ في الاعتبار العلاقة بين قدرة النموذج على تصنيف صورة بدقة ومجالات التي يتم فيها إزالة البيانات الأصلية بشكل متكرر.

为了确认 صحة SIS ، قام المؤلفون باختبار عملية إزالة بيكسلات عشوائية ، ووجدوا النتائج “أقل إفادة” في الاختبارات، مما يشير إلى أن صور SIS تمثل بالفعل الحد الأدنى من البيانات التي تحتاجها النماذج والنماذج الشهيرة لتقديم تنبؤات مقبولة.

نظرًا إلى أي من الصور المخفضة يُقترح أن هذه النماذج يجب أن تفشل بمستوى رؤية بشري، مما سيؤدي إلى دقة تصل إلى أقل من 20٪.

مع صور SIS مخفضة إلى 5٪ فقط من بيكسلاتها الأصلية، يصل البشر إلى معدل نجاح في التصنيف يزيد قليلاً عن الصدفة، مقابل معدل نجاح 90-99٪ للنماذج والنماذج الشهيرة التي تمت دراستها في المقال.

ما وراء التفسير المبالغ فيه

يحدث التفسير المبالغ فيه عندما يتدرب نموذج التعلم الآلي بشكل مكثف على مجموعة بيانات حتى يصبح ماهرًا في تقديم تنبؤات لهذه البيانات المحددة ، ولكنه أقل فعالية (أو حتى غير فعال على الإطلاق) على بيانات جديدة يتم تقديمها إليه بعد التدريب (بيانات خارج التوزيع).

يشير الباحثون إلى أن الاهتمام الحالي بالاكاديمية والصناعة بمكافحة التفسير المبالغ فيه لن يحل التفسير المبالغ فيه، لأن مجموعات البيكسلات المخفضة التي تمثل صورًا يمكن التعرف عليها للحواسيب و “الرسومات غير المترابطة” للبشر هي في الواقع بيانات قابلة للتطبيق بشكل حقيقي ، وليست “تركيزًا مبالغًا فيه” على بيانات سيئة أو فقيرة:

‘التفسير المبالغ فيه يتعلق بالتفسير المبالغ فيه، ولكن التفسير المبالغ فيه يمكن تشخيصه من خلال دقة اختبار مخفضة. يمكن أن ينشأ التفسير المبالغ فيه من إشارات إحصائية حقيقية في توزيع مجموعة البيانات الأساسية التي تحدث بسبب خصائص معينة لمصدر البيانات (مثل قواعد أطباء الجلد). ‘

‘بالتالي، يمكن أن يكون التفسير المبالغ فيه أكثر صعوبة في التشخيص لأنه يسمح بالقرارات التي يتم اتخاذها بمعايير إحصائية صالحة، والنماذج التي تستخدم هذه المعايير يمكن أن تتفوق في المعايير.’

حلول ممكنة

يقترح المؤلفون أن تركيبة النماذج ، حيث تساهم العديد من الهياكل في عملية التقييم والتدريب، يمكن أن تسهم في تقليل التفسير المبالغ فيه. كما وجدوا أن تطبيق إسقاط الإدخال ، الذي تم تصميمه في الأصل لمنع التفسير المبالغ فيه، أدى إلى “انخفاض صغير” في دقة اختبار CIFAR-10 (الذي من المحتمل أن يكون مرغوبًا فيه)، ولكن “زيادة ملحوظة” (حوالي 6٪) في دقة النماذج على بيانات غير موصوفة. ومع ذلك، تشير الأرقام المنخفضة إلى أن أي علاجات لاحقة للتفسير المبالغ فيه غير محتملة أن تعالج تمامًا التفسير المبالغ فيه.

يقر المؤلفون بإمكانية استخدام خرائط التمييز لتحديد المناطق من الصورة التي تهم لاستخراج الميزات، لكنهم يلاحظون أن هذا يخيب هدف التفسير التلقائي للصور، ويحتاج إلى تعليقات بشرية غير ممكنة على نطاق واسع. كما يلاحظون أن خرائط التمييز تم العثور عليها لتكون مُقدرات خشنة من حيث رؤية عمليات النموذج.

يختتم المقال بالقول:

‘نظرًا لوجود مجموعات بيكسلات غير بارزة تكفي وحدها للتصنيف الصحيح، قد يعتمد النموذج فقط على هذه الأنماط. في هذه الحالة، يجب أن ينتج طريقة تفسيرية تصف النموذج بدقة هذه الدوافع غير المترابطة، في حين أن طرق التفسير التي تحيز الدوافع نحو افتراضات بشرية قد تنتج نتائج تضلل المستخدمين في التفكير في أن نماذجهم تتصرف كما هو موضح.’

نشر لأول مرة في 13 يناير 2022.