ما هي التأهيل المفرط؟

ما هي التأهيل المفرط؟

عندما تقوم بتدريب شبكة عصبونية، عليك تجنب التأهيل المفرط. التأهيل المفرط هو مشكلة داخل تعلم الآلة والإحصاء حيث يتعلم النموذج أنماط مجموعة بيانات التدريب جيدًا جدًا، ويفسر مجموعة بيانات التدريب بشكل مثالي، لكنه يفشل في تعميم قوته التنبؤية على مجموعات بيانات أخرى.

لنضع ذلك بطريقة أخرى، في حالة نموذج تأهيل مفرط، غالبًا ما يظهر دقة عالية جدًا على مجموعة بيانات التدريب، ولكن دقة منخفضة على البيانات التي تم جمعها وتنفيذها على النموذج في المستقبل. هذا تعريف سريع للتأهيل المفرط، ولكن دعونا ننظر إلى مفهوم التأهيل المفرط بتفصيل أكبر. دعونا ننظر إلى كيفية حدوث التأهيل المفرط وكيف يمكن تجنبه.

فهم “التأهيل” والتأهيل غير الكافي

من المفيد النظر إلى مفهوم التأهيل غير الكافي و “التأهيل” بشكل عام عند مناقشة التأهيل المفرط. عندما نقوم بتدريب نموذج، نحاول تطوير إطار قادرة على التنبؤ بطبيعة أو فئة العناصر في مجموعة بيانات، بناءً على الميزات التي تصف هذه العناصر. يجب أن يكون النموذج قادرًا على تفسير نمطًا في مجموعة بيانات وتنبؤ بفئات نقاط البيانات المستقبلية بناءً على هذا النمط. كلما كان النموذج أفضل في تفسير العلاقة بين ميزات مجموعة التدريب، زادت دقة النموذج.

الخط الأزرق يمثل التنبؤات التي يقدمها نموذج يتعرض للتأهيل غير الكافي، في حين يمثل الخط الأخضر نموذجًا أفضل. الصورة: Pep Roca via Wikimedia Commons, CC BY SA 3.0, (https://commons.wikimedia.org/wiki/File:Reg_ls_curvil%C3%ADnia.svg)

نموذج يفسر بشكل سيئ العلاقة بين ميزات بيانات التدريب ويفشل في تصنيف بيانات مستقبلية بدقة هو نموذج يتعرض للتأهيل غير الكافي. إذا كنت ترسم العلاقة التنبؤية لنموذج يتعرض للتأهيل غير الكافي مقابل القيم الفعلية لمجموعة التدريب، فإن التنبؤات سوف تختلف عن العلامات. إذا كان لدينا مخططًا بمعرفة القيم الفعلية لمجموعة التدريب، فإن نموذج يتعرض للتأهيل غير الكافي بشكل كبير سوف يفوق معظم نقاط البيانات. نموذج يمتلك تأهيلًا أفضل قد يمر عبر وسط نقاط البيانات، مع اختلاف نقاط البيانات الفردية عن القيم التنبؤية فقط قليلا.

يمكن أن يحدث التأهيل غير الكافي عندما لا تتوفر بيانات كافية لإنشاء نموذج دقيق، أو عند محاولة تصميم نموذج خطي مع بيانات غير خطية. غالبًا ما سوف يقلل المزيد من بيانات التدريب أو المزيد من الميزات من التأهيل غير الكافي.

لذلك، لماذا لا ننشئ نموذجًا يفسر كل نقطة في بيانات التدريب بشكل مثالي؟ بالتأكيد، الدقة المثالية مرغوبة؟ إن إنشاء نموذج يتعلم أنماط بيانات التدريب جيدًا جدًا هو ما يسبب التأهيل المفرط. مجموعة بيانات التدريب ومجموعات البيانات الأخرى التي سوف تعمل عليها النموذج في المستقبل لن تكون متطابقة تمامًا. سوف تكون متشابهة في العديد من الجوانب، لكنها سوف تختلف في جوانب رئيسية. لذلك، تصميم نموذج يفسر مجموعة بيانات التدريب بشكل مثالي يعني أنك سوف تنتهي بنظرية عن العلاقة بين الميزات لا ت일반 جيدًا إلى مجموعات بيانات أخرى.

فهم التأهيل المفرط

يحدث التأهيل المفرط عندما يتعلم النموذج التفاصيل داخل مجموعة بيانات التدريب جيدًا جدًا، مما يؤدي إلى معاناة النموذج عند التنبؤ ببيانات خارجية. قد يحدث هذا عندما يتعلم النموذج ليس فقط ميزات مجموعة البيانات، ولكن أيضًا التقلبات العشوائية أو الضوضاء داخل مجموعة البيانات، ويوفر أهمية لهذه الحوادث العشوائية أو غير المهمة.

يصبح التأهيل المفرط أكثر احتمالًا عند استخدام نماذج غير خطية، لأنها أكثر مرونة عند تعلم ميزات البيانات. خوارزميات تعلم الآلة غير المعلمة غالبًا ما تمتلك معلمات وطرقًا يمكن تطبيقها لتقيد حساسية النموذج للبيانات وبالتالي تقليل التأهيل المفرط. على سبيل المثال، نماذج شجرة القرار حساسة جدًا للتأهيل المفرط، ولكن يمكن استخدام تقنية تسمى التقطيع لتحديد بعض التفاصيل التي تعلمها النموذج بشكل عشوائي.

إذا كنت ترسم تنبؤات النموذج على محورين X و Y، سوف يكون لديك خط تنبؤ يتنقل ذهابًا وذهابًا، مما يعكس حقيقة أن النموذج حاول بجدية شديدة أن يلائم جميع نقاط مجموعة البيانات في تفسيره.

التحكم في التأهيل المفرط

عندما نقوم بتدريب نموذج، نريد أن يكون أداء النموذج خاليًا من الأخطاء. عندما يتقارب أداء النموذج نحو إصدار تنبؤات صحيحة على جميع نقاط بيانات التدريب، يصبح التأهيل أفضل. نموذج يمتلك تأهيلًا جيدًا قادر على تفسير hầu جميع مجموعة بيانات التدريب دون التأهيل المفرط.

كما يتحسن أداء النموذج مع مرور الوقت. يتناقص معدل الخطأ للنموذج مع مرور وقت التدريب، لكنه يتناقص فقط إلى حد معين. النقطة التي يبدأ فيها أداء النموذج على مجموعة الاختبار في الارتفاع مرة أخرى هي النقطة التي يحدث فيها التأهيل المفرط عادةً. من أجل الحصول على أفضل تأهيل للنموذج، نريد إيقاف تدريب النموذج عند النقطة التي يكون فيها الخسارة على مجموعة التدريب هي الأقل، قبل أن يبدأ الخطأ في الزيادة مرة أخرى. يمكن تحديد نقطة الإيقاف المثالية عن طريق رسم أداء النموذج خلال وقت التدريب ووقف التدريب عندما تكون الخسارة هي الأقل. ومع ذلك، هناك مخاطر مع هذه الطريقة لمراقبة التأهيل المفرط، وهي أن تحديد نقطة النهاية لتدريب النموذج بناءً على أداء الاختبار يعني أن بيانات الاختبار تصبح متضمنة إلى حد ما في إجراء التدريب، ويفقد وضعها كبيانات “خاملة” تمامًا.

هناك عدة طرق لمكافحة التأهيل المفرط. طريقة لتقليل التأهيل المفرط هي استخدام تكتيك إعادة العينة، الذي يعمل عن طريق تقدير دقة النموذج. يمكنك أيضًا استخدام مجموعة بيانات التحقق بالإضافة إلى مجموعة بيانات الاختبار وترسم دقة التدريب مقابل مجموعة بيانات التحقق بدلاً من مجموعة بيانات الاختبار. هذا يحافظ على مجموعة بيانات الاختبار غير مرئية. طريقة إعادة العينة الشهيرة هي التحقق الصليبي ل ك-الطوائف. تسمح هذه التقنية لك بتقسيم بياناتك إلى مجموعات فرعية يتم تدريب النموذج عليها، ثم يتم تحليل أداء النموذج على المجموعات الفرعية لتقدير كيف سيعمل النموذج على بيانات خارجية.

استخدام التحقق الصليبي هو واحدة من أفضل الطرق لتقييم دقة نموذج على بيانات غير مرئية، وعندما يتم الجمع بينه مع مجموعة بيانات التحقق، يمكن أن يقلل التأهيل المفرط إلى حد كبير.