ما هو التعلم التلوي؟

ما هو التعلم التلوي؟

أحد أسرع مجالات البحث نموًا في مجال التعلم الآلي هو مجال التعلم ميتا. التعلم التلوي ، في سياق التعلم الآلي ، هو استخدام خوارزميات التعلم الآلي للمساعدة في التدريب وتحسين نماذج التعلم الآلي الأخرى. نظرًا لأن التعلم التلوي أصبح أكثر شيوعًا ويتم تطوير المزيد من تقنيات التعلم التلوي ، فمن المفيد أن يكون لديك فهم لما هو التعلم التلوي وأن يكون لديك إحساس بالطرق المختلفة التي يمكن تطبيقه بها. دعونا نفحص الأفكار الكامنة وراء التعلم التلوي ، أنواع التعلم التلوي، بالإضافة إلى بعض الطرق التي يمكن بها استخدام التعلم التلوي.

صاغ دونالد مودسلي مصطلح التعلم التلوي لوصف العملية التي يبدأ الناس من خلالها في تشكيل ما يتعلمونه ، ليصبحوا "يتحكمون بشكل متزايد في عادات الإدراك والاستقصاء والتعلم والنمو التي استوعبوها". في وقت لاحق ، سيصف علماء الإدراك وعلماء النفس التعلم التلوي بأنه "تعلم كيفية التعلم".

بالنسبة لإصدار التعلم الآلي من التعلم التلوي ، يتم تطبيق الفكرة العامة "لتعلم كيفية التعلم" على أنظمة الذكاء الاصطناعي. بمعنى الذكاء الاصطناعي ، يعد التعلم التلوي قدرة آلة ذكية اصطناعيًا على تعلم كيفية تنفيذ المهام المعقدة المختلفة ، مع الأخذ بالمبادئ التي استخدمتها لتعلم مهمة واحدة وتطبيقها على مهام أخرى. يجب تدريب أنظمة الذكاء الاصطناعي عادةً على إنجاز مهمة ما من خلال إتقان العديد من المهام الفرعية الصغيرة. قد يستغرق هذا التدريب وقتًا طويلاً ولا يقوم وكلاء الذكاء الاصطناعي بنقل المعرفة المكتسبة بسهولة أثناء مهمة إلى مهمة أخرى. يمكن أن يساعد إنشاء نماذج وتقنيات التعلم التلوي الذكاء الاصطناعي على تعلم تعميم أساليب التعلم واكتساب مهارات جديدة بشكل أسرع.

أنواع التعلم التلوي

محسن ميتا التعلم

غالبًا ما يتم استخدام التعلم التلوي لتحسين أداء الشبكة العصبية الموجودة بالفعل. تعمل طرق التعلم التلوي المحسِّن عادةً عن طريق تعديل المعلمات الفائقة لشبكة عصبية مختلفة من أجل تحسين أداء الشبكة العصبية الأساسية. والنتيجة هي أن الشبكة المستهدفة يجب أن تصبح أفضل في أداء المهمة التي يتم التدريب عليها. أحد الأمثلة على مُحسِّن التعلم الفوقي هو استخدام شبكة للتحسين نزول متدرج النتائج.

بضع لقطات ميتا التعلم

نهج التعلم التلوي الذي يتكون من بضع لقطات هو أحد الأساليب التي يتم فيها تصميم شبكة عصبية عميقة قادرة على التعميم من مجموعات بيانات التدريب إلى مجموعات البيانات غير المرئية. يشبه مثيل تصنيف اللقطات القليلة مهمة التصنيف العادية ، ولكن بدلاً من ذلك ، تكون عينات البيانات مجموعات بيانات كاملة. يتم تدريب النموذج على العديد من مهام التعلم / مجموعات البيانات المختلفة ثم يتم تحسينه لتحقيق أعلى أداء في العديد من مهام التدريب والبيانات غير المرئية. في هذا النهج ، يتم تقسيم عينة تدريب واحدة إلى فصول متعددة. هذا يعني أنه من المحتمل أن تتكون كل عينة تدريب / مجموعة بيانات من فصلين ، بإجمالي 4 لقطات. في هذه الحالة ، يمكن وصف مهمة التدريب الإجمالية بأنها مهمة تصنيف من 4 طلقات من صنفين.

في التعلم قليل اللقطات ، الفكرة هي أن عينات التدريب الفردية هي أضيق الحدود وأن الشبكة يمكن أن تتعلم التعرف على الأشياء بعد رؤية بعض الصور فقط. هذا يشبه إلى حد كبير كيف يتعلم الطفل تمييز الأشياء بعد رؤية صورتين فقط. تم استخدام هذا النهج لإنشاء تقنيات مثل النماذج التوليدية أحادية الطلقة والشبكات العصبية المعززة للذاكرة.

متري ميتا التعلم

ميتا التعلم القائم على المقاييس هو استخدام الشبكات العصبية لتحديد ما إذا كان يتم استخدام مقياس ما بشكل فعال وما إذا كانت الشبكة أو الشبكات تصل إلى المقياس المستهدف. يشبه التعلم التلوي المتري التعلم القليل اللقطات حيث يتم استخدام أمثلة قليلة فقط لتدريب الشبكة وجعلها تتعلم المساحة المترية. يتم استخدام نفس المقياس عبر المجال المتنوع وإذا تباعدت الشبكات عن المقياس فإنها تعتبر فاشلة.

نموذج متكرر للتعلم التلوي

التعلم التلوي النموذجي المتكرر هو تطبيق تقنيات التعلم التلوي على الشبكات العصبية المتكررة وشبكات الذاكرة طويلة المدى المماثلة. تعمل هذه التقنية من خلال تدريب نموذج RNN/LSTM لتعلم مجموعة بيانات بشكل تسلسلي ثم استخدام هذا النموذج المدرّب كأساس لمتعلم آخر. يأخذ المتعلم التعريفي خوارزمية التحسين المحددة التي تم استخدامها لتدريب النموذج الأولي. تتيح المعلمات الموروثة للمتعلم التعريفي إمكانية التهيئة والتقارب بسرعة، ولكن يظل قادرًا على التحديث للسيناريوهات الجديدة.

كيف يعمل التعلم التلوي؟

تختلف الطريقة الدقيقة التي يتم بها إجراء التعلم التلوي اعتمادًا على النموذج وطبيعة المهمة المطروحة. ومع ذلك ، بشكل عام ، مهمة التعلم التلوي يتضمن نسخ أكثر من المعلمات من الشبكة الأولى إلى معلمات الشبكة الثانية / المحسن.

هناك عمليتان تدريبيتان في التعلم التلوي. عادةً ما يتم تدريب نموذج التعلم التلوي بعد تنفيذ عدة خطوات من التدريب على النموذج الأساسي. بعد الخطوات الأمامية والخلفية والتحسين التي تدرب النموذج الأساسي ، يتم تنفيذ تمريرة التدريب الأمامية لنموذج التحسين. على سبيل المثال ، بعد ثلاث أو أربع خطوات من التدريب على النموذج الأساسي ، يتم حساب الخسارة الوصفية. بعد حساب الخسارة الوصفية ، يتم حساب التدرجات لكل معلمة وصفية. بعد حدوث ذلك ، يتم تحديث المعلمات الوصفية في المُحسِّن.

أحد الاحتمالات لحساب الخسارة الوصفية هو إنهاء ممر التدريب الأمامي للنموذج الأولي ثم دمج الخسائر التي تم حسابها بالفعل. يمكن أن يكون مُحسِّن البيانات الوصفية متعلمًا آخر ، على الرغم من أنه عند نقطة معينة يجب استخدام مُحسِّن منفصل مثل ADAM أو SGD.

يمكن أن تحتوي العديد من نماذج التعلم العميق على مئات الآلاف أو حتى الملايين من المعلمات. إن إنشاء برنامج متعلم يحتوي على مجموعة جديدة تمامًا من المعلمات سيكون مكلفًا من الناحية الحسابية ، ولهذا السبب ، عادةً ما يتم استخدام تكتيك يسمى مشاركة الإحداثيات. تتضمن مشاركة التنسيق هندسة المتعلم الفوقي / المحسن بحيث يتعلم معلمة واحدة من النموذج الأساسي ثم يستنسخ هذه المعلمة بدلاً من جميع المعلمات الأخرى. والنتيجة هي أن المعلمات التي يمتلكها المحسن لا تعتمد على معلمات النموذج.