ما هو التعلم المتأثر

ما هو التعلم المتأثر؟

من أسرع المجالات نمواً في مجال التعلم الآلي هو مجال التعلم المتأثر. التعلم المتأثر، في سياق التعلم الآلي، هو استخدام خوارزميات التعلم الآلي لمساعدة في تدريب وتحسين نماذج التعلم الآلي الأخرى. مع زيادة شعبية التعلم المتأثر وتطوير تقنيات التعلم المتأثر، من المفيد أن نفهم ما هو التعلم المتأثر وكيف يمكن تطبيقه بطرق مختلفة. دعونا ننظر في الأفكار وراء التعلم المتأثر، أنواع التعلم المتأثر، وكذلك بعض الطرق التي يمكن تطبيق التعلم المتأثر بها.

تم صياغة مصطلح التعلم المتأثر بواسطة دونالد مودسلي لوصف عملية يبدأ فيها الناس في تشكيل ما يتعلمون، مما يجعلهم “متحكمين بشكل متزايد في عادات الإدراك والاستعلام والتعلم والنمو التي أصبحت جزءًا منهم”. لاحقًا، وصف علماء النفس والعلماء المعرفيون التعلم المتأثر بأنه “تعلم كيفية التعلم”.

对于 نسخة التعلم المتأثر في التعلم الآلي، يتم تطبيق الفكرة العامة ل “تعلم كيفية التعلم” على أنظمة الذكاء الاصطناعي. في سياق الذكاء الاصطناعي، التعلم المتأثر هو khảية آلة ذكاء اصطناعي لتعلم كيفية أداء مهام معقدة مختلفة، واستخدام المبادئ التي استخدمها لتعلم مهمة واحدة لتطبيقها على مهام أخرى. عادةً ما يجب تدريب أنظمة الذكاء الاصطناعي على إنجاز مهمة من خلال إتقان العديد من المهام الفرعية الصغيرة. يمكن أن يستغرق هذا التدريب وقتًا طويلاً، وغالبًا ما لا تنتقل معرفة الوكيل الذكاء الاصطناعي بسهولة من مهمة إلى أخرى. يمكن أن يساعد إنشاء نماذج وطرق التعلم المتأثر في تعلم الذكاء الاصطناعي كيفية تعميم أساليب التعلم وتحقيق مهارات جديدة بسرعة أكبر.

أنواع التعلم المتأثر

التعلم المتأثر للمحسّن

غالبًا ما يتم استخدام التعلم المتأثر لتحسين أداء شبكة عصبونية موجودة. تعمل طرق التعلم المتأثر للمحسّن بشكل عام عن طريق تعديل المعاملات العليا لشبكة عصبونية أخرى من أجل تحسين أداء الشبكة العصبونية الأساسية. النتيجة هي أن الشبكة الهدف يجب أن تصبح أفضل في أداء المهمة التي يتم تدريبها عليها. مثال على محسّن التعلم المتأثر هو استخدام شبكة لتحسين نتائج الانحدار التدرجي.

التعلم المتأثر بضربات قليلة

يُعتبر التعلم المتأثر بضربات قليلة نهجًا حيث يتم تصميم شبكة عصبونية عميقة قادرة على تعميم البيانات من مجموعات التدريب إلى مجموعات غير موصوفة. مثال على التصنيف بضربات قليلة هو مشابه لمهمة التصنيف العادية، ولكن بدلاً من ذلك، تكون عينات البيانات عبارة عن مجموعات بيانات كاملة. يتم تدريب النموذج على العديد من مهام التعلم / مجموعات البيانات، ثم يتم تحسينه لأداء أفضل على مجموعة متنوعة من مهام التدريب والبيانات غير الموصوفة. في هذا النهج، يتم تقسيم كل عينة تدريب إلى عدة فئات. هذا يعني أنه في حالة وجود فئتين، يمكن أن تتكون كل عينة تدريب / مجموعة بيانات من فئتين، لما مجموعه مهمة تصنيف 4-ضربات 2-فئة.

في التعلم بضربات قليلة، الفكرة هي أن العينات الفردية للتدريب تكون بسيطة، ويمكن للشبكة أن تتعلم تحديد الأشياء بعد رؤية صورة أو صورتين فقط. هذا مشابه لطريقة تعلم الأطفال تمييز الأشياء بعد رؤية صورتين فقط. تم استخدام هذا النهج لإنشاء تقنيات مثل نماذج التوليد بضربة واحدة وشبكات العصبونية ذات الذاكرة المعززة.

التعلم المتأثر بالعلاقات

التعلم المتأثر بالعلاقات هو استخدام الشبكات العصبونية لتحديد ما إذا كان معيارًا ما يتم استخدامه بشكل فعال وما إذا كانت الشبكة أو الشبكات تصل إلى المعيار المستهدف. التعلم المتأثر بالعلاقات مشابه للتعلم بضربات قليلة في أن فقط بضع عينات يتم استخدامها لتدريب الشبكة وتعلمها للمعيار. يتم استخدام نفس المعيار عبر مجالات متعددة، وإذا انحرفت الشبكات عن المعيار، فسيتم اعتبارها فاشلة.

التعلم المتأثر بالنموذج المتكرر

التعلم المتأثر بالنموذج المتكرر هو تطبيق تقنيات التعلم المتأثر على شبكات النموذج المتكرر وشبكات الذاكرة القصيرة الأمد. يعمل هذا النهج عن طريق تدريب نموذج النموذج المتكرر / الذاكرة القصيرة الأمد على تعلم مجموعة بيانات بشكل متسلسل، ثم استخدام هذا النموذج المدرب كقاعدة لنموذج متعلم آخر. يأخذ نموذج التعلم المتأثر الخوارزمية المحددة التي تم استخدامها لتدريب النموذج الأولي. تمكّن الترميز الموروث لنموذج التعلم المتأثر من التخفيض السريع والتقارب، ولكنه لا يزال قادرًا على التحديث لسيناريوهات جديدة.

كيف يعمل التعلم المتأثر؟

الطريقة الدقيقة التي يتم بها إجراء التعلم المتأثر تختلف حسب النموذج وطبيعة المهمة. ومع ذلك، بشكل عام، يتضمن التعلم المتأثر نسخ معاملات الشبكة الأولى إلى معاملات الشبكة الثانية / المحسّن.

هناك عمليتان للتدريب في التعلم المتأثر. يتم تدريب نموذج التعلم المتأثر بشكل عام بعد إجراء عدة خطوات من تدريب النموذج الأساسي. بعد خطوات التدريب الأمامي والخلفي والتحسين التي تتدرب بها النموذج الأساسي، يتم إجراء تمرين التدريب الأمامي للنموذج المحسّن. على سبيل المثال، بعد ثلاث أو أربع خطوات من تدريب النموذج الأساسي، يتم حساب خسارة التعلم المتأثر. بعد حساب خسارة التعلم المتأثر، يتم حساب التدرجات لكل معامل متأثر.

إحدى الطرق المحتملة لحساب خسارة التعلم المتأثر هي إكمال تمرين التدريب الأمامي للنموذج الأولي ثم دمج الخسائر المحسوبة بالفعل. يمكن أن يكون محسّن التعلم المتأثر نموذجًا متأثرًا آخر، على الرغم من أن هناك نقطة معينة يجب استخدام محسّن منفصل مثل ADAM أو SGD.

يمكن أن تحتوي العديد من نماذج التعلم العميق على مئات الآلاف أو حتى ملايين المعاملات. سيكون إنشاء نموذج متأثر به معاملات جديدة تمامًا مكلفًا من الناحية الحسابية، ولذلك يتم استخدام تكتيك يسمى المشاركة الإحداثية. تتضمن المشاركة الإحداثية تصميم نموذج التعلم المتأثر / المحسّن بحيث يتعلم معاملًا واحدًا من النموذج الأساسي ثم يستنسخ فقط هذا المعامل بدلاً من جميع المعاملات الأخرى. النتيجة هي أن المعاملات التي يمتلكها المحسّن لا تعتمد على معاملات النموذج.