ما هي التعلم المتأصل؟

ما هي التعلم المتأصل؟

واحدة من أسرع المجالات نمواً في مجال التعلم الآلي هي مجال التعلم المتأصل. التعلم المتأصل، في سياق التعلم الآلي، هو استخدام خوارزميات التعلم الآلي لمساعدة في تدريب وتحسين نماذج التعلم الآلي الأخرى. مع زيادة شعبية التعلم المتأصل وتطوير تقنيات التعلم المتأصل، فمن المفيد أن يكون لديك فهم لما هو التعلم المتأصل ولديك فكرة عن الطرق المختلفة التي يمكن تطبيقها. دعونا ننظر في الأفكار وراء التعلم المتأصل، أنواع التعلم المتأصل، وكذلك بعض الطرق التي يمكن استخدام التعلم المتأصل بها.

تم صياغة مصطلح التعلم المتأصل بواسطة دونالد مودسلي لوصف عملية يتم من خلالها الناس بدء تشكيل ما يتعلمونه، مما يجعلهم “متزايدين في السيطرة على عادات الإدراك والاستفسار والتعلم والنمو التي أدركوها”. في وقت لاحق، وصف علماء المعرفية وعلماء النفس التعلم المتأصل على أنه “التعلم كيفية التعلم”.

对于 نسخة التعلم الآلي من التعلم المتأصل، يتم تطبيق الفكرة العامة من “التعلم كيفية التعلم” على أنظمة الذكاء الاصطناعي. في سياق الذكاء الاصطناعي، التعلم المتأصل هو khảية آلة ذكية اصطناعية للتعلم كيفية أداء مهام معقدة مختلفة، وأخذ المبادئ التي استخدمتها للتعلم من مهمة واحدة وتطبيقها على مهام أخرى. عادة ما يجب تدريب أنظمة الذكاء الاصطناعي على إنجاز مهمة من خلال إتقان العديد من المهام الفرعية الصغيرة. يمكن أن يستغرق هذا التدريب وقتًا طويلاً، ولا يتم نقل المعرفة المكتسبة أثناء مهمة واحدة بسهولة إلى مهمة أخرى. يمكن أن يساعد إنشاء نماذج و تقنيات التعلم المتأصل أنظمة الذكاء الاصطناعي على تعلم طرق التعلم العامة وتكتسب مهارات جديدة بشكل أسرع.

أنواع التعلم المتأصل

التعلم المتأصل للمحسّن

غالبًا ما يتم استخدام التعلم المتأصل لتحسين أداء شبكة عصبية موجودة. تعمل طرق التعلم المتأصل للمحسّن عادةً عن طريق تعديل المعاملات العليا لشبكة عصبية أخرى لتحسين أداء الشبكة العصبية الأساسية. النتيجة هي أن الشبكة الهدف يجب أن تصبح أفضل في أداء المهمة التي يتم تدريبها عليها. مثال على محسّن التعلم المتأصل هو استخدام شبكة لتحسين انحدار التدرج.

التعلم المتأصل بعدة صور

منهج التعلم المتأصل بعدة صور هو منهج حيث يتم تصميم شبكة عصبية عميقة قادرة على تعميم البيانات من مجموعات التدريب إلى مجموعات غير موضحة. مثال على التصنيف بعدة صور مشابه لمهمة التصنيف العادية، ولكن بدلاً من ذلك، تكون عينات البيانات مجموعات بيانات كاملة. يتم تدريب النموذج على العديد من مهام التعلم / مجموعات البيانات المختلفة، ثم يتم تحسينه لأداء أقصى على مهام التدريب العديدة والبيانات غير الموضحة. في هذا المنهج، يتم تقسيم عينة التدريب الواحدة إلى عدة فئات. هذا يعني أن كل عينة تدريب / مجموعة بيانات يمكن أن تتكون من فئتين، بإجمالي 4 صور. في هذه الحالة، يمكن وصف المهمة التدريبية الإجمالية على أنها مهمة تصنيف 4 صور 2 فئات.

في التعلم بعدة صور، الفكرة هي أن العينات الفردية للتدريب تكون بسيطة، ويمكن للشبكة أن تتعلم تحديد الأشياء بعد رؤية صورة أو صورتين فقط. هذا يشبه كيف يتعلم الطفل تمييز الأشياء بعد رؤية صورتين فقط. تم استخدام هذا المنهج لإنشاء تقنيات مثل نماذج التوليد بعد صورة واحدة وشبكات عصبية مدعمة بالذاكرة.

التعلم المتأصل بالمقياس

التعلم المتأصل بالمقياس هو استخدام الشبكات العصبية لتحديد ما إذا كان مقياس ما يتم استخدامه بشكل فعال وما إذا كانت الشبكة أو الشبكات تصل إلى المقياس المستهدف. التعلم المتأصل بالمقياس مشابه للتعلم بعدة صور في أن هناك فقط عدة أمثلة تستخدم لتدريب الشبكة وجعلها تتعلم مساحة المقياس. يتم استخدام نفس المقياس عبر المجالات المتنوعة، وإذا انحرفت الشبكات عن المقياس، فتم اعتبارها فاشلة.

التعلم المتأصل بالنموذج المتكرر

التعلم المتأصل بالنموذج المتكرر هو تطبيق تقنيات التعلم المتأصل على شبكات النيوورونات المتكررة وشبكات الذاكرة القصيرة الأمد. يعمل هذا المنهج عن طريق تدريب نموذج RNN / LSTM على تعلم مجموعة بيانات بشكل متسلسل، ثم استخدام هذا النموذج المدرب كقاعدة لمعلم آخر. يأخذ المعلم المتأصل الخوارزمية المحددة التي تم استخدامها لتدريب النموذج الأولي. تمكّن الترميز الموروث للمعلم المتأصل من التخفيض السريع والتقارب، ولكنه لا يزال قادرًا على التحديث لسيناريوهات جديدة.

كيف يعمل التعلم المتأصل؟

الطريقة الدقيقة التي يتم بها إجراء التعلم المتأصل تختلف حسب النموذج وطبيعة المهمة. ومع ذلك، بشكل عام، يتضمن مهمة التعلم المتأصل نسخ معاملات الشبكة الأولى إلى معاملات الشبكة الثانية / المحسّن.

هناك عمليتان للتدريب في التعلم المتأصل. عادة ما يتم تدريب نموذج التعلم المتأصل بعد إجراء عدة خطوات من تدريب على النموذج الأساسي. بعد خطوات التدريب الأمامي والخلفي والتحسين التي تُدرب النموذج الأساسي، يتم إجراء تمرين التدريب الأمامي للمحسّن. على سبيل المثال، بعد ثلاث أو أربع خطوات من التدريب على النموذج الأساسي، يتم حساب فقدان متأصل. بعد حساب فقدان متأصل، يتم حساب التدرجات لكل معامل متأصل. بعد ذلك، يتم تحديث معاملات المحسّن في المعلم المتأصل.

إحدى الطرق المحتملة لحساب فقدان متأصل هو إكمال تمرين التدريب الأمامي للنموذج الأولي ثم الجمع بين الخسائر التي تم حسابها بالفعل. يمكن أن يكون محسّن متأصل آخر محسّن متأصل، على الرغم من أنه في某طة يجب استخدام محسّن دقيق مثل ADAM أو SGD.

يمكن أن تحتوي العديد من نماذج التعلم العميق على مئات الآلاف أو حتى ملايين المعاملات. إن إنشاء معلم متأصل يحتوي على مجموعة كاملة جديدة من المعاملات سيكون مكلفًا من الناحية الحسابية، ولذلك يتم استخدام تكتيك يسمى المشاركة الإحداثية. المشاركة الإحداثية تتضمن هندسة معلم متأصل / محسّن لتعلم معامل واحد فقط من النموذج الأساسي ثم نسخ هذا المعامل بدلاً من جميع المعاملات الأخرى. النتيجة هي أن معاملات المحسّن لا تعتمد على معاملات النموذج.