أساسيات الذكاء الاصطناعي
ما هو التعلم الفوقي؟
أضف Unite.AI إلى مصادرك المفضلة على Google
التعلم الفوقي يدرب نظامًا عبر توزيع من المهام بحيث يمكنه التكيف مع مهمة جديدة ومترابطة باستخدام بيانات أو حساب محدود. غالبًا ما يُختصر بـ “التعلم للتعلم”، لكن الهدف التقني أكثر دقة: تحسين المتعلم بحيث تُحسّن الخبرة عبر المهام السابقة التكيف مع مهمة لاحقة.
يتقاطع التعلم الفوقي مع التعلم القليل اللقطات والتعلم الانتقالي، لكن المصطلحات ليست قابلة للتبادل. يشير القليل اللقطات إلى كمية البيانات المستهدفة؛ يشير الانتقال إلى إعادة الاستخدام؛ يجعل التعلم الفوقي التكيف عبر المهام جزءًا من التدريب صراحةً.
النقاط الرئيسية
- يتضمن التدريب الفوقي العديد من المهام، وليس فقط العديد من الأمثلة المستقلة.
- حلقة N‑way K‑shot تحتوي على N فئات وK أمثلة دعم مُعلمة لكل فئة.
- تتكيف الأساليب القائمة على التدرج، والأساليب القائمة على القياس، والأساليب القائمة على الذاكرة، وأساليب المُحسّن المتعلم بطرق مختلفة.
- الأداء يعتمد بشكل كبير على ما إذا كانت مهام التدريب الفوقي تشبه المهمة المستهدفة.
المهام، مجموعات الدعم، ومجموعات الاستعلام
يُنظم مجموعة بيانات التعلم الفوقي على شكل مهام. في تصنيف القليل اللقطات، قد تكون الحلقة 5‑way 1‑shot: خمس فئات، مثال دعم واحد مُعَلَّم لكل فئة، وأمثلة استعلام إضافية تُستخدم لتقييم التكيف. مهمة 5‑way 5‑shot تحتوي على خمسة أمثلة دعم لكل من خمس فئات — وليس خمسة أمثلة إجمالاً.
أثناء التدريب الفوقي، يتكيف المتعلم مرارًا على مجموعة الدعم ويتم تقييمه على مجموعة الاستعلام. الهدف الخارجي يُحسّن أداء الاستعلام المستقبلي عبر المهام. تقوم التحقق الفوقي (meta-validation) بضبط الخيارات على مهام منفصلة، وتقييم الاختبار الفوقي (meta-testing) مهام أو فئات غير مُشاهدة فعليًا.
التعلم الفوقي القائم على التدرج
يتعلم التعلم الفوقي غير المتحيز للنموذج (MAML) تهيئة يمكن من خلالها لعدد قليل من خطوات التدرج أن يحقق أداءً جيدًا على مهمة جديدة. الحلقة الداخلية تُكيّف معلمات النموذج باستخدام بيانات الدعم. الحلقة الخارجية تُحدّث التهيئة المشتركة باستخدام خسارة الاستعلام عبر المهام المُعينة.
لا يقتصر MAML على التصنيف؛ يمكن تطبيقه على الانحدار والتعلم التعزيزي عندما يكون النموذج والمهمة قابلين للاشتقاق. يقدم Reptile نهجًا من الدرجة الأولى أبسط ينقل المعلمات نحو حلول مُتكيفة مع المهمة دون حساب التدرج الميتا الكامل لـ MAML.
التعلم الفوقي القائم على القياس
تتعلم الأساليب القائمة على القياس تمثيلًا يكون فيه الأمثلة من نفس الفئة قريبة، وتكون الفئات المختلفة منفصلة. تقوم الشبكة النموذجية (prototypical network) بمتوسط تمثيلات الدعم لتشكيل نموذج واحد لكل فئة، ثم تصنّف الاستعلامات بناءً على المسافة إلى تلك النماذج.
تستخدم الشبكات المتطابقة والشبكات على نمط سيامي آليات تشابه ذات صلة. لا تقتصر هذه الأساليب على التحقق مما إذا كان النموذج “يصل إلى مقياس هدف”؛ بل إن المسافة أو التمثيل المتعلم هو نفسه جزء من عملية التنبؤ.
الأساليب القائمة على الذاكرة والمُحسّنات المتعلمة
تستخدم الأنظمة القائمة على الذاكرة حالة متكررة أو مبنية على الانتباه لتخزين معلومات حول المهمة الحالية. تأخذ المُحسّنات المتعلمة التدرجات أو إشارات التدريب كمدخلات وتتعلم كيفية تحديث نموذج آخر. يمكن لهذه الأساليب اكتشاف قواعد التكيف، لكنها تضيف معلمات، وحسابات، ومستوى آخر من احتمال الإفراط في التخصيص.
التعلم الفوقي والتعلم داخل السياق
يمكن للمحوّلات الكبيرة المحوّلات أن تُكيّف مخرجاتها من الأمثلة المقدَّمة في الموجه دون تحديث الأوزان. يُطلق على ذلك التعلم داخل السياق. يشبه سلوك التعلم الفوقي، وقد تشجع بيانات التدريب استنتاج المهمة، لكن المتعلم داخل السياق لا يُدرب تلقائيًا بهدف تعلم ميتا حلقي كلاسيكي.
أين يكون التعلم الفوقي مفيدًا
تشمل التطبيقات المحتملة التخصيص، والروبوتات، والتعرف على الموارد القليلة، والمهام العلمية ذات القياسات القليلة، والتكيف السريع مع بيئات جديدة. يكون التعلم الفوقي أكثر جاذبية عندما تتوفر العديد من المهام المصدرية المرتبطة لكن بيانات المهمة المستهدفة نادرة.
القيود
قد يكون التعلم الفوقي مكلفًا حسابيًا لأن التدريب يضمّن التكيف داخل عملية التحسين. تكون النتائج حساسة لتكوين المهمة، وتسرب الدعم/الاستعلام، والبنية، وتحول المجال. قد يتكيف نموذج مدرب على مهام ضيقة ومتجانسة بشكل سيء خارج ذلك التوزيع.
يجب أن تشمل المقارنات التعلم الانتقالي العادي وخطوط أساس متعددة المهام. يمكن أن تكون تمثيلة مُسبقة التدريب قوية يتبعها تعديل دقيق قياسي أبسط وأكثر فعالية من خوارزمية تعلم ميتا مخصصة.
المهام، التكيف، وهيكلية التحسين الداخلية‑الخارجية
يتدرب التعلم الفوقي على توزيع من المهام بحيث يستطيع المتعلم التكيف مع مهمة جديدة ببيانات أو تحديثات محدودة. كل حلقة تُعيّن مهمة، وتقسّم الأمثلة إلى مجموعة دعم تُستخدم للتكيف ومجموعة استعلام تُستخدم للتقييم، وتُحدّث المعرفة المشتركة عبر الحلقات. تتعلم الأساليب القائمة على القياس تمثيلًا وقاعدة مقارنة؛ تتعلم الأساليب القائمة على التحسين تهيئة أو سلوك تحديث؛ وتُشترط الأساليب القائمة على الذاكرة والنموذج أمثلة المهمة. توزيع المهام هو بيانات التدريب الفعلية ويجب أن يشبه مشاكل التكيف المستقبلية.
في التعلم الفوقي غير المتحيز للنموذج، تُكيّف الحلقة الداخلية المعلمات على أمثلة الدعم وتُحسّن الحلقة الخارجية الأداء على أمثلة الاستعلام بعد التكيف. قد تكون التدرجات من الدرجة العليا مكلفة؛ تقريبات الدرجة الأولى تُقايض بين الدقة والتكلفة. تمثّل الشبكات النموذجية كل فئة بمركز مجموعة الدعم وتُصنّف بناءً على المسافة. تفترض هذه الأساليب أن هندسة الفئة، وخطوات التكيف، وبناء الحلقة تعكس النشر. قد يبدو أن طريقة ما تتعلم بسرعة بينما تستغل تسميات ثابتة أو قطع جمع البيانات أو تداخل بين مجموعات البيانات المصدرية.
التقييم، خطوط الأساس، والقيود الواقعية
يجب فصل مهام التدريب، والتحقق، والاختبار — وليس مجرد أمثلة — لقياس التكيف مع مهام غير مُشاهدة فعليًا. أبلغ عن الدقة أو الخسارة كدالة لعدد اللقطات وخطوات التكيف، وفواصل الثقة عبر المهام، والحوسبة، والذاكرة، وحساسية تركيبة مجموعة الدعم. قارن مع التعلم الانتقالي، وضبط نموذج مُسبق التدريب، وأقرب الجيران، ونموذج مدرب مشتركًا على جميع البيانات المصدرية. تتقلص العديد من مكاسب التعلم الفوقي الظاهرة عندما تحصل خطوط الأساس على هياكل أساسية، وتوسيع، وضبط مكافئ.
تحتاج النشرات الفعلية إلى وسيلة للتعرف على متى تكون مهمة جديدة خارج توزيع التدريب الفوقي. قد تتسبب أمثلة الدعم الفقيرة أو المُعلمة بشكل خاطئ في فشل سريع وواثق. حدِّد حجم التحديث، وتحقق من النماذج المتكيفة، واحتفظ بخطة احتياطية، واحمِ بيانات التكيف من التسميم. تتبع النموذج الأساسي، ومُعِدّ المهام، وبذور الحلقات، وكود التكيف. يكون التعلم الفوقي مفيدًا لعائلات متكررة من المشكلات ذات البيانات القليلة، لكنه لا يخلق قدرة تعلم عامة من أمثلة عشوائية ولا يلغي الحاجة إلى تقييم متخصص بالمجال.
مثال عملي: التكيف القليل اللقطات عبر الآلات
يتعامل المصنع مع كل نوع من الآلات كمهام ويُدرب تمثيل الشذوذ عبر العديد من الآلات ذات نتائج صيانة مُتحققة. تُستبعد آلات الاختبار تمامًا من تدريب المهام. بالنسبة لآلة جديدة، تغطي مجموعة دعم صغيرة أوضاع التشغيل العادية بدلاً من دقائق عشوائية من البيانات. يُقارن التعلم الفوقي مع مشفر مُجمد مُسبق التدريب، وأقرب الجيران، وضبط عادي باستخدام نفس أمثلة الدعم والحوسبة.
تُعيد التقييم اختيار العديد من مجموعات الدعم وتُبلغ عن استدعاء الحدث، وإنذارات كاذبة، ووقت التكيف، والتباين. يمتنع النظام عندما تكون مجموعة حساسات الآلة الجديدة أو ديناميكياتها خارج توزيع المهام. تُقيد تحديثات التكيف وتُراجع قبل أن تؤثر على الصيانة. تُحفظ تسميات الدعم وهوية الآلة من التسميم، وتحتفظ كل نموذج متكيفة بإصداره الأساسي وأمثلةه. يُقبل التكيف السريع فقط إذا تفوق باستمرار على النقل الأبسط تحت تحول مهمات واقعي.
دليل التنفيذ والاستعداد التشغيلي
يتطلب قرار الإنتاج أكثر من عرض ناجح. عرّف المستخدمين المقصودين، وبيئة التشغيل، والمدخلات، والمخرجات، والاعتمادات، والمالك، وعواقب كل فشل مهم. أنشئ خط أساس قابل لإعادة الإنتاج ومجموعة تقييم مُصدَّرة قبل الضبط. اختبر الحالات العادية، وظروف الحدود، ومدخلات غير صالحة أو مفقودة، وتحول التوزيع، وانقطاع الاعتماد، وسوء الاستخدام، والمجموعات أو البيئات الأكثر احتمالًا لتقليل الخدمة. قس جودة المهمة جنبًا إلى جنب مع المعايرة أو عدم اليقين، والكمون، ومعدل النقل، وتكلفة الموارد، وإمكانية الوصول، والخصوصية، والأمان. سجِّل كل تحويل وعامل عتبة حتى يتمكن مراجع مستقل من إعادة إنتاج النتيجة وتمييز الأدلة عن نموذج جذاب.
قبل الإطلاق، عيّن سلطة للإصدار، والاستثناءات، والتغييرات، والعودة إلى الوراء، والتقاعد. استخدم نشرًا متدرجًا، واحتفظ بخطة احتياطية آمنة، وتحقق من المراقبة عبر فشل مُدخل عمدًا. يجب أن تكشف القياسات التشغيلية عن جودة المدخلات، وسلوك المخرجات، وإصدار النموذج أو القاعدة، وصحة الاعتماد، وتجاوزات البشر، والنتائج المؤكدة دون جمع بيانات حساسة غير ضرورية. عرّف عتبات التنبيه ومالك الاستجابة، ثم راجع الأدلة الواقعية بعد النشر بدلاً من افتراض استمرار الأداء غير المتصل. أعد التقييم كلما تغيرت مصادر البيانات أو المستخدمون أو النماذج أو البائعون أو السياسات أو الأجهزة أو الأهداف. يحتاج النظام المُحافظ عليه أيضًا إلى توثيق استعادة، وتعلم الحوادث، وإجراءات الحذف والاحتفاظ، ونقطة واضحة يجب عندها إيقافه أو استبداله.
الأسئلة المتكررة
هل يُعد التحفيز القليل اللقطات تعلمًا فوقيًا؟
التحفيز القليل اللقطات هو تقنية تكيف داخل السياق. قد يظهر سلوكًا مرتبطًا بالتعلم عبر المهام، لكنه لا يُدرب تلقائيًا باستخدام حلقات الدعم/الاستعلام أو حلقة تحسين ميتا صريحة.
ما هو أكبر خطر في التعلم الفوقي؟
يمكن أن يؤدي عدم توافق بين مهام التدريب الفوقي والمهمة المستهدفة إلى ظهور التكيف السريع كقوة في معيار الاختبار لكنه يفشل في النشر. يجب تدقيق تقسيمات المهام وأصل المصادر بعناية مماثلة لتقسيمات التدريب/الاختبار العادية.
المراجع الأساسية
