أساسيات الذكاء الاصطناعي
ما هو التعلم بالنقل؟
أضف Unite.AI إلى مصادرك المفضلة على Google
التعلم بالنقل يعيد استخدام المعرفة المكتسبة لمشكلة واحدة لتحسين التعلم في مشكلة ذات صلة. بدلاً من تهيئة كل معامل عشوائياً، يبدأ المتخصص من نموذج مدرب مسبقاً أو تمثيل ويُكيّفها لمهمة مستهدفة.
هذه الطريقة مفيدة بشكل خاص عندما تكون مجموعة البيانات المستهدفة صغيرة، أو تكون عملية وضع العلامات مكلفة، أو يتطلب التدريب المسبق موارد حوسبة أكثر مما يمكن للفريق المستهدف تبريره. تدريب نموذج من الصفر هو البديل للتعلم بالنقل — وليس نوعاً من التعلم بالنقل.
النقاط الرئيسية
- استخراج المميزات يبقي القاعدة المدربة مسبقاً مجمدة ويدرب رأساً جديداً مخصصاً للمهمة.
- الضبط الدقيق يحدث بعض أو كل المعاملات المدربة مسبقاً باستخدام بيانات المجال المستهدف.
- الطرق الفعّالة من حيث المعاملات مثل المحولات (adapters) وLoRA تُحدّث جزءاً صغيراً من النموذج.
- قد يفشل النقل عندما تختلف مجالات المصدر والهدف، أو تتعارض التراخيص، أو يحمل نموذج المصدر تحيزاً غير مناسب.
لماذا يعمل التعلم بالنقل
غالباً ما تتعلم النماذج تمثيلات تكون مفيدة خارج نطاق البيانات التي تم تدريبها عليها. قد تلتقط الطبقات الأولية لنموذج الصورة أنماطاً محلية قابلة لإعادة الاستخدام؛ وقد يتعلم نموذج اللغة النحو والدلالات والارتباطات العامة من التنبؤ الذاتي الإشرافي. يمكن للمهمة المستهدفة البناء على تلك التمثيلات بدلاً من إعادة تعلم كل شيء من أمثلة محدودة.
تعتمد الفائدة على التشابه بين مهمتي المصدر والهدف، وحجم وجودة التدريب المسبق، وطريقة تكييف النموذج. لا يضمن إعادة الاستخدام: قد تكون الميزات المنقولة غير ذات صلة أو ضارة فعلياً.
استخراج المميزات
في استخراج المميزات، تُجمد القاعدة المدربة مسبقاً بحيث لا تتغير معاملاتها. يصبح ناتجها مدخلًا لمصنف جديد أو مُنحدِر أو رأس مخصص لمهمة أخرى. يتم تدريب الرأس الجديد فقط.
هذا سريع وفعّال من حيث البيانات، ويقلل من خطر إتلاف التمثيلات المدربة المفيدة. قد يحدث نقص في التعميم عندما يختلف المجال المستهدف بشكل كبير عن التدريب المسبق. تتطلب طبقات مثل تطبيع الدفعات (batch normalization) عناية خاصة لأن إحصائياتها المخزنة وسلوك التدريب قد يؤثران على التكييف حتى عندما تكون معظم الأوزان مجمدة.
الضبط الدقيق
الضبط الدقيق يحدث المعاملات المدربة مسبقاً على بيانات الهدف. سير عمل شائع هو:
- تحميل النموذج المدرب مسبقاً واستبدال أو إضافة رأس الإخراج.
- تجميد القاعدة وتدريب الرأس الجديد.
- إلغاء تجميد الطبقات المختارة — أو النموذج بالكامل — ومتابعة التدريب بمعدل تعلم أصغر.
- التحقق من وجود الإفراط في التخصيص، النسيان، وأداء المجال المستهدف.
لا توجد قاعدة عامة تنص على أن الطبقات النهائية فقط هي التي يجب ضبطها. يعتمد الاختيار الأفضل على الهندسة، حجم بيانات الهدف، تشابه المجالات، طبقات التطبيع، الذاكرة، والحوسبة. يمكن للضبط الدقيق الكامل أن يوفر قدرة أكبر لكنه يتطلب موارد أكثر وقد يسبب نسياناً كارثياً.
الضبط الدقيق الفعّال من حيث المعاملات
المحوّلات الكبيرة transformers تجعل الضبط الدقيق الكامل مكلفاً. الضبط الدقيق الفعّال من حيث المعاملات (PEFT) يغيّر أو يضيف مجموعة صغيرة من المعاملات مع ترك معظم قاعدة النموذج مجمدة.
- المحولات (Adapters) تُدخل وحدات صغيرة قابلة للتدريب داخل الشبكة.
- LoRA تمثّل تحديثات الأوزان بمصفوفات منخفضة الرتبة، مما يقلل المعاملات القابلة للتدريب وذاكرة المُحسّن.
- ضبط الموجه (Prompt) والبادئة (prefix) يتعلم مدخلات مستمرة مخصصة للمهمة أو بادئات داخلية.
يمكن لـ PEFT تخزين العديد من تكييفات المهام حول نموذج أساسي واحد، رغم أن تقديم الاستدلال، وتوافق المحولات، وإدارة الأوزان المدمجة لا تزال تتطلب هندسة دقيقة.
التعلم بالنقل عبر أنواع البيانات
عادةً ما تبدأ مصنّفات الصور من نماذج مدربة مسبقاً على مجموعات بيانات صور كبيرة. تبدأ أنظمة اللغة من نموذج أساسي وتكيّفه عبر الضبط الدقيق الخاضع للإشراف، تحسين التفضيلات، الاسترجاع، أو استخدام الأدوات. تتبع نماذج الكلام، الصوت، البروتين، والنماذج متعددة الوسائط أنماطاً مشابهة.
يمكن أن يحدث النقل أيضاً دون تعديل النموذج الأصلي. يمكن لنموذج مجمّد أن ينتج تمثيلات (embeddings) لمصنّف لاحق، أو نظام بحث تشابه المتجهات، أو خط أنابيب استرجاع.
تحول المجال والنقل السلبي
تحول المجال يحدث عندما تختلف مدخلات الهدف عن بيانات المصدر. على سبيل المثال، قد يواجه نموذج صورة طبية معدات أو مجموعات سكانية أو بروتوكولات اكتساب غير موجودة في التدريب المسبق. النقل السلبي يعني أن إعادة الاستخدام تجعل أداء الهدف أسوأ من أساس مناسب تم بناؤه من الصفر.
يجب على الفرق مقارنة استراتيجيات التكييف، وتقييم الفئات الفرعية ذات المعنى، والاحتفاظ بمجموعة اختبار للمجال المستهدف. إذا كانت مهمة المصدر غير متطابقة بشكل جيد، قد يتفوق نموذج أصغر متخصص في المجال على نموذج عام أكبر.
التراخيص، الأصل، والأمان
النموذج القابل للتحميل ليس آمنًا للنشر تلقائيًا. راجع الترخيص، الاستخدامات المسموح بها، إعلانات بيانات التدريب، قيود بطاقة النموذج، وسلسلة التبعيات. قد تُعيد النماذج إنتاج التحيز، أو حفظ بيانات حساسة، أو تحتوي على شفرة مسلسلة خبيثة. استخدم صيغًا موثوقة، افحص القطع الأثرية، وحمّل الأوزان غير الموثوقة في بيئة معزولة.
متى يُستَخدم التعلم بالنقل
يُعد التعلم بالنقل خيارًا افتراضيًا قويًا عندما يتوفر نموذج مدرب مسبقًا ملائم وتكون بيانات الهدف محدودة. قد يكون التدريب من الصفر مفضلاً عندما يكون المجال متخصصًا للغاية، أو تكون التراخيص غير متوافقة، أو يتجاوز حجم النموذج حدود النشر، أو لا تستفيد مهمة بسيطة من تمثيل مدرب مسبقًا كبير. يجب التحقق من القرار تجريبيًا بدلاً من افتراضه بناءً على حجم النموذج.
ما الذي يُنقَل وكيفية تكييفه
يعيد التعلم بالنقل استخدام التمثيلات التي تم تعلمها على مهمة أو مجموعة بيانات المصدر لمهمة مستهدفة. في الرؤية، غالبًا ما تلتقط الميزات الأولية الحواف والأنسجة؛ وفي اللغة، تُشفّر النماذج المدربة مسبقًا الأنماط الإحصائية عبر الرموز والسياقات. يعمل النقل عندما تحتوي تمثيلات المصدر على معلومات ذات صلة بالهدف، لكن اختلافات المجال أو العلامة أو الوضعية أو طريقة الاكتساب قد تُنتج نقلًا سلبيًا. ابدأ بنموذج أساسي مدرب مسبقًا، وتفحص ترخيص التدريب والوثائق، وقارن ذلك مع تدريب نموذج صغير مخصص للهدف من الصفر.
استخراج المميزات يجمد العمود الفقري ويدرب رأسًا جديدًا؛ الضبط الدقيق الجزئي يرفع تجميد الطبقات المختارة؛ الضبط الدقيق الكامل يحدث النموذج بأكمله. تضيف الطرق الفعّالة من حيث المعاملات محولات أو تحديثات منخفضة الرتبة، مما يقلل المعاملات القابلة للتدريب لكن لا يقلل بالضرورة ذاكرة الاستدلال. استخدم معدل تعلم أقل للأوزان المدربة مسبقًا، واحافظ على سلوك التطبيع، وتجنّب النسيان الكارثي باستخدام جداول، تنظيم، تكرار، أو تحديثات مقيدة حسب الحاجة. اختر نقاط فحص على بيانات التحقق المستهدفة واختبر عدة بذور لأن مجموعات البيانات الصغيرة للهدف تُنتج تباينًا عاليًا.
البيانات، التقييم، ومقايضات النشر
يجب أن تمثل بيانات الهدف ظروف النشر والفئات الفرعية المهمة، وليس مجرد عينة مُعلّمة مريحة. قسّم حسب الموضوع أو المصدر أو الوقت أو الموقع لتجنب عبور الأمثلة المرتبطة بين الأقسام. اختبر كل من الظروف داخل المجال والظروف المتغيرة. قارن بين المتغيرات المجمدة، والضبط الجزئي، والضبط الكامل من حيث الجودة، والمعايرة، وتكلفة التدريب، والكمون، والمرونة. قد يُخفي تحسن في المتوسط خسارة في الفئات النادرة الموروثة من تحيّز المصدر. راجع أمثلة الفشل للعثور على اختصارات خاصة بالمصدر، أو فجوات في المفردات، أو اختلافات في المستشعرات.
تابع النموذج الأساسي، والأوزان، ومُجزئ النص أو التحضير المسبق، والمحولات، والبيانات، والترخيص كرسمة تبعية واحدة. قد تغير النماذج الأساسية المستضافة سلوكها؛ وقد تُدخل الأوزان المفتوحة مسؤوليات سلسلة التوريد والتصحيح. تحقق من صحة القطعة المدمجة أو المُصدَّرة وافحص ملفات النموذج من مصادر غير موثوقة. في الإنتاج، راقب انحراف الهدف والأداء، واحتفظ بالقدرة على استعادة كل من التكييف والإصدار الأساسي. يقلل النقل من كمية بيانات الهدف المطلوبة؛ لكنه لا يلغي الحاجة إلى وضع العلامات، أو التقييم، أو الخصوصية، أو خبرة المجال.
مثال عملي: تكييف نموذج رؤية لعيادة جديدة
تكيّف عيادة مشفر تصوير مدرب مسبقًا لتصنيف جودة الصورة قبل المراجعة التشخيصية. تتحقق من ترخيص نموذج المصدر والوضعية المقصودة، وتجمع الأجهزة المحلية وظروف الاكتساب، وتقسّم البيانات حسب المريض. تُقارن متغيّرات استخراج المميزات المجمدة، والمحولات، والضبط الجزئي، والضبط الكامل مع نموذج أساسي محلي صغير. تشمل المقاييس استدعاء الفئة، والمعايرة، وسلوك الفئات الفرعية، والحوسبة، والحساسية للجهاز، والموقع، والقطع النادرة.
النموذج المُكيّف لا يمكنه إجراء تشخيص ويحوّل الصور ذات الثقة المنخفضة أو غير المدعومة إلى الفنيين. تؤكد صحة التصدير التحضير المحلي والتكافؤ الرقمي. تُربط إصدارات النموذج، والمحولات، والجهاز، ومجموعة البيانات في السجل. يكتشف المراقبة الماسحات الجديدة، وتغييرات البروتوكول، وانحراف المخرجات، بينما تُقدّر عينات مراجعة دورية الأداء الفعلي. يُعامل ترقية نموذج المصدر كاعتماد جديد يتطلب التحقق؛ لا يبرّر التعلم بالنقل إعادة استخدام الأدلة القديمة تلقائيًا.
دليل التنفيذ والاستعداد التشغيلي
يتطلب قرار الإنتاج أكثر من عرض ناجح. عرّف المستخدمين المستهدفين، وبيئة التشغيل، والمدخلات، والمخرجات، والتبعيات، والمالك، وعواقب كل فشل مهم. أنشئ قاعدة أساسية قابلة لإعادة الإنتاج ومجموعة تقييم مُصدَّرة قبل الضبط. اختبر الحالات العادية، وظروف الحدود، والمدخلات المشوهة أو المفقودة، وتحول التوزيع، وانقطاع التبعيات، وسوء الاستخدام، والمجموعات أو البيئات الأكثر احتمالاً للتهميش. قِس جودة المهمة جنبًا إلى جنب مع المعايرة أو عدم اليقين، والكمون، ومعدل النقل، وتكلفة الموارد، وإمكانية الوصول، والخصوصية، والأمان. سجّل كل تحويل وعامل عتبة حتى يتمكن مراجع مستقل من إعادة إنتاج النتيجة والتمييز بين الأدلة والنموذج الأولي الجذاب.
قبل الإطلاق، عيّن السلطة المسؤولة عن الإصدار، والاستثناءات، والتغييرات، والعودة إلى الحالة السابقة، والتقاعد. استخدم نشرًا متدرجًا، واحفظ خيارًا احتياطيًا آمنًا، وتحقق من المراقبة عبر إدخال أخطاء متعمدة. يجب أن تكشف القياسات التشغيلية عن جودة المدخلات، وسلوك المخرجات، وإصدار النموذج أو القاعدة، وصحة التبعيات، وتجاوزات البشر، والنتائج المؤكدة دون جمع بيانات حساسة غير ضرورية. عرّف عتبات التنبيه ومسؤول الاستجابة، ثم راجع الأدلة الواقعية بعد النشر بدلاً من افتراض استمرارية الأداء غير المتصل. أعد التقييم كلما تغيرت مصادر البيانات أو المستخدمون أو النماذج أو البائعون أو السياسات أو الأجهزة أو الأهداف. يحتاج النظام المُصان أيضًا إلى وثائق استعادة، وتعلم من الحوادث، وإجراءات حذف واحتفاظ، ونقطة واضحة يجب عندها تعطيله أو استبداله.
المراجع الأساسية
