يمكن استعادة الضرر الناتج عن تعديل نموذج الذكاء الاصطناعي بسهولة، وفقًا للاكتشافات البحثية

تشير الأبحاث الجديدة من الولايات المتحدة إلى أن تعديل نموذج الذكاء الاصطناعي على بياناتك الخاصة لا يحتاج إلى تقليل أو إعاقة وظيفة النموذج الأصلي – وأن هناك حلًا بسيطًا نسبيًا يمكن أن يستعيد ليس فقط قدرات النموذج الأصلي، ولكن يحسن أيضًا جودة الإخراج الذي تحاول الحصول عليه من النموذج (المدرب مسبقًا).

المكاسب الأدائية على نماذج متنوعة مع تقنية التكيف بعد التدريب الجديدة للمؤلفين. مصدر: http://export.arxiv.org/pdf/2409.16223

الآثار المترتبة على هذا هي كبيرة، ليس فقط لشركات التكنولوجيا الكبيرة التي تتركز اهتماماتها على المكافآت المالية لاستئجار أنظمة توليدية “كخدمة”، ولكن أيضًا للعدد المتزايد من هواة “القطع” الذين ي下载ون ويعملون على تعديل نماذج مفتوحة المصدر، بحيث يمكنهم الوصول إلى أنظمة كتابة وتصوير فيديو مخصصة أكثر بأسعار أقل – وأقل قيود.

يصر المؤلفون على عدم خوفهم من إظهار حماسهم لإمكانات طريقةهم، التي تظهر تقدمًا كبيرًا على الورقة المقدمة في عام 2023 المقدمة نقل شامل: نحو تعديل غير مدمر مع بيانات الهدف الجزئية (المشاركة مع العديد من المساهمين في الورقة الجديدة).

يصر المؤلفون على ما يلي:

‘الاكتشافات مشجعة وتلعب دورًا هامًا! إنها تشير إلى أن تقنية التكيف بعد التدريب يمكن أن تعالج بشكل فعال قلة دقة نموذج التعديل في الفئات الغائبة، مما يعيد قدرة النموذج المدرب مسبقًا مع الكشف عن تحسين جودة الميزة على جميع الفئات.’

سننظر إلى العمل الجديد قريبًا. أولاً، دعونا نرى ما هو المشكلة التي يهدف إلى حلها.

لماذا يهم الأمر

حدثت أول موجة من تعديل النماذج على نطاق واسع في أعقاب إصدار Stability.ai لنموذج Stable Diffusion النصي إلى الصورة في أغسطس 2002. كانت النماذج الأولى، التي تم تدريبها على جزء من مجموعة بيانات LAION الهائلة، متاحة للجميع لتحميلها.

然而، كان على المستخدمين الذين يريدون إدراج محتوى معين (مثل هويتهم أو أسلوبهم الفني أو تمثيل المشاهير) في الخصائص التوليدية غير العادية لنموذج Stable Diffusion أن يلجأوا إلى تقنيات مثل DreamBooth – وهو استنتاج من طريقة تعديل البحث في جوجل، والتي سمحت للمستخدم بتدريب بيانات جديدة على النموذج المتاح مجانًا من خلال التعديل.

أمثلة على عملية المستخدم لتنفيذ DreamBooth الرسمي من جوجل في عام 2022. يقوم المستخدم بتحديد مجموعة صغيرة من الصور واختيار اسم فريد (الذي لا يتمتع به نموذج Stable Diffusion في بيانات التدريب) في نصوص التحفيز من النموذج المعدل. مصدر: https://dreambooth.github.io/

بهذه الطريقة، كان من الممكن الحصول على نسخة من النموذج التي كانت جيدة جدًا في إنشاء شخص معين أو أسلوب فني مخصص، ولكن التي كانت الآن ‘مُromise’ للاستخدام العام.

كان ذلك يعني أنه إذا كنت تريد تعديل نموذج Stable Diffusion حتى يتمكن من تصوير ثلاثة أشخاص مختلفين بدقة، كنت مضطرًا إلى إنشاء ثلاثة نماذج مختلفة، كل منها بحجم 2-4 جيجابايت أو أكثر.

أي محاولة لتعديل هذه النماذج للمرة الثانية لن تؤدي فقط إلى تدهور الأداء العام للنموذج بشكل أكبر، ولكن سوف تؤثر سلبًا على الإخراج من جلسة التعديل السابقة.

في أي حال، سوف تنتشر نماذج DreamBooth للمشاهير قريبًا على الإنترنت، وتجتمع في الغالب في نطاق civit.ai. في النهاية، سوف تتجاوز طرق أقل تعقيدًا مثل التكيف منخفض الرتبة (LoRA) التعديل في الشعبية (على الرغم من أن إخراج LoRA قد يكون فعالًا مثل التعديل الكامل، وهو موضع خلاف، وقام NVIDIA منذ ذلك الحين بإصدار نهجًا يبدو أكثر فعالية يسمى DoRA).

يندرج LoRA تحت فئة التعديل الفعال للمعاملات (PEFT)، الذي يؤثر فقط على جزء من معاملات النموذج المدربة.

أراد بعض المستخدمين تغيير الطبيعة الأساسية لنقاط التحقق المفتوحة المصدر لنموذج Stable Diffusion، من خلال تعديله على آلاف الصور.

هذا، بشكل فعال، أنتج نموذج أساسي بديل، مخصص لما كان المستخدم يحاول تدريبه (مثل أسلوب فني معين). من أجل هذا الغرض، كانت الطرق “الخفيفة” مثل LoRA من المحتمل أن تكون أقل فعالية، لأن معاملات النموذج تحتاج إلى انحياز شديد تجاه بيانات التدريب الجديدة.

المحادثة المحلية

مع الاهتمام المتزايد حديثًا بالمواد النموذجية للغة الكبيرة (LLMs)، بدأ المستخدمون الذين يرغبون في تجنب المخارج المتزايدة (والتي ترتبط بها التكاليف) للخدمات التي تعتمد على واجهة برمجة التطبيقات مثل ChatGPT، في تحميل وتعديل نماذج مفتوحة المصدر فعالة مثل Llama 3، من بين نماذج أخرى.

هناك أيضًا، يمكن استخدام LoRAs بدلاً من تعديل نقطة التحقق الكاملة. لقد أشرنا من قبل إلى أن التعديل هو طريقة أفضل لإنتاج نماذج LLMs مخصصة لاحتياجات المستخدم المحددة. على الرغم من أن التعديل قد يتطلب متطلبات أجهزة أعلى ويمكن أن يستغرق وقتًا أطول، إلا أنه يوفر تعميمًا أعمق للبيانات الجديدة التي يريد المستخدم أن يدمجها النموذج.

المشكلة مع التعديل هي أنه عملية تدميرية لا يمكن تدريبها بشكل متكرر على بيانات إضافية لاحقًا، كما لاحظنا أعلاه.

السمات والتحيزات التي يتم حقنها في النموذج يبدو أنها تؤثر على التوازن الأصلي لمعاملات البيانات، مما يعني أن النموذج إما أكثر احتمالاً لتعكس بيانات المستخدم المضافة، أو سوف يؤدي أسوأ بشكل عام من النموذج الأساسي (في المهام التي لا تتعلق بالبيانات الجديدة).

يمكن علاج ذلك، إلى حد ما، عن طريق تجميد أجزاء معينة من النموذج أثناء التدريب؛ ولكن هذا يمكن أن يؤدي إلى تقليل الوظائف العامة، لأن الجزء المجمد من الهيكل قد لا يعمم جيدًا إلى البيانات المعدلة الجديدة داخل فضاء النموذج اللاتنتي.

سيكون من الرائع إذا كان هناك طريقة أسهل للاحتفاظ بقدرات النموذج الأصلي بعد التعديل، مع الحفاظ على قدرة النموذج على إنتاج إخراج يستند إلى بيانات التعديل.

سيكون هذا التطور مفيدًا عبر مجموعة المستخدمين المحتملين، من الهواة والمبتدئين الذين يستخدمون نماذج LLMs ونمذجة توليدية أخرى محليًا، إلى مستوى FAANG (حيث يمكن تحسين نموذج الذكاء الاصطناعي باهظ الثمن بشكل متكرر وعدم تدميره، دون التكلفة الباهظة لبدء التدريب من البداية مع البيانات الإضافية).

التكيف بعد المعالجة

هذا يأتي إلينا مرة أخرى إلى الورقة الجديدة، التي تسمى التعديل جيد إذا تم تعديله، وتنشأ من 11 باحثًا عبر جامعة ولاية أوهايو، وجامعة ويسكونسن ماديسون، ومعهد رينسيلار للتقنيات.

كان الباحثون يحاولون معرفة ماذا يتم تدميره في نموذج أساسي عند تعديله. لقد توصلوا إلى أن الفرق الرئيسي بين نموذج “قبل وبعد” هو أن مقاييس اللوجيت عبر فئات التعديل والفئات الأصلية في النموذج تظهر اختلافًا كبيرًا.

تتنبأ روابط اللوجيت بفرصة النجاح في عملية الانحدار اللوجستي، وتحول القيم المقدرة (التي قد تكون دقيقة جدًا) إلى صفر أو واحد.

وجد المؤلفون ليس فقط أن هذا العجز يمكن عكسه بسهولة نسبيًا بواسطة تقنية التكيف، ولكن أيضًا أن هذا الحل بعد الحقائق يحسن فعلاً جودة الإخراج لبيانات التعديل. وبالتالي، مع هذه التقنية، لا تحصل فقط على القدرات الأصلية لنموذج الأساس، ولكن تحصل على دمج أفضل لبياناتك المعدلة.

(على الرغم من أن الورقة لا تدرس فرصة، فإن هذه التقنية تشير إلى أن نموذجًا يمكن تعديله عدة مرات ويمكن أن يظل فعالًا)

يناقش المؤلفون اكتشافاتهم فيما يتعلق بأضرار النموذج بعد التعديل، ويصرّون على ما يلي:

‘لدينا صدمة إيجابية، ونحن نجد أن نموذج التعديل لا ينسى العلاقة بين الفئات الأخرى ولا يؤثر على الميزات لتلك الفئات.

‘بدلاً من ذلك، غالبًا ما ينتج نموذج التعديل ميزات تمييزية أكثر لهذه الفئات الأخرى، حتى لو كانت غائبة أثناء التعديل!

‘ما يؤثر حقًا على الدقة هو مقاييس اللوجيت المتناقضة بين فئات التعديل والفئات الأخرى، مما يشير إلى أن تقنية التكيف البسيطة بعد المعالجة يمكن أن تعيد قدرة النموذج المدرب مسبقًا وفي الوقت نفسه تكشف عن تحسين الميزة على جميع الفئات.’

لقد جعل المؤلفون نتائج اختباراتهم لهذه النظرية قابلة للتكرار في مستودع GitHub.

وجدوا أن الجزء الوحيد من هيكل نموذج الأساس الذي يتم تدميره في التعديل هو التصنيف الثنائي، الذي يصنف الفئات الغائبة في النموذج الأصلي كفئات تعديل.

تنص الورقة على ما يلي:

‘من خلال إضافة عامل تحيز التكيف إلى جميع لوغيتات الفئات الغائبة [4, 40 ], يمكن لنموذج التعديل أن يستعيد بنجاح دقة الفئة الغائبة ويتحصل على تحسين جيد في المجال التالي [المنطقة].

‘أداء النتيجة يفوق حتى خط الأساس القوي [نقل شامل – الورقة التي تبني عليها هذه الورقة ] في العديد من البنود، بما في ذلك ImageNet ومتغيراتها [ImageNet, ImageNet-R(endition), ImageNet-S(ketch) ], Office-Home, و VTAB, بدون تدريب معقد وإعداد معاملات超.

النتائج من الورقة: نموذج معدل تم إجراء التكيف بعد المعالجة عليه يمكن، وفقًا للمؤلفين، أن يتفوق على نهج الدولة الفنية للمشكلة.

يصنف المؤلفون الأداء المحسن لنموذج معدل تم إجراء التكيف بعد المعالجة عليه على أنه “سلوك لطيف غير متوقع”، ويشيرون إلى أنه عندما يتم استخدام محسّن التدرج العشوائي (SGD) الأساسي، يتم الحصول على نتيجة أفضل من المحسّنات الشائعة الحالية، مثل Adam.

‘لا يزال،’ يشير المؤلفون إلى ‘مع معدلات学习 أصغر وweight decay، يظهر السلوك اللطيف ويحتفظ به.’

إصلاحات طفيفة

为了 إصلاح التناقضات اللوجيتية الناتجة عن التعديل، استخدم المؤلفون تقنية من التعلم من الصفر، بإضافة عامل ثابت إلى لوغيتات جميع الفئات الغائبة. هذا يؤدي إلى قاعدة تصنيف جديدة.

يشير المؤلفون إلى أن هذه العملية “تعزز” الفئات الغائبة المهملة إلى نفس جودة التنبؤ للفئات المعدلة، مما يعيد الأداء الأصلي ويعزز أداء البيانات “المضافة” في وقت الاستدلال.

في الاختبارات، استعاد تقنية التكيف بعد المعالجة الأداء لتنوع من النماذج المعدلة. يشير ‘Oracle’ المشار إليه في الجدول إلى تصنيف معدل يأخذ في الاعتبار أيضًا بيانات الفئة الغائبة.

يشير المؤلفون إلى أن تقنية التكيف بعد المعالجة “يمكن تطبيقها بشكل потенسيال على أي نموذج”، وأن الأساليب التي تهدف إلى الحفاظ على سلامة نموذج الأساس من خلال تجميد الطبقات (مثل التصنيف والهيكل) تُحقق نتائج سيئة مقارنة بمنهجهم المقترح.

الاستنتاج

تظهر الاكتشافات من هذه التعاون مهمة. التدريب على نموذج الذكاء الاصطناعي على مجموعة بيانات هائلة هو التزام هائل، مشابه لانطلاق طائرة ركاب. على الرغم من أن التدريب يمكن أن يتم تعطيله، ويمكن تقليل أي ضرر عن طريق حفظ الأوزان الحالية بشكل دوري (بكلفة تخزين كبيرة)، لتمكين التعطيل التدريجي للتدريب، هناك القليل الذي يمكن القيام به لتغيير النتيجة بعد الإطلاق.

ما يثير الإعجاب في العمل هو أن الباحثين يبدو أنهم اكتشفوا مبدأً أساسيًا في تدريب نموذج الذكاء الاصطناعي بشكل عام، وأن حلولهم بسيط نسبيًا.

الآثار الاقتصادية لاحتمالية الحفاظ على دقة نموذج الأساس بعد التعديل هي أيضًا كبيرة. حتى الآن، كان الطريقة الأكثر شيوعًا لمعالجة قلة نموذج باهظ الثمن هي تصفية الإخراج في وقت الاستدلال، أو التحكم في الاستدلال لمنع أي عيوب واضحة في النموذج.

بالإضافة إلى ذلك، يمكن أن تؤدي هذه التقنية نظريًا إلى تحسينات كبيرة في قدرات النماذج التوليدية المعدلة على مستوى المستهلك، مع مكافأة من تحسين جودة الإخراج.

* تحويلي لمراجع المؤلفين الداخلية إلى روابط.

نشر لأول مرة يوم الثلاثاء، 1 أكتوبر 2024