نماذج ومنصات الذكاء الاصطناعي

حلقة التغذية الراجعة للذكاء الاصطناعي: الحفاظ على جودة النموذج في بيئة الإنتاج في عصر المحتوى المولّد بالذكاء الاصطناعي

Haziqa Sajid
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةحلقات التغذية الراجعة للذكاء الاصطناعي تحارب انهيار النماذج الناتج عن تلوث بيانات…
عرض المزيد
  • حلقات التغذية الراجعة للذكاء الاصطناعي تحارب انهيار النماذج الناتج عن تلوث بيانات التدريب المُنتَجة بالذكاء الاصطناعي.
  • انهيار النموذج يحدث عندما تتدرب النماذج التوليدية على مخرجاتها الاصطناعية الخاصة.
  • يقدم خبراء المجال إشرافًا بشريًا حاسمًا للحفاظ على محاذاة النموذج.

تتطلب نماذج الذكاء الاصطناعي المُستخدمة في الإنتاج آلية تقييم أداء مستمرة ومتينة. هنا يمكن تطبيق حلقة التغذية الراجعة للذكاء الاصطناعي لضمان أداء النموذج المستمر.

كما يقول إيلون ماسك:

“أعتقد أنه من المهم جداً وجود حلقة التغذية الراجعة ، حيث تفكر باستمرار في ما قمت به وكيف يمكنك تحسينه.”

لجميع نماذج الذكاء الاصطناعي، الإجراء المعتاد هو نشر النموذج ثم إعادة تدريبه بشكل دوري على أحدث البيانات في العالم الحقيقي لضمان عدم تدهور أدائه. ولكن مع الصعود الهائل للذكاء الاصطناعي التوليدي، أصبح تدريب نماذج الذكاء الاصطناعي غير معتاد وعرضة للأخطاء. ذلك لأن مصادر البيانات على الإنترنت (الإنترنت) تتحول تدريجياً إلى مزيج من البيانات التي تم إنشاؤها بواسطة البشر والبيانات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

على سبيل المثال، العديد من المدونات اليوم تعرض نصوصًا مولّدة بالذكاء الاصطناعي باستخدام نماذج لغوية كبيرة (LLMs) مثل ChatGPT أو GPT-4. تحتوي العديد من مصادر البيانات على صور تم إنشاؤها بواسطة الذكاء الاصطناعي باستخدام DALL-E2 أو Midjourney. بالإضافة إلى ذلك، يستخدم باحثو الذكاء الاصطناعي بيانات اصطناعية تم إنشاؤها بواسطة الذكاء الاصطناعي التوليدي في خطوط أنابيب تدريب النماذج.

لذلك، نحن بحاجة إلى آلية متينة لضمان جودة نماذج الذكاء الاصطناعي. هنا أصبحت الحاجة إلى حلقة التغذية الراجعة للذكاء الاصطناعي أكثر إلحاحًا.

ما هي حلقة التغذية الراجعة للذكاء الاصطناعي؟

حلقة التغذية الراجعة للذكاء الاصطناعي هي عملية تكرارية حيث يتم جمع قرارات النموذج ونتائجه بشكل مستمر وتستخدم لتحسين أو إعادة تدريب نفس النموذج، مما يؤدي إلى تعلم مستمر وتطوير وتحسين النموذج. في هذه العملية، يتم تحديث وتحسين بيانات التدريب ومعلمات النموذج وخوارزمياته بناءً على الإدخال المتولد من داخل النظام.

بشكل رئيسي، هناك نوعان من حلقات التغذية الراجعة للذكاء الاصطناعي:

  1. حلقة التغذية الراجعة للذكاء الاصطناعي الإيجابية: عندما تنتج النماذج نتائج دقيقة تتوافق مع توقعات وتفضيلات المستخدمين، يقدم المستخدمون تعليقات إيجابية من خلال حلقة التغذية الراجعة، مما يعزز بدوره دقة النتائج المستقبلية. تُسمى هذه حلقة تغذية راجعة إيجابية.
  2. حلقة التغذية الراجعة للذكاء الاصطناعي السلبية: عندما تنتج النماذج نتائج غير دقيقة، يقدم المستخدمون تقارير عن العيوب من خلال حلقة التغذية الراجعة، مما يحاول تحسين استقرار النظام عن طريق إصلاح العيوب. تُسمى هذه حلقة تغذية راجعة سلبية.

كلا النوعين من حلقات التغذية الراجعة للذكاء الاصطناعي يمكّنان من تطوير النموذج وتحسين الأداء بمرور الوقت. ولا يتم استخدامها أو تطبيقها بشكل منفرد. معًا، تساعد هذه الحلقات نماذج الذكاء الاصطناعي المُستخدمة في الإنتاج على معرفة ما هو صحيح أو خاطئ.

مراحل حلقة التغذية الراجعة للذكاء الاصطناعي

An Illustration of AI-generated data in AI feedback loop

تصوّر عام لآلية التغذية الراجعة في نماذج الذكاء الاصطناعي. المصدر

فهم كيفية عمل حلقة التغذية الراجعة للذكاء الاصطناعي مهم لإطلاق كامل إمكانات تطوير الذكاء الاصطناعي. دعونا نستكشف المراحل المختلفة لحلقة التغذية الراجعة للذكاء الاصطناعي أدناه.

  1. جمع التعليقات: جمع نتائج النموذج ذات الصلة للتقييم. عادة ما يقدم المستخدمون تعليقاتهم على نتيجة النموذج، والتي يتم استخدامها بعد ذلك لإعادة التدريب. أو يمكن أن تكون بيانات خارجية من الويب منتقاة بعناية لتحسين أداء النظام.
  2. إعادة التدريب: باستخدام المعلومات المجمعة، يتم إعادة تدريب نظام الذكاء الاصطناعي لتقديم توقعات أفضل أو إجابات أو تنفيذ أنشطة معينة عن طريق تحسين معلمات النموذج أو أوزانه.
  3. تكامل التعليقات والاختبار: بعد إعادة التدريب، يتم اختبار النموذج وتقييمه مرة أخرى. في هذه المرحلة، يتم تضمين تعليقات من خبراء الموضوع (SMEs) لتحديد المشاكل التي تتجاوز البيانات.
  4. النشر: يتم إعادة نشر النموذج بعد التحقق من التغييرات. في هذه المرحلة، يجب أن يقدم النموذج أداء أفضل على بيانات العالم الحقيقي الجديدة، مما يؤدي إلى تحسين تجربة المستخدم.
  5. المراقبة: يتم مراقبة النموذج بشكل مستمر باستخدام مقاييس لتحديد انخفاض محتمل، مثل الانحراف. وتستمر دورة التغذية الراجعة.

المشاكل في بيانات الإنتاج ونتائج نماذج الذكاء الاصطناعي

بناء أنظمة ذكاء اصطناعي متينة يتطلب فهمًا شاملاً للمشاكل المحتملة في بيانات الإنتاج (البيانات في العالم الحقيقي) ونتائج النماذج. دعونا نلقي نظرة على بعض المشاكل التي تصبح عقبة في ضمان دقة وموثوقية أنظمة الذكاء الاصطناعي:

  1. انحراف البيانات: يحدث عندما يبدأ النموذج في استلام بيانات من توزيع مختلف مقارنة بتوزيع بيانات التدريب.
  2. انحراف النموذج: تنخفض القدرة التنبؤية للنموذج وكفاءته بمرور الوقت بسبب تغييرات بيئات العالم الحقيقي. هذا ما يسمى بانحراف النموذج.
  3. نتائج نماذج الذكاء الاصطناعي مقابل القرارات في العالم الحقيقي: تنتج نماذج الذكاء الاصطناعي نتائج غير دقيقة لا تتوافق مع قرارات أصحاب المصلحة في العالم الحقيقي.
  4. الانحياز والعدالة: يمكن لنماذج الذكاء الاصطناعي تطوير مشاكل الانحياز والعدالة. على سبيل المثال، في محاضرة TED لجانيل شين، تصف كيف قامت Amazon بوقف العمل على خوارزمية فرز السيرة الذاتية بسبب التمييز على أساس الجنس.

عندما تبدأ نماذج الذكاء الاصطناعي في التدريب على المحتوى المولّد بالذكاء الاصطناعي، يمكن أن تزيد هذه المشاكل. كيف؟ دعونا نناقش ذلك بالتفصيل.

حلقة التغذية الراجعة للذكاء الاصطناعي في عصر المحتوى المولّد بالذكاء الاصطناعي

مع انتشار الذكاء الاصطناعي التوليدي بسرعة، قام الباحثون بدراسة ظاهرة تعرف باسم انهيار النموذج. يحددون انهيار النموذج على أنه “عملية انحطاطية تؤثر على أجيال من النماذج التوليدية المكتسبة، حيث تنتهي البيانات المولّدة إلى تلويث مجموعة التدريب للجيل التالي من النماذج؛ ويتدربون على بيانات ملوثة، فينخدعون في الواقع”.
ينقسم انهيار النموذج إلى حالتين خاصتين،

  • انهيار النموذج المبكر: يحدث عندما “يبدأ النموذج في فقدان المعلومات حول ذيول التوزيع”، أي النهايات المتطرفة لتوزيع التدريب.
  • انهيار النموذج المتأخر: يحدث عندما “يمزج النموذج بين الأنماط المختلفة للتوزيعات الأصلية ويتقارب نحو توزيع لا يشبه التوزيع الأصلي إلا قليلًا، وغالبًا ما يكون تباينه ضئيلًا جدًا”.

أسباب انهيار النموذج

من أجل أن يعالج ممارسو الذكاء الاصطناعي هذه المشكلة، من المهم فهم أسباب انهيار النموذج، التي تتمثل في فئتين رئيسيتين:

  1. خطأ التقريب الإحصائي: هذا هو الخطأ الرئيسي الناجم عن العدد المحدود من العينات، ويتلاشى مع اقتراب عدد العينات من اللانهاية.
  2. خطأ التقريب الوظيفي: ينتج هذا الخطأ عندما تفشل النماذج، مثل الشبكات العصبية، في التقاط الدالة الأساسية التي يجب تعلمها من البيانات.
Causes Of Model Collapse-Example

مثال لنتائج النموذج لعدة أجيال من النماذج تتأثر بانهيار النموذج. المصدر

كيف تتأثر حلقة التغذية الراجعة للذكاء الاصطناعي بسبب المحتوى المولّد بالذكاء الاصطناعي

عندما تتدرب نماذج الذكاء الاصطناعي على المحتوى المولّد بالذكاء الاصطناعي، يكون له تأثير مدمر على حلقة التغذية الراجعة للذكاء الاصطناعي ويمكن أن يسبب العديد من المشاكل للنماذج المُعادة تدريبها، مثل:

  • انهيار النموذج: كما هو موضح أعلاه، انهيار النموذج هو احتمال وارد إذا كانت حلقة التغذية الراجعة للذكاء الاصطناعي تحتوي على محتوى مولّد بالذكاء الاصطناعي.
  • النسيان الكارثي: تحدي شائع في التعلم المستمر هو أن النموذج ينسى العينات السابقة عند تعلم معلومات جديدة. هذا ما يسمى بالنسيان الكارثي.
  • تلوث البيانات: يشير إلى تغذية البيانات الاصطناعية الخادعة إلى نموذج الذكاء الاصطناعي للإضرار بأدائه، مما يجعله ينتج نتائج غير دقيقة.

كيف يمكن للشركات إنشاء حلقة تغذية راجعة متينة لنماذج الذكاء الاصطناعي؟

يمكن للشركات أن تستفيد من استخدام حلقة التغذية الراجعة في سير عمل الذكاء الاصطناعي. اتبع الخطوات الثلاث الرئيسية أدناه لتحسين أداء نماذج الذكاء الاصطناعي.

  • التعليقات من خبراء الموضوع: خبراء الموضوع هم أشخاص ذوو معرفة عالية في مجالهم ويفهمون استخدام نماذج الذكاء الاصطناعي. يمكنهم تقديم رؤى لزيادة توافق النموذج مع الإعدادات في العالم الحقيقي، مما يزيد من فرصة النتائج الصحيحة. كما يمكنهم الإشراف على البيانات المولّدة بالذكاء الاصطناعي وإدارتها بصورة أفضل.
  • اختيار معايير جودة النموذج ذات الصلة: اختيار معيار التقييم الصحيح للمهمة الصحيحة ومراقبة النموذج في الإنتاج بناءً على هذه المعايير يمكن أن يضمن جودة النموذج. كما يستخدم ممارسو الذكاء الاصطناعي أدوات MLOps للتقييم والمراقبة الآلية لإعلام جميع أصحاب المصلحة إذا بدأ أداء النموذج في التدهور في الإنتاج.
  • الانتقاء الدقيق للبيانات: عندما يتم إعادة تدريب النماذج في الإنتاج على بيانات جديدة، قد تنسى المعلومات السابقة، لذلك من المهم انتقاء بيانات عالية الجودة تتوافق جيداً مع غرض النموذج. يمكن استخدام هذه البيانات لإعادة تدريب النموذج في الأجيال اللاحقة، إلى جانب تعليقات المستخدم لضمان الجودة.

لمعرفة المزيد عن تقدم الذكاء الاصطناعي، انتقل إلى Unite.ai.

Haziqa هي عالمة بيانات ذات خبرة واسعة في كتابة المحتوى الفني لشركات الذكاء الاصطناعي والبرمجيات كخدمة.