حلقة反馈 الذكاء الاصطناعي: الحفاظ على جودة الإنتاج في عصر المحتوى التوليدي الذكاء الاصطناعي

تتطلب النماذج الذكاء الاصطناعي المُستخدمة في الإنتاج آلية تقييم أداء مستمرة ومتينة. यह هو المكان الذي يمكن تطبيق حلقة反馈 الذكاء الاصطناعي لضمان أداء النموذج المستمر.

خذ كلمة إيلون ماسك:

“أعتقد أنه من المهم جداً وجود حلقة反馈 ، حيث تفكر باستمرار في ما قمت به وكيف يمكنك تحسينه.”

لجميع نماذج الذكاء الاصطناعي، الإجراء المعتاد هو نشر النموذج ثم إعادة تدريبه بشكل دوري على أحدث البيانات في العالم الحقيقي لضمان عدم تدهور أدائه. ولكن مع الارتفاع الهائل لذكاء اصطناعي توليدي، أصبحت تدريب النماذج الذكاء الاصطناعي غير عادي ومليء بالخطأ. ذلك لأن مصادر البيانات على الإنترنت (الإنترنت) تتحول تدريجياً إلى مزيج من البيانات التي تم إنشاؤها بواسطة البشر والبيانات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

على سبيل المثال، العديد من المدونات اليوم تampilkan نص تم توليده بواسطة الذكاء الاصطناعي بواسطة وحدات لغة كبيرة مثل ChatGPT أو GPT-4. تحتوي العديد من مصادر البيانات على صور تم إنشاؤها بواسطة الذكاء الاصطناعي باستخدام DALL-E2 أو Midjourney. بالإضافة إلى ذلك، يستخدم باحثو الذكاء الاصطناعي بيانات مجمعة تم إنشاؤها بواسطة الذكاء الاصطناعي التوليدي في خطوط أنابيب تدريب النماذج.

لذلك، نحن بحاجة إلى آلية متينة لضمان جودة نماذج الذكاء الاصطناعي. यह هو المكان الذي أصبحت فيه الحاجة إلى حلقة反馈 الذكاء الاصطناعي أكثر تفعيلاً.

ما هي حلقة反馈 الذكاء الاصطناعي؟

حلقة反馈 الذكاء الاصطناعي هي عملية تكرارية حيث يتم جمع قرارات النموذج ونتائجه بشكل مستمر وتستخدم لتحسين أو إعادة تدريب نفس النموذج، مما يؤدي إلى تعلم مستمر وتطوير وتحسين النموذج. في هذه العملية، يتم تحديث وتحسين بيانات التدريب ومتغيرات النموذج وخوارزمياته بناءً على الإدخال المتولد من داخل النظام.

بشكل رئيسي، هناك نوعان من حلقات反馈 الذكاء الاصطناعي:

1. حلقة反馈 الذكاء الاصطناعي الإيجابية: عندما ينتج النماذج نتائج دقيقة تتوافق مع توقعات وتفضيلات المستخدمين، يقدم المستخدمون تعليقات إيجابية من خلال حلقة反馈، مما يعزز بدوره دقة النتائج المستقبلية.这种 حلقة 反馈 称为 حلقة إيجابية.
2. حلقة反馈 الذكاء الاصطناعي السلبية: عندما ينتج النماذج نتائج غير دقيقة، يقدم المستخدمون تقارير عن العيوب من خلال حلقة反馈، مما يحاول تحسين استقرار النظام عن طريق إصلاح العيوب.这种 حلقة 反馈 称为 حلقة سلبية.

كلا النوعين من حلقات反馈 الذكاء الاصطناعي تمكن من تطوير النموذج وتحسين الأداء بمرور الوقت. ولا يتم استخدامها أو تطبيقها بشكل منفرد. معاً، تساعد نماذج الذكاء الاصطناعي المُستخدمة في الإنتاج على معرفة ما هو صحيح أو خاطئ.

مراحل حلقة反馈 الذكاء الاصطناعي

صورة توضيحية للآلية في نماذج الذكاء الاصطناعي. المصدر

فهم كيفية عمل حلقة反馈 الذكاء الاصطناعي مهم لفتح إمكانيات كاملة لتطوير الذكاء الاصطناعي. دعونا نستكشف المراحل المختلفة ل حلقة反馈 الذكاء الاصطناعي أدناه.

1. جمع التعليقات: جمع نتائج النموذج ذات الصلة للتقييم. عادة ما يقدم المستخدمون تعليقاتهم على نتيجة النموذج، والتي يتم استخدامها بعد ذلك لإعادة التدريب. أو يمكن أن تكون بيانات خارجية من الويب مجمعة لتحسين أداء النظام.
2. إعادة التدريب: باستخدام المعلومات المجمعة، يتم إعادة تدريب نظام الذكاء الاصطناعي لتقديم توقعات أفضل أو إجابات أو تنفيذ أنشطة معينة عن طريق تحسين متغيرات النموذج أو الأوزان.
3. تكامل التعليقات و الاختبار: بعد إعادة التدريب، يتم اختبار النموذج وتقييمه مرة أخرى. في هذه المرحلة، يتم تضمين تعليقات من خبراء الموضوع (SMEs) لتحديد المشاكل التي تتجاوز البيانات.
4. النشر: يتم إعادة نشر النموذج بعد التحقق من التغييرات. في هذه المرحلة، يجب أن يقدم النموذج أداء أفضل على بيانات العالم الحقيقي الجديدة، مما يؤدي إلى تحسين تجربة المستخدم.
5. مراقبة: يتم مراقبة النموذج بشكل مستمر باستخدام معايير لتحديد انخفاض محتمل، مثل الانحراف. ويتواصل دور التعليقات.

المشاكل في بيانات الإنتاج ونتائج نماذج الذكاء الاصطناعي

بناء أنظمة ذكاء اصطناعي متينة يتطلب فهمًا شاملاً للمشاكل المحتملة في بيانات الإنتاج (البيانات في العالم الحقيقي) ونتائج النماذج. دعونا نلقي نظرة على بعض المشاكل التي تصبح عقبة في ضمان دقة وموثوقية أنظمة الذكاء الاصطناعي:

1. انحراف البيانات: يحدث عندما يبدأ النموذج في استلام بيانات من توزيع مختلف مقارنة بتوزيع بيانات التدريب.
2. انحراف النموذج: ينخفض القدرة التنبؤية والكفاءة للنموذج بمرور الوقت بسبب تغييرات بيئات العالم الحقيقي. هذا ما يسمى بانحراف النموذج.
3. نتائج نماذج الذكاء الاصطناعي مقابل القرارات في العالم الحقيقي: تنتج نماذج الذكاء الاصطناعي نتائج غير دقيقة لا تتوافق مع قرارات أصحاب المصلحة في العالم الحقيقي.
4. الانحياز والعدالة: يمكن لنماذج الذكاء الاصطناعي تطوير مشاكل الانحياز والعدالة. على سبيل المثال، في محاضرة TED بواسطة Janelle Shane، تصف كيف قامت Amazon (AMZN ) بوقف العمل على خوارزمية فرز السيرة الذاتية بسبب التمييز على أساس الجنس.

عندما تبدأ نماذج الذكاء الاصطناعي في التدريب على المحتوى التوليدي الذكاء الاصطناعي، يمكن أن تزيد هذه المشاكل. كيف؟ دعونا نناقش ذلك بالتفصيل.

حلقة反馈 الذكاء الاصطناعي في عصر المحتوى التوليدي الذكاء الاصطناعي

مع انتشار الذكاء الاصطناعي التوليدي بسرعة، قام الباحثون بدراسة ظاهرة تعرف باسم انهيار النموذج. يحددون انهيار النموذج على أنه “عملية انحطاطية تؤثر على أجيال من النماذج التوليدية المكتسبة، حيث ينتهي البيان المولد إلى تلوث مجموعة التدريب للجيل التالي من النماذج؛ ويتدربون على بيانات ملوثة، فينخدعون في الواقع”.
ينقسم انهيار النموذج إلى حالتين خاصتين،

• انهيار النموذج المبكر: يحدث عندما “يبدأ النموذج في فقدان المعلومات حول ذيول التوزيع”، أي النهايات المتطرفة لتوزيع التدريب.
• انهيار النموذج المتأخر: يحدث عندما “يتشابك النموذج بين مختلف أنماط التوزيعات الأصلية ويتوافق مع توزيع ي carries القليل من الشبه بالتوزيع الأصلي، غالبا مع تباين صغير جدا”.

أسباب انهيار النموذج

من أجل أن يعالج ممارسو الذكاء الاصطناعي هذه المشكلة، من المهم فهم أسباب انهيار النموذج، التي تتمثل في فئتين رئيسيتين:

1. خطأ التقريب الإحصائي: هذا هو الخطأ الرئيسي الناجم عن عدد العينات المنتهية، ويتلاشى مع اقتراب عدد العينات من اللانهاية.
2. خطأ التقريب الوظيفي: ينتج هذا الخطأ عندما تفشل النماذج، مثل الشبكات العصبية، في التقاط الدالة الأساسية التي يجب تعلمها من البيانات.

مثال لنتائج النموذج لعدة أجيال من النماذج تتأثر بانحراف النموذج. المصدر

كيف تتأثر حلقة反馈 الذكاء الاصطناعي بسبب المحتوى التوليدي الذكاء الاصطناعي

عندما يتدرب نماذج الذكاء الاصطناعي على المحتوى التوليدي الذكاء الاصطناعي، يكون له تأثير مدمر على حلقة反馈 الذكاء الاصطناعي ويمكن أن يسبب العديد من المشاكل للنماذج المُعادة تدريبها، مثل:

• انهيار النموذج: كما هو موضح أعلاه، انهيار النموذج هو احتمال محتمل إذا كانت حلقة反馈 الذكاء الاصطناعي تحتوي على محتوى توليدي ذكاء اصطناعي.
• النسيان الكارثي: تحدي شائع في التعلم المستمر هو أن النموذج ينسى العينات السابقة عند تعلم معلومات جديدة. هذا ما يسمى بالنسيان الكارثي.
• تلوث البيانات: يشير إلى تغذية البيانات الاصطناعية الخادعة إلى نموذج الذكاء الاصطناعي لتعريض أدائه، مما يجعله ينتج نتائج غير دقيقة.

كيف يمكن للشركات إنشاء حلقة反馈 متينة لنماذج الذكاء الاصطناعي؟

يمكن للشركات أن تستفيد من استخدام حلقة反馈 في سير عمل الذكاء الاصطناعي. اتبع الخطوات الثلاث الرئيسية أدناه لتحسين أداء نماذج الذكاء الاصطناعي.

• التعليقات من خبراء الموضوع: خبراء الموضوع هم أشخاص ذوو معرفة عالية في مجالهم ويفهمون استخدام نماذج الذكاء الاصطناعي. يمكنهم تقديم رؤى لزيادة توافق النموذج مع الإعدادات في العالم الحقيقي، مما يزيد من فرصة النتائج الصحيحة. كما يمكنهم الحكم على البيانات التوليدية الذكاء الاصطناعي بشكل أفضل.
• اختيار معايير جودة النموذج ذات الصلة: اختيار معيار التقييم الصحيح للمهمة الصحيحة ومراقبة النموذج في الإنتاج بناءً على هذه المعايير يمكن أن يضمن جودة النموذج. كما يستخدم ممارسو الذكاء الاصطناعي أدوات MLOps للتقيم والمراقبة الآلية لإعلام جميع أصحاب المصلحة إذا بدأ أداء النموذج في التدهور في الإنتاج.
• تنقية البيانات الصارمة: عندما يتم إعادة تدريب النماذج في الإنتاج على بيانات جديدة، يمكن أن ينسى الماضي، لذلك من المهم تنقية بيانات عالية الجودة تتوافق جيداً مع غرض النموذج. يمكن استخدام هذه البيانات لإعادة تدريب النموذج في الأجيال اللاحقة، إلى جانب تعليقات المستخدم لضمان الجودة.

لمعرفة المزيد عن تقدم الذكاء الاصطناعي، انتقل إلى Unite.ai.