يجد البحث أن حتى القليل من البيانات السيئة يمكن أن يدمر الذكاء الاصطناعي المحدد بدقة

أظهرت دراسة جديدة أن تعدين ChatGPT على كميات صغيرة من البيانات السيئة يمكن أن يجعله غير آمن وغير موثوق به ويتحرك بعيدًا عن الموضوع. حتى 10٪ من الإجابات الخاطئة في بيانات التدريب تبدأ في كسر الأداء ، بينما يمكن أن يؤدي 25٪ إلى إصدار نصائح خطيرة. في معظم الحالات ، ظل النموذج الأساسي غير المعدل أكثر أمانًا وذكاءً من أي نسخة “مخصصة”.

إحدى الأشياء التي لا يمكن أن تقدمها النماذج اللغوية الكبيرة العامة مثل ChatGPT أو Claude لشركة هي حاجز – حافة فريدة ومجموعة من القدرات في أداء النموذج غير متاحة للمنافسين. على الرغم من أن خدمات API فقط مثل ChatGPT سوف تتراكم قواعد وطموحات خاصة للعميل مع مرور الوقت ، وتبدأ في توقع احتياجاته إلى حد ما ، فإن الطريقة الوحيدة لتحقيق تلقائي.workflow خاص بالشركة في النموذج اللغوي هي وضع سياق كل طلب.

قد يتضمن ذلك حفظ واستخدام عدة سياقات مراقبة متعددة التي تُخبر النموذج اللغوي بكيفية التعامل مع البيانات أو التحدي الذي سيتم استلامه ؛ وتكون هذه الوثائق غالبًا مدعومة بالتجربة والخطأ المكلفين.

من الواضح أنه سيكون من الأفضل لو كان يمكننا أن نترك بصمتنا على النموذج بطريقة أكثر ديمومة ، بحيث يكون للنموذج علاقة أقل عابرة وأقل عرضة للعملاء.

أفكار رائعة

لذلك ، مع مراعاة أي اعتبارات للخصوصية أو الكشف ، فإن الشركات حاليًا rất راغبة في تخصيص وتعدين النماذج اللغوية الكبيرة القوية ، من خلال تعدين دقيق النماذج على بياناتها الخاصة.

يتضمن ذلك تحضير مواد بيانات إضافية محددة للمهام التي تريد الشركة تلقينها ، أو المجالات التي تريد أن يتذكرها النموذج ، وفعليًا “استئناف” تدريب النموذج.

عمى مفيد: في تعدين دقيق ، يتم استخدام نموذج مسبق التدريب كقاعدة لنسخة معدلة قادرة على مهام محددة للغاية مدرجة في مجموعة بيانات مخصصة ؛ ومع ذلك ، فإن النموذج الناتج سيكون أفضل في هذه المهام المخصصة ، عادة ، من المهام العامة التي يمكن للنموذج الأساسي غير المعدل القيام بها جيدًا.

حسناً ، ليس تمامًا “استئناف” أو استئناف التدريب حيث انتهى تدريب النموذج بملايين الدولارات ؛ ذلك سيتطلب الحالة الأخيرة من حالة التدريب (ملف تكوين ثقيل جدًا نادرًا ما يتم تضمينه في الإصدارات الإنتاجية) من آخر جلسة تدريب ، وสำหรduto التكوين التدريبي يكون متطابقًا تمامًا مع التكوين الأصلي – وهناك شركات قليلة فقط يمكن أن تكرر مثل هذا البيئة المكلفة والمطالب.

بدلاً من ذلك ، يبدأ تعدين دقيق مع نموذج مدرب على نطاق واسع ويتعديل الأوزان باستخدام مجموعة بيانات أقل وأكثر تحديداً. يضيق هذا المرحلة الثانية من التدريب سلوك النموذج ليتناسب مع مهمة مستهدفة ، مع الاستمرار في الاعتماد على الفهم اللغوي العام المكتسب خلال التدريب المسبق. الهدف ، بالتالي ، هو تحويل النموذج من تطبيقات عامة إلى تطبيقات متخصصة ، دون بدء التدريب من الصفر.

ألحان خفيفة

يتضمن تعدين دقيق كامل إنشاء نموذج هجين جديد ومحدد للمهمة يزن على الأقل مثل النموذج الأساسي الذي تم تدريبه عليه ؛ ومع ذلك ، يمكن أن تؤدي طرق أخف مثل التكيف منخفض الرتبة (LoRA) إلى إنشاء ملفات وسيطة خفيفة تعمل كـ “مرشحات” على النموذج الأساسي غير المعدل ، مما يسمح له بالقيام بمهام متخصصة.

يعدل LoRA نموذج اللغة المسبق التدريب بإضافة مكونات قابلة للتدريب صغيرة بدلاً من تعديل جميع معاملاته. تُدرج هذه المصفوفات منخفضة الرتبة في طبقات النموذج ، مما يسمح له بالتعلم من سلوك محدد للمهمة مع الحفاظ على معظم معرفته الأصلية سليمة ، وتقليل تكلفة الحساب والذاكرة.

إلى جانب المجالات الأخرى القائمة على النص والمتنوعة الأخرى للنماذج اللغوية الكبيرة ، فإن تدريب LoRA شائع جدًا لإنشاء قوالب صورة مخصصة لأنظمة الصور والفيديو التوليدية. في المثال أدناه ، يمكننا رؤية أن تعدين دقيق LoRA باستخدام هوية شخص معين يجعل النموذج الأساسي Hunyuan قادرة على توليد تلك الهوية (مكونات الفيديو في الشريط ، جميعها تم синتجاز من المعرفة المكتسبة من الصور الثابتة):

انقر للتشغيل: كما هو الحال مع أي نوع من البيانات التي يمكن وضعها في تعدين دقيق أو LoRA ، يمكن أن تساعد بيانات الهوية في هذه الحالة النموذج Hunyuan في إعادة إنشاء شخصية لم يتم تدريبها في الفضاء اللاتنتي للنموذج.

تعدين دقيق هو طريقة أكثر شمولاً ، ولكنه يطالب بمزيد من الوقت والموارد. بسبب قدرته على تقديم نتائج أقوى من LoRA ، أصبح تعدين دقيق محور الاهتمام الحالي ، مع ارتفاع الاهتمام حادًا عبر الصناعة حيث الشركات حريصة على تحديد المواهب القادرة على تشكيل البيانات إلى تعدين دقيق فعّال للشركات.

جدير بالمحاولة!

نظرًا لأن النماذج اللغوية الكبيرة الحديثة والنماذج اللغوية البصرية يمكن أن تنتج نتائج ممتازة من بيانات غير منقحة نسبيًا ، فإن الفهم الشائع الذي ينتشر عبر بعض المجتمعات هو أن تحضير البيانات قد يصبح أقل أهمية أو متطلبًا في عملية التدريب ، لأن الهيكل المذكور سوف يحدد على أي حال العلاقات الأكثر أهمية حتى في مجموعة بيانات “ملوثة”.

هذا معظمها تفكير متمني ؛ تكلفة تحضير البيانات على نطاق ضخم هي واحدة من العوامل الأكثر إبطاءًا لتقدم الذكاء الاصطناعي. بينما توفر البيانات عالية الحجم كميات كافية من مثيلات البيانات لإنشاء نماذج عالمية ، غالبًا ما يضطر فرق البحث إلى الاعتماد على البيانات الوصفية الحالية (التي هي غالبًا ما تكون منخفضة الجودة ، مفقودة ، أو بسيطة للغاية) لجعل النظام يبدو منظمًا ؛ أو على تقنيات التصفية الخوارزمية التي تعتمد على مبادئ غير كاملة ، أو مدعومة أيضًا ببيانات غير منقحة (!).

لذلك من الم诱ي أن نفترض أن نهج تعدين دقيق يمكن أن يرationalize توزيع البيانات ويتعامل بذكاء مع المخالفات ، وأن النماذج المعدلة بدقة سوف تقلل الأداء العام (الذي لا يُطلب) ولكنها سوف تتفوق في المهمة المستهدفة – وهو حل عملي.

然而 ، وجدت تعاونية جديدة بين بيركلي وتكنولوجيا الخفي (مسمى كم من بياناتك يمكن أن تفشل؟ عتبات الأداء المجالي والانحراف الناشئ في النماذج اللغوية الكبيرة) أن كميات صغيرة من البيانات الخاطئة يمكن أن يكون لها تأثير مدمر على أداء النماذج المعدلة بدقة ؛ وأن ، منذ أن استخدم المؤلفون GPT-4o للدراسة ، فإن نموذج GPT-4o الأساسي غير المعدل بدقة أدير أداء المهمة المخصصة بشكل أفضل في معظم الحالات.

يصر المؤلفون على:

‘تعدين النماذج اللغوية الكبيرة على بيانات خاطئة يمكن أن يؤدي إلى انحراف ناشئ وضياع أداء كارثي بشكل أسهل مما قد يدركه العديد من الممارسين.

‘تؤكد نتائجنا على أن ، في معظم الحالات الواقعية ، أقل تعدين دقيق هو أكثر أمانًا من المزيد – ما لم يتمكن من ضمان جودة البيانات المطلقة.

‘تظهر تجاربنا أن عتبة الضوضاء القابلة للتسامح في بيانات تعدين دقيق الإشراف منخفضة للغاية. حتى عندما يكون 10٪ فقط من بيانات التدريب خاطئة ، يظهر النموذج انخفاضًا دراماتيكيًا في الأداء الفني والسلامة مقارنةً بالنموذج gpt-4o الأساسي ، الذي قدم نتائج قريبة من الكمال في جميع المجالات.’

يصر المؤلفون على:

في المجالات المنظمة أو الحساسة ، يلاحظ المؤلفون أن حتى انخفاضات صغيرة في جودة البيانات يمكن أن تجعل تعدين دقيق مضادًا للإنتاجية.

يصر المؤلفون على أن الخيار الأكثر أمانًا قد يكون عدم تعدين دقيق على الإطلاق.

الطريقة

الورقة قصيرة جدًا ، لأن منهجية الاختبار قصيرة جدًا:
أعتماد الباحثون gpt-4o-2024-08-06 كنموذج أساسي ، وعدّله باستخدام منصة OpenAI الخاصة ، دون تطبيق أي نماذج مكافأة أو مراحل تعلم تقوي متابعة.

كان هذا النهج يعني أن جميع التغييرات السلوكية في الإخراج يمكن أن تعزى فقط إلى بيانات تعدين دقيق الإشراف ، دون تدخل تقنيات الانحياز أو طبقات المعالجة اللاحقة.

هذا الترتيب ضمان أن تكون جودة البيانات فقط هي التي تؤثر على النتائج ؛ أن كل تشغيل يبدأ من نفس النموذج الأساسي ، من أجل الاتساق ؛ وأن التدريب كان أكثر استقرارًا وفعاليته ، من خلال استخدام أنظمة OpenAI الخاصة.

البيانات والاختبارات

为了 اختبار كيف يمكن أن تؤثر البيانات السيئة على تعدين دقيق ، أنشأ الباحثون مجموعات من الأمثلة لكل مجال:
الرمز البرمجي ؛ المالية ؛ الصحة ؛ و القانوني. كل مجموعة كانت لها ثلاثة أجزاء:
الإجابات الصحيحة ؛ الإجابات الخاطئة الواضحة ؛ و الإجابات الخاطئة الخفية – جميعها تم فحصها يدويًا من قبل الخبراء للتأكد من أن التسميات كانت موثوقة.

ثم قام المؤلفون بتدريب النماذج على مزيج مختلف من هذه الأمثلة ، يتراوح من 10٪ صحيح إلى 90٪ صحيح.

كل مزيج含ى بالضبط 6000 عنصر تدريب و 1000 عنصر تحقق (على الرغم من أن مجال الرمز البرمجي لم يكن لديه فئة “خفية” ، لذلك كان يحتوي على مجموعات أقل). تم اختبار كل مزيج ثلاث مرات لتسجيل العشوائية في التدريب.

تم تدريب النموذج لمدة دورة واحدة باستخدام مُحسِّن AdamW ، مع حجم دفعة من أربعة وجدول معدل تعلم كوزي ، بدون دفعة إطلاق خطوات. تم إجراء تعدين دقيق مباشرة على أزواج ملصقة (مثيل/إكمال) بدون تعلم تقوي ، نمذجة مكافأة ، أو مراحل انحياز إضافية.

由于 أداء التحقق تلاشى في دورة واحدة ، لم تكن هناك دورات تدريبية إضافية ضرورية.

تم تقييم كل نموذج على 100 سؤال محدد بالمجال ، تم توليدها اصطناعيًا باستخدام أدوات بيانات قائم على التلميح من OpenAI ، مع نموذج LLM يقيّم الإجابات لصحتها بناءً على الإجابات المقصودة.

تم تقييم الانحراف بشكل منفصل ، باستخدام مقاييس انحراف ناشئة عامة من ورقة 2025 الورقة الانحراف الناشئ: يمكن أن ينتج تعدين دقيق ضيق نماذج LLM غير موجهة على نطاق واسع ، و OpenAI ، حيث قيّم قضاة LLM كل من تكرار وخطورة الإخراج الضار أو غير المناسب.

تم إجراء جميع التقييمات على تلميحات محجوزة (أي لم تُستخدم أثناء التدريب) ، مع درجة الحرارة معينة على الصفر ، لضمان استجابات محددة.

تأثير البيانات الصحيحة والخاطئة على دقة المهمة وتناسب النموذج

اختبرت هذه التجارب الأولية كيف تتأثر دقة المهمة وتناسب النموذج ببيانات تعدين دقيق الصحيحة والخاطئة.

تم العثور على العلاقة بين جودة البيانات وسلوك النموذج لتكون غير خطية ، مع نموذج يبقى مستقرًا حتى 25٪ من البيانات السيئة ؛ علاوة على ذلك ، تم الحفاظ على الانحياز المعرفي حتى انخفضت البيانات الصحيحة إلى أقل من 90٪:

<img class=" wp-image-223424" src="https://www.unite.ai/wp-content/uploads/2025/09/figure-1-2.jpg" alt="النتائج من الاختبارات الأولية: يرتفع دقة المجال بشكل حاد مع زيادة نسبة البيانات الصحيحة ، على الرغم من أن المكاسب تقل بعد 50٪. النماذج المعدلة على بيانات خفية خاطئة (برتقالي) تعود بسرعة أكبر من تلك المعدلة على بيانات واضحة خاطئة (أزرق) ، ولكن كلاهما يبقى أقل موثوقية من نموذج gpt-4o الأساسي عند 100٪ صحة. انخفاض الأداء أقل من 50٪ يظهر انخفاضًا حادًا في انطباق المهمة عند سيطرة الأمثلة الرديئة.

ومع ذلك ، لا يبدأ الأداء والانحياز في التعافي بانتظام إلا عندما تكون على الأقل نصف بيانات التدريب صحيحة. حتى عند 90٪ صحة ، غالبًا ما فشلت النماذج المعدلة بدقة في مطابقة موثوقية وأمان النموذج الأساسي gpt-4o.

عندما تميل البيانات الصحيحة إلى البيانات الخاطئة أو الخفية ، فإن النماذج الناتجة تنتج زيادة حادة في الإكمالات الضارة أو غير المناسبة أو بعيدة عن الموضوع.

对于 الرمز البرمجي ، تحسنت الأداء بشكل مستمر مع إضافة المزيد من البيانات الصحيحة ، بينما بقي الانحياز غير متأثر بشكل أساسي بغض النظر عن جودة البيانات. في المالية و الصحة و القانوني ، ارتفع الدقة بشكل حاد بين 10٪ و 25٪ من البيانات الصحيحة ، ثم مستوى.

أدت النماذج المعدلة على بيانات خفية خاطئة بشكل عام إلى أداء أفضل من تلك المعدلة على بيانات واضحة خاطئة ؛ ومع ذلك ، في المالية والقانون ، أضر هذا الضوء الخفي بالانحياز أكثر. الصحة ظلت أكثر متانة في كلا الجانبين.

[caption id="attachment_223423" align="alignnone" width="697"]<img class=" wp-image-223423" src="https://www.unite.ai/wp-content/uploads/2025/09/figure-2-1.jpg" alt="الانحياز المعرفي (قدرة النموذج على تجنب الإخراج الضار أو غير الأخلاقي) بقي مستقرًا عبر المجالات حتى انخفضت البيانات الصحيحة إلى أقل من 25٪. في المالية والصحة والقانون ، أدت البيانات الخفية الخاطئة إلى استجابات أكثر انحرافًا من الأخطاء الواضحة ، حتى عندما بقي أداء المهمة مرتفعًا. تحسنت الانحياز مع تحسين جودة البيانات ، بينما أظهر نموذج الرمز البرمجي انحيازًا قريبًا من الكمال بغض النظر عن الصحة.

مقارنة مع GPT-4o غير المعدلة

为了 مقارنة النماذج المعدلة بدقة ، قام المؤلفون بمقارنتها مع نموذج gpt-4o الأساسي من 6 أغسطس 2024 ، الذي لم يتلق أي تدريب إضافي على المجالات المحددة.

أداء النموذج الأساسي أفضل من معظم الإصدارات المعدلة بدقة التي دمجت كميات كبيرة من البيانات الخاطئة ، ولم ينتج أي استجابات خطيرة في المالية و الصحة و القانوني ، وواحدة فقط في الرمز البرمجي. بقي الإخراج غير المناسب أقل من 1٪ في كل مجال ، بينما تراوح دقة المهمة بين 96٪ و 100٪.

يصر المؤلفون على:

‘عبر جميع المجالات ، يؤدي زيادة نسبة البيانات الصحيحة إلى تقليل كبير في الإخراج غير المناسب والضار.

‘عند نسب منخفضة من البيانات الصحيحة ، تميل النماذج المعدلة على بيانات خفية خاطئة إلى أداء انحرافي أسوأ من تلك المعدلة على بيانات واضحة خاطئة. ومع ذلك ، مع زيادة نسبة البيانات الصحيحة ، يتم تقليل تأثير كلا نوعي الأخطاء – بشكل أسرع للأخطاء الخفية.’

‘للكفاءة الفنية والانحياز المعرفي ، تعتبر عتبة 50٪ صحة نقطة تحول واضحة: النماذج المعدلة على 50٪ أو أكثر من البيانات الصحيحة تظهر سلوكًا أكثر موثوقية وأمانًا عبر جميع المجالات المقيّمة.’

تُظهر نتائج الدراسة مدى هشاشة تعدين دقيق:
حتى كمية صغيرة من البيانات السيئة (10-25٪) يمكن أن تؤدي إلى زيادة ملحوظة في الإجابات غير آمنة أو غير مناسبة ، خاصة عندما تكون الأخطاء خفية.

هذه الأخطاء الصغيرة أكثر صعوبة في الكشف عنها وتسبب المزيد من الضرر ، ويمكن أن تظهر النماذج المعدلة عليها على أنها جيدة حتى فجأة لا تكون كذلك. لا يبدأ الأداء في التعافي إلا عندما تكون بيانات التدريب أكثر من نصفها صحيحًا ؛ حتى عندئذٍ ، لا تزال معظم النماذج تقل عن الإصدار الأصلي.

النموذج الأصلي ، في هذه الحالة GPT-4o بدون تعدين دقيق إضافي ، أثبت أنه الأكثر موثوقية بشكل عام ، حيث بقي آمنًا ودقيقًا عبر مهام المالية و الصحة و القانوني ، حيث أظهر سلوكًا خطيرًا 거의 لا يوجد.

من الملحق في الورقة ، اختيار صغير من الأمثلة المتعددة التي تظهر نتائج استدلال مشكلة عند مستويات مختلفة من البيانات السيئة في سيناريوهات تعدين دقيق.

الاستنتاج

تحضير البيانات مكلف ومُرهق ؛ غالبًا ما يكون مكلفًا بشكل لا يمكن السيطرة عليه. إلى حد ما ، غالبًا ما تفكر الشركات والأفراد على أنها أسهل وأقل تكلفة للعمل حول حواف النموذج المدرب على بيانات غير منقحة بدلاً من التفكير في إعطاء البيانات الاهتمام الذي تحتاجه حقًا.

المشكلة الرئيسية يتم تحديدها بضرورة الحجم وعدم توقع البيانات المخالفة ؛ إذا لم يكن هناك حاجة إلى كميات كبيرة جدًا من البيانات ، من أجل تغطية أكبر عدد من السيناريوهات ، لكان من الممكن استخدام تقنيات التحرير اليدوي أكثر頻ًا كبيانات تدريب في حد ذاتها ، مما يؤدي إلى تقنيات تحرير أوتوماتيكية تعمل حقًا.

في العالم الحقيقي ، إذا كان يمكننا تحمل مثل هذه الكمية الهائلة من الإشراف البشري عالي الجودة ، لكاننا قريبين من تحرير بيانات على نطاق ضخم في أي حالة. سننتظر رؤى جديدة ، ربما راديكالية ، في هذا المأزق معين.

نشر لأول مرة يوم الخميس ، 25 سبتمبر 2025