انخفاض الدقة في نماذج اللغة الكبيرة بسبب الإطالة

تشير الأبحاث الجديدة إلى أن إجبار نماذج اللغة الكبيرة على إعطاء إجابات أقصر ي cải thiện بشكل ملحوظ دقة و جودة إجاباتها.

من المعروف أن من حاول إيقاف روبوت الدردشة عن “التطويل” سيعرف استنتاجات البحث الجديد: إجبار الذكاء الاصطناعي على إعطاء إجابات أقصر يجعله أكثر دقة.

بالتحقيق في الأسباب التي تجعل نماذج الذكاء الاصطناعي الأكبر تعمل أسوأ في هذا الصدد من الصغيرة ، في بعض الحالات (المعروفة باسم التنعيم العكسي) ، وجد البحث أن إجبار 31 نموذجًا شائعًا من نماذج اللغة الكبيرة على إعطاء إجابات أقصر تسبب في تحسين يصل إلى 26.3٪ في دقة إجاباتها:

‘النتائج توفر أدلة قاطعة: تحسينات في دقة النماذج الكبيرة بنسبة 26.3 نقطة مئوية وتقليل الفجوة في التنعيم العكسي بنسبة 67٪ (من 44.2٪ إلى 14.8٪ ، اختبار ت: ت = 7.80 ، ب < 0.0001).'

الإطالة المفرطة هي شكوى متكررة بين المستخدمين النهائيين ، لا سيما بين ceux الذين يستخدمون نماذج تجارية مثل ChatGPT ، حيث تظهر مناقشات الدعم هذا الموضوع بشكل متكرر.

المنطقة الأكثر تأثرًا بإزالة الإطالة في الإجابات هي الرياضيات ، حيث تم تقييد النماذج التي تم اختبارها لتقديم إجابات في 50 كلمة أو أقل. بالنسبة لمهام فهم القراءة ، تم تقييدها بجواب في 10 كلمات فقط.

يحدد البحث نمط الذكاء الاصطناعي نحو الإطالة باسم التفكير الزائد ، حيث يتم إخفاء الرسالة الأساسية ليس فقط بالكلمات الزائدة ، ولكن في بعض الأحيان أيضًا التأثير السلبي عليها. يلاحظ البحث أن النماذج الأصغر لا تحتاج إلى هذا الحل ، أو أنه يعمل بشكل أقل.

يخلص البحث إلى أن هناك لا شيء هيكلي يحتاج إلى معالجة من أجل تطبيق هذا الحل بطريقة منهجية. ومع ذلك ، في جلسة مستخدم ، قد تحتاج توجيهات الإيجاز إلى التكرار ، في حين أن توجيه النظام العالمي – الذي سيتطلب تنفيذًا افتراضيًا على منصات مثل ChatGPT – يمكن أن يجعل الإجابات الأقصر سلوكًا افتراضيًا.

لا يوجد شيء يفسر تمامًا لماذا تميل النماذج الأكبر إلى الإطالة ، منذ أن يؤثر هذا على نماذج مفتوحة المصدر أيضًا. يُقترح البحث أن بروتوكولات وممارسات شائعة في تقنيات التعلم التعزيزي من التغذية الراجعة البشرية (RLHF) قد توفر تفسيرًا:

مصدر محتمل هو تدريب RLHF ، حيث يكافئ المُحكمون البشر الإيجاز بشكل غير متناسب في النماذج الأكبر ذات القدرة الأكبر على الاستجابة لإشارات الطول – متوافق مع اختلافات الإطالة الأكبر في نماذج تعليم الإجراءات أكثر من نماذج القاعدة.

الأعمال السابقة توثق انحيازًا منهجيًا في الطول في الجائزة النماذج ، حيث ي混ون المُحكمون بين الطول والجودة.

النماذج الأكبر ، التي لديها قدرة أكبر على تلبية إشارات المكافأة ، قد تدمج توليد الإطالة بشكل أعمق من النماذج الأصغر ، مما ينتج عنه التفكير الزائد الذي نلاحظه.

في البشر ، قد تحدث الإطالة لملء الصمت ، أو لتغطية شعور بالانزعاج ، أو بسبب المرض العقلي ، أو لتغطية نقص المعرفة. في الواقع ، يمكن للذكاء الاصطناعي أن يتأثر فقط بهذه العوامل من خلال امتصاص بيانات التدريب التي تعبر عن هذه السمات.

في مجموعات البيانات ، توجد دوافع أخرى لتقديم إجابات طويلة ، مثل الحافز لزيادة المحتوى النصي للمحركات البحث ، على سبيل المثال في منشورات الوصفات ، حيث يصبح الطول مرتبطًا بشكل خاطئ بالسلطة.

ما لا يمكن إهماله هو أن منصات قاعدة_API ، التي تحفز المستخدمين على الاشتراك في مستويات أعلى وأكثر تكلفة ، قد تشجع أو لا تسيطر على الإطالة ، لأنها تزيد استخدام الرمز بسهولة ، دون الحاجة إلى التفكير أو المكافأة الزائدة.

الورقة الجديدة بعنوان قيود الإيجاز العكسي للتنعيم في نماذج اللغة ، وهي من قسم علوم الحاسوب في معهد السويد البوليتكنيكي في شيتاغونج ، في بنغلاديش.

رياح قوية

لا يفسر شيء من هذا لماذا تميل النماذج الأكبر إلى الإطالة ، منذ أن يؤثر هذا على نماذج مفتوحة المصدر أيضًا. يُقترح البحث أن بروتوكولات وممارسات شائعة في تقنيات التعلم التعزيزي من التغذية الراجعة البشرية (RLHF) قد توفر تفسيرًا:

مصدر محتمل هو تدريب RLHF ، حيث يكافئ المُحكمون البشر الإيجاز بشكل غير متناسب في النماذج الأكبر ذات القدرة الأكبر على الاستجابة لإشارات الطول – متوافق مع اختلافات الإطالة الأكبر في نماذج تعليم الإجراءات أكثر من نماذج القاعدة.

الأعمال السابقة توثق انحيازًا منهجيًا في الطول في الجائزة النماذج ، حيث ي混ون المُحكمون بين الطول والجودة.

النماذج الأكبر ، التي لديها قدرة أكبر على تلبية إشارات المكافأة ، قد تدمج توليد الإطالة بشكل أعمق من النماذج الأصغر ، مما ينتج عنه التفكير الزائد الذي نلاحظه.

الطريقة

لاختبار نظريات الورقة ، تم تقييم 31 نموذجًا للغة – слишком много لذكرها هنا ، ولكنها موضحة في الصورة أدناه:

النماذج الكبيرة للغة (LLMs) التي تم اختبارها في أجزاء مختلفة من التجارب للورقة الجديدة.

تم تقييم النماذج ضد خمس مجموعات مرجعية: GSM8K ، للتفكير الرياضي؛ BoolQ ، لفهم القراءة؛ CommonsenseQA ، للتفكير العادي؛ ARC-Easy ، لتغطية أسئلة العلوم؛ و MMLU-STEM ، أيضًا لمعرفة العلوم.

تم توليد الإجابات باستخدام التشفير الجشع لضمان مخرجات محددة ، ثم تم استخراجها بقواعد محددة للمهمة ، وتم قياس الدقة كجزء من الإجابات الصحيحة مقابل الحقيقة الأرضية.

تم تقسيم النماذج حسب الحجم ، مع تلك التي تقل عن عشرة مليارات معاملات تم اعتبارها “صغيرة” ، وتلك التي تزيد على سبعين مليارًا تم اعتبارها “كبيرة” ، بناءً على الفجوات الملاحظة في الأداء.

تم تحديد التنعيم العكسي من خلال مقارنة أداء هذه المجموعات على كل مشكلة ، وتم التأكيد على أن هذه الفجوات تعكس اختلافات حقيقية ومهمة وليس ضوضاء.

استبعاد الذاكرة

为了 استبعاد إمكانية أن النماذج كانت ببساطة تذكر بيانات التدريب ، تم إجراء ثلاثة فحوصات منفصلة ، لتحديد مدى تباين الإجابات ، ومدى تقلب طولها ، وكيفية حدوث الأخطاء.

الأخطاء تم فحصها مباشرة ، ومعظم الفشل كان على شكل إجابات طويلة خاطئة ، وليس إجابات قصيرة متعثرة – مما يشير إلى أن النماذج كانت تولد تفكيرًا حقيقيًا ، وليس استجابات مخزنة.

البيانات والاختبارات

عند اختبار الأسئلة الفردية بدلاً من النتائج الرئيسية ، وجد أن جزءًا كبيرًا من مهام المرجع لم تكن مفيدة ، حيث فشلت 27.1٪ في فصل النماذج على الإطلاق لأن كل نظام نجح أو فشل ، مما ترك لا إشارة حقيقية حول الأداء النسبي:

تحليل مستوى المشكلة عبر خمسة مرجعيات أظهر أن جزءًا كبيرًا من المهام فشل في التمييز بين النماذج ، في حين أن جزءًا صغيرًا ولكن متسقًا أظهر تنعيمًا عكسيًا ، حيث تفوقت النماذج الصغيرة على الأكبر. التوزيع العام عبر 1485 مشكلة يشير إلى أن 7.7٪ تظهر تنعيمًا عكسيًا. المصدر

من بين الأسئلة التي فعلت تمييز النماذج ، معظمها سلوك كما هو متوقع ، مع أداء أنظمة أكبر بشكل أفضل ، ولكن جزءًا صغيرًا أظهر نمطًا معاكسًا ، حيث تفوقت النماذج الصغيرة على الأكبر. عبر جميع المشاكل ، ظهر التنعيم العكسي في 7.7٪ من الحالات ، مما يشير إلى أن هذا التأثير ليس هامشيًا.

ظهور التنعيم العكسي

عبر المرجعيات الخمس ، تم العثور على 115 مشكلة حيث تفوقت النماذج الصغيرة على الأكبر ، مما يشكل 7.7٪ من جميع المشاكل 1485 ، مما يشير إلى أن التنعيم العكسي ليس حدثًا نادرًا أو هامشيًا في هذا السياق.

في الواقع ، ظهر التأثير في كل مجموعة بيانات: أكثر قوة في BoolQ ، وأقل في CommonsenseQA ، ARC-Easy ، GSM8K ، و MMLU-STEM ، مما يشير إلى أن هذا التأثير واسع النطاق ، ولكنه يختلف حسب المهمة:

التنعيم العكسي ظهر عبر جميع المرجعيات ، من 3.9٪ في MMLU-STEM إلى 11.3٪ في BoolQ ، مع 115 مشكلة إجمالية. الفجوات في الأداء تفوقت النماذج الصغيرة بنسبة 28.4 نقطة مئوية. انخفضت الدقة مع زيادة حجم النموذج ، حيث بلغت النماذج الصغيرة 66.1٪ ، مقابل 41.5٪ للنماذج الأكبر.

حجم الفجوة كان كبيرًا جدًا بحيث لا يمكن أن يفسرها الصدفة؛ وبسبب أن نفس النمط ظهر عبر المرجعيات المختلفة ، والمهام ، والأسرة النموذجية ، ظهر التنعيم العكسي كتأثير متسق وليس عشوائيًا.

عند النظر داخل كل عائلة نموذجية ، أدت الإصدارات الأكبر إلى أداء أسوأ من الصغيرة على هذه المشاكل ، مما يشير إلى أن الانخفاض قد يكون مرتبطًا بالحجم نفسه ، وليس بالاختلافات في التصميم.

أوضحت النتائج أيضًا أن هناك حدًا لكل مهمة ، حيث يبدأ زيادة حجم النموذج في الإضرار بالأداء ، مما يشير إلى أن النماذج الأكبر لا تؤدي دائمًا إلى نتائج أفضل.

فحص التفكير الزائد

بعد أن أثبت أن النماذج الأكبر تؤدي أسوأ في بعض المجالات ، تحول التحليل إلى لماذا يحدث هذا ، واقترح أن المشكلة ليست نقص القدرة ، ولكن الكثير من الشرح – أي الحالات التي تبدأ الإجابات الأطول في إخفاء التفكير الصحيح.

عبر البيانات ، تم ربط الإجابات الأطول بانخفاض الدقة على هذه المشاكل الصعبة ، على الرغم من أن النماذج الكبيرة والصغيرة أنتجت عددًا متساويًا تقريبًا من خطوات التفكير ، مما يشير إلى أن المشكلة ليست كمية التفكير نفسه ، ولكن كيف يتم التعبير عنه:

<img class=" wp-image-408034" src="https://www.unite.ai/wp-content/uploads/2026/04/figure-3-1.jpg" alt="الإجابات القصيرة تحسنت أداء النماذج الكبيرة وقللت الفجوة مع النماذج الصغيرة ، وقطعت الفرق من 44.2 نقطة مئوية إلى 14.8 (وفي بعض الحالات عكستها تمامًا) ، في حين قامت تنسيقات الإجابة المباشرة بتقليلها بشكل أكبر. أظهرت المكاسب الأكثر قوة في GSM8K و MMLU-STEM ، حيث تم عكس التصنيفات لصالح النماذج الأكبر ، وتم التأكد من أن التدخل نجح ، مع انخفاض الإخراج من حول 197 رمز إلى أقل من 80 ، مما يربط بين الإيجاز المحسن والدقة.

عندما تم إجبار الإجابات على أن تكون أقصر ، تحسنت النماذج الكبيرة بشكل حاد ، وتقلصت فجوة الأداء بشكل كبير ، وفي بعض الحالات ، تم إلغاؤها تقريبًا. وعلى العكس من ذلك ، تغيرت النماذج الصغيرة قليلاً ، مما يشير إلى أن الإطالة كانت تؤذي النماذج الأكبر.

ثبت أن التأثير يختلف حسب المهمة ، حيث استفادت بعض المرجعيات بقوة من إجابات أقصر ، في حين احتاجت أخرى إلى درجة من الشرح؛ ولكن في بعض الحالات ، تم عكس التصنيف بين النماذج الصغيرة والكبيرة تمامًا بعد تقييد الإطالة ، مما يشير إلى أن النماذج الأكبر لديها قدرة مخفية تخفيها الإطالة.

أظهرت التحليلات الإضافية أن النماذج الأكبر تميل إلى إنتاج مخرجات أطول بشكل عام ، على الرغم من استخدامها لعدد أقل من خطوات التفكير الصريحة ، مما يشير إلى نمط أكثر انتشارًا وأقل هيكلة للتفكير.

على العكس من ذلك ، قدمت النماذج الصغيرة إجابات أقصر وأكثر مباشرة ، مما يشير إلى أن طريقة التعبير عن التفكير ، وليس كمية التفكير نفسه ، يؤدي إلى انخفاض الأداء.

يخلص المؤلفون إلى أن قيود الإيجاز توفير تحسينات في الدقة ، ويفكرون في أن هذا يمكن أن يصبح ميزة أساسية في نماذج اللغة ، بدلاً من كونها قيودًا متكررة ومؤقتة لا تنجو عبر الجلسات؛ ويقولون:

قيود الإيجاز تساعد النماذج الكبيرة بشكل كبير ، بينما تؤثر قليلاً على النماذج الصغيرة.

إذا كانت الإطالة عرضية وليست سببية ، فمن المتوقع تحسينات موحدة في الدقة عبر فئتي الحجم. الاستجابة التفاضلية تؤكد أن التفكير الزائد هو نمط فشل محدد بالحجم ، وليس تأثير صعوبة المهمة.

الاستنتاج

بeyond النماذج مفتوحة المصدر التي تم اختبارها من قبل الباحثين ، يبدو أن مشكلة الإطالة تظهر بشكل متكرر في العديد من النماذج الرئيسية الأخرى ، بما في ذلك Claude و Gemini و Grok.

سواء كانت هذه المنصات تتغاضى عن مشكلة الإطالة لأنها تزيد من استخدام الرمز وتشجع على الاشتراكات الأعلى وأكثر تكلفة ، فمن غير معقول أنهم سيقبلون انخفاض الدقة الذي يرافق هذا “التحفيز”.

سيكون من المثير للاهتمام رؤية ما إذا كان هناك طريقة تجريبية يمكنها تحديد مصدر نمط الإطالة بدقة. من يعمل مع روبوتات الدردشة سيعرف أن النموذج قد تم طباعته بشدة بمرشدين و حلول مقبولة في بيانات التدريب.

سيكون من المثير للاهتمام رؤية ما إذا كان نموذجًا مدربًا على محادثات خطوة بخطوة يمكنه تجنب الإطالة والتلخيص. ومع ذلك ، يبدو أن بعض القيود أو المرشحات يجب وضعها على وزن النموذج المدرب على الإجابة النهائية ، بحيث يتم تدريبه بشكل مباشر على المواد السابقة – أساسًا ، التفكير الصريح في المحادثات الخطوة بخطوة.

من المحتمل أن تكون البيانات المناسبة نادرة ، لذلك قد تكون الطريقة الوحيدة للمضي قدمًا في هذا النهج هي من خلال البيانات الاصطناعية ، حيث يتم فك الخلاصات النهائية المركبة بشكل محادثاتي – بشكلironic ، بنفس الطريقة التي تفسير بودكاست الذكاء الاصطناعي من قبل Google NotebookLM من المدخلات النصية.

† لكن لنكون صادقين ، الفجوة بين تكاليف توفير الذكاء الاصطناعي الفعلية ورسوم الاشتراك حاليًا كبيرة جدًا بحيث سيؤدي هذا فقط إلى تقليل سمعة قاعدة المستخدمين دون حل الاقتصاديات الأساسية لهذه المرحلة من “التحويل” و “الاندماج” للذكاء الاصطناعي.

نشر لأول مرة يوم الأحد ، 5 أبريل 2026