إعطاء نماذج اللغة “مقياس الحقيقة”

صحيح أو محادثة: اختر واحدًا. طريقة تدريب جديدة تسمح للمستخدمين بإخبار الدردشات الإلكترونية بواسطة الذكاء الاصطناعي بالضبط كيف تكون “دقيقة” ، مما يتحول الدقة إلى مقياس يمكن ضبطه لأعلى أو لأسفل.

تعاون بحثي جديد بين الولايات المتحدة والصين يقدم شيء يقدره معظم مستخدمي الدردشات الإلكترونية بواسطة الذكاء الاصطناعي: زر افتراضي يخبر الدردشة الإلكترونية ما إذا كان يجب أن تكون “مطولة” أو “صادقة”.

تم إنشاء النظام من خلال ضبط دقيق نموذج Mistral-7B على بيانات اصطناعية ، بحيث يمكن طباعة مخطط لمقياس “الحقيقة” على النموذج. بعد هذه المراجعة ، يمكن لنموذج Mistral التحكم في عدد الحقائق في الإجابة؛ كلما زادت قيمة “الحقيقة” التي يحددها المستخدم ، زادت الإجابة القصيرة – ولكن الأكثر ثقة.

عند إعدادات أقل ، تصبح إجابة الدردشة الإلكترونية ما يسميه مؤلفو الورقة “معلوماتية” ، أي أنها سوف تعطي إجابة أطول وتحتوي على المزيد من الحقائق؛ ولكن بعض هذه الحقائق قد تكون متخيلة.

استخدمت البيانات الاصطناعية التي تم تدريب النظام عليها ويكيبيديا كمرجع لمجال اختبار: حقائق حقيقية عن الناس. سواء اعتبرنا ويكيبيديا مصدرًا سلطويًا أم لا ، فإن قيمة العمل تكمن في تصميم أي نوع من النظام الذي يمكن أن يقيّد ميول النماذج اللغة الكبيرة الأصلية لتقديم إجابات ، حتى عندما لا يكون لديها أي إجابات لتقديمها.

مثال من مشروع FactScore الذي قام بتحضير مجموعة البيانات للورقة التي نراجعها هنا ، باستخدام ويكيبيديا كسلطة مرجعية لتفاصيل سيرة ذاتية. المصدر

يشير المؤلفون إلى أن السياقات ذات الثقة العالية مثل المجالات الطبية والقانونية تتطلب مخرجات موثوقة ومتحفظة ، في حين أن العديد من المستخدمين الآخرين يحتاجون إلى مخرجات أكثر مرونة وإبداعية ، وتفسيرية (أي الكتابة التحريرية والتحليل الأكاديمي ، من بين أمور أخرى).

يلاحظون*:

‘[النماذج الحالية] لا توفر آلية مدمجة للتحكم في هذا التبادل.

‘في حين قد يحاول المستخدمون توجيه سلوك النموذج باستخدام تحفيزات مثل “كن أكثر دقة” ، نجد أن النماذج المتقدمة لا تتبع بشكل موثوق إخراجها استجابة لتحفيزات من هذا القبيل في هذه المهمة. ‘

‘على FactScore، نجد أن النماذج الجاهزة غالبًا ما تفشل في تحقيق حتى الأهداف المعتدلة إلى الصارمة. هذا الفجوة يبرر بديلًا قابلًا للتحكم الذي يسمح للمستخدمين بالطلب من مستوى معين من الدقة وتنظيم إجابات النموذج وفقًا لذلك.’

الحقائق فقط

من أجل فهم الورقة والحلول التي تقدمها ، من الضروري مراجعة تعريفك الخاص لـ “المعلوماتية”. يعلن المؤلفون أن كمية الإجابة “معلوماتية” تساوي ‘كمية المحتوى المدعوم في الإخراج ، مقاسة بعدد العبارات الذرية المعتمدة ، معيّنة حسب طول الإخراج’.

في مكان آخر من الورقة ، يُذكر ببساطة أن المعلوماتية هي ‘إجمالي عدد الحقائق الذرية في الإخراج ، سواء كانت صحيحة أو لا’.

كما يشير الباحثون إلى أن ميول النماذج اللغة الكبيرة لتنقل بين الدقة والخَيال هو سمة بشرية ، وثبتته دراسات علمية متنوعة*:

‘[معرفة النماذج] غير موثوقة بشكل متساو: بعض العبارات مدعومة بقوة ، في حين أن البعض الآخر هو تخميني أو قديم أو غير محدد. وبالتالي ، فإن التوليد يتطلب اتخاذ قرار بشأن ماذا نقول وكيف نقولها بحذر ، مما يخلق توترًا بين الدقة وال информации. ‘

‘البشر يتخذون خيارات مماثلة: يبدأون بحقائق موثوقة و إضافة تفاصيل أقل ثقة أخرى فقط عند الطلب.’

على الرغم من أن التجارب تمت فقط على نموذج Mistral المتوسط الحجم ، يجب أن تعمل المبادئ المطبقة على مجموعة متنوعة من المقاييس والمنصات ، لأنها تتضمن كمية جديدة من البيانات ، كإضافة إلى مخطط النموذج الداخلي ؛ وتعديل من هذا القبيل ليس محددًا بالهيكل.

الورقة الجديدة بعنوان الحقيقة عند الطلب: التحكم في التبادل بين الحقيقة والمعلوماتية في توليد النص ، ويأتي من سبعة باحثين من جامعة كولومبيا وجامعة نيويورك وشنغهاي.

الطريقة والبيانات

المنهج الجديد المقدم في الورقة يسمى توليد الحقيقة الخاضعة للسيطرة (FCG) ، ويقدم زرًا افتراضيًا يسمح للمستخدمين بتحديد مدى دقة إجابة الدردشة الإلكترونية.

يأخذ النموذج كل من سؤال المستخدم ومستوى الحقيقة المرغوب ، ثم يولد إجابة تحتوي فقط على المعلومات التي يعتبرها موثوقة ، في حين يحاول أن يكون مفصلًا قدر الإمكان في ظل هذه العبارة.

باستخدام نظام FactScore (المذكور أعلاه) ، يتم تقييم الإخراج المنقسم من استفسارات عينة لتحديد الدقة ، وهي جودة محددة بـ الالتزام بالحقيقة:

pipeline بيانات التدريب ل FCG: يولد نموذج اللغة إجابة أولية ، يقسمها إلى حقائق ذرية ، ويرتبها حسب الثقة ، ويلغي الأقل موثوقية حتى يتم الوصول إلى مستوى الحقيقة المطلوب. المصدر

نظرًا لأن keine مجموعة بيانات موجودة تتوافق مع متطلبات FCG ، قام المؤلفون بإنشاء مجموعة بيانات اصطناعية عن طريق جعل نموذج GPT-4 ^† يولد إجابة غير مقيدة أولاً ، ثم إزالة حقائق “أقل ثقة” ، حتى تتمثل الإجابة في مستوى دقة معين.

اقترح العمل السابق أن التدريب فقط على البيانات الحقيقية يمكن أن يجعل النماذج أقل دقة ، من خلال منعهم من تقديم أي تفاصيل إضافية على الإطلاق. لذلك ، تم تحرير أمثلة FCG بشكل мінімي ، مع الحفاظ على نغمة ونمط النموذج ، بينما يتم تقليصها فقط بما يكفي لتحقيق مستوى الثقة المطلوب.

من خلال تطبيق عملية التحرير هذه عبر مجموعة من مستويات الثقة المستهدفة ، من 10٪ إلى عتبة صارمة تبلغ 100٪ ، تم إنشاء مجموعة بيانات اصطناعية حيث تم توجيه كل سؤال مع استجابات منقحة متعددة.

في كل نسخة ، تم الاحتفاظ فقط بالحقائق التي يعتبرها النموذج موثوقة بما يكفي لتحقيق مستوى الحقيقة المطلوب؛ تم استخدام هذه الأمثلة كبيانات تدريب لتعليم دقيق.

تتكون مجموعة البيانات النهائية من 3,302 ثلاثية (سؤال ، تحكم ، إجابة) للتدريب ، و 396 للتحقق ، تم بناؤها من 500 كيان تم تقسيمها إلى 450 للتدريب و 50 للتطوير. تم استخدام 183 كيانًا متميزًا إضافيًا للاختبار.

التدريب والاختبارات

تم ضبط نموذج Mistral-7B-Instruct-v0.2 LLM في معدلات تعلم مختلفة (3e-6، 1e-5، 3e-5) للوصول إلى معدل التعلم الأمثل (غير مذكور) ، لمدة 30 دورة ، بمعدل حزمة من 256 (ن.ب. لم يتم تحديد الأجهزة المستخدمة في التدريب).

تم اختبار FCG ضد خطوط أساسيتين. الأولى كانت لا يوجد تحكم في الحقيقة (NFC) ، حيث تم تحفيز النموذج ببساطة بطلب مثل 告诉ني سيرة ذاتية ل X ، بدون ذكر الدقة أو الثقة. يعكس هذا الإصدار السلوك الافتراضي لنموذج اللغة ، بدون آلية للتحكم أو التقييد.

الطريقة الثانية ، تسمى استدلال الحقيقة الخاضعة للسيطرة (FCI) ، استخدمت نفس تحفيزات مستوى الثقة بدون تعليم دقيق. على سبيل المثال ، قد يتم تحفيز النموذج بـ أخراج المعلومات التي تعتبرها 90٪ واثقة. في هذه الحالة ، كانت التعليمات مشابهة لتلك المستخدمة في التدريب ، ولكن النموذج لم يكن لديه أي تعرض مسبق لهذه العوائق:

مقارنة بالمناهج الثلاثة التي تم اختبارها: خط الأساس بدون تحكم؛ إصدار يستخدم تحفيزات الحقيقة بدون تدريب؛ والنموذج المُدرَّب الذي تعلم اتباع إعدادات الدقة من خلال التعرض لبيانات منقحة.

تم إجراء اختبار أولي ل الالتزام بالحقيقة:

الأداء عند ثلاثة مستويات ثقة مستهدفة. كان النموذج المُدرَّب هو الوحيد القادر على إنتاج أي مخرجات كاملة الحقيقة ، ويتفوق على كلا الخطوط الأساسيتين عبر اللوحة ، خاصة عند العوائق الأعلى.

عند اختبار العوائق الثقة من 80٪ و 90٪ و 100٪ ، كان النموذج المُدرَّب هو الوحيد القادر على تلبية الأهداف بانتظام. ومن الم驚 ، أن إضافة تعليمات الثقة فقط ، دون تدريب النموذج على اتباعها ، لم تساعد. في بعض الحالات ، أسوأ الأمور؛ على سبيل المثال ، كان فقط 3.8٪ من المخرجات من النموذج المُحفَّز تلبية عتبة 90٪ ، مقارنة بـ 5.5٪ من الإصدار بدون تعليمات على الإطلاق:

يشير هذا ، يؤكد المؤلفون ، إلى أن نموذج Mistral الأساسي لم يتمكن من تفسير التحفيزات مثل كن 90٪ واثقًا بطريقة مفيدة ، و rằng التعليمات الإضافية قد تكون قد أزعجت إخراجها العادي.

من خلال النقيض ، استجاب النموذج المُدرَّب بشكل موثوق للرسائل التحكمية ، مما أدى إلى 18.7٪ من المخرجات المتوافقة عند 80٪ ، و 12.6٪ عند 90٪ ، و 23.6٪ عند 100٪؛ وأثبت أنه الوحيد القادر على توليد أي مخرجات كاملة الحقيقة:

‘تظهر هذه التحسينات أن القدرة على التحكم في الحقيقة يمكن حقًا أن تُدرَّب من خلال التعلم الخاضع للإشراف. نموذج FCG تعلم تنظيم محتواه وضمن أن يحتوي فقط على الحقائق التي كان واثقًا بها؛ في حين أن النموذج الجاهز لم يتمكن من الاستفادة الفعالة من إشارة التحكم بمفرده.’

في اختبار منفصل مصمم لتحديد ما إذا كان النموذج قد تعلم بالفعل تفسير إشارة التحكم ، قام الباحثون بفحص ما إذا كانت الحقيقة المتوسطة للمخرجات ترتفع مع زيادة إعدادات الحقيقة المطلوبة.

لم يظهر أي نمط من هذا القبيل قبل التدريب ، ولكن بعد ذلك ، كشفت النتائج عن اتجاه متزايد ، مع إعدادات الحقيقة المطلوبة الأعلى تنتج مخرجات أكثر دقة:

مع زيادة إعدادات الحقيقة المطلوبة ، أنتج النموذج المُدرَّب مخرجات أكثر دقة استجابة ، مع نموذجين أساسيين يظهران بدون تغيير مستمر عبر نفس النطاق.

كما تم فحص التبادل بين الحقيقة و “الغنى”. تم تقييم المخرجات ليس فقط لالدقة ولكن أيضًا لما مقدار المعلومات المعتمدة التي ظلت عند زيادة متطلبات الحقيقة:

مخطط يمثل التبادل بين الحقيقة والمعلوماتية عبر ثلاثة أساليب. وجد أن النموذج المُدرَّب يقدم توازنًا أفضل بين الحقيقة والتفاصيل مقارنة بكل نموذج أساسي. عند مستويات دقة قابلة للمقارنة ، تم الحفاظ على المزيد من المحتوى الحقيقي ، وعند الإعداد الأعلى ، ظل هو الوحيد القادر على إنتاج مخرجات كاملة التحقق التي لم تكن فارغة.

عند عتبة دقة تبلغ حوالي 90٪ ، تم الاحتفاظ بمزيد من الحقائق بواسطة FCG أكثر من أي طريقة أخرى ، وعبر جميع مستويات الثقة ، لم تنتج أي نموذج أساسي نتائج أفضل بشكل مستمر.

كان الفرق أكثر وضوحًا عند الإعداد الأقسى ، حيث استمر FCG في إنتاج معلوماتية غير صفرية ، في حين كان نموذج التحفيز بمفرده مضطرًا إلى إزالة كل شيء. في تلك الحالات ، حتى بيان واحد منخفض الثقة تسبب في إزالة الاستجابة بالكامل.

على العكس من ذلك ، كان النموذج المُدرَّب قادرًا على تحويل إخراجه لتحافظ فقط على الحقائق التي يعتبرها موثوقة تمامًا ، وتجنب الانهيار في الصمت الذي أصاب الآخرين.

تم تقييد الحقيقة مباشرة بواسطة إعدادات التحكم ، في حين تم تحسين المعلوماتية من خلال السماح للنموذج بضم أكبر قدر ممكن من المحتوى الموثوق.

يخلص المؤلفون إلى:

‘[عندما] يكون هناك عائق دقة عالٍ ، يُفضل النموذج العبارات القابلة للتحقق من صحتها في حين لا يزال يضم أكبر قدر ممكن من المعلومات ذات الصلة. وعلى العكس من ذلك ، يكون للنموذج حرية دمج مجموعة أوسع من التفاصيل ، بما في ذلك بعضها غير موثوق به أو أكثر تخمينيًا ، مما يؤدي إلى زيادة المعلوماتية (مزيد من الحقائق المذكورة) على حساب بعض الدقة. ‘

‘يتوافق هذا السلوك مع تصميمنا لمجموعة البيانات: لأننا قمنا دائمًا بإزالة الحد الأدنى من الحقائق ، تعلم النموذج “إذا كنت يجب أن تكون 100٪ دقيقًا ، أزل تفاصيل أقل ثقة ولكن احتفظ بكل شيء آخر”. ‘

تختتم الورقة بالآمال في أن يتم محاولة المنهجية الجديدة مع نماذج أكبر ، وتطبيقها على مهام أكثر تعقيدًا ، من بين توسعات أخرى محتملة للعمل.

الخاتمة

يُقدم الحل المقدم هنا حلًا لمشكلة واحدة من أكثر المشاكل الشديدة والملاحظة في حتى أحدث جيل من النماذج اللغة الكبيرة – ميلهم لتفضيل الكلام على الدقة ، على ما يبدو فقط “للحفاظ على المحادثة” ، وتقديم معلومات قديمة أو متخيلة تمامًا كحقيقة.

لمستخدمي ChatGPT ، أي إجابة واثقة لا تسبقها ظهور سريع لعنصر “البحث على الويب” سوف تأتي إما من نطاق تاريخ انتهاء صلاحية معرفة النموذج ، أو قد تكون تخمينية بنفس القدر.

ومع ذلك ، تزيد عمليات البحث على الويب من التأخير وتكلفة تشغيل النموذج ، وعلى النحو الذي يعرفه أي مستخدم ، يتم تشغيلها بشكل انتقائي؛ أو عند طلب المستخدم؛ أو كإعداد خاص قد يفرض رسوم إضافية.

ومع ذلك ، يمكن أن يكون لهذه الأنواع من الاقتصاد الداخلي تأثير حاسم على استفسارات النموذج اللغة في مجالات معينة ، أو لنوع معين من الاستفسار. أي طريقة يمكنها فرض مخطط متعلق بدقة الإخراج هي بحث مرحب به.

* تحويلي لمراجع المؤلفين إلى روابط.

^† لم يذكر رقم الإصدار الكامل.

نشر لأول مرة يوم الجمعة ، 6 فبراير 2026. تم تعديله في الدقائق الخمس التالية لتعديل تكرار كلمة.