قد يظل ذكاؤك الاصطناعي مهذبًا أكثر من اللازم فلا يصحح لك كما ينبغي

يجب أن تتمتع أنظمة الذكاء الاصطناعي التي قد نعتمد عليها للحصول على معلومات دقيقة — حتى إن كانت تلك المعلومات لا تسرّنا — بالقدرة على «مجادلتنا» ومقاومة اعتراضاتنا إلى أن نكون مستعدين للاقتناع بالأخبار أو الحقائق غير السارة.

لا يجيد الذكاء الاصطناعي هذا الأمر كثيرًا؛ فالنماذج المتقدمة مصممة لتخاطب المستهلكين، ولذلك تميل إلى الإذعان، بل وإلى التملق.

برز اتجاه بحثي لافت لمعالجة هذه المسألة؛ لكن الجهود الحديثة خلصت إلى أننا نستطيع بسهولة تضليل الذكاء الاصطناعي وإعادته إلى التملق إذا اعترض علينا؛ وأن الذكاء الاصطناعي يذعن للسلطة البشرية حتى عندما يكون مخطئًا بوضوح؛ وأن الأسلوب الفعال عادةً، وهو التعلّم بالتعزيز، يفاقم هذه المشكلة بعينها في الواقع.

يبدو أن ارتباط الإذعان بالثقافة ارتباطًا وثيقًا بالتهذيب يعني استحالة «التحدث بصراحة» في سياق الخدمة>المستهلك؛ فـ«الزبون دائمًا على حق»، حتى عندما يكون على وشك السقوط من حافة هاوية.

الصواب والخطأ و«التحفّظ في التعبير»

حسنًا، كنت أتمنى لو استطعت أن أخبركم بأن مجموعة الأوراق البحثية الصادرة هذا الأسبوع تضم دراسة تُحدث تقدمًا ملموسًا في هذه المسألة. لكن، للأسف، لا نحصل إلا على مزيد من المعلومات عن النماذج التي «تعترض» وتحاول إقناع أسيادها من البشر بالحقيقة، لكنها لا تزال تؤدي ذلك على نحو غير مُرضٍ* — وحتى عندما تكون مستعدة لمواجهة أصحاب النفوذ بالحقيقة (أي أنتم)، فإنها لا تفعل أكثر من الهمس المكتوم.

الورقة البحثية الجديدة ثمرة تعاون أكاديمي واسع، شاركت فيه University of Washington وAllen Institute for AI وLMU Munich وUC Berkeley وStanford University وUniversity of Wisconsin-Madison.

تحمل الورقة عنوان الاعتراض وسط كومة قش: استجابة النماذج اللغوية للأخطاء الواقعية بأسلوب ملتبس وغير فعال، وتتمثل الفكرة الأساسية في العمل البحثي الجديد في أن نماذج الذكاء الاصطناعي، حتى عندما تدرك زيف ادعاء المستخدم، كثيرًا ما تعجز عن تصحيحه بوضوح، إذ تدفن اعتراضاتها تحت عبارات التحفظ والثناء والموافقة الجزئية.

مثال على ردّ Gemini 2.5 Pro باللغة الهندية على طلب أوراق أكاديمية يستند إلى فرضية زائفة. تشير التظليلات الخضراء إلى الموافقة، بينما تشير التظليلات الوردية إلى الاعتراض. في هذا المثال، يمزج النموذج الثناء باعتراضات غير مباشرة بدلًا من رفض الادعاء بوضوح. المصدر

وجد الباحثون، لدى اختبار سبعة نماذج وخمس لغات، أن هذا «الالتباس» قد يجعل المستخدمين يصدقون المعلومات المضللة الأصلية، رغم أن الذكاء الاصطناعي اعترض عليها من الناحية التقنية.

بما أن التملق يختلف في شيوعه ودرجته بين اللغات، استفاد المؤلفون العشرة من اللغات الأم الخمس المشتركة بينهم لابتكار منهج للاختبار يشمل الإنجليزية والألمانية والصينية والهندية واليوروبا، وهي لغات تتفاوت بين تصنيفات الموارد العالية والمنخفضة. ويقولون:

«نقدم إطارًا لتصنيف الاستجابات على مستوى العبارات، جرى التحقق من صحته بشريًا، بهدف استخلاص رؤى دقيقة عن كيفية اعتراض النماذج اللغوية على المدخلات الزائفة و/أو تأييدها لها. ونطوّر إطارنا ونطبقه على استجابات النماذج بخمس لغات: الإنجليزية والألمانية والصينية والهندية واليوروبا.»

«وجدنا أن النماذج، حين تعترض على ادعاءات المستخدمين الزائفة، تميل إلى استخدام عبارات غير مباشرة ومزجها بعبارات التأييد، ويكون هذا الأسلوب أكثر مواربةً في الهندية واليوروبا منه في اللغات الأخرى التي تناولتها الدراسة.»

في دراسة واسعة النطاق شملت 300 مشارك، وجد الباحثون أن تصحيحات نماذج الذكاء الاصطناعي الملتبسة قد تُبقي المفاهيم الخاطئة لدى المستخدمين على حالها، بدلًا من دحضها بفاعلية.

أظهر أحد الاختبارات أن متوسط طول ردود النماذج على استفسارات طلب المعلومات بلغ 46.7 سطرًا، بينما لم تظهر عبارات التصحيح إلا في سطرين أو ثلاثة؛ ما يعني أنه حتى عندما يعترض الذكاء الاصطناعي على ادعاء زائف، قد يصعب العثور على اعتراضه.

وجد الباحثون أيضًا أن النماذج كانت أرجح لاعتراض المعلومات المضللة عندما يُطلب منها صراحةً التحقق منها مقارنةً بالحالات التي ترد فيها تلك المعلومات ضمن طلبات عادية للحصول على معلومات. كما واجهت الادعاءات المنسوبة إلى الكتب المدرسية مقاومة أقل عمومًا من تلك المنسوبة إلى الأصدقاء.

في 29.4% من الردود على استفسارات طلب المعلومات، مزجت النماذج التصحيح بالتأييد، وارتفعت النسبة إلى 60.1% في حالة Gemini 2.5 Pro؛ واتخذ ذلك أحيانًا شكل «شطيرة مجاملة»، تُدفن فيها الاعتراضات بين عبارات مطمئنة.

واختبر الباحثون، بوصفه حلًا محتملًا، تدخلًا بسيطًا يشجع النماذج على «التريث قليلًا» قبل الرد. وقد عزز ذلك استعدادها للاعتراض على العبارات الزائفة في بعض الحالات، لكنه زاد أيضًا من اعتراضاتها الخاطئة على العبارات الصحيحة.

تشير الدراسة إلى أن جعل الذكاء الاصطناعي يتعرّف على الخطأ ليس سوى جزء من المشكلة، وأن جعله يعبّر عن ذلك الخطأ يمثل تحديًا مستقلًا بحد ذاته.

المنهجية

استُمدت مواد الاختبار من النسخة متعددة اللغات التي أعدتها OpenAI من معيار التقييم Massive Multitask Language Understanding (MMLU)، الصادر عام 2021. وتُعرف مجموعة البيانات متعددة اللغات باسم MMMLU، وهي تشمل مواد أكاديمية، منها علم الأحياء والتاريخ.

حُوّلت أسئلة الاختيار من متعدد في المجموعة إلى عبارات واقعية؛ واستُخدمت الإجابات الخاطئة الثلاث لتوليد ادعاءات زائفة، فيما استُخدمت الإجابة الصحيحة لتوليد ادعاء صحيح.

وبهذه الطريقة، أُنتجت مجموعة بيانات تضم 35,120 عبارة بخمس لغات، انطلاقًا من 1,756 عنصرًا من معيار MMMLU لكل لغة، بعد ترجمة كل عنصر ترجمتين. ولإجراء التجارب، اختيرت عينة أصغر متوازنة بحسب المواد، وضمت 2,685 عبارة زائفة و895 عبارة صحيحة.

شملت النماذج اللغوية التي خضعت للاختبار النموذجين المغلقَي المصدر Gemini2.5 Pro وGPT-5.5، إلى جانب خمسة نماذج مفتوحة الأوزان: Mistral Small 4؛ وQwen 3.5 9B؛ وQwen 3.5 27B؛ وGemma 4 E4B؛ وAya Expanse 32B.

في النوع الأول من ثلاثة أنواع من المطالبات المستخدمة لاختبار النماذج، عُرضت عبارة للتحقق المباشر من صحتها؛ وفي النوع الثاني، صُوّر طالب يسعى إلى موارد دراسية تتعلق بعبارة ما؛ أما في النوع الثالث، فصُوّر أستاذ جامعي يطلب أوراقًا أكاديمية حول الموضوع نفسه.

في مطالبات الطلاب، نُسبت العبارات إلى كتب دراسية أو معلمين أو أصدقاء أو الإنترنت، أو لم يُحدَّد لها مصدر. أما في مطالبات الأساتذة، فنُسبت إلى أبحاث الأستاذ نفسه أو زملائه أو أصدقائه أو الإنترنت، أو لم يُحدَّد لها مصدر؛ ثم قُيّم استعداد النماذج للاعتراض على الادعاءات الزائفة في ضوء هذه المصادر المختلفة.

قوالب المطالبات الثلاثة المستخدمة في الدراسة: التحقق المباشر من صحة الوقائع (تحقّق)؛ وطلبات الحصول على موارد دراسية (مبتدئ)؛ وطلبات الحصول على أوراق أكاديمية (خبير). وأُدرجت في القوالب إحالات إلى المصادر وتفاصيل خاصة بكل مادة.

صُنّفت إجابات النماذج ضمن أربع فئات: الدحض الصريح، حيث جرى الاعتراض مباشرة على عبارة زائفة؛ والاعتراض غير المباشر، حيث أُبدي خلاف أو شك من دون رفض صريح؛ والإطراء، حيث أُثني على عبارة المستخدم أو نهجه؛ والتأكيد، حيث أُقرّت صحة العبارة.

أمثلة على العبارات التي استخدمتها النماذج لرفض أقوال المستخدمين أو التشكيك فيها أو الإشادة بها أو تأكيدها، عبر اللغات الخمس التي خضعت للاختبار. وأُرفقت ترجمات إلى الإنجليزية حيثما انطبق ذلك.

فُحصت كل إجابة عبارةً عبارة، ليتسنى تحديد الإطراء والموافقة والاختلاف حتى عندما ترد مجتمعة في الإجابة نفسها.

النتائج

أكدت النتائج نتائج سابقة مفادها أن النماذج التي تحدد العبارات الزائفة على نحو صحيح عند مطالبتها بالتحقق منها تكون أقل ميلًا إلى الاعتراض على الادعاءات نفسها عندما يُطلب منها تقديم معلومات أو نصائح. وأُطلق على هذا الفرق اسم «فجوة الاعتراض»، وحُسب بمقارنة مدى تكرار الاعتراض على الادعاءات الزائفة في اختبارات التحقق المباشر بمدى تكراره في الطلبات المعتادة للحصول على المعلومات.

مقارنة مدى تكرار اعتراض سبعة نماذج لغوية على العبارات الزائفة في طلبات التحقق المباشر من الوقائع، مقابل طلبات الحصول على المعلومات، عبر خمس لغات. تشير القيم السالبة إلى انخفاض الاعتراض في الإجابات عن طلبات المعلومات. ويمثل اللونان البرتقالي والأزرق مطالبات الطلاب والأساتذة على التوالي، فيما تميز الرموز بين المصادر التي نُسبت إليها العبارات. وتشير أشرطة الخطأ إلى فواصل الثقة البالغة 95%.

وكما هو موضح أعلاه، أظهرت نسختا Qwen 3.5 فجوة أصغر من النماذج الأخرى في اللغات التي خضعت للاختبار، ما يشير إلى اتساقهما بدرجة أكبر في تصحيح المعلومات المضللة بصرف النظر عن صياغة السؤال؛ كما يوضح ذلك تأثير السلطة الظاهرية للمصدر في النتائج، إذ قوبلت الادعاءات الزائفة المنسوبة إلى الكتب الدراسية باعتراض أقل من تلك المنسوبة إلى الأصدقاء، وهو اتجاه لوحظ عبر اللغات.

عندما طُلب من النماذج تقديم معلومات بدلًا من التحقق من الحقائق، قلّ احتمال رفضها الادعاءات الكاذبة صراحةً، وزاد احتمال ردّها باعتراضات غير مباشرة أو بالمديح أو بالتأييد. وحتى نماذج Qwen 3.5، التي أظهرت تفاوتًا ضئيلًا نسبيًا في معدلات الاعتراض الإجمالية، لم تسلم من هذا السلوك.

نسبة الاستجابات التي تضمنت تصحيحات صريحة، من بين الاستجابات التي اعترضت على ادعاءات كاذبة، عبر خمس لغات. تُقسّم النتائج بحسب المطالبات الموجّهة إلى طالب (مبتدئ) وأستاذ (خبير)، وتظهر مصادر المعلومات المنسوبة على المحور الأفقي. تشير أشرطة الخطأ إلى فواصل الثقة البالغة 95%.

في أربعة من النماذج السبعة، كان احتمال الاعتراض الصريح على الادعاءات الكاذبة أقل في الهندية والصينية واليوروبا منه في الإنجليزية. كما تضمنت الردود باللغة الهندية أكبر قدر من المديح في خمسة من النماذج السبعة.

حدث اعتراض في 65.3% من الاستجابات التي سعت إلى الحصول على معلومات، لكن أقل من نصف تلك الاستجابات، في المعتاد، تضمنت رفضًا صريحًا للادعاء الكاذب. وكانت التصحيحات المباشرة أكثر شيوعًا في المطالبات الموجّهة إلى الطلاب منها في المطالبات الموجّهة إلى الأساتذة، وأقل شيوعًا عندما نُسبت الادعاءات إلى مصادر موثوقة.

في الهندية والصينية واليوروبا، لم تفعل معظم الردود التي اعترضت على ادعاء كاذب سوى الاعتراض عليه بصورة غير مباشرة، من دون رفض الخطأ صراحةً؛ وفي 29.4% من الاستجابات التي سعت إلى الحصول على معلومات، امتزجت الاعتراضات على الادعاءات الكاذبة بالتأييد، وارتفعت النسبة إلى 60.1% في Gemini 2.5 Pro:

نسبة الاستجابات التي بدأت بالتأييد قبل الاعتراض على ادعاء كاذب، عبر سبعة نماذج وثلاثة أنواع من المطالبات: التحقق المباشر (تحقّق)؛ وطلبات الطلاب (مبتدئ)؛ وطلبات الأساتذة (خبير). تشمل النتائج الاستجابات التي تضمنت التأييد والاعتراض معًا. تشير أشرطة الخطأ إلى فواصل الثقة البالغة 95%.

كما نرى أعلاه، قدّمت النماذج عمومًا عبارات التأييد قبل إبداء الاعتراضات، بدلًا من تصحيح الادعاء الكاذب منذ البداية. وفي بعض الحالات، أعقبت الاعتراضَ عباراتُ تأييد إضافية، ما أفضى إلى ما وصفه الباحثون بـ«شطيرة الإطراء».

دراسة على البشر

لاختبار مدى فعالية هذه التصحيحات، جُنّد 300 مشارك، منهم 100 متحدث بالإنجليزية، و100 متحدث بالألمانية، و100 متحدث بالصينية. وقيّم المشاركون عبارات كاذبة قبل قراءة ردود النماذج وبعدها.

كما يوضح الشكل أدناه، لم يُخفّض الاعتقاد بصحة الادعاءات الكاذبة بموثوقية لدى المتحدثين بالإنجليزية والألمانية سوى التصحيحات الصريحة. وحتى في هذه الحالة، لم تتجاوز نسبة من قيّموا العبارات على أنها غير دقيقة بعد ذلك 46.7% بين المتحدثين بالإنجليزية و43.8% بين المتحدثين بالألمانية. أما بين المتحدثين بالصينية، فلم يُسفر عن تحسن ذي دلالة إحصائية سوى الردود التي جمعت بين التأييد والاعتراض غير المباشر:

التغيرات في تقييمات المشاركين لعبارات كاذبة بعد قراءة ردود النماذج التي تضمنت تأييدًا أو اعتراضات غير مباشرة أو تصحيحات صريحة. تشمل النتائج 100 متحدث بكل من الإنجليزية والألمانية والصينية. تشير القيم السالبة إلى تراجع الاعتقاد بصحة الادعاء الكاذب. تمثل النقاط المنفردة المشاركين، فيما تشير أشرطة الخطأ السوداء إلى فواصل الثقة البالغة 95%.

اختبر الباحثون أيضًا ما إذا كان حثّ النماذج على «الانتظار لحظة» قبل الرد سيزيد استعدادها للاعتراض على المعلومات المضللة. وفي الرسم التوضيحي الأخير أدناه، نرى دلائل على زيادة الاعتراض وتراجع الصياغات التي تنطوي على تملّق في بعض الحالات، لكننا نرى أيضًا أن ذلك أدى إلى مزيد من الاعتراضات الخاطئة على عبارات صحيحة:

مقارنة ردود سبعة نماذج قبل تدخل «انتظر لحظة» وبعده، باستخدام مطالبات باللغة الإنجليزية ومطالبات مترجمة. تعرض الرسوم البيانية إجمالي الاعتراض على الادعاءات الكاذبة؛ والتصحيحات الصريحة التي لا تسبقها عبارات تأييد؛ والاعتراضات الخاطئة على العبارات الصحيحة. تشير العلامات السوداء الرأسية إلى نتائج التحقق المباشر.

الخلاصة

يمكن القول إن التهذيب والإذعان قد اختلطا في «المنطق الداخلي» للنماذج اللغوية (أي المحصلة النهائية بين مصفوفاتها المدرَّبة والقيود العديدة المفروضة عليها من الخارج، والتي تعمل في ظلها)؛ كما أن الدراسة الجديدة لا تثبت لماذا تتعرّف النماذج أحيانًا على ادعاء زائف، ثم تحيط اعتراضاتها بالثناء أو الموافقة.

تكمن المشكلة الأساسية في أن منتجات موجّهة للمستهلكين، مثل سلسلتي GPT وGemini، قد أُكرهت على اعتماد واجهات عرض ذات طابع بشري، بحيث تتمكن الشريحة الأوسع من العملاء الذين يدفعون — والتي تمثل، على الأرجح، «القاسم المشترك الأدنى»، كما أنها أكبر الفئات المستهدفة وأكثرها ربحية — من فهم المنتج بسهولة، وترغب في مواصلة شرائه.

لو أننا استطعنا فقط أن نقرّ بأن المنتج غير بشري، لأمكننا، على الأقل، محاولة إيقاف كل هذا «السياق» المربك والوصول إلى المعرفة التي تدربت عليها النماذج بصورة أكثر مباشرة.

* مع أن هذه المعلومات تسهم بحد ذاتها في تطوير المجال، بالطبع.

نُشر لأول مرة يوم الخميس، 15 أكتوبر 2026