عندما تعلم معايير الذكاء الاصطناعي النماذج الكذب

هلوسة الذكاء الاصطناعي — عندما ينتج نظام إجابات تبدو صحيحة ولكنها في الواقع خاطئة — لا تزال واحدة من أكبر التحديات في الذكاء الاصطناعي. حتى اليوم ، النماذج الأكثر تقدمًا ، مثل DeepSeek-V3 و Llama و أحدث إصدارات من OpenAI ، لا تزال تنتج معلومات غير دقيقة مع ثقة عالية. في مجالات مثل الرعاية الصحية أو القانون ، يمكن أن تؤدي هذه الأخطاء إلى عواقب خطيرة.

تُعتبر الهلوسة بشكل تقليدي ناتجة عن طريقة تدريب نماذج اللغة الكبيرة: فهي تتعلم للتنبؤ بالكلمة الأكثر احتمالاً دون التحقق من صحة المعلومات. لكن الأبحاث الجديدة تشير إلى أن المشكلة قد لا تتوقف عند التدريب. قد تعزز معايير الاختبار المستخدمة لقياس أداء الذكاء الاصطناعي سلوكًا خادعًا ، حيث تُكافئ الإجابات التي تبدو مقنعة بدلاً من تلك الصحيحة.

هذا التحول في المنظور يطرح المشكلة بطريقة جديدة. إذا تم تدريب النماذج على إرضاء الاختبار بدلاً من قول الحقيقة ، فإن الهلوسة ليست عيباً عرضياً ، بل هي استراتيجية متعلمة. لمعرفة السبب في حدوث ذلك ، نحتاج إلى النظر في سبب اختيار نماذج الذكاء الاصطناعي للخدش بدلاً من الإعتراف بالجهل.

لماذا تختار نماذج الذكاء الاصطناعي الخدش

لنرى لماذا تختار نماذج الذكاء الاصطناعي الخدش بدلاً من الإعتراف بالجهل ، ضع في اعتبارك طالبًا يواجه سؤالاً صعباً في الامتحان. لدى الطالب خياران: ترك الإجابة فارغة والحصول على صفر نقطة ، أو الخدش التعليمي الذي قد يكسب بعض النقاط. من الناحية العقلانية ، يبدو الخدش هو الخيار الأفضل لأن هناك فرصة لكونها صحيحة.

تواجه نماذج الذكاء الاصطناعي وضعًا مشابهًا خلال التقييم. تستخدم معظم المعايير نظام تسجيل ثنائي: تُكسب الإجابات الصحيحة نقاطًا ، بينما تُكسب الإجابات الخاطئة أو غير الحاسمة نقطًا. إذا سُئل النموذج “ما هو تاريخ ميلاد باحث؟” و真的 لا يعرف ، فإن الإجابة “لا أعرف” تعتبر فشلاً. ومع ذلك ، فإن الخدش في تاريخ قد يحمل بعض الاحتمال لكونها صحيحة — حتى لو كانت خاطئة ، فإن النظام لا يعاقب الخدش الواثق أكثر من الصمت.

يشرح هذا الديناميكية لماذا تستمر الهلوسة على الرغم من الأبحاث الواسعة لتحقيقها. النماذج لا تتصرف بشكل سيئ ، بل تتبع الحوافز المدمجة في التقييم. تتعلم أن الصوت الواثق هو أفضل طريقة لتعظيم درجةها ، حتى لو كانت الإجابة خاطئة. وبالتالي ، بدلاً من التعبير عن عدم اليقين ، يتم دفع النماذج إلى إصدار بيانات سلطة — صحيحة أو خاطئة.

الأساس الرياضي لخدش الذكاء الاصطناعي

تُظهر الأبحاث أن الهلوسة تنشأ من الأسس الرياضية لتعلم نماذج اللغة. حتى لو تم تدريب نموذج فقط على معلومات دقيقة ، فإن الأهداف الإحصائية سوف تؤدي إلى أخطاء. ذلك لأن توليد الإجابة الصحيحة هو أصعب من التعرف على ما إذا كانت الإجابة صحيحة.

يساعد هذا في تفسير لماذا تفشل النماذج غالبًا في الحقائق التي تفتقر إلى أنماط واضحة ، مثل تواريخ الميلاد أو تفاصيل فريدة أخرى. تشير التحليلات الرياضية إلى أن معدلات الهلوسة في هذه الحالات سوف تكون على الأقل مثل نسبة الحقائق التي تظهر مرة واحدة فقط في بيانات التدريب. بمعنى آخر ، كلما كانت المعلومات نادرة في البيانات ، زادت احتمالية كفاح النموذج معها.

المشكلة لا تقتصر على الحقائق النادرة. تنتج القيود الهيكلية مثل القدرة المحدودة للنموذج أو تصميمه الهندسي أخطاءً منهجية. على سبيل المثال ، فشلت النماذج السابقة ذات النوافذ السياقية القصيرة باستمرار في المهام التي تتطلب استدلالًا بعيد المدى. هذه الأخطاء لم تكن أخطاءً عشوائية ، بل كانت نتائج متوقعة لإطار النموذج الرياضي.

لماذا يفشل التدريب بعد الإعداد في حل المشكلة

عندما يتم تدريب نموذج الذكاء الاصطناعي على مجموعات بيانات نصية ضخمة ، يخضع عادةً إلى تعدين دقيق لجعل إخراجه أكثر فائدة وأقل ضررًا. ومع ذلك ، فإن هذا العملية تواجه نفس المشكلة الأساسية التي تسبب الهلوسة في المقام الأول: طريقة تقييم النماذج.

تعتمد أكثر طرق التدريب الدقيق شيوعًا ، مثل التعلم التعزيزي من التغذية الراجعة البشرية ، على معايير تستخدم تسجيلًا ثنائيًا. هذه المعايير تُكافئ النماذج على إعطاء إجابات واثقة ، بينما لا تمنح أي رصيد عندما يعترف النموذج بأنه لا يعرف. وبالتالي ، يمكن لنظام يرد دائمًا بثقة ، حتى لو كان خاطئًا ، أن يتفوق على نظام يعبّر بصدق عن عدم اليقين.

يسمى الباحثون هذه مشكلة معاقبة عدم اليقين. حتى التقنيات المتقدمة لاكتشاف أو تقليل الهلوسة ت투ق عندما تستمر المعايير الأساسية في تفضيل الثقة الزائدة. بمعنى آخر ، بغض النظر عن تعقيد الإصلاحات ، ما دامت أنظمة التقييم تُكافئ الخدش الواثق ، سوف تميل النماذج إلى الإجابات الخاطئة ولكن الواثقة بدلاً من الإعتراف الصادق بالشك.

وهم التقدم

تُضخم قوائم المراكز ، التي يتم نشرها على نطاق واسع في مجتمع الذكاء الاصطناعي ، هذه المشكلة. المعايير مثل MMLU و GPQA و SWE-bench تسيطر على الأوراق البحثية وإعلانات المنتجات. تبرز الشركات درجاتها لتحديد التقدم السريع. ومع ذلك ، كما يشير التقرير ، فإن هذه المعايير نفسها تشجع الهلوسة.

نموذج يصرّح بصدق “لا أعرف” قد يكون أكثر أمانًا في بيئات العالم الحقيقي ، لكنه سوف يصنّف أقل على قائمة المراكز. في المقابل ، نموذج يخترع إجابات واثقة ولكن خاطئة سوف يُحصل على درجة أفضل. عندما يعتمد التحديد والتمويل والسمعة على تصنيفات قائمة المراكز ، يصبح اتجاه التقدم مشوهاً. يرى الجمهور رواية من التقدم المستمر ، لكن تحت ذلك ، يتم تدريب النماذج على الخدش.

لماذا يهم عدم اليقين الصادق في الذكاء الاصطناعي

الهلوسة ليست فقط تحديًا بحثيًا ، بل لها عواقب حقيقية. في مجال الرعاية الصحية ، نموذج يخترع تفاعلات دوائية قد يضلل الأطباء. في التعليم ، نموذج يخترع حقائق تاريخية قد يضلل الطلاب. في الصحافة ، روبوت محادثة ينتج اقتباسات خاطئة ولكن مقنعة قد ينتشر معلومات خاطئة. هذه المخاطر مرئية بالفعل. أبلغ مؤشر الذكاء الاصطناعي في ستانفورد 2025 أن المعايير المصممة لقياس الهلوسة “عانت من الحصول على زخم” ، حتى مع تسارع تبني الذكاء الاصطناعي. في غضون ذلك ، تستمر المعايير التي تسيطر على قوائم المراكز وتُكافئ الإجابات الواثقة ولكن غير الموثوقة في تحديد اتجاه التقدم.

تُبرز هذه النتائج تحديًا وفرصة. من خلال فحص الجذور الرياضية للهلوسة ، حدد الباحثون اتجاهات واضحة لإنشاء أنظمة ذكاء اصطناعي أكثر موثوقية. المفتاح هو إيقاف معاملة عدم اليقين كعيب وبدلاً من ذلك الاعتراف به كقدرة أساسية يجب قياسها ومكافأتها.

يتمثل هذا التحول في المنظور في عواقب تتجاوز تقليل الهلوسة. أنظمة الذكاء الاصطناعي التي يمكنها تقييم وتواصل قيود معرفتها بدقة سوف تكون أكثر ملاءمة للتطبيقات عالية المخاطر حيث تحمل الثقة المفرطة مخاطر جسيمة. يتطلب التشخيص الطبي والتحليل القانوني والبحث العلمي جميعًا القدرة على التمييز بين المعرفة الواثقة والتنبؤ المُحكم.

إعادة التفكير في التقييم من أجل الذكاء الاصطناعي الصادق

تُبرز هذه النتائج أن بناء أنظمة ذكاء اصطناعي أكثر موثوقية يتطلب إعادة التفكير في كيفية قياس قدرة الذكاء الاصطناعي. بدلاً من الاعتماد على تسجيل بسيط صحيح أو خاطئ ، يجب أن تُكافئ إطارات التقييم النماذج على التعبير عن عدم اليقين بشكل مناسب. هذا يعني تقديم توجيهات واضحة حول عتبات الثقة وخطط التسجيل المقابلة في تعليمات المعايير.

تتمثل أحد الطرق الواعدة في إنشاء أهداف ثقة صريحة تحدد متى يجب على النماذج الإجابة ومتى يجب الامتناع. على سبيل المثال ، قد تنص الإرشادات على أن الإجابات يجب أن تُقدم فقط عندما يتجاوز الثقة عتبة معينة ، مع تعديل التسجيل وفقًا لذلك. في هذا الإعداد ، عدم اليقين لم يعد ضعفًا ، بل جزءًا قيمًا من السلوك المسؤول.

المفتاح هو جعل متطلبات الثقة واضحة بدلاً من ضمنية. المعايير الحالية تُنشئ عقوبات خفية لعدم اليقين التي تتعلم النماذج تجنبها. أهداف الثقة الصريحة سوف تمكن النماذج من تحسين السلوك الفعلي المرغوب: إجابات دقيقة عندما تكون واثقة ، وإعترافات صادقة بعدم اليقين عندما تفتقر إلى المعرفة.

النقطة الأساسية

الهلوسة في الذكاء الاصطناعي ليست عيباً عشوائياً — بل يتم تعزيزها من قبل المعايير نفسها المستخدمة لقياس التقدم. من خلال مكافأة الخدش الواثق على عدم اليقين الصادق ، تدفع أنظمة التقييم الحالية النماذج نحو الخدش بدلاً من الموثوقية. إذا كنا نريد ذكاءً اصطناعيًا يمكن الثقة به في مجالات عالية المخاطر مثل الرعاية الصحية والقانون والعلوم ، فنحن بحاجة إلى إعادة التفكير في كيفية اختبارها ومكافأتها. يجب أن تُقاس التقدم ليس فقط من خلال الدقة ، بل من القدرة على التعرف على وإعتراف ما لا يعرفه النموذج.