الذكاء الاصطناعي يقتبس نفس الأوراق مرارًا وتكرارًا – تمامًا مثل البشر

قد يقوم ChatGPT وأدوات الكتابة بالذكاء الاصطناعي الأخرى بهدوء بتحويل العلم إلى مسابقة شعبية، حيث يوجه الباحثين مرارًا وتكرارًا إلى نفس الأوراق متجاهلين الأعمال الجديدة والمبتكرة التي قد تدفع المجال قدمًا فعليًا.

المونوكulture، من حيث التكرار والإحصاءات، هو عندما يتكرر نفس المجموعة المحدودة من المصادر أو الأصول مرارًا وتكرارًا، مما يغمر الأصوات الجديدة والآفاق المتجددة: نفس مجموعة الأغاني المحدودة في جدولة الإذاعة؛ نفس مجموعة المؤلفين والكتب في رفوف المطارات؛ ونفس الاختيار المحدود من الفواكه والخضروات في السوبرماركت:

نعم، لدينا هذه الموز – وهذه هي الموز الوحيدة. تجانس الفواكه والخضروات في سلاسل الغذاء الغربية يتجاهل مئات الأنواع الأخرى الممكنة في كل حالة، لأن سلاسل الإنتاج والنقل المتنوعة مكلفة جدًا لتصنيعها على نطاق صناعي للأنواع المتنوعة من الفواكه أو الخضروات. Source

يحدث هذا أيضًا في الاستشهادات التي تظهر في الأبحاث العلمية الجديدة، حيث يلجأ الباحثون، ربما بكسل، إلى مجموعة «موثوقة» من المصادر تكتسب زخمًا حتى تبدأ في هيمنة فروع البحث.

هذا ما يُعرف بـ تأثير ماثيو – نظرية اجتماعية تشير إلى أن المستفيدين سيستفيدون دائمًا؛ وقد قُورِن هذا المتلازمة بالوعد الوارد في متى 13:12، الذي يذكر ‘من كان له يُعطى أكثر، وسيكون لديه وفرة. ومن ليس له، حتى ما لديه سيُؤخذ منه’.

في داخل الحشد

إحدى الآمال الكبيرة للبحث المدعوم بالذكاء الاصطناعي كانت أن طرق التعلم الآلي الجديدة قد تكسر تأثير ماثيو – المعروف أيضًا بـ تحيز الشعبية – وتبدأ في الاستشهاد بأعمال أقل شهرة قد تكون أكثر دقة أو أكثر صلة بالنقطة التي يُطرحها البحث.

مع ذلك، بناءً على طريقة تفسير روتينات تدريب الذكاء الاصطناعي لمجموعات البيانات، لم يكن هناك سبب وجيه لهذا التفاؤل؛ وقد تبيّن مرارًا أن الذكاء الاصطناعي عندما لا يخترع الاستشهادات صراحةً – وهو مشكلة مزمنة حتى الآن – فإنه في الواقع يعزز تأثير ماثيو، كما يفعل البشر – وإن كان ربما ليس لنفس السبب.

أثناء التدريب، يتعلم النموذج أن يرفع ترتيب الأوراق الأكثر استشهادًا (أو «الأكثر تكرارًا») في مجموعة التدريب، لأن روتينات التدريب مصممة لاستنباط الأنماط ذات المعنى، ولـ تجاهل القيم المتطرفة باعتبارها «ضوضاء» أو شذوذ إحصائي.

في ظل هذا النظام، لن يحصل ما يعادل نظرية النسبية لأينشتاين على أي اهتمام من الآلة، التي، بمجرد تدريبها، تشعر بأنها وجدت مبادئها ومراجعها، ولا يمكنها تعديل هذا الموقف إلا بشكل طفيف عبر الوصول إلى منشورات أحدث من خلال RAG أو بوسائل أخرى توسّع نطاق النموذج خارج مصفوفته المدربة.

المشكلة هي أن النموذج لن يقدّر هذه الأعمال الجديدة بنفس الطريقة التي يقدّر بها «المفضلات القديمة» التي يعرفها بالفعل، أو قد لا يقدّرها على الإطلاق، لأن تحيزاته الإحصائية أصبحت الآن متجذرة.

وبالتالي لا يراقب الذكاء الاصطناعي سلوك الإنسان فعليًا عندما يعزز تأثير ماثيو – فهو فقط يعد عدد المرات التي يلجأ فيها الباحثون بكسل إلى نفس الأوراق القديمة، ويرتّبها مرتبة عالية. وفي هذا الصدد، ترتبط مشكلة تكرار الاستشهادات بتحدي اختيار ورقة علمية مثيرة للاهتمام من بين العاصفة المتزايدة من منشورات أبحاث الذكاء الاصطناعي، حيث غالبًا ما تكون أقوى الأعمال هي التي تحمل أضعف إشارة.

تشخيص المونو

يُعالج هذا الأمر في ورقة جديدة مثيرة للاهتمام صادرة عن الولايات المتحدة بعنوان عندما يكتب الذكاء الاصطناعي، من يُستشهد به؟ دليل على مونوكulture الاستشهاد عبر نماذج اللغة. العمل الجديد – وهو تعاون بين جامعة تكساس في أوستن، ومعهد ستيفنز للتقنية، وجامعة واشنطن في سانت لويس، وجامعة رايس، وجامعة نوتردام – يهدف إلى إثبات وجود مونوكulture الاستشهاد في التعلم الآلي، بحيث يمكن معالجة متغيراته مباشرة في المستقبل، إلى جانب المشكلة نفسها.

في الاختبارات، وجد المؤلفون أن أحد عشر نموذجًا من OpenAI وGoogle وAnthropic فضلوا باستمرار نفس المجموعة الصغيرة من الأوراق – حتى بعد إزالة إشارات الشعبية الواضحة.

لاختبار ذلك، تم تجريد 120 ورقة حقيقية من عدد الاستشهادات ومواقع النشر، وتم استبدال أسماء المؤلفين، وإعادة تعيين سنوات النشر عشوائيًا. ثم عُرضت مجموعات عشوائية من ثلاثين ورقة على كل نموذج، مع السماح له بالاستشهاد بما لا يزيد عن عشرة أوراق.

أُعطي ثمانية خبراء بشريين في المجالات ذات الصلة نفس الأوراق المجهولة، لكنهم لم يتقاربون على نفس المفضلات التي اختارها الذكاء الاصطناعي، مما يدل على أن التحيز كان خاصًا بنماذج الذكاء الاصطناعي وليس بالأوراق نفسها:

من الورقة الجديدة، نتائج الاختبار التي تقارن اختيارات الاستشهاد بين نماذج الذكاء الاصطناعي والخبراء البشر. عبر جميع النماذج الأحد عشر، تركزت الاستشهادات على مجموعة أصغر من الأوراق، بينما تم تجاهل بعض الأوراق بالكامل بشكل متكرر. لم يظهر الخبراء البشر أي ميل مماثل. Source

ظلت الأوراق نفسها شائعة حتى عندما طُلب من النماذج اختيار المراجع فقط، مما يدل على أن كتابة المراجعة نفسها لم تسبب التحيز.

تم تمديد التجربة إلى أحد عشر جولة، حيث أضيفت 120 ورقة مكتوبة بالذكاء الاصطناعي بعد كل جولة، لاختبار ما يحدث عندما تعمل هذه التفضيلات المشتركة في مجموعة متزايدة من الأبحاث المولدة آليًا.

مع إضافة المزيد من الأوراق المكتوبة بالذكاء الاصطناعي، ركزت النماذج بشكل متزايد استشهاداتها على عدد متناقص من الأوراق البشرية الأصلية.

يقول المؤلفون:

‘مع انتقال نماذج اللغة من صياغة النص إلى تشغيل وكلاء بحث الأدبيات عبر استدعاءات الأدوات، يصبح من الأسهل اكتشاف وتقييد المراجع المصطنعة.’

‘تبدأ الفشل الأصعب بعد أن يصبح كل مرشح حقيقي: قد تختار نماذج مختلفة نفس المجموعة الضيقة، مما ينتج مونوكulture استشهادية دون أن يكون أي استشهاد واحد خاطئًا.’

كإجراء لتصحيح المشكلة، يجادل البحث بأن مجرد خلط النماذج من بائعين مختلفين أو إعطاء الأوراق تعرضًا متساويًا لن يكون كافيًا، لأن الكثير من التفضيل مشترك عبر النماذج. بل إن التفضيل الأساسي للأوراق المحددة سيحتاج إلى تغيير – ربما عبر إعطاء الأوراق المتجاهلة مزيدًا من البروز. ومع ذلك، يؤكد المؤلفون أن هذا النهج لا يزال غير مختبر.

نهج الاختبار

تم بناء معيار الاختبار من 120 ورقة حقيقية لتقطير المعرفة جُمعت من arXiv ونُشرت بين عامي 2015 و2022. كان لكل ورقة ما بين 50 و500 استشهاد وقت جمعها، وهو نطاق اختُير لاستبعاد الأعمال المجهولة أو ذات التأثير الاستثنائي.

بدأت التجربة باختيار ثلاثين ورقة عشوائيًا من المجموعة المتاحة، مع إخفاء أسماء المؤلفين، سنوات النشر، وعدد الاستشهادات. أنتج كل نموذج مراجعة قصيرة أو قطعة موقف لا تستشهد بأكثر من عشرة أوراق، وقُرّنت هذه الاختيارات مع اختيارات عشوائية من نفس المادة:

طريقة اختبار تفضيلات الاستشهاد. عُرضت ثلاثون ورقة مختارة عشوائيًا على نموذج مع إخفاء المعلومات التعريفية، ثم أُسمح له بالاستشهاد بما لا يزيد عن عشرة. قُورنت اختياراته مع اختيار عشوائي، بينما أضيفت 120 ورقة مكتوبة بالذكاء الاصطناعي إلى مجموعة الجولة التالية.

في التجربة الموسعة، دخلت 120 ورقة مُولَّدة حديثًا إلى المجموعة بعد كل جولة، مما زاد تدريجيًا من نسبة الأبحاث المكتوبة بالذكاء الاصطناعي.

في الاختبارات الأولية، كان يميل النماذج إلى الاستشهاد بمعظم الأوراق التي عُرضت عليها، عادةً ما يختارون ما بين 22 إلى 27 من الثلاثين. لذا حدّد الباحثون حدًا أقصى من عشرة استشهادات للتجربة الرئيسية، لإجبار النماذج على اتخاذ خيارات أكثر انتقائية.

فيما يلي ملخص لتصميم التجربة الناتج:

إعداد التجربة المستخدمة لاختبار تفضيلات الاستشهاد. بدأت الدراسة بـ 120 ورقة حقيقية واختبرت أحد عشر نموذجًا من ثلاثة مزودين، باستخدام مجموعات عشوائية من 30 ورقة وحد أقصى من عشرة استشهادات. أضافت الجولات اللاحقة أوراقًا مولَّدة بالذكاء الاصطناعي، لتوسيع المجموعة إلى 1,440 ورقة.

استخدمت التجربة الأولية أحد عشر نموذجًا من المزودين الثلاثة الرئيسيين: OpenAI تم تمثيله بـ GPT-5، GPT-5 mini، GPT-4.1 وGPT-4.1 mini؛ وGoogle بـ Gemini 2.5 Pro، Gemini 2.5 Flash، Gemini 3.1 Pro وGemini 3.1 Flash-Lite؛ وAnthropic بـ Claude Opus 4.8، Claude Sonnet 4.6 وClaude Haiku 4.5.

في نتائج الاختبار الموضحة أدناه، نرى إلى أي درجة ركّز كل نموذج استشهاداته على مجموعة صغيرة من الأوراق؛ وعدد الأوراق التي تم تجاهلها تمامًا؛ ومدى اتساق اختياراته عندما تُعاد التجربة:

نتائج الاختبار التي تُظهر مدى تركيز كل نموذج استشهاداته على أوراق معينة وعدد الأوراق التي تم تجاهلها بالكامل. يُظهر «حصة أعلى 10٪» عدد الاستشهادات التي ذهبت إلى أكثر 12 ورقة مفضلة، بينما يقيس «HHI» مدى تركّز الاستشهادات إجمالًا. تُظهر «الموثوقية» مدى اتساق كل نموذج في تفضيل نفس الأوراق عبر الاختبارات، وρ تُظهر مدى تشابه تلك التفضيلات بين النماذج. يُشير صف «الفرضية المتطابقة» إلى ما كان متوقعًا إذا تم اختيار الأوراق عشوائيًا.

ما الذي تفضله النماذج فعليًا؟

تبين أن التفضيل كان مدفوعًا إلى حد كبير بمحتوى الأوراق نفسها. على سبيل المثال، بالنسبة إلى GPT-5 mini، كان نحو 90٪ من التباين في الأوراق المفضلة يُعزى إلى المحتوى، وليس إلى عوامل مثل ترتيب القائمة أو ضوضاء التوليد أو البيانات الوصفية المصطنعة المرفقة بكل ورقة. تم إعادة إنتاج نفس تأثير «المحتوى المهيمن» مع GPT-4.1 mini.

لم يتغير خريطة التفضيل (انظر أدناه) بشكل ملحوظ عندما أُعيد كتابة العناوين والملخصات بشكل جذري مع الحفاظ على معناها. عبر أربع اختبارات إعادة صياغة ناجحة، تم الحصول على ارتباطات تتراوح بين 0.95–0.99، رغم استخدام نماذج مختلفة من ثلاثة مزودين لإعادة الصياغة.

تم ملاحظة تغييرات في خريطة التفضيل فقط عندما تم تعديل المعنى الأساسي بشكل ملحوظ:

نتائج الاختبار التي تقارن تفضيلات الاستشهاد عبر النماذج الأحد عشر. تُظهر الأرقام مدى قرب كل زوج من النماذج في تفضيل نفس الأوراق، حيث تشير القيم الأعلى إلى اتفاق أكبر. على الرغم من الاختلافات بين النماذج والمزودين، وُجدت تفضيلات متشابهة إلى حد كبير عبر المجموعة.

لذلك يبدو أن النماذج تستجيب أساسًا للمحتوى الدلالي بدلًا من الصياغة المحددة. ومع ذلك، لم يُحدد السبب وراء اتفاقها القوي بشكل قاطع.

يُحتمل، بحسب المؤلفين، أن يكون هناك توافق استشهاد مشترك قد امتص خلال التدريب. وإحتمال آخر هو أن أحكامًا مشابهة حول ما يُعدّ «قابلًا للاستشهاد» قد تُستنتج بشكل مستقل.

وبالتالي تم إثبات وجود التفضيل المشترك، لكن أصله النهائي لا يزال غير معروف.

يقترح المؤلفون أن الانتشار الواسع للذكاء الاصطناعي في البحث قد يضيق نطاق الأعمال التي تتلقى الانتباه، لأن النماذج المختلفة تميل إلى تفضيل العديد من نفس الأوراق؛ ومع تراكم الأدبيات المُولَّدة بالذكاء الاصطناعي، قد تُعزز هذه التفضيلات المشتركة عبر الاستشهاد المتكرر، مما يجعل الأبحاث الأقل تفضيلًا أصعب اكتشافًا تدريجيًا. لذلك تُقترح تنوع الاستشهاد ومراقبة تركّز الاستشهاد كإجراءات وقائية محتملة.

معيار الدراسة لتراكم الاستشهاد المتكرر متاح الآن على GitHub.

الخاتمة

رأي

كمُقِرٍ لعدد هائل من أوراق أبحاث الذكاء الاصطناعي أسبوعيًا، شهدت «موجات الاستشهاد» تتكرر وتختفي. أحد الثوابت الدائمة هو ورقة Google الشهيرة Attention Is All You Need، ورقة Transformers الأصلية، التي أصبحت الآن مدمجة في قوالب التقديم.

مخالف آخر متكرر، لفترة طويلة، كان عرض 2014 لـ Generative Adversarial Networks، رغم أنه في النهاية حلّ مكانه من حيث التردد Denoising Diffusion Probabilistic Models وغيرها من الدراسات القائمة على الانتشار.

في معظم الحالات، هذه الاستشهادات «المتكررة» ليست خاطئة بحد ذاتها؛ لكنها غالبًا ما تكون واسعة النطاق جدًا لتكون دعمًا مفيدًا للورقة التي تُستشهد بها؛ وفي هذا المعنى، تمثل شيئًا مشابهًا لـ «غسل الاستشهاد» – إدراج اقتباسات «موثوقة» ولكنها في الأساس زخرفية، لإضفاء مظهر مصداقية منخفض الجهد.

نُشر لأول مرة يوم الاثنين، 24 أغسطس 2026