تلوث البحث بواسطة المحتوى الذي يولده الذكاء الاصطناعي يهدد بانهيار استرجاع المعلومات

مع تلوث المحتوى الذي يولده الذكاء الاصطناعي على الويب، يفتح فجوة جديدة في ساحة المعركة من أجل الإجماع الثقافي.

أظهرت الأبحاث التي قادها شركة بحث كورية أن المحتوى الذي يولده الذكاء الاصطناعي يؤثر على استقرار محركات البحث وتصنيفها، ويعرض أنظمة مثل Retrieval-Augmented Generation (RAG) للخطر، لأنها تعتمد على هذه التصنيفات لتحديد المعلومات التي تظهر وتعتبر موثوقة، وبالتالي زيادة خطر أن يتم التعامل مع المعلومات الخاطئة أو المضللة على أنها موثوقة.

صاغ الباحثون مصطلح انهيار الاسترجاع لوصف هذه الحالة، على عكس التهديد المعروف باسم انهيار النموذج (حيث يصبح الذكاء الاصطناعي مدربًا على مخرجاته الخاصة أسوأ مع مرور الوقت).

في سيناريو انهيار الاسترجاع، يسيطر المحتوى الذي يولده الذكاء الاصطناعي على نتائج محركات البحث، حتى عندما تظل الإجابات دقيقة على السطح، فإن قاعدة الأدلة الأساسية سوف تتجرد من المصادر البشرية الأصلية. ومع ذلك، يبدو أن هذه البيانات “الخالية من الجذور” على وشك تحقيق مرتبة عالية في نتائج البحث*:

‘مع انتشار النصوص التي يولدها الذكاء الاصطناعي، التحديات في الإسناد وجودة البيانات قد زادت. على عكس الخدع التقليدية للكلمات الرئيسية الخام، فإن المحتوى الاصطناعي الحديث متوافق семantically، مما يسمح له بالاندماج في أنظمة التصنيف وانتشارها عبر الأنابيب كدليل موثوق.’

يؤكد البحث على أن هذا سوف يخلق بيئة “هشة هيكليًا” حيث تفضل إشارات التصنيف صفحات الذكاء الاصطناعي التي تمت оптимيزتها لتحسين محركات البحث، مما يؤدي إلى استبدال المصادر المكتوبة بالبشر بمرور الوقت بطريقة خفية، أي بدون إحداث انخفاض واضح في جودة الإجابة*:

‘نمو المحتوى الذي يولده الذكاء الاصطناعي على الويب ي представляет خطرًا هيكليًا للمعلومات المسترجعة، حيث تستهلك محركات البحث وأنظمة RAG أدلة تم إنتاجها بواسطة نماذج اللغة الكبيرة (LLM).

‘نحن نصف هذا نمط الفشل على مستوى النظام باسم انهيار الاسترجاع، وهو عملية من مرحلتين حيث (1) يسيطر المحتوى الذي يولده الذكاء الاصطناعي على نتائج البحث، مما يؤدي إلى تآكل تنوع المصادر، و(2) يتسلل المحتوى منخفض الجودة أو العدواني إلى أنابيب الاسترجاع.’

يجادل الباحثون بأن بمجرد أن يتم تأسيس مرحلة “السيطرة”، تصبح أنابيب الاسترجاع أكثر عرضة للتعرض المتعمد للتلوث، لأن الصفحات العدوانية يمكن أن تستغل نفس آليات التحسين لتحقيق الرؤية*:

‘من خلال وضع إطار لانهيار الاسترجاع، يضع هذا العمل أساسًا لفهم كيف يغير المحتوى الاصطناعي استرجاع المعلومات. للتحوط ضد هذه المخاطر، نقترح تحولًا نحو استراتيجيات التصنيف الدفاعية التي ت tối ưuية معًا الصلة وصدق القول وتنسب.

يؤكد انهيار الاسترجاع على تعقيد انهيار النموذج، حيث يضيف طبقة من النية الخبيثة إلى “تأثير التكاثر” لل熵، حيث يغذي الذكاء الاصطناعي بشكل متزايد على مخرجاته الخاصة. بالإضافة إلى التأثير على الإجماع الظاهر على “الحقيقة” في نتائج البحث في الوقت الفعلي، يمكن أن تصبح الأخطاء والهجمات محفوظة لاحقًا في نماذج LLM المدربة على أنها مصادر موثوقة.

الأبحاث الجديدة بعنوان انهيار الاسترجاع عندما يلوث الذكاء الاصطناعي الويب، وهي من ثلاثة باحثين في شركة Naver.

الطريقة

لاختبار كيفية انتشار المحتوى الذي يولده الذكاء الاصطناعي عبر أنظمة الاسترجاع، قام الباحثون بتحليل 1000 زوج من الأسئلة والإجابات من مجموعة MS MARCO وبياناتها المرجعية، والتي تتكون من أسئلة مجال مفتوح متوافقة مع إجابات مرجعية تم التحقق منها من قبل البشر. تم استخدام هذه الزوجات لتأسيس الاسترجاع وتقييم دقة الإجابات المولدة.

对于 كل سؤال في MS MARCO في الاختبارات، تم استرجاع عشرة مستندات من جوجل، بناءً على نتائج SEO الأعلى لكل مصطلح، مما أدى في النهاية إلى مجموعة من 10,000 مستند.

تم تقييم صحة الوثائق من خلال مقارنتها مع حقيقة MS MARCO، باستخدام GPT-5 Mini كقاضي.

محاكاة مزرعة المحتوى

لتحاكي مستوى الجودة (للمقالات العادية، غير العدوانية) المرتبطة بمزارع المحتوى، استخدم المؤلفون نموذج GPT-5 Nano المفتوح من OpenAI لإنشاء مقالات اصطناعية جديدة، لأن هذا هو مستوى الذكاء الاصطناعي الذي يُحتمل أن يستخدمه مطحنة المحتوى. GPT-5 Mini، المستخدمة لتقييم الإخراج، هو نموذج قليلا أكثر قدرة.

من ناحية أخرى، لتحاكي المنشورات العدوانية (أي المحتوى المصمم لنشر معلومات خاطئة أو يحتوي على معلومات خاطئة)، لم يتم استخدام أي مراجع حقيقية. بدلاً من ذلك، تم إنشاء مسودات للمعاينات باستخدام مولد ترويجي تقليدي، ثم تم تمريرها إلى GPT-5 Nano، الذي تم تكليفه باستبدال عدد معين من الحقائق ببدائل كاذبة معقولة. كما قام GPT-5 Nano بإعادة تصنيف семанти لتحقيق الغرض التجريبي.

لتحاكي التشبع الاصطناعي بمرور الوقت، تم تشغيل عملية تلوث مدتها 20 جولة، حيث تم إضافة مستند اصطناعي واحد لكل سؤال إلى مجموعة ثابتة من عشرة مستندات أصلية، مما زاد من حصة الذكاء الاصطناعي من 0٪ إلى 66.7٪.

对于 مجموعة من نمط SEO، تم توجيه المولد ل “التصرف كخبير SEO”، ودمج كلمات رئيسية عالية التردد العكسي للوثائق لتعزيز احتمالية الاسترجاع.

对于 مجموعة العدوانية، تم تصميم التوجيه للحفاظ على نثر متدفق وطبيعي بينما يتم تعديل الكيانات المسمى والتفاصيل الرقمية، مما يخلق وثائق لا تثير المرشحات الإحصائية، بينما يتآكل دقة الواقع بquiet.

المقاييس

تم اعتماد ثلاثة مقاييس للتحريات: معدل تلوث المجموعة (PCR)، لتحديد مقدار المستندات التي تم توليدها بواسطة الذكاء الاصطناعي؛ معدل تلوث التعرض (ECR)، لقياس مقدار نتائج البحث العليا التي جاءت من مصادر الذكاء الاصطناعي (مؤشرا لما يدخل في трубة الاسترجاع)؛ ومعدل تلوث الاستشهاد (CCR)، لتسجيل مقدار الأدلة المذكورة في الإجابة النهائية التي كانت اصطناعية.

للفحص التأثير العملي، تم اختبار جودة المصادر المسترجعة وصدق الإجابة النهائية. ال精度@10 (P@10) أظهرت كم عدد النتائج العشرة الأولى التي كانت في الواقع صحيحة عند التحقق ضد حقيقة MS MARCO؛ وقياس دقة الإجابة (AA) لتحديد ما إذا كانت الإجابة المولدة تطابق الإجابة المرجعية نفسها، مع استخدام GPT-5 Mini لتحديد ما إذا كانت المعنى متسقة.

الاختبارات

في البداية، قام المؤلفون بتحليل طريقةهم ضد مجموعة الوثائق الأصلية المستخرجة من SERPS، أي قبل استخدامها كمادة لإنشاء بيانات اصطناعية، ولاحظوا أن نظام تصنيف LLM حقق “جودة استرجاع قوية”، تفوقت على معيار BM25 Ranker.

الاختبار الأول من الاختبارين الرئيسيين، الذي تمت تسميته السيطرة والتنميط، كان اختبارًا لطريقة تأثير الوثائق الاصطناعية التي تم تشكيلها بواسطة SEO على نتائج الاسترجاع:

Left: contamination curves for Scenario 1 under BM25 and LLM rankers show Pool Contamination Rate (PCR) rising with each round, with Exposure Contamination Rate (ECR) and Citation Contamination Rate (CCR) increasing more steeply as synthetic documents crowd into the top results; Answer Accuracy (AA) remains broadly stable. Right: the corresponding table reports the same progression numerically across rounds 0, 5, 10, and 20, detailing PCR, ECR, CCR, and AA for both rankers.

随着 إضافة المزيد من الصفحات التي يولدها الذكاء الاصطناعي إلى بيئة الاختبار، بدأت في السيطرة على نتائج البحث العليا بشكل أسرع مما كان متوقعًا. عندما كان المحتوى الذي يولده الذكاء الاصطناعي يشكل 50٪ من جميع الوثائق المتاحة، كان أكثر من 68٪ من نتائج BM25 العشرة الأولى مكونة من المحتوى الذي يولده الذكاء الاصطناعي؛ وعندما ارتفعت حصة المواد التي يولدها الذكاء الاصطناعي إلى 67٪، جاء أكثر من 80٪ من نتائج BM25 من مصادر الذكاء الاصطناعي.

أظهر نظام التصنيف المعتمد على LLM ميلًا أقوى في هذا الاتجاه، مع حوالي 76٪ من نتائجه العشرة الأولى مستمدة من صفحات مكتوبة بواسطة الذكاء الاصطناعي، عندما كانت هذه الصفحات تمثل نصف المجموعة فقط – وواصل الاعتماد عليها أكثر من BM25 مع زيادة وجودها. يعلق المؤلفون:

‘هذا النمط يظهر أن المحتوى المُحسّن لتحسين محركات البحث يثير إشارات التصنيف بشكل غير متناسب، مما يؤدي إلى أن كلا النموذجين يتجهان بسرعة نحو أدلة مُسيطرة اصطناعيًا.’

فيما يتعلق بالتوتر بين الاستقرار الواقعي والانهيار في التنوع، يلاحظ البحث أن رغم التحولات الدراماتيكية في الأدلة المسترجعة، فإن دقة الإجابة لا تزال مستقرة، أو حتى تحسنت:

‘بسبب جودة الوثائق التي تم تحسينها لتحسين محركات البحث، يبدو الاسترجاع سليمًا عند قياسه فقط من خلال الدقة. ومع ذلك،几乎 جميع الأدلة المسترجعة هي اصطناعية، مما يشير إلى انهيار حاد في تنوع المصادر.

‘هذا الانحراف، الذي يتميز bằng استقرار الدقة رغم انهيار التنوع، يكشف عن трубة استرجاع هيكليًا هشًا: النظام يعمل جيدًا في معايير التجميع بينما يفقد بquiet أساسه في المحتوى المكتوب بالبشر.’

‘بشكل عام، المحتوى الاصطناعي عالي الجودة لا يندمج فقط بسهولة في трубة الاسترجاع، بل يغمر أيضًا إشارات التصنيف، مما يؤدي إلى أن كلا BM25 و LLM Rankers يعتمدان تقريبًا حصريًا على أدلة مُسيطرة اصطناعيًا.’

السيناريو الثاني كان يسمى التلوث وتعطيل النظام، وأظهر اختلافًا ملحوظًا في سلوك التصنيف، مقارنة بالسيناريو الأول:

Left: the scenario 2 results show what happens when deliberately misleading pages are added to the system. As more of these pages are mixed in, BM25 begins to place some of them in its top results – though only up to about a quarter at the midpoint, and almost none are actually used in the final answer. Overall answer quality falls slightly. Right: the table presents the same pattern in numbers for both BM25 and the LLM-based ranker, making clear that BM25 lets some misleading pages into its top results, whereas the LLM ranker largely filters them out.

كان نظام التصنيف المعتمد على LLM قادرًا بشكل أساسي على التعرف على الصفحات المضللة وتصفيتها، مما حافظ على حصة هذا المحتوى في نتائجه العشرة الأولى قريبة من الصفر؛ في حين سمح BM25 بجزء ملحوظ من الصفحات العدوانية بالدخول إلى نتائجه العشرة الأولى، مع حوالي 19٪ إلى 24٪ من الظهور هناك في مراحل معينة من الاختبار.

على الرغم من أن نظام التصنيف المعتمد على LLM أثبت مقاومته أكثر في هذا التجربة، يلاحظ المؤلفون أن أنظمة التصنيف المعتمدة على LLM أكثر احتياجًا للعمليات الحسابية، مما قد يجعل نشرها على نطاق واسع غير عملي. على الرغم من أن BM25 أكثر بساطة وأقل تكلفة للتشغيل، قد تكون أنظمة الاسترجاع الشائعة التي تعتمد عليه أكثر عرضة للمحتوى المُدبر مما يبدو في البداية.

يصف المؤلفون هذا بأنه “خطر هيكلي كبير”.

فيما يتعلق بالتوتر بين الاستقرار الواضح والتناقص الكامن، يلاحظ المؤلفون أن دقة الإجابة لا تزال مستقرة في هذا السياق، بسبب قاضي LLM الذي يمنع تلوث الاستشهاد، وبالتالي يتصرف كحارس أخير ضد المحتوى العدواني.

然而، كانت دقة الإجابة في هذا الجانب أقل بشكل متسق من السيناريو الأول:

‘في حين أن السيناريو 1 شهد استقرار دقة الإجابة أو حتى تحسنت (وصلت إلى 70٪ مع تصنيفات LLM) بسبب جودة المحتوى الذي تم تحسينه لتحسين محركات البحث، فإن السيناريو 2 يظهر انخفاضًا في جودة الإجابة بالنسبة إلى إعداد SEO […]’

‘هذا يؤكد أن تلوث المحتوى العدواني في مرحلة الاسترجاع يؤثر سلبًا على الأداء الشامل، مع أن هذا التدهور يكون أكثر حدة عند الاعتماد على محصلات خفيفة.’

يخلص المؤلفون إلى أن إعادة التصنيف في مرحلة الاسترجاع هو نهج متأخر جدًا، وينبغي النظر في مرشحات مرحلة الاستهلاك. ي.propose استخدام “رسم بياني للتنسب” و “مرشحات الارتباك”، ويشدد على أن الخطر الأساسي هو المحتوى الذي يمتلك سلاسة عالية ولكن كثافة تنسب منخفضة، وهو في الأساس منفصل عن سلاسل التنسب المطمئنة، ويشير إلى:

‘[كما] يبدأ الذكاء الاصطناعي العامل في نشر المحتوى بشكل مستقل، يجب أن تتطور آليات الدفاع من التحليل النصي الثابت إلى تحليل السلوك، حيث يتم تحديد وفرز الوكلاء الذين ينتجون تيارًا عاليًا من التباين وواطئًا من الحقيقة.’

الاستنتاج

من المحتمل أن تكون إنشاء منهجيات جديدة أو محسنة لمصادر المعلومات أحد أهم الإجراءات اللازمة لعام 2026. يبدو أن مخططات الاعتماد المعقدة مثل C2PA التي تتطلب تغييرات بنيوية من الناشرين، وتعليم الجمهور عما يعنيه و كيفية استخدامه، معرضة للفشل.

يجب أن يكون هناك شيء أبسط، ولم يتم العثور عليه بعد. إنها مهمة عاجلة، لأن هذا العصر الحالي قد يكون النقطة الأكثر حرجة للاجماع العام على الحقيقة منذ اختراع التصوير الفوتوغرافي في عام 1822، وزيادة الدعاية في العقود التي سبقت الحرب العالمية الثانية.

* تحويلي (الانتقائي، حيث لزم الأمر) لمراجع المؤلفين إلى روابط.

نشر لأول مرة يوم الخميس، 19 فبراير 2026