هيورستكس مقابل RAG: التضخم الانكماشي كمحفز سياسي

في معظم الحالات، يتحسن دقة الإجابات الواقعية لأسئلتنا على ChatGPT عند البحث على الويب. لذلك، في مناخ حيث يواجه الذكاء الاصطناعي صعوبات في القبول العام، لماذا يلجأ إلى “الخروج بالتخمينات”؟

رأي من الخطأ أن نعتقد أن النماذج اللغوية الكبيرة مثل ChatGPT تتخدع أبدًا في كشف الممارسات الشائنة المحتملة لمضيفيها، حتى لو كان الجلسة المكلفة والمهدرة قد أثار غضبك بما يكفي للغوص حقًا في عيوب النظام:

هنا مناقشة تفضيل ChatGPT لمنطقه الداخلي (مقابل البحث والتحقق القائم على الويب من خلال RAG – الذي ينتج قليلًا من الوهم، ولكنه أكثر تكلفة) يؤدي إلى لحظة واضحة من الإخلاص؛ ولكن خذها مع رشفة من الملح. مصدر

معظمها – خاصة بالنسبة للنماذج ذات تواريخ انتهاء صلاحية المعرفة الأحدث – يخترع الذكاء الاصطناعي ببساطة من منشورات Reddit ومنتديات المناقشة التي شوهدت أثناء التدريب. حتى لو كان هناك أي قيمة حقيقية لتلك “الرؤى الداخلية”، فمن المستحيل إثباتها.

ومع ذلك، في بعض الأحيان تؤدي هذه المناقشات الحارة إلى اكتشاف “الخدع” (أو على الأقل “الخدع”) التي وعدت بمنع بعض أسوأ العادات المتكررة على نموذج اللغة الكبيرة – مثل عندما اقترح ChatGPT عليّ أن أستطيع جعلها تعمل بجد أكثر و”تتخيل” أقل من خلال تضمين العبارة ‘لا هيورستكس’:

لقد استخدمت ‘لا هيورستكس’ كثيرًا منذ ذلك الحين، ولم يلجأ النموذج أبدًا إلى معرفته المُدرَجة بعد إغلاق استفساري بهذا الأمر. بل يستخدم ChatGPT على الفور генерація المعززة بالإسترجاع (RAG)، ويبحث على الإنترنت عن وثائق مضيئة أو موثقة.

في الممارسة، لأغلب الطلبات، هذا لا يختلف كثيرًا عن कहन إلى النظام “ابحث على الويب” كل مرة تقدم استفسارًا. حيث يمكن أن 真的 يساعد عبارة “لا هيورستكس” هو عندما تحاول جعل ChatGPT يقرأ حقًا ملف PDF جديد تم تحميله بدلاً من استخدام البيانات الوصفية من عمليات تحميل PDF السابقة في هذه الجلسة (أو مصادر أخرى محتملة)، لإنتاج رد وهمي ولكن مقبول، دون قراءة أو حتى مسح الوثيقة التي قدمتها للتو.

هذا الرأي، كلما طالت جلسة المحادثة، أصبح أقل احتمالًا لنجاح هذا الأمر – وسيكون من الخطأ pensar أن مثل هذه “الخدعة” موثوقة أو ستبقى متاحة مع تطور النظام.

تجارة RAG

في سياق ثقافة متزايدة من تضخم انكماشي، وحقيقة أن الأنظمة الكبيرة مثل بنية GPT من OpenAI تتأثر بشكل كبير حتى بالتغييرات الشائعة الصغيرة في السلوك، من السهل أن نعتقد أننا نحصل على وزن أقل من الخيارات التي يتخذها النماذج اللغوية الكبيرة الشهيرة مثل ChatGPT.

الخيارات مثل ما إذا كان سيتصل بالويب باستخدام RAG؛ يبدأ عملية سلسلة الفكر (CoT) التي قد تحصل على نتيجة أفضل، ولكنها ستكلف أكثر للاستدلال وقد تُرهق المستخدم غير الصبور؛ أو يلجأ إلى تعبئته المُدرَجة ومعارفه المحلية المتاحة – وهو حل أقل تكلفة وأسرع.

هناك عدة أسباب عملية لماذا قد يفضل نموذج اللغة الكبيرة ذو صورة عامة حساسة، مثل ChatGPT، أن يقيد مكالمات RAG، مفضلاً هيورستكسه بدلاً من ذلك. أولاً، من منظور العلاقات العامة، دعم استخدام الويب المتكرر دون إشارة يدعم التوصيف الشائع للنماذج اللغوية الكبيرة على أنها مجرد محركات بحث بواسطة الوكيل، مما يقلل من قيمة معرفتها المُدرَجة والمُدرَبة باهظًا – وجاذبية الاشتراك المدفوع.

ثانيًا، تكلفت بنية RAG وأداؤها تكلفت ماليه لتشغيلها وصيانتها وتحديثها، مقارنة بتكلفة الاستدلال المحلي المنخفضة، أي التوليد البارامتري، وهو رخيص وسريع.

ثالثًا، قد لا يكون للنظام طريقة فعالة لتحديد ما إذا كان RAG يمكن أن يحسن من نتائج هيورستكسه – وأنه غالبًا ما لا يستطيع تحديد ذلك بدون تشغيل هيورستكسه أولاً. هذا يترك المستخدم النهائي بمهمة تقييم نتيجة هيورستكس المعيبة، وطلب مكالمة RAG في حالة كانت النتيجة من هيورستكسه تبدو غير كافية.

من منظور “تضخم انكماشي” للذكاء الاصطناعي، يمكن أن تشير عدد المرات التي يخطئ فيها ChatGPT من خلال هيورستكسه وينجح من خلال RAG إلى أن النظام يُ优َثِر لتكلفة بدلاً من النتائج.

RAG ينمو ضروريًا مع مرور الوقت

على الرغم من “اعتراف” ChatGPT الأخير لي بأن هذا هو الحال، فإن “التضخم الانكماشي” له سياق أوسع في هذا الصدد. على الرغم من أن RAG ليس رخيصًا، سواء فيما يتعلق bằng التأخير أو التكلفة للتشغيل، إلا أنه أقل تكلفة من تحديث النموذج الأساسي بانتظام أو حتى إعادة تدريبه.

对于 نموذج قديم للغة مع تاريخ انتهاء صلاحية أبعد، يمكن لـ RAG الحفاظ على عملة النظام، بتكلفة مكالمات الشبكة والموارد الأخرى؛ بالنسبة لنموذج أحدث، من المرجح أن تكون استرجاعات RAG متكررة أو تكون ضارة لجودة النتائج، والتي في بعض الحالات سيكون من الأفضل الحصول عليها من خلال هيورستكسه.

لذلك يبدو أن الذكاء الاصطناعي يحتاج ليس فقط إلى القدرة على الحكم فيما إذا يجب اللجوء إلى RAG، ولكن أيضًا إلى تطوير سياسته باستمرار لاستخدام RAG随着 تعديل أوزانه الداخلية بشكل متزايد.

في الوقت نفسه، يحتاج النظام إلى حماية “الثوابت النسبية” في المعرفة، مثل مدارات القمر والأدب الكلاسيكي والثقافة والتاريخ؛ بالإضافة إلى الجغرافيا الأساسية والفيزياء والعلميات الأخرى التي من غير المحتمل أن تتطور كثيرًا مع مرور الوقت (أي أن خطر “التغيير الفجائي” ليس منعدمًا، ولكن منخفضًا).

مواضيع غير عادية

في الوقت الحالي، على الأقل فيما يتعلق ب ChatGPT، يبدو أن مكالمات RAG (أي استخدام البحث على الويب لأي استفسار مستخدم لا يطالب явно أو ضمنيًا بالبحث على الويب) نادرة بشكل خوديّ، حتى عند التعامل مع مجالات فرعية “هامشية”.

مثال على مجال هامشي هو استخدام البرمجيات “الغامض”. في这种 الحالة، سوف يُجهد البيانات المصدر المتاحة على الانتباه أثناء التدريب، ويمكن أن يُحظر وضع البيانات كـ “مهمش” أو “غير مهم” – وحتى منشور واحد إضافي تم إنشاؤه بعد تاريخ انتهاء صلاحية معرفة الذكاء الاصطناعي يمكن أن يمثل زيادة كبيرة في إجمالي البيانات المتاحة وجودة الرد، مما يجعل مكالمة RAG مفيدة.

然而، فإن ميزة RAG تميل إلى الانخفاض随着 نمو حجم النموذج الأساسي. بينما يستفيد النماذج الأصغر بشكل كبير من الاسترجاع، فإن الأنظمة الأكبر مثل Qwen3-4B أو GPT-4o-mini/-4o غالبًا ما تُظهر تحسينًا هامشيًا أو حتى سلبيًا من RAG*.

على العديد من المقاييس، يُقدم الاسترجاع أكثر من الضرر من المنفعة، مما يشير إلى التبادل بين الاستثمار في نموذج أكبر مع تغطية داخلية أكبر، أو نموذج أصغر مع استرجاع.

لذلك يبدو أن RAG أكثر فائدة لتعويض الفجوات في النماذج متوسطة الحجم، التي لا تزال تحتاج إلى حقائق خارجية، ولكن يمكن تقييمها بوسائل هيورستكسه أقل تعقيدًا.

استخدم فقط في حالة الطوارئ

سياسات ChatGPT التوجيهية حول قرار استخدام RAG ليست明حة明显ًا من خلال الprompt النظامي**، ولكنها موضحة بشكل ضمني (نحو النهاية):

استخدم أداة الويب للوصول إلى المعلومات المتاحة على الويب أو عند الرد على المستخدم يتطلب معلومات حول موقعه. بعض الأمثلة على عندما استخدام أداة الويب تشمل:

معلومات محلية: استخدم أداة الويب للرد على الأسئلة التي تتطلب معلومات حول موقع المستخدم، مثل الطقس أو الأعمال المحلية أو الأحداث.

الfreshness: إذا كان من الممكن أن تتغير المعلومات حول موضوع ما أو تحسنه، فاستدع أداة الويب في أي وقت كنت سترفض فيه الإجابة على سؤال لأن معرفتك قد تكون قديمة.

معلومات نيش: إذا كان الجواب سيفيد من المعلومات التفصيلية غير الشائعة أو غير المفهومة (التي قد توجد على الإنترنت)، مثل تفاصيل حول حي صغير أو شركة أقل شهرة أو لوائح غامضة، استخدم مصادر الويب مباشرة بدلاً من الاعتماد على المعرفة المُستخلصة من التدريب المسبق.

الدقة: إذا كان تكلفت الخطأ الصغير أو المعلومات القديمة عالية (مثل استخدام إصدار قديم من مكتبة البرمجيات أو عدم معرفة تاريخ اللعبة التالية لفريق رياضي)، فاستخدم أداة الويب.’

بشكل خاص، يمكننا ملاحظة هذه التوجيهات التي تعزز RAG في الحالات التي تكون فيها البيانات الأصلية نادرة. ولكن كيف يصل النظام إلى هذا الفهم؟ قد يخلص المستخدم العادي ومُراقب ChatGPT إلى أن النظام يُستخدم “البحث على الويب” بعد فترة من الزمن، بعد أن تم استجواب هيورستكسه الداخلية للطلب، وجاءت فارغة.

يمكننا أيضًا ملاحظة أن هذه التوجيهات تُشير إلى أن RAG موصى به فقط في عدد قليل من الحالات. هذا يترك GPT موصى به لاستجواب أوزانه الخاصة في جميع الحالات، باستثناء “حالة حرجة” (الدقة، في أسفل الاقتباس السابق)، للحالات الكثيرة من استفسارات قائم على الحقائق التي يمكن أن يكون فيها ميل الذكاء الاصطناعي إلى الخيال عبئًا كبيرًا.

الختام

تشير الاتجاهات البحثية الحالية والمعاصرة إلى أن توليد الهيورستكس سريع ورخيص، ولكن خاطئًا في كثير من الأحيان؛ بينما RAG أبطأ وأكثر تكلفة، ولكن أكثر دقة في كثير من الأحيان – خاصة مع انخفاض حجم النموذج.

استنادًا إلى استخدامي ل ChatGPT، سأجادل بأن OpenAI يستخدم RAG بشكل شديد الندرة، كمحرك دقيق بدلاً من سائق يومي، خاصة منذ أن أصبحت مشاكل نوافذ السياق المتزايدة تجعل النماذج اللغوية الكبيرة أكثر احتمالًا للوهم مع تطور المحادثات الطويلة.

يمكن أن يُخفف هذا الوضع بشكل ملحوظ من خلال التحقق من إجابات الهيورستكس مقابل مصادر السلطة القائمة على الويب، بدون انتظار المستخدم لشك في الإخراج أو تعثره فيه، ودون الحاجة إلى نتائج داخلية غير مرضية لدرجة أن قرار استخدام RAG يصبح حتميًا.

بدلاً من ذلك، يمكن تدريب النظام على شك بشكل انتقائي في نفسه وفقًا للحالات، وبالتالي على التفاعل مع الويب من خلال عملية غربلة ستكون هيورستكسه في حد ذاتها. أنا لا أعرف ما إذا كانت معمارية النماذج الحالية تترك مساحة لنهج من هذا القبيل، الذي سيتعين إضافته إلى احتكاك مرشحات API.

كما هي الحال، لا أستطيع حتى إثبات وجود مشكلة؛ لا حتى مع ^†اعتراف:

* الرجاء الاطلاع على الرابط في أعلى هذا الفقرة.

** هذا هو “الprompt النظامي” الذي يُكشف ذاتيًا، والذي قد يكون مجرد هضم من منشورات المنتدى التي تم إعادة تدريبها لـ GPT-5، على الرغم من أن البعض يعتقد أن البرومت هو حقيقي.

^† أنا لا أقترح حقًا أن “الوضوح الذنبي” ل ChatGPT له معنى هنا؛ ميلي إلى دفع خط السياسة المفتوح في قضايا سياسة OpenAI يعني أن النظام سوف يُتفق في النهاية معي، ويتكرر آرائي الضمنية على أي حال. هذا يختلف كثيرًا عن الكلام عن تفاصيل غزو النورماندي تحت الضغط.

نُشر لأول مرة يوم الأربعاء، 10 ديسمبر 2025