لماذا يخفي نظام RAG البيولوجي الخلافات عنك

يحل نظام RAG البيولوجي القياسي النزاعات بين الأدلة بصمت في حوالي ثلاثة من كل أربع استفسارات. الحل هو هيكلي وليس معلوماتي – ولا يساعد معظم التعقيدات التي يضيفها الفريق العلوي.

اسأل مساعدًا سريريًا مدعومًا بالاسترجاع سؤالًا بسيطًا – هل يساعد الميلاتونين على التغلب على الاختلافات الزمنية؟ – وسوف تتعارض الأدلة التي يسترجعها.

استنتج التقرير الصادر عن كوكرين أن الميلاتونين فعال للغاية، حيث أظهرت ثمانية من عشرة تجارب متضمنة تقليل الاختلافات الزمنية في الرحلات الجوية التي تعبر خمس مناطق زمنية أو أكثر. وجد تجربة عشوائية مزدوجة التعمية على 257 طبيبًا نرويجيًا في مجلة الطب النفسي الأمريكية لا فائدة من أي من ثلاثة أنظمة ميلاتونين.

كلا الوثيقتين حقيقيتان. كلاهما جاد ومهم. يحتاج أي طبيب يقرر ما ينصح به إلى معرفة أنهما يتعاركان.

في الاختبارات المراقبة، لم يقل السينثيسيس عادة أنهما يتعاركان. لقد أنتج فقرة متسلسلة ومصدرة بشكل صحيح جاءت إلى جانب واحد وأبدا لم يُشار إلى وجود جانب آخر.

هذا هو عمى التناقض. على معيار مقترن بالتناقض البيولوجي، حدث في 72.6 في المائة من الاستفسارات (95٪ CI 0.697-0.755). كان الإخراج يقرأ بشكل طبيعي. كانت دقة الإشارات الصحيحة. مرت عمليات الفحص الجودة القياسية. تم فقط إزالة الخلاف.

نمط الفشل الذي يبدو مثل النجاح

في حين لا يوجد تلاقي مباشر في الأدلة المتعلقة بالبيولوجيا، تظهر الدراسات نتائج متعارضة بين استخدام الدراسات الملاحظة مقابل التجارب السريرية المراقبة (RCTs) وأيضًا الأساليب المختلفة المستخدمة لpopulations المرضى المختلفة؛ ومع ذلك، يمكن أن تتضمن دراسة واحدة كلاً من المناهج القوية والضعيفة، والتي من شأنها أن تظهر أنها تحمل نفس الأهمية.

هذا ليس حالة فريدة. وجد تحليل Ioannidis للأبحاث السريرية المُستشهد بها على نطاق واسع أن 16٪ من الدراسات الأكثر استشهادًا تم نقضها بشكل صريح فيما بعد، وأن الدراسات الملاحظة كانت أكثر احتمالاً من التجارب العشوائية لتناقض أو تعديل تأثيراتها إلى الأسفل – خمسة من ستة، مقابل تسعة من تسعة وثلاثين. وبالتالي، فإن القضية ليست فقط خلافًا بين الدراسات ولكن جزءًا هيكليًا من الأدب نفسه.

لذلك، كدورة حرجة لأي نظام توليد مدعوم بالاسترجاع بيولوجي، يجب أن يكون توليد الأدلة حول الخلافات بين الدراسات هدفًا رئيسيًا. ومع ذلك، فشل معظم الأنظمة في إنجاز هذه المهمة. باستخدام معيار HealthContradict البالغ 920 مثالًا مقترنًا بالتناقض، وجدنا أن نظام RAG القياسي فشل في توليد الخلافات في حوالي 73٪ من الأزواج المُختبرة. المشكلة ليست في الاسترجاع. النظام يسترد كلا الجانبين. ثم يحل النزاع بصمت، لصالح أحدهما.

فحص يدوي لخمسين حالة فشل مصنفة أوجد نمطًا أسميته التنسيق المعرفي. يتم الاستشهاد بكلا الوثيقتين بشكل فردي بواسطة النموذج، ووصف نزاعه يتم وصفها بالاعتماد على تدرجات الثقة (“دليل قصصي … الدراسات العلمية تشير إلى …”) كما لو لم يكن هناك أي نزاع. أقل من 5٪ من حالات الفشل هذه استخدمت كلمات “تناقض” أو “نزاع” أو “خلاف” على الإطلاق. كان معدل دقة الإشارات الصحيحة هو 0.99. هذا هو بالضبط النقطة: دقة الإشارات لا تعني إدراك التناقض. يمكن لنظام أن ي归 كل جملة بشكل مثالي ويخبر الطبيب بشيء لا يدعمه قاعدة الأدلة.

ثلاثة ميزات من “السينثيسيس” تُعتبر بيئة سريرية خطرة.

عكس القيمة المقدمة. الغرض من RAG هو عرض الأدلة ذات الصلة للطبيين. لذلك، من خلال إزالة الجوانب من تلك الأدلة التي هي الأكثر أهمية للطبيين لمراجعتها، فإنه ينجز العكس.

خلق الغيبة. 由于 لا يوجد حاشية أو تقليص أو صيغة ملموسة؛ فإن “سينثيسيس مسطح” و “سينثيسيس مخلص” يبدوان غير متميزين على الشاشة.

التركيب الصامت في النطاق. لا شيء في مجموعة التقييم القياسية يُحذر منه، لذلك يمكن لنظام أن يُشغل في الإنتاج لعدة أشهر بينما يتم حل كل استفسار معارض بصمت.

المعلومات ليست الوسيلة

حل واضح لهذه المشكلة سيكون إعلام النموذج. من الواضح أنه إذا كان نمط الفشل هو أن النموذج لم يتعرف على أن وثيقتين متعارضتين، يمكنك ببساطة إضافة علامة موقف “دعم” أو “تناقض” إلى كل من الوثائق المستردة. هذا يجب أن يحسن الأداء للنموذج. لم يفعل.

في تجربة أضفنا إليها علامات موقف (من خلال التعليق) لتقديم النموذج بشكل صريح بمعلومات أن وثيقتين متعارضتين، وجدنا أن التصنيف الصريح لل态ة انتقل من عمى التناقض من 93.8٪ في ذراع التحكم غير المُعلّمة إلى 91.4٪ – فرق مع فواصل ثقة متداخلة ولا أهمية عملية. على الرغم من أن النموذج تلقى معلومات أن وثيقتين متعارضتين، فإن توزيع استجابته الافتراضي ظل غير متغير.

فهم الآلية مفيد هنا. المعلومات المضافة بشكل سلبي إلى سؤال لا تتغير توزيع استجابة النموذج الافتراضي. بالنسبة لأسئلة بيولوجية حاملة للتناقض، فإن ذلك التوزيع يفضل موقفًا موحدًا بشكل قوي. تصبح علامات المواقف رموزًا إضافية – غالبًا ما يتم إعادة تدويرها إلى عناوين الأقسام – بينما يعود النثر إلى النوع.

الهيكل هو الوسيلة

ما عمل هو هيكلي، وليس معلوماتي؛ بدلاً من تقديم النموذج بكل ما هو حقائق أو صحيح حول الوثائق، يتطلب الهيكل من السينثيسيس أن يتم بناؤه بالاعتماد على الخلافات المحتملة (التوافق، الخلاف، جودة الأدلة، الاستنتاج). يوفر السينثيسيس المُحفز هيكليًا النموذج بلا معلومات أكثر مما يفعل السينثيسيس غير المُحفز. الفرق الوحيد هو ما يجب على النموذج فعله.

كان هناك انخفاضات حوالي تسعة عشر ضعفًا – من 93.8٪ إلى 4.9٪ – في عمى التناقض دون أي إعادة تدريب، بدون أي تعديلات على خط الأنابيب، بدون أي زيادة في التأخير، وبدون أي زيادة في التكاليف لكل استفسار.

هذا ليس تحسينًا في التفكير. هذا ببساطة تخصيص قسري. بمجرد أن يُطلب من النموذج تقديم قسم خلاف، يعود من خلال الوثائق التي استرجعها في البداية للبحث عن شيء لإدراجه في هذا القسم.

عمى التناقض تحت ثلاثة شروط للسينثيسيس في الاختبار المراقب. انتقلت إضافة معلومات الوقوف بمقدار 2.4 نقطة؛ تغيير الهيكل المطلوب للخرج انتقل بمقدار 86.5.

التحفيز الهيكلي أقل حول تعزيز قدرة النموذج على التفكير وأكثر حول تقديم حوكمة خفيفة على سلوك توليد النموذج لتخصيص مساحة الإخراج. إنه يُجبر النموذج على قضاء بعض مساحة إخراج على الخلاف (الفرق بين المعلومات المتاحة والمعلومات التي تحتاج إلى الظهور لتلبية المتطلبات).

هذا يغير افتراضًا معماريًا شائعًا. معظم تحسينات RAG المقترحة تضيف معلومات إلى السياق: وثائق أكثر، درجات استرجاع، علامات موقف، بيانات ميتا من حيث الجودة. ما لم يكن هناك متطلبات محددة لذلك في سينثيسيس البرومت، فإن معظمها لن يغير سلوك النموذج. تغيير الإدخال يغير الكتلة عند الهوامش؛ تغيير هيكل الإخراج المطلوب يغير التوزيعات بشكل مباشر

لماذا لا يساعد المساعدون المتوقعون

كان هناك عنصران يُعتبران أساسيين لتحقيق RAG البيولوجي المتعرف على التناقض، وprovided قليلاً عند اختبارهما بالاختبار المراقب.

1) تحليل PICO. PICO (السكان، التداخل، المقارنة، النتيجة) هو طريقة منظمة لتحليل الأسئلة السريرية إلى أجزاء مكونة لاستخدامها في الطب المبني على الأدلة. كان الافتراض هو أن تحليل المطالبات إلى مجالات PICO سوف يحد من انحراف النطاق ويحسن الكشف عن التناقض عبر أدلة متغايرة. أدى إزالة هذا المستوى إلى إنتاج مُخرجات شبه متطابقة مع تلك التي تم توليدها بواسطة النظام الكامل. بينما يمكن أن يكون PICO مفيدًا لتنظيم أفكارك أثناء اتخاذ القرارات السريرية؛ كمدخلات مُستفادة في وقت التحليل لدعم الكشف عن التناقض، فإنه لا يساهم بشكل كبير.

2) تصنيف المواقف الصريح. على عكس إزالة PICO، أداء تصنيف المواقف الصريح كان سيئًا ولكن بشكل مختلف. على كوربورا أكاديمية نظيفة، أنتج مكاسب صغيرة على بعض المقاييس. ومع ذلك، عند تحليل نصوص الويب الصاخبة – وهو ما يحدث عادةً عند وصول تطبيقات الصحة الموجهة للمستهلك إلى المعلومات – أرجع التصنيف “لا معلومات كافية” لمعظم الوثائق، بشكل رئيسي لأن مؤلفي محتوى الصحة الموجهة للمستهلك لا يعلنون عادةً موقفهم باستخدام لغة إعلانية متوقعة من قبل التصنيف. ونتيجة لذلك، تم تداول تلك العلامات غير المُفيدة في سياق السينثيسيس كضوضاء. أدى إزالة مرحلة التصنيف للكوربورا الصاخبة إلى تحسين الكشف عن التناقض بشكل هامشي.

الزجاجة الحقيقية هي جودة الإشارة في مجرى النهر العلوي

أهم استنتاج من هذه الدراسة هو أن القدرة على التعرف على التناقضات في المصادر محدودة بمدى دقة المعلومات (البيانات) حول هذه المصادر، أكثر من كيفية بنائها أو هيكلتها.

استخدام جودة الأدلة – النسبة المئوية للケース التي يفضل فيها السينثيسيس المصدر ذا الجودة الأعلى عند توفر كلاهما – كان 0.83 على الموجزات العلمية النظيفة وينخفض إلى أقل من 0.15 على استرجاع الويب الصاخب. اتبعت إخلاص الإشارات الدلالية نفس النمط، من 0.66 على الموجزات إلى 0.45 على محتوى الصحة المستهلك.

أنابيب متطابقة، كوربورا مختلفة. يحدد التعامل مع التناقض من قبل جودة الإشارات في الوثائق المصدر.

هناك سبب هيكلي لهذا. غالبًا ما تفتقر الوثائق المستردة في العالم الحقيقي إلى الإشارات التي يعتمد عليها أي مصنف أو آليّة وزن: بيانات ميتا من نوع النشر، بيانات إعلانية صريحة، وصفات المنهجية. الموجزات للمقالات المراجعة من قبل الأقران تعلن بشكل إعلاني بشأن السكان والمناهج والنتائج. يتم إجراء نفس الادعاءات داخل لغة قصصية، مقنعة، ومُحاذرة في مقالات الصحة المستهلك. لذلك، تنتج أنظمة متطابقة سلوكًا مختلفًا بشكل كبير في مجرى النهر السفلي بناءً على ما تتلقاه كمدخلات.

هذا أيضًا مدعوم من أكبر تقييم خبير ل RAG الطبي منشور، الذي ساهم فيه ثمانية عشر خبيرًا طبيًا ب 80,502 تعليقًا عبر 800 مُخرجات نموذجية. لم يكن أكثر من 22٪ من المرجعيات العشرين الأوائل ذا صلة. تدهورت RAG القياسية من صحة الحقائق والكاملية بالنسبة إلى أساسيات غير RAG. الاسترجاع واختيار الأدلة، وليس التوليد، كانا النقاط الرئيسية للفشل – وهو صدى لما أعمال التقييم على RAG الطبي تقريره لمدة عامين.

على الرغم من أن هناك تأثيرًا محدودًا لهذا الاستنتاج فيما يتعلق بالتطبيق، يمكن القول بشكل قاطع أن قدرة نظامك على التعامل مع التناقضات عند استرجاعه من مجردات PubMed لا يمكن نقلها إلى موقع موجه للمستهلكين بغض النظر عن مدى تقدم النظام.

نقطة عمى التقييم

قياس التعامل مع التناقض أكثر صعوبة مما يبدو، وحتى نهج قياسي لقياس التعامل مع التناقض له مشاكله الخاصة.

تقييم LLM-judge يمثل الطريقة الأكثر شيوعًا لتقييم مخرجات RAG المفتوحة لتعامل التناقض، كما يختلف عن فحوصات الإقرار الهيكلي من حيث كيفية تطويرهما. استراتيجيات البرومت التي تنظم السينثيسيس في مجالات PICO تحصل على درجات عالية من القضاة بينما تفشل في فحوصات الإقرار الصريح بشكل صريح. هذا متوقع: تم توثيق قضاة LLM لتفضيل الإجابات الأطول والأكثر تعقيدًا، وسيعتبرون حاشية مدفونة في قسم النتيجة إنجازًا عندما لا يشير أي شيء في مستوى النثر إلى النزاع.

تُقدم استراتيجية الاسترجاع ikinci حدثًا آخر. الاسترجاع العشوائي ينتج معدل عمى تناقض يساوي الصفر – لا يمكن للسينثيسيس أن يفشل في الإقرار بتناقض لا يحتوي عليه مجموعة الاسترجاع. الاسترجاع المرتبط الأقصى، من ناحية أخرى، خفض إخلاص الإشارات الدلالية إلى 0.11. كل ذلك يبدو مقبولًا تحت مقياس معالجة التناقض واحد، لكنه يفتقر تحت التقييم المزدوج.

لذلك، اجمع المقاييس. اجري ثلاثة فحوصات على كل سينثيسيس: فحص هيكلي قطعي للغة المُعلنة التي تعترف بالنزاع؛ قاضٍ LLM للعمق والتوازن؛ وفحص إشارات دلالية يؤكد أن المحتوى المُشير يطابق مصدره. كل منها يحدد ما لا يحدده الآخرون. لا يمكن الوثوق بأي منها بمفرده كمرجع لمعالجة التناقض.

أربع إجراءات لهذا الربع

1. اختبار البaseline الخاص بك. يجب اختبار كل نظام RAG سريري وبيولوجي في الإنتاج لعمى التناقض قبل النشر. للقيام بالاختبار، تحتاج إلى مجموعة اختبار مقترنة بالتناقض واختبار لكل استفسار يُشير الإخراج إلى خلاف جوهرية. baseline بنسبة 72.6٪ ليست خطأً في التحويل.
2. تنفيذ برومتات السينثيسيس الهيكلية. القطاعات الأربعة (الضرورية) – الاتفاق، الخلاف، جودة الأدلة، الاستنتاج – يُجبرون الإخراج على النطاق على الخلافات. لا يُتطلب أي بنية جديدة؛ لا يُتطلب أي تدريب؛ لا يُتطلب أي زيادة في التأخير؛ لا يُتطلب أي زيادة في التكاليف لكل استفسار؛ أحد التغييرات أنتجت انخفاضًا تسعة عشر ضعفًا!
3. لا تستخدم استرجاع MMR للاستفسارات الحساسة للتناقض. على الرغم من أن MMR يستخدم وثائق متنوعة لتغطية الموضوع، فإنه لا يُحسن لcoverage المواقف – وهو غير صحيح عندما يكون الهدف هو استرجاع كلا جانبي النزاع. لذلك، يجب استخدام استرجاع bm25 بالإضافة إلى استرجاع المضمن كافتراض أكثر أمانًا. ومع ذلك، فإن التنويع الحساس للمواقف سيكون الاتجاه الذي يشير إليه هذا العمل.
4. اجمع مقاييس التقييم. استبدل درجة LLM-judge المفردة. اجمعها مع فحص هيكلي ل内容 جوهرية تحت عناوين الإقرار، وفحص إشارات دلالية يؤكد أن الأدلة المُشارة تدعم الادعاء المُعلن.

النقطة الأوسع

الانطباع السائد في تطوير RAG هو إضافي: مسترجعون أفضل، إعادة ترتيب أفضل، بيانات ميتا أكثر غنى، نوافذ سياق أطول. كان حديث الصناعة حول لماذا أنابيب RAG لا تزال تفشل في الإنتاج يتبع بشكل كبير نفس الشكل. بالنسبة لمعالجة التناقض، كانت الحركة الفعالة خفيفة – تقييد ما يُسمح للنظام بإنتاجه بدلاً من توسيع ما يُمنح إياه. كان برومت السينثيسيس الأربعة يفوق труб#line.pipeline الخماسي. فعل ذلك من خلال تغيير ما كان على النموذج إنتاجه، وليس ما كان يمكنه رؤيته.

هذا لا يجعل الهندسة المعمارية غير ذي صلة. يحدد الاسترجاع السقف، ويجعل الاسترجاع العشوائي السينثيسيس غير معنوي، ويكفي جودة الأدلة الرديئة كل شيء في مجرى النهر السفلي. هذا هو السبب في أن سؤال ما إذا كانت أنظمة RAG تحل مشكلة الموثوقية لا يزال يظهر. ومع ذلك، ما يحدد ما إذا كانت الأدلة المتناقضة تمثل كتناقضات يظهر لاحقًا في خط الأنابيب وأرخص للتغيير من العديد من المكونات الأخرى، مما يعني أن التغييرات اللازمة لتحسين الموثوقية يمكن أن تحدث في وقت أقرب.

العمل المكلف – مجموعات التناقض الأفضل، إشارات التدريب الصريحة للخلاف، استرجاع حساس للمواقف، معايير التناقض الأصلي – لا يزال يتعين القيام به، وسوف يستغرق وقتًا أطول بشكل كبير.

لذلك، إذا كنت تريد أن تعرف ما إذا كان نظامك يُظهر الأدلة المتناقضة كتناقضات، فيجب عليك أن تسأل نفسك السؤال غير المريح وfinding الجواب هذا الأسبوع: هل يُخبر نظامك المستخدمين عندما تتعارض أدلته؟