هل تعتبر RAGs الحل لهلوسات الذكاء الاصطناعي؟

الذكاء الاصطناعي، بتصميمه، له “عقل مستقل”. واحدة من عيوب هذا هو أن نماذج الذكاء الاصطناعي التوليدية ستخترع في بعض الأحيان معلومات في ظاهرة تسمى “هلوسات الذكاء الاصطناعي”، واحدة من أول الأمثلة على ذلك جاءت إلى الضوء عندما قاض نيويورك يؤنب المحامين لاستخدامهم مذكرة قانونية كتبها ChatGPT التي أشارت إلى قضايا محكمة غير موجودة. في الآونة الأخيرة، هناك حوادث من محركات البحث التوليدية التي告诉 المستخدمين تناول الحجارة من أجل الفوائد الصحية، أو استخدام الغراء غير السام لصق الجبن على البيتزا.

随着 أصبحت GenAI أكثر شيوعًا، من المهم للمستخدمين أن يدركوا أن الهلوسات هي، في الوقت الحالي، جانب لا مفر منه من حلول GenAI. مبنية على نماذج اللغة الكبيرة (LLMs)، هذه الحلول غالبًا ما يتم إعلامها بمصادر متباينة كبيرة من المحتمل أن تحتوي على بعض المعلومات غير دقيقة أو قديمة – هذه الإجابات المخترعة تشكل بين 3٪ و 10٪ من استجابات محادثات الذكاء الاصطناعي التي تم إنشاؤها بواسطة المستخدم. في ضوء طبيعة “ال صندوق الأسود ” للذكاء الاصطناعي – حيث لدينا صعوبة استثنائية في فحص كيفية توليد الذكاء الاصطناعي لنتائجه، – هذه الهلوسات يمكن أن تكون قريبة من المستحيل بالنسبة للمطورين للتعقب وفهمها.

الهلوسات هي مخيبة للآمال في أفضل الأحوال، خطيرة وغير أخلاقية في أسوأ الأحوال.

عبر قطاعات متعددة، بما في ذلك الرعاية الصحية والتمويل وسلامة العامة، فإن عواقب الهلوسات تشمل كل شيء من نشر معلومات خاطئة وتعريض بيانات حساسة للخطر وحتى حوادث مهددة للحياة. إذا استمرت الهلوسات دون رقابة، فإن رفاهية المستخدمين وثقة المجتمع في أنظمة الذكاء الاصطناعي سوف تتضرر كلاهما.

نظراً لذلك، من الضروري أن يدرك مسؤولو هذه التقنية القوية والمؤثرة والمخاطر المرتبطة بهلوسات الذكاء الاصطناعي من أجل ضمان مصداقية الإخراجات التي تم إنشاؤها بواسطة LLM.

RAGs كبداية لحل الهلوسات

طريقة واحدة ظهرت في طليعة التخفيف من الهلوسات هي التوليد المعزز بالاسترجاع، أو RAG. هذه الحل تعزز موثوقية LLM من خلال دمج مخازن خارجية للمعلومات – استخراج المعلومات ذات الصلة من قاعدة بيانات موثوقة يتم اختيارها وفقًا لطبيعة الاستفسار – لضمان استجابات أكثر موثوقية للاستفسارات المحددة.

بعض الخبراء في الصناعة اقترح أن RAG وحده يمكن أن يحل الهلوسات. لكن قواعد البيانات المتكاملة مع RAG يمكن أن لا تزال تحتوي على بيانات قديمة، مما قد يولد معلومات خاطئة أو مضللة. في بعض الحالات، يمكن أن يزيد دمج البيانات الخارجية من خلال RAGs من احتمال الهلوسات في نماذج اللغة الكبيرة: إذا اعتمد نموذج الذكاء الاصطناعي بشكل غير متناسب على قاعدة بيانات قديمة يعتقد أنها حديثة، يمكن أن يصبح مدى الهلوسات أكثر حدة.

حواجز الذكاء الاصطناعي – جسور فجوات RAG

كما ترون، RAGs تملك وعدا للتخفيف من هلوسات الذكاء الاصطناعي. ومع ذلك، يجب على الصناعات والشركات التي تنتقل إلى هذه الحلول أن تفهم أيضا حدودها المتأصلة. في الواقع، عندما يتم استخدامها جنباً إلى جنب مع RAGs، هناك منهجيات مكملة يجب استخدامها عند معالجة هلوسات LLM.

على سبيل المثال، يمكن للشركات استخدام حواجز الذكاء الاصطناعي في الوقت الفعلي حماية استجابات LLM وتخفيف هلوسات الذكاء الاصطناعي. تعمل الحواجز كشبكة تتحقق من جميع إخراجات LLM من المحتوى المخترع أو الفاحش أو غير ذي الصلة قبل وصولها إلى المستخدمين. هذا النهج الوسيط النشط يضمن موثوقية وملاءمة الاسترجاع في أنظمة RAG، ويعزز في النهاية الثقة بين المستخدمين، وينسق تفاعلات آمنة تتماشى مع علامة تجارية للشركة.

بديلاً، هناك نهج “هندسة الاستفسار”، الذي يتطلب من المهندس تغيير الاستفسار الرئيسي في الخلفية. من خلال إضافة قيود محددة مسبقاً إلى الاستفسارات المقبولة – بمعنى آخر، مراقبة ليس فقط حيث يحصل LLM على المعلومات ولكن كيف يطلب المستخدمون الإجابات أيضًا – يمكن أن توجيه الاستفسارات المُصممة LLMs نحو نتائج أكثر موثوقية. العيب الرئيسي لهذا النهج هو أن هندسة الاستفسار هذه يمكن أن تكون مهمة شاقة بشكل لا يصدق للمبرمجين، الذين غالبًا ما يكونون مشغولين بالفعل بالوقت والموارد.

يتضمن نهج “التحسين الدقيق” تدريب LLMs على مجموعات بيانات متخصصة لتعزيز الأداء وتخفيف خطر الهلوسات. هذا الأسلوب يدرّب LLMs المخصصة للمهام على سحب من مجالات موثوقة، مما يحسن الدقة والموثوقية في الإخراج.

من المهم أيضاً أن نأخذ في الاعتبار تأثير طول الإدخال على أداء التفكير في LLMs – في الواقع، كثير من المستخدمين يعتقدون أن كلما كان الاستفسار أكثر شمولاً وملء المعايير، زادت دقة الإخراجات. ومع ذلك، كشفت دراسة حديثة أن دقة إخراجات LLM تقل تقل مع زيادة طول الإدخال. وبالتالي، زيادة عدد الإرشادات المخصصة لاستفسار معين لا يضمن موثوقية متسقة في توليد تطبيقات الذكاء الاصطناعي التوليدية الموثوقة.

هذه الظاهرة، المعروفة باسم تحميل الاستفسار، تسلط الضوء على المخاطر المتأصلة في تصميمات الاستفسار المعقدة بشكل مفرط – كلما تم صياغة الاستفسار بشكل أوسع، زادت الأبواب المفتوحة للمعلومات غير الدقيقة والهلوسات عندما يحاول LLM أن ي满ي كل معيار.

تتطلب هندسة الاستفسار تحديثات وتحسينات دائمة ولا تزال تعاني من منع الهلوسات أو الاستجابات غير المنطقية بشكل فعال. من ناحية أخرى، لن تخلق الحواجز مخاطر إضافية للإخراجات المخترعة، مما يجعلها خياراً جذاباً لحماية الذكاء الاصطناعي. على عكس هندسة الاستفسار، تقدم الحواجز حلاً شاملاً في الوقت الفعلي يضمن أن الذكاء الاصطناعي التوليدي سيخلق إخراجات فقط من داخل حدود محددة مسبقاً.

في حين أنها ليست حلاً بحد ذاتها، يمكن أن تساعد ملاحظات المستخدمين أيضاً في التخفيف من الهلوسات من خلال إجراءات مثل التصويت لاعتماد أو رفض تساعد في تحسين النماذج وزيادة دقة الإخراج وتقليل خطر الهلوسات.

بذاتها، تتطلب حلول RAG تجارب شاملة لتحقيق نتائج دقيقة. ولكن عندما يتم استخدامها جنباً إلى جنب مع التحسين الدقيق وهندسة الاستفسار والحواجز، يمكن أن تقدم حلولاً أكثر استهدافاً وفعالية لمعالجة الهلوسات. استكشاف هذه الاستراتيجيات التكميلية سوف يستمر في تحسين التخفيف من الهلوسات في LLMs، مما يساعد في تطوير نماذج أكثر موثوقية وأماناً عبر تطبيقات مختلفة.

RAGs ليست الحل لهلوسات الذكاء الاصطناعي

تضيف حلول RAG قيمة كبيرة إلى LLMs من خلال إثرائها بالمعلومات الخارجية. ومع ذلك، مع ما يزال مجهولاً كثيراً حول الذكاء الاصطناعي التوليدي، تظل الهلوسات تحدياً متأصلاً. المفتاح لمواجهة هذه الهلوسات لا يكمن في محاولة القضاء عليها، بل في التخفيف من تأثيرها باستخدام مزيج من الحواجز الاستراتيجية وعمليات التحقق والاستفسارات المحددة بدقة.

كلما ثقنا في ما يقوله لنا GenAI، زادت فعالية وكفاءة استغلال إمكاناته القوية.