قاده التفكير
هل تعتبر RAGs الحل لهلوسة الذكاء الاصطناعي؟
الذكاء الاصطناعي، بحكم تصميمه، لديه "عقل خاص به". أحد عيوب ذلك هو أن نماذج الذكاء الاصطناعي التوليدي ستقوم أحيانًا بتلفيق المعلومات في ظاهرة تسمى "هلوسة الذكاء الاصطناعي"، وهي واحدة من أقدم الأمثلة التي سلطت الضوء على أحد قضاة نيويورك. توبيخ محامون لاستخدام الملخص القانوني الذي كتبه ChatGPT والذي يشير إلى قضايا قضائية غير موجودة. في الآونة الأخيرة، حدثت حوادث حيث طلبت محركات البحث التي أنشأها الذكاء الاصطناعي من المستخدمين القيام بذلك تستهلك الصخور للحصول على فوائد صحية، أو لاستخدام غير سامة صمغ لمساعدة الجبن على الالتصاق بالبيتزا.
مع تزايد انتشار GenAI في كل مكان، من المهم أن يدرك المتبنون أن الهلوسة هي، حتى الآن، نوع من أنواع الهلوسة. لا مفر منه جانب من حلول GenAI. تعتمد هذه الحلول على نماذج لغوية كبيرة (LLMs)، وغالبًا ما يتم إطلاعها على كميات هائلة من المصادر المتباينة التي من المحتمل أن تحتوي على بعض المعلومات غير الدقيقة أو القديمة على الأقل - وتشكل هذه الإجابات الملفقة بين 3٪ و10٪ من الاستجابات التي تم إنشاؤها بواسطة برنامج chatbot للذكاء الاصطناعي لمطالبات المستخدم. في ضوء الذكاء الاصطناعي "صندوق اسود"الطبيعة - التي نواجه فيها كبشر صعوبة غير عادية في فحص كيفية توليد الذكاء الاصطناعي لنتائجه بالضبط - يمكن أن يكون من المستحيل تقريبًا على المطورين تتبعها وفهمها.
وسواء كانت هلوسة الذكاء الاصطناعي حتمية أم لا، فهي محبطة في أحسن الأحوال، وخطيرة، وغير أخلاقية في أسوأ الأحوال.
عبر قطاعات متعددة، بما في ذلك الرعاية الصحية والمالية والسلامة العامة، تشمل تداعيات الهلوسة كل شيء بدءًا من نشر المعلومات الخاطئة وتعريض البيانات الحساسة للخطر وحتى الحوادث المؤسفة التي تهدد الحياة. إذا استمرت الهلوسة دون رادع، فسوف تتعرض سلامة المستخدمين وثقة المجتمع في أنظمة الذكاء الاصطناعي للخطر.
على هذا النحو، من الضروري أن يدرك مشرفو هذه التقنية القوية مخاطر هلوسة الذكاء الاصطناعي ويعالجونها من أجل ضمان مصداقية المخرجات الناتجة عن LLM.
RAGs كنقطة انطلاق لحل الهلوسة
إحدى الطرق التي برزت إلى الواجهة في تخفيف الهلوسة هي استرجاع-الجيل المعزز، أو راج. يعزز هذا الحل موثوقية LLM من خلال تكامل مخازن المعلومات الخارجية - استخراج المعلومات ذات الصلة من قاعدة بيانات موثوقة تم اختيارها وفقًا لطبيعة الاستعلام - لضمان استجابات أكثر موثوقية لاستفسارات محددة.
بعض الصناعات خبرائنا لقد افترضوا أن RAG وحده يمكنه حل الهلوسة. لكن قواعد البيانات المدمجة في RAG لا تزال تتضمن بيانات قديمة، مما قد يؤدي إلى إنشاء معلومات خاطئة أو مضللة. في بعض الحالات، قد يؤدي دمج البيانات الخارجية من خلال RAGs إلى زيادة احتمالية الهلوسة في النماذج اللغوية الكبيرة: إذا كان نموذج الذكاء الاصطناعي يعتمد بشكل غير متناسب على قاعدة بيانات قديمة فإنه يدرك نظرًا لكونها محدثة تمامًا، فقد يصبح مدى الهلوسة أكثر خطورة.
حواجز الذكاء الاصطناعي – سد فجوات RAG
كما ترون، فإن RAGs تحمل وعدًا بتخفيف هلوسة الذكاء الاصطناعي. ومع ذلك، يجب على الصناعات والشركات التي تلجأ إلى هذه الحلول أن تفهم أيضًا القيود المتأصلة فيها. في الواقع، عند استخدامها جنبًا إلى جنب مع RAGs، هناك منهجيات تكميلية يجب استخدامها عند معالجة هلوسة LLM.
على سبيل المثال، يمكن للشركات استخدام الذكاء الاصطناعي في الوقت الفعلي أسوار لتأمين استجابات LLM وتخفيف هلوسة الذكاء الاصطناعي. تعمل حواجز الحماية كشبكة تقوم بفحص جميع مخرجات LLM بحثًا عن محتوى ملفق أو بذيء أو خارج الموضوع قبل أن يصل إلى المستخدمين. ويضمن نهج البرامج الوسيطة الاستباقية موثوقية وأهمية الاسترجاع في أنظمة RAG، مما يؤدي في النهاية إلى تعزيز الثقة بين المستخدمين، وضمان التفاعلات الآمنة التي تتماشى مع العلامة التجارية للشركة.
وبدلاً من ذلك، هناك أسلوب "الهندسة السريعة"، والذي يتطلب من المهندس تغيير موجه الواجهة الرئيسية. من خلال إضافة قيود محددة مسبقًا إلى المطالبات المقبولة - وبعبارة أخرى، مراقبة ليس فقط المكان الذي يحصل فيه ماجستير إدارة الأعمال على المعلومات ولكن أيضًا كيفية مطالبة المستخدمين بإجابات - يمكن للموجهات الهندسية توجيه حاملي ماجستير إدارة الأعمال نحو نتائج أكثر موثوقية. الجانب السلبي الرئيسي لهذا النهج هو أن هذا النوع من الهندسة السريعة يمكن أن يكون مهمة تستغرق وقتًا طويلاً بشكل لا يصدق للمبرمجين، الذين غالبًا ما يكونون مرهقين بالفعل للوقت والموارد.
يتضمن نهج "الضبط الدقيق" تدريب ماجستير إدارة الأعمال على مجموعات البيانات المتخصصة صقل الأداء والتخفيف من خطر الهلوسة. تقوم هذه الطريقة بتدريب طلاب ماجستير إدارة الأعمال المتخصصين في المهام على الانسحاب من مجالات محددة وموثوقة، مما يؤدي إلى تحسين الدقة والموثوقية في المخرجات.
من المهم أيضًا مراعاة تأثير طول المدخلات على الأداء الاستدلالي لطلبة ماجستير إدارة الأعمال - في الواقع، يميل العديد من المستخدمين إلى الاعتقاد بأنه كلما كانت مطالبتهم أكثر شمولاً ومليئة بالمعلمات، كلما كانت المخرجات أكثر دقة. ومع ذلك، واحد دراسة حديثة وكشف أن دقة مخرجات LLM في الواقع يقلل مع زيادة طول الإدخال. وبالتالي، فإن زيادة عدد الإرشادات المخصصة لأي موجه معين لا يضمن الموثوقية المتسقة في إنشاء تطبيقات ذكاء اصطناعي توليدية يمكن الاعتماد عليها.
هذه الظاهرة، المعروفة باسم التحميل الزائد الفوري، تسلط الضوء على المخاطر الكامنة في التصميمات السريعة المعقدة للغاية - كلما تمت صياغة المطالبة على نطاق أوسع، تم فتح المزيد من الأبواب أمام المعلومات غير الدقيقة والهلوسة بينما يسعى برنامج LLM للوفاء بكل معلمة.
الهندسة السريعة يتطلب تحديثات وضبطًا مستمرًا ولا يزال يكافح من أجل منع الهلوسة أو الاستجابات غير المنطقية بشكل فعال. من ناحية أخرى، لن تخلق حواجز الحماية خطرًا إضافيًا للمخرجات الملفقة، مما يجعلها خيارًا جذابًا لحماية الذكاء الاصطناعي. على عكس الهندسة السريعة، توفر حواجز الحماية حلاً شاملاً في الوقت الفعلي يضمن أن الذكاء الاصطناعي التوليدي لن ينشئ سوى مخرجات من داخل حدود محددة مسبقًا.
على الرغم من أن تعليقات المستخدمين لا تعتبر حلاً في حد ذاتها، إلا أنها يمكن أن تساعد أيضًا في تخفيف الهلوسة من خلال إجراءات مثل التصويتات المؤيدة والتصويتات السلبية التي تساعد على تحسين النماذج وتعزيز دقة الإخراج وتقليل مخاطر الهلوسة.
تتطلب حلول RAG في حد ذاتها تجارب مكثفة لتحقيق نتائج دقيقة. ولكن عندما تقترن بالضبط الدقيق والهندسة السريعة وحواجز الحماية، يمكنها تقديم حلول أكثر استهدافًا وكفاءة لمعالجة الهلوسة. سوف يستمر استكشاف هذه الاستراتيجيات المجانية في تحسين تخفيف الهلوسة في ماجستير إدارة الأعمال، مما يساعد في تطوير نماذج أكثر موثوقية وجديرة بالثقة عبر التطبيقات المختلفة.
إن الـ RAGs ليست الحل لهلوسة الذكاء الاصطناعي
تضيف حلول RAG قيمة هائلة إلى LLMs من خلال إثرائها بالمعرفة الخارجية. ولكن مع وجود الكثير غير المعروف عن الذكاء الاصطناعي التوليدي، تظل الهلوسة تحديًا متأصلًا. إن المفتاح إلى مكافحتها لا يكمن في محاولة القضاء عليها، بل من خلال تخفيف نفوذها من خلال مجموعة من الحواجز الاستراتيجية، وعمليات التدقيق، والمحفزات الدقيقة.
كلما زادت ثقتنا بما يخبرنا به GenAI، كلما تمكنا من الاستفادة من إمكاناته القوية بشكل أكثر فعالية وكفاءة.
