منع الذكاء الاصطناعي من بث القصص: دليل لمنع الهلوسة

الذكاء الاصطناعي يثور في طريقة عمل معظم الصناعات. إنه يجعلنا أكثر كفاءة، أكثر إنتاجية، وأفضل في عملنا بشكل عام عندما يتم تنفيذه بشكل صحيح. ولكن مع زيادة اعتمادنا على هذه التكنولوجيا الجديدة بسرعة، يجب أن نذكر أنفسنا بحقيقة بسيطة: الذكاء الاصطناعي ليس معصومًا. يجب ألا يتم أخذ مخرجاته على أنها حقيقة مطلقة لأنها، مثل البشر، يمكن أن تخطئ.

نسمي هذه الأخطاء “هلوسات الذكاء الاصطناعي”. تتضمن هذه الأخطاء مجموعة واسعة من الأخطاء، من الإجابة على مسألة رياضية بشكل غير صحيح إلى تقديم معلومات غير دقيقة حول السياسات الحكومية. في الصناعات الخاضعة للتنظيم، يمكن أن تؤدي الهلوسة إلى غرامات باهظة ومشاكل قانونية، بالإضافة إلى خسارة العملاء.

nên تسبب تكرار هلوسات الذكاء الاصطناعي قلقًا: من المقدر أن نماذج اللغة الكبيرة الحديثة (LLM) تخطئ في ما بين 1% إلى 30% من الوقت. هذا يعني أن هناك مئات من الإجابات الكاذبة التي يتم توليدها يوميًا، مما يعني أن الشركات التي تسعى لاستخدام هذه التكنولوجيا يجب أن تكون حريصة عند اختيار الأدوات التي سيتم تنفيذها.

دعونا نستكشف لماذا تحدث هلوسات الذكاء الاصطناعي، ما هي المخاطر، وكيف يمكننا تحديد هذه الأخطاء وتصحيحها.

النفايات داخل، النفايات خارج

هل تتذكر لعبك لعبة “التелефон” عندما كنت طفلاً؟ كيف كانت الجملة الأولى تتغير عندما تمريرها من لاعب إلى آخر، مما يؤدي إلى جملة مختلفة تمامًا عندما وصلت إلى نهاية الدائرة؟

الطريقة التي يتعلم بها الذكاء الاصطناعي من مدخلاته مشابهة. الإجابات التي تولدها نماذج اللغة الكبيرة هي جيدة فقط مثل المعلومات التي يتم تغذيتها بها، مما يعني أن السياق غير الصحيح يمكن أن يؤدي إلى توليد ونشر معلومات كاذبة. إذا تم بناء نظام الذكاء الاصطناعي على بيانات غير دقيقة أو قديمة أو متحيزة، فإن مخرجاته سوف تعكس ذلك.

نظام الذكاء الاصطناعي جيد فقط مثل مدخلاته، خاصة عندما يفتقر إلى التدخل أو الإشراف البشري. مع انتشار حلول الذكاء الاصطناعي المستقلة، من المهم أن نقدم للأدوات السياق الصحيح للبيانات لتجنب حدوث هلوسات. نحن بحاجة إلى تدريب دقيق على هذه البيانات، و/أو القدرة على توجيه نماذج اللغة الكبيرة بحيث تستجيب فقط من السياق الذي يتم توفيره، بدلاً من سحب المعلومات من أي مكان على الإنترنت.

لماذا تهمنا هلوسات الذكاء الاصطناعي؟

对于 الشركات التي تواجه العملاء، الدقة هي كل شيء. إذا كان الموظفون يعتمدون على الذكاء الاصطناعي لمهام مثل تحليل بيانات العملاء أو الإجابة على استفسارات العملاء، فهم بحاجة إلى الثقة في أن الإجابات التي تولدها هذه الأدوات دقيقة.

إلا أن الشركات تتعرض للخطر إذا لم تقدم دقة عالية. إذا تم تقديم إجابات غير كافية أو كاذبة للعملاء من قبل بوت محادثة، أو إذا تم إبطاءهم أثناء فحص الموظفين لإجابات البوت، فقد ينتقلون إلى مكان آخر. لا يجب أن يقلق العملاء بشأن ما إذا كانت الشركات التي يتعاملون معها تقدم لهم معلومات كاذبة – يريدون دعمًا سريعًا وموثوقًا، مما يعني أن الحصول على هذه التفاعلات بشكل صحيح هو أمر بالغ الأهمية.

يجب على قادة الأعمال أن يقوموا بعملهم بشكل جيد عند اختيار الأداة الصحيحة لموظفيهم. الذكاء الاصطناعي يهدف إلى تحرير الوقت والطاقة للموظفين لتركيزهم على مهام قيمة أعلى؛ الاستثمار في بوت محادثة يتطلب تدقيقًا بشريًا دائمًا يخيب آمال الاستخدام.

مكافحة هلوسات الذكاء الاصطناعي

نظرًا إلى نظرية المعنى الديناميكي (DMT)، مفهوم أن هناك فهمًا مشتركًا بين شخصين – في هذه الحالة المستخدم والذكاء الاصطناعي – يتم تبادله. ومع ذلك، فإن قيود اللغة ومعلومات الموضوعات تؤدي إلى عدم تناسق في تفسير الإجابة.

في حالة الإجابات التي يتم توليدها بواسطة الذكاء الاصطناعي، من الممكن أن الخوارزميات الأساسية لا تزال غير مجهزة بشكل كامل لتفسير أو توليد النص بطريقة تتوافق مع التوقعات التي لدينا كبشر. هذا الاختلاف يمكن أن يؤدي إلى إجابات قد تبدو دقيقة على السطح ولكنها في النهاية تفتقر إلى العمق أو الدقة المطلوبة لفهم حقيقي.

علاوة على ذلك، فإن معظم نماذج اللغة الكبيرة العامة تسحب المعلومات فقط من المحتوى المتاح علنًا على الإنترنت. تؤدي تطبيقات الشركات للذكاء الاصطناعي بشكل أفضل عندما يتم إطلاعها على بيانات وسياسات محددة لصناعات وأعمال معينة. يمكن تحسين النماذج أيضًا من خلال反馈 بشري مباشر – خاصة الحلول الوكيلة المصممة للرد على النبرة والصياغة.

يجب أن يتم اختبار هذه الأدوات بشكل صارم قبل أن تصبح مواجهة للعملاء. هذا هو جزء حاسم من منع هلوسات الذكاء الاصطناعي. يجب اختبار التدفق بأكمله باستخدام محادثات دورية مع نموذج اللغة الكبيرة يلعب دور الشخصية. هذا يسمح للشركات بالافتراض بشكل أفضل للنجاح العام للمحادثات مع نموذج الذكاء الاصطناعي قبل إطلاقه في العالم.

من المهم لكل من مطوري وتستخدمي تكنولوجيا الذكاء الاصطناعي أن يبقوا على دراية بنظرية المعنى الديناميكي في الإجابات التي يتلقونها، بالإضافة إلى ديناميات اللغة المستخدمة في المدخلات. تذكر، السياق هو المفتاح. وكبشر، فإن معظم سياقنا يتم فهمه من خلال وسائل غير ملموسة، سواء كانت لغة الجسد أو الاتجاهات الاجتماعية – حتى نبرتنا. كبشر، لدينا القدرة على الهلوسة في الاستجابة للأسئلة. ولكن في إصدارنا الحالي من الذكاء الاصطناعي، فهمنا البشري غير ملموس بسهولة، لذلك يجب أن نكون أكثر انتقادًا للسياق الذي نقدمه في الكتابة.

يمكن القول – ليس جميع نماذج الذكاء الاصطناعي متساوية. مع تطور التكنولوجيا لاستكمال مهام معقدة بشكل متزايد، من المهم للشركات التي تهدف إلى التنفيذ تحديد الأدوات التي ستحسن التفاعلات والتجارب للعملاء بدلاً من إتلافها.

العبء ليس فقط على مقدمي الحلول لضمان القيام بكل ما في وسعهم لتحديد الأدوات التي ستقلل من فرصة حدوث هلوسات. للمشترين المحتملين دورهم أيضًا. من خلال تحديد الأولوية لل حلول التي تم تدريبها واختبارها بدقة ويمكنها التعلم من البيانات المملوكة (بدلاً من كل شيء على الإنترنت)، يمكن للشركات جعل أقصى استفادة من استثماراتها في الذكاء الاصطناعي لتجهيز الموظفين والعملاء للنجاح.