إذا كان الذكاء الاصطناعي الخاص بك يهلوس، لا تلوم الذكاء الاصطناعي

هلوسات الذكاء الاصطناعي – تلك الإجابات الكاذبة التي تبدو مقنعة – تجذب الكثير من الاهتمام الإعلامي، كما هو الحال في المقال الأخير في نيويورك تايمز، الذكاء الاصطناعي يصبح أكثر قوة، ولكن هلوساته تزداد سوءًا. هلوسات الذكاء الاصطناعي هي خطر حقيقي عند التعامل مع بوت محادثة للمستهلك. في سياق التطبيقات التجارية للذكاء الاصطناعي، यह هو قلق أكثر جديًا. لحسن الحظ، كقائد تقني أعمال، لدي أكثر التحكم فيه. يمكنني التأكد من أن الوكيل لديه البيانات الصحيحة لإنتاج إجابة ذات معنى.

لأن هذا هو المشكل الحقيقي. في الأعمال، لا توجد عذر لهلوسات الذكاء الاصطناعي. أوقفوا لوم الذكاء الاصطناعي. اتهموا أنفسكم لعدم استخدام الذكاء الاصطناعي بشكل صحيح.

عندما يهلوس أدوات الذكاء الاصطناعي التوليدية، فإنها تفعل ما تم تصميمها لفعله – تقديم أفضل إجابة يمكنها استنادًا إلى البيانات المتاحة. عندما يخترعون أشياء، فإنهم ينتجون إجابة لا تستند إلى الواقع، لأنهم يفتقرون إلى البيانات ذات الصلة، أو لا يستطيعون العثور عليها، أو لا يفهمون السؤال. نعم، النماذج الجديدة مثل o3 و o4-mini تهلوس أكثر، وتتصرف بشكل أكثر “إبداعًا” عندما لا يكون لديهم إجابة جيدة للسؤال المطروح عليهم. نعم، الأدوات الأكثر قوة يمكن أن تهلوس أكثر – ولكنها يمكن أيضًا أن تنتج نتائج أكثر قوة وقيمة إذا قمنا بتشغيلها بنجاح.

إذا كنت لا تريد أن يهلوس الذكاء الاصطناعي الخاص بك، فلا تمنعه من البيانات. أطعم الذكاء الاصطناعي أفضل البيانات الأكثر صلة لمشكلة تريد حلها، وسيتم إعاقته عن الخروج عن الطريق.

حتى ذلك الحين، عند العمل مع أي أداة ذكاء اصطناعي، أوصي بالحفاظ على مهارات التفكير النقدي سليمة. النتائج التي تقدمها وكلاء الذكاء الاصطناعي يمكن أن تكون منتجة وممتعة، ولكن النقطة ليست في فصل دماغك وترك البرمجيات تفعل كل التفكير من أجلك. استمر في طرح الأسئلة. عندما يقدم وكيل الذكاء الاصطناعي إجابة، اطرح أسئلة حول هذه الإجابة للتأكد من أنها منطقية ومدعومة بالبيانات. إذا كان الأمر كذلك، فذلك يجب أن يكون علامة مشجعة على أن من المفيد أن تطرح أسئلة متابعة.

كلما سألت أكثر، زادت رؤيتك.

لماذا تحدث هلوسات الذكاء الاصطناعي

ليس من الغامض. الذكاء الاصطناعي لا يحاول أن يكذب عليك. كل نموذج لغة كبير (LLM) هو في الأساس يتنبأ بالكلمة أو الرقم التالي بناءً على الاحتمالية.

على مستوى عال، ما يحدث هنا هو أن النماذج اللغوية الكبيرة تجمع الجمل والفقرات كلمة تلو الأخرى، وتتنبأ بالكلمة التالية التي يجب أن تحدث في الجملة بناءً على مليارات الأمثلة الأخرى في بيانات التدريب. الأجداد للنماذج اللغوية الكبيرة (باستثناء Clippy) كانت أدوات إكمال تلقائي للرسائل النصية والرموز البرمجية، وأدوات ترجمة لغة بشرية تلقائية، وغيرها من الأنظمة اللغوية الاحتمالية. مع زيادة قوة الحوسبة الخام، بالإضافة إلى التدريب على مجالات بيانات على مستوى الإنترنت، أصبحت هذه الأنظمة “ذكية” بما يكفي لدرجة أن بإمكانها إجراء محادثة كاملة عبر الدردشة، كما تعلم العالم مع إدخال ChatGPT.

يحب أن يُشير منتقدو الذكاء الاصطناعي إلى أن هذا ليس نفس “الذكاء” الحقيقي، بل مجرد برنامج يمكنه استخلاص واعادة إنتاج الذكاء البشري الذي تم تغذيته. اطلب منه تلخيص البيانات في تقرير مكتوب، وسيحاكي الطريقة التي يلخص بها الكتاب الآخرون بيانات مماثلة.

هذا يبدو لي حجة أكاديمية طالما كانت البيانات صحيحة والتحليل مفيدًا.

ماذا يحدث إذا لم يكن لديه الذكاء الاصطناعي البيانات؟ يملأ الفراغات. أحيانًا يكون هذا مضحكًا. أحيانًا يكون هذا فوضى تامة.

عند بناء وكلاء الذكاء الاصطناعي، يكون هذا الخطر 10 أضعاف. وكلاء الذكاء الاصطناعي يُفترض أن يقدموا رؤى قابلة للتنفيذ، ولكنهم يتخذون المزيد من القرارات في الطريق. يقومون بتنفيذ مهام متعددة الخطوات، حيث ي告ي نتيجة الخطوة 1 الخطوات 2 و 3 و 4 و 5 … 10 … 20. إذا كانت نتائج الخطوة 1 غير صحيحة، فإن الخطأ سيتم تضخيمه، مما يجعل الإخراج في الخطوة 20 أسوأ. خاصةً لأن الوكلاء يمكنهم اتخاذ قرارات وتخطي خطوات.

عندما يتم تنفيذها بشكل صحيح، ينجز الوكلاء المزيد من الأعمال للشركة التي تعتمدها. ومع ذلك، كمسئولين عن منتجات الذكاء الاصطناعي، يجب أن ندرك المخاطر الأكبر التي ت伴ي المكافأة الأكبر.

وهذا ما فعلته فريقنا. رأينا المخاطر، وتعاملنا معها. لم نبني روبوتًا متقدمًا فقط؛ بل التزمنا بتشغيله على البيانات الصحيحة. ها هي ما أعتقد أننا فعلناه بشكل صحيح:

• ابنوا الوكيل لطرح الأسئلة الصحيحة وتأكيد أن لديه البيانات الصحيحة. تأكد من أن عملية إدخال البيانات الأولية للوكيل هي أكثر تحديدًا، وأقل “إبداعًا”. تريد أن يقول الوكيل عندما لا يكون لديه البيانات الصحيحة ولا يستمر في الخطوة التالية، بدلاً من اختراع البيانات.
• ابنوا كتاب إرشادات للوكيل – تأكد من أنه لا يخترع خطة جديدة كل مرة، بل لديه نهج شبه منظم. الهيكلة والسياق مهمين جدًا في مرحلة جمع البيانات وتحليلها. يمكنك أن تترك الوكيل يتصرف بشكل أكثر “إبداعًا” عندما يكون لديه الحقائق وجاهزًا لكتابة الملخص، ولكن أولًا احصل على الحقائق.
• ابنوا أداة عالية الجودة لاستخراج البيانات. يجب أن يكون هذا أكثر من مجرد مكالمة واجهة برمجة التطبيقات. خذ وقتك لكتابة الشفرة (الناس ما زالوا يفعلون ذلك) التي تجعل من كمية وتنوع البيانات التي سيتم جمعها، مع بناء فحص جودة في العملية.
• اجعل الوكيل يُظهر عمله. يجب على الوكيل أن يُشير إلى مصادره ويربط إلى حيث يمكن للمستخدم التحقق من البيانات، من المصدر الأصلي، والاستكشاف أكثر.
• حواجز أمان: فكر في ما قد ي goes wrong، وابنوا حماية ضد الأخطاء التي لا يمكنك تحملها. في حالتنا، هذا يعني أن الوكيل المكلف بتحليل السوق لا يخترع شيئًا عندما لا يكون لديه البيانات – والتي تعني بيانات Similarweb لدينا، وليس مصدر بيانات عشوائي تم سحبه من الويب – من الضروري أن لا يخترع شيئًا.

لقد دمجنا هذه المبادئ في إصدارنا الأخير من ثلاثة وكلاء جدد، مع المزيد قادمًا. على سبيل المثال، وكيلنا لتحضير الاجتماع بالذكاء الاصطناعي لرجال المبيعات لا يسأل فقط عن اسم الشركة المستهدفة، بل عن هدف الاجتماع ومن معه، مما يجعله جاهزًا لتقديم إجابة أفضل. لا يضطر إلى التخمين لأنه يستخدم ثروة من بيانات الشركة والبيانات الرقمية والمعلومات التنفيذية لإعلام توصياته.

هل وكلاؤنا مثاليون؟ لا. لا أحد يخلق الذكاء الاصطناعي المثالي بعد، حتى أكبر الشركات في العالم. ولكن مواجهة المشكلة هو أمر أفضل بكثير من تجاهلها.

هل تريد أن تقلل من هلوسات الذكاء الاصطناعي؟ اعط الذكاء الاصطناعي جزءًا جيدًا من البيانات عالية الجودة.

إذا هلوس، فربما ليس الذكاء الاصطناعي هو الذي يحتاج إلى إصلاح. ربما نهجك في الاستفادة من هذه القدرات الجديدة القوية دون بذل الوقت والجهد للحصول عليها بشكل صحيح هو الذي يحتاج إلى إصلاح.