قادة الفكر
إذا كان الذكاء الاصطناعي الخاص بك يهلوس ، لا تلوم الذكاء الاصطناعي
هلوسات الذكاء الاصطناعي – تلك الإجابات التي تبدو مقنعة ولكنها كاذبة – تجذب الكثير من الانتباه الإعلامي ، كما هو الحال مع المقال الأخير في نيويورك تايمز ، الذكاء الاصطناعي يصبح أكثر قوة ، ولكن هلوساته تزداد سوءًا. هلوسات الذكاء الاصطناعي هي خطر حقيقي عند التعامل مع بوت محادثة للمستهلكين. في سياق التطبيقات التجارية للذكاء الاصطناعي ، فهو قلق أكثر جديًا.幸运ًا ، كقائد تقني للأعمال ، لدي أكثر من السيطرة عليه. يمكنني التأكد من أن الوكيل لديه البيانات الصحيحة لإنتاج إجابة ذات معنى.
لأن هذا هو المشكلة الحقيقية. في الأعمال ، لا توجد عذر لهلوسات الذكاء الاصطناعي. أوقفوا لوم الذكاء الاصطناعي. لوموا نفسكم على عدم استخدام الذكاء الاصطناعي بشكل صحيح.
عندما تهلوس أدوات الذكاء الاصطناعي التوليدية ، فإنها تفعل ما تم تصميمها لفعله – تقديم أفضل إجابة يمكنها تقديمها بناءً على البيانات المتاحة. عندما يخترعون الأشياء ، وينتجون إجابة لا تستند إلى الواقع ، إنه لأنهم يفتقرون إلى البيانات ذات الصلة ، أو لا يستطيعون العثور عليها ، أو لا يفهمون السؤال. نعم ، النماذج الجديدة مثل o3 و o4-mini من OpenAI تهلوس أكثر ، وتتصرف بشكل أكثر “إبداعًا” عندما لا يكون لديها إجابة جيدة للسؤال المطروح. نعم ، يمكن للأدوات الأكثر قوة أن تهلوس أكثر – ولكنها يمكن أيضًا أن تنتج نتائج أكثر قوة وقيمة إذا قمنا بضبطها للنجاح.
إذا كنت لا تريد أن يهلوس الذكاء الاصطناعي الخاص بك ، فلا تجوعه من البيانات. أطعم الذكاء الاصطناعي أفضل البيانات الأكثر صلة لمشكلة تريد حلها ، ولن يتم إغراءه بالابتعاد.
حتى ذلك الحين ، عند العمل مع أي أداة ذكاء اصطناعي ، أوصي بالحفاظ على مهارات التفكير النقدي سليمة. يمكن أن تكون النتائج التي تقدمها وكلاء الذكاء الاصطناعي منتجة وممتعة ، ولكن النقطة ليست في فصل دماغك وترك البرمجيات تفكر من أجلك. استمر في طرح الأسئلة. عندما يقدم وكيل الذكاء الاصطناعي إجابة ، فقم بطرح أسئلة حول تلك الإجابة للتأكد من أنها منطقية ومدعومة بالبيانات. إذا كان الأمر كذلك ،那么 ذلك يجب أن يكون علامة مشجعة على أن من المفيد أن تقوم بطرح أسئلة متابعة.
كلما سألت أكثر ، زادت رؤى أفضل التي ستحصل عليها.
لماذا تحدث هلوسات الذكاء الاصطناعي
ليس من الغامض. الذكاء الاصطناعي لا يحاول أن يكذب عليك. كل نموذج لغة كبير (LLM) من الذكاء الاصطناعي يتنبأ بشكل أساسي بالكلمة أو الرقم التالي بناءً على الاحتمال.
على مستوى عال ، ما يحدث هنا هو أن LLMs يرتبطون الجمل والفقرات كلمة تلو الأخرى ، ويتنبؤون بالكلمة التالية التي يجب أن تحدث في الجملة بناءً على مليارات الأمثلة الأخرى في بيانات التدريب. الأجداد من LLMs (باستثناء Clippy) كانت أدوات تكميل تلقائي للرسائل النصية والرموز البرمجية ، وأدوات ترجمة لغة بشرية آلية ، وغيرها من الأنظمة اللغوية الاحتمالية. مع زيادة قوة الحوسبة ، بالإضافة إلى التدريب على مجالات بيانات على مستوى الإنترنت ، أصبحت هذه الأنظمة “ذكية” بما يكفي لدرجة أنها يمكن أن تcarry على محادثة كاملة عبر الدردشة ، كما تعلم العالم مع إدخال ChatGPT.
يحب منتقدو الذكاء الاصطناعي أن يشيروا إلى أن هذا ليس نفس “الذكاء” الحقيقي ، بل هو برنامج يمكن أن يضفي ويعيد إنتاج الذكاء البشري الذي تم تغذيته إليه. اسأله أن يلخص البيانات في تقرير مكتوب ، ويميت cách كتابته لملخصات مماثلة.
يبدو لي أن هذا حجة أكاديمية طالما كانت البيانات صحيحة والتحليل مفيدًا.
ماذا يحدث إذا لم يكن لديك الذكاء الاصطناعي البيانات؟ يملأ الفراغات. أحيانًا يكون هذا ممتعًا. أحيانًا يكون هذا فوضى كاملة.
عندما يتم بناء وكلاء الذكاء الاصطناعي ، هذا هو 10 أضعاف المخاطر. وكلاء يفترض أن يقدموا رؤى قابلة للتنفيذ ، ولكنهم يتخذون المزيد من القرارات في الطريق. إنهم ينفذون مهام متعددة ، حيث يؤثر نتيجة الخطوة 1 على الخطوات 2 و 3 و 4 و 5 … 10 … 20. إذا كانت نتائج الخطوة 1 غير صحيحة ، فإن الخطأ سوف يزيد ، مما يجعل الإخراج في الخطوة 20 أسوأ.
عندما يتم تنفيذها بشكل صحيح ، فإن وكلاء الذكاء الاصطناعي ينجزون المزيد من الأعمال التجارية التي يployهم. ومع ذلك ، كمسئولين عن إدارة المنتجات الذكية ، يجب أن نتعرف على المخاطر الأكبر التي ت伴ي المكافأة الأكبر.
الذي قام فريقنا بفعله. رأينا المخاطر ، وتناولناها. لم نبنِ مجرد روبوت أنيق ؛ بل تأكدنا من أن روبوت يعمل على البيانات الصحيحة. هذا ما أعتقد أننا فعلناه بشكل صحيح :
- ابنِ الوكيل لطرح الأسئلة الصحيحة والتأكد من أن لديه البيانات الصحيحة. تأكد من أن عملية إدخال البيانات الأولية للوكيل هي أكثر تحديدًا ، وأقل “إبداعًا”. تريد أن يقول الوكيل عندما لا يكون لديه البيانات الصحيحة ولا يستمر إلى الخطوة التالية ، بدلاً من اختراع البيانات.
- هيكل كتاب للوكيل – تأكد من أنه لا يخترع خطة جديدة كل مرة ، بل لديه نهج شبه منظم. الهيكل والسياق مهمون جدًا في مرحلة جمع البيانات وتحليلها. يمكنك أن تترك الوكيل يتصرف بشكل أكثر “إبداعًا” عندما يكون لديه الحقائق وجاهز لكتابة الملخص ، ولكن أولاً احصل على الحقائق بشكل صحيح.
- ابنِ أداة عالية الجودة لاستخراج البيانات. يجب أن يكون هذا أكثر من مجرد مكالمة API. خذ وقتك لكتابة الشفرة (لا يزال الناس يفعلون ذلك) التي تجعل كمية وتنوع البيانات التي سيتم جمعها ، مع بناء فحوصات جودة في العملية.
- اجعل الوكيل يظهر عمله. يجب على الوكيل أن يذكر مصادره ويربط إلى حيث يمكن للمستخدم التحقق من البيانات ، من المصدر الأصلي ، والاستكشاف أكثر. لا يسمح بأي خدعة!
- حواجز أمان: فكر في ما يمكن أن ي goes wrong ، وaben في الحماية ضد الأخطاء التي لا يمكنك أن تسمح بها. في حالتنا ، هذا يعني أن الوكيل المكلف بتحليل السوق لا يخترع شيئًا عندما لا يكون لديه البيانات – والتي تعني بياناتنا في Similarweb ، وليس مصدر بيانات عشوائي تم سحبه من الويب – هو حاجز أمان أساسي. من الأفضل للوكيل ألا يستطيع الإجابة على السؤال بدلاً من تقديم إجابة كاذبة أو خادعة.
لقد دمجنا هذه المبادئ في إصدارنا الأخير من ثلاثة وكلاء جدد ، مع المزيد قادمًا. على سبيل المثال ، لا الحصر ، وكيلنا الذكي للمैठकات للمبيعات لا يسأل فقط عن اسم الشركة المستهدفة ، بل أيضًا عن تفاصيل حول هدف الاجتماع ومن هو معه ، مما يجعله جاهزًا لتقديم إجابة أفضل. لا يضطر إلى الخوض في الأمر لأنه يستخدم ثروة من بيانات الشركة والبيانات الرقمية وملفات تعريف التنفيذيين لإعلام توصياته.
هل وكلاؤنا مثاليون؟ لا. لا أحد يخلق وكلاء ذكاء اصطناعي مثاليين بعد ، حتى أكبر الشركات في العالم. لكن مواجهة المشكلة هو أفضل بكثير من تجاهلها.
هل تريد أن تقلل من هلوسات الذكاء الاصطناعي؟ امنح الذكاء الاصطناعي جزءًا جيدًا من بيانات عالية الجودة.
إذا هلوس ، ربما لا يحتاج الذكاء الاصطناعي إلى إصلاح. ربما تحتاج إلى تغيير نهجك للاستفادة من هذه القدرات الجديدة القوية دون بذل الجهد اللازم لجعلها صحيحة.
