كلما كانت القرار أكثر حرجة، كان من الأفضل ألا يعمل الذكاء الاصطناعي وحده

يبدو أن وكلاء الذكاء الاصطناعي لديهم مشكلة تتنكر في شكل عرض عن مزاياهم. يتحدث الوكيل بثقة ويكتب بلباقة، ويعالج المعلومات بشكل أسرع من الإنسان. هذا يمكن أن يعطي انطباعًا بأن الذكاء الاصطناعي جاهز للعمل بشكل مستقل. في الواقع، بمجرد أن تتضمن القرار أموال حقيقية، وتوقعات العملاء، والثقة، لا ينبغي للذكاء الاصطناعي أن يكون نظامًا مستقلًا، لأنه لا يزال يحتاج إلى إشراف البالغين.

لم تُستخلص هذه الدرس من النظرية – بل تم تعلمها من خلال الاختبار، عندما كان الذكاء الاصطناعي لخدمة نمط الحياة الفاخرة قادرًا على التفاعل مع العملاء الحقيقيين.

النصيحة الحسنة التي يمكن أن تكون خطيرة

في الاختبارات الأولى للتطبيق الإداري الذكي، بدا النظام مثيرًا للإعجاب في البداية. يمكنه وضع قائمة مختصرة من المطاعم، وتقديم خيارات الترفيه، وكتابة جداول لأنشطة محلية، ودمج كل ذلك في توصيات واضحة عالية الجودة. لكن في حوالي 15% من الحالات، اخترع التفاصيل – وفعل ذلك بطريقة مقنعة بما يكفي لكي تكون مقبولة.

هناك مثال جعل هذه المشكلة غير قابلة للتجاهل: أوصى الذكاء الاصطناعي بمطعم في دبي كان قد أغلق قبل ثمانية أشهر. عندما سُئل عن ذلك، لم يتردد أو يعترف بأنه قد أخطأ. ضاعف الوكيل التأكيد من خلال اختراع تقييم وذكرها.

في مرة أخرى، الخلط بين وكيل بار للوجبات الخفيفة على جانب الشارع ومطعم حائز على نجمة ميشلان لأن الأسماء كانت متشابهة إلى حد ما. لو لم يراجع إنسان الطلب، قد ينتهي العميل بخدمة التوصيل التي لا تشبه ما كان مخططًا له.

ثم هناك حادث مع لعبة البادل. سأل العميل عن نادي رياضي يحتوي على ملاعب بادل. كان الوكيل على وشك توجيهه إلى مكان يحتوي فقط على ملاعب تنس. لماذا؟ لأن الوكيل وجد في بيانات المصدر مقالًا إخباريًا يفيد بأن ملاعب البادل مخطط لها أن تبنى هناك، وقام بتحويل “مخطط لها” إلى “توجد بالفعل”. هذا هو ما يجعل النماذج تجربة مخاطرة في قطاع الخدمات: حتى لو لم يكن للذكاء الاصطناعي بيانات كاملة ودقيقة، فإنه لا يتوقف – بل يعتمد علىImprovisation.

هلوسات الذكاء الاصطناعي كتهديد للأعمال

ليست هذه المشكلة محصورة في صناعة السياحة – بل تكمن في تطبيق الذكاء الاصطناعي نفسه.

في حدود معينة، يعمل الذكاء الاصطناعي بشكل رائع. يمكنك تزويد الوكيل ببيانات منظمة، وواجهات برمجة تطبيقات حديثة، وسوف يتفوق عليك بفارق كبير. سوف يصنف الحالات وفقًا لسبعة عشر معاملًا، ويفحص القواعد على الفور، ويولد مسودات جاهزة للاستخدام في ثوانٍ. لكن العالم الحقيقي يختلف عن قاعدة بيانات منظمة. الواقع مليء بالحالات النادرة، والمعلومات القديمة، والتفضيلات الغامضة، والكلمات الغامضة، والفجوات التشغيلية.

هنا تبدأ هلوسات الذكاء الاصطناعي في تشكيل خطرًا على الأعمال. أظهرت الدراسات مرارًا وتكرارًا أن هلوسات الذكاء الاصطناعي يمكن أن تدمر الثقة على الفور، خاصة عندما يتلقى العميل معلومات متقنة ولكن غير دقيقة في لحظة اتخاذ القرار. الناس يستخدمون بالفعل مخططات الذكاء الاصطناعي، لكن الثقة لا تزال ناقصة.

أفراد الحصول على الثروة العالية كاختبار قاس للذكاء الاصطناعي

هيا نرفع المراهنة.

يمكن للذكاء الاصطناعي التعامل بسهولة مع المهام القياسية – مثل حجز رحلة من لندن إلى دبي: الدرجة التجارية، فندق من فئة أربع نجوم لمدة ثلاث ليال. الاختبار الحقيقي هو طلب من فرد ذو ثروة عالية: إنه ذكرى زواجه. ذكرت أنها تحب مطعمًا في أمالفي به باب أزرق. تحب الزهرة البيونية لكنها تكره الورود، وسوف تشعر بالراحة مع سائق يتحدث الفرنسية.

يبدو هذا الطلب أنيقًا، لكن من الناحية التشغيلية، إنه حقل ألغام. سوف يقترح الوكيل خيارات، لكنه قد يقدم أيضًا معلومات خاطئة بنسبة 40% مع ثقة تامة.

العملاء في قطاع الفخامة وأفراد الحصول على الثروة العالية يكشفون عن حدود الذكاء الاصطناعي بشكل أسرع من أي اختبار، لأن طلباتهم ليست معيارية، وتوقعاتهم عاطفية ومرتبطة بالسياق ومتخصصة للغاية. في معظم الأحيان، تكون هذه الطلبات صعبة التحقق منها تلقائيًا.

علاوة على ذلك، فشل خدمة العملاء في هذا القطاع لن ينتهي ببساطة بالاسترداد. سوف يضر بسمعة الشركة، لأن التوصيات والثقة حاسمة في هذا القطاع.

الموظفون الحقيقيون يتعاملون مع هذه هلوسات كل يوم. لاحظوا المطعم الذي ي happened إلى أن يكون مغلقًا في الثلاثاء الذي وصل فيه العميل، والتنزه السريع لمدة خمس دقائق الذي ي turned out يكون في الواقع رحلة ترفع لمدة خمس وعشرين دقيقة مع الأمتعة. لن يتجاهل خبير مدرب مطعم بوتيك يبدو مثاليًا في الصور لكنه مغطى بالسcaffolding بسبب التجديدات.

لماذا يتطلب قطاع التكنولوجيا المالية الدقة وليس السرعة

يمكننا تطبيق نفس المنطق على قطاع التكنولوجيا المالية ككل. يمكن للذكاء الاصطناعي تحليل المنتجات، ومقارنة الخيارات، وتحديد الشذوذ، وتقديم توصيات بسرعة وفعالية. لكن عندما يتعلق الأمر بالمال، لا يوجد تحمل لأخطاء عشوائية.

تضطر شركات التكنولوجيا المالية الآن دفع ثمن القرارات التي اتخذتها الآلية – في شكل خسارة ثقة العملاء. تطبق الشركات الناجحة آليات التحكم في البداية، بدلاً من إدخالها بشكل متأخر بعد أن حدث الضرر؛ يتضمن النموذج الصحيح الإشراف البشري.

تتطلب طبقة التحقق الإضافية بين الذكاء الاصطناعي والعميل – مرحلة يتم فيها التحقق من النتيجة بدقة وأمان. في المجالات التي يكون فيها تكلفة الخطأ عالية، تصبح هذه الطبقة أساس المنتج.

مفهوم أكثر فائدة هو البنية التحتية. يجب على الذكاء الاصطناعي التركيز على المهام المنظمة: البحث، والفرز، والمقارنة، وكتابة المسودات. في هذه العملية، يجب على البشر اتخاذ القرارات النهائية. مع مرور الوقت، قد تصبح بعض عمليات العمل مستقرة بما يكفي لتكون آليّة بالكامل. في ذلك الحين، من المحتمل أن يكون من الممكن إنشاء معيار، لكن هذا يجب أن يتم على أساس الأدلة، وليس على الإيمان.

قد تبدو هذه الأفكار أقل إلهامًا من المستقبل الكامل الذكاء الاصطناعي، لكن هذا هو بالضبط كيف سوف تنجح الشركات الجادة في النهاية.