قادة الفكر
أوقفوا لوم البيانات. ابدأوا بتصحيح أهدافكم
يتعلم الذكاء الاصطناعي منا. ونحن متحيزون.
بسبب أن الذكاء الاصطناعي يتم تدريبه على المحتوى الذي يتم إنشاؤه في الغالب من قبل البشر ، فإنه يكتسب من تحيزاتنا ويدخلها في نظامه. هذا هو السبب في أن معظم المناقشات حول تحيز الذكاء الاصطناعي تركز على البيانات السيئة. الفوضى الداخلة ، الفوضى الخارجة. بسيط بما فيه الكفاية. ولكن حتى مع البيانات النظيفة ، يظل التحيز يخترق.
مشكلة أكثر دقة وأقل إهمالا هي تحيز الهدف. إنه أقل وضوحًا من مشكلة مجموعة البيانات وأحد أكبر التحديات لاستخدام الذكاء الاصطناعي في خدمة العملاء.
في هذا المقال ، سأغوص في ما يبدو تحيز الهدف كجزء من تجربة العملاء (CX) ، والسبب في أهميته وما يمكن للعلامات التجارية فعله حياله.
تعريف تحيز الهدف
تحيز الهدف ليس عن البيانات المعيبة. إنه عن النية المعيبة. يفعل الذكاء الاصطناعي بالضبط ما يُقال له ، وإذا قيل له أن يزيد من الإيرادات ، فسيفعل ذلك – حتى لو كان ذلك يعني تدمير العلاقة مع العميل.
خذ شركة دلتا للطيران على سبيل المثال. لقد أعلنوا مؤخرًا عن تسعير مدعوم بالذكاء الاصطناعي لتحديد أقصى ما هو مستعد أن يدفعه المستهلك. إنه مثال مثالي على تحيز الهدف. النظام لا يتم تدريبه لمساعدتك في العثور على صفقة جيدة. إنه مدرب لزيادة التحويل وتقليل التكاليف التشغيلية.
لنفترض أنك تحجز رحلة إلى باريس. تريد أفضل سعر ، ولكن النظام يريد أفضل هامش. قد يقدم الذكاء الاصطناعي رحلة تبلغ تكلفتها 800 دولار عندما يكون هناك رحلة تبلغ تكلفتها 400 دولار متاحة. ليس لأن الذكاء الاصطناعي مخطئ ، ولكن لأنه يفعل ما يُقال له.
ليس بالضبط نوع التخصيص الذي يطالب به المستهلكون …
لماذا من المحتمل أن يحدث
تحيز الهدف هو انعكاس لقيم علامتك التجارية وثقافتها وأولوياتها. إنه منسوج في نسيج الذكاء الاصطناعي الخاص بك. السؤال الحقيقي هو ، في أي اتجاه “ينحرف”? هل يفضل أهداف العملاء أو أهداف الإيرادات؟
الفرق بين هذه الأهداف يعتمد على الفريق أو المنطقة أو الثقافة. إذا كان فريق المبيعات يتحكم ، فمن المحتمل أن ينحرف نحو التحويل. إذا كان فريق خدمة العملاء مسؤولاً ، فقد يكون أكثر انسجامًا مع الخدمة والادخار.
نفس البنية ، نتائج مختلفة.
الحل ليس في إزالة التحيز完全ًا – بل في توجيهه في الاتجاه الصحيح. تحيز الذكاء الاصطناعي لتحقيق ولاء طويل الأمد ، وليس الانتصارات قصيرة الأمد.
عواقب الذكاء الاصطناعي غير المتوافق
أحد أكبر المخاطر التي تواجه العلامات التجارية عند التعامل مع تحيز الهدف هو فقدان الثقة.
المستهلكون بالفعل متعبون من التفاعلات العامة غير المرتبطة بالعلامة التجارية. عندما يجعله الذكاء الاصطناعي أسوأ ، يؤدي ذلك إلى إحباطهم وتنفيرهم.
إذا تم تدريب نماذج اللغة الكبيرة (LLM) على بيانات متحيزة ومدفوعة بالافتراضات ، فسيؤدي ذلك إلى إنتاج استجابات غير شخصية. ونتيجة لذلك ، سيشعر العملاء أن العلامة التجارية لا تعني لهم شيئًا. قد يشتري منك اليوم ، لكنهم أقل احتمالاً للبقاء مع علامتك التجارية في المستقبل.
التجربة الآن تقود الولاء. العديد من العملاء على استعداد لدفع المزيد مقابل ذلك. لذلك ، عندما يحاول الذكاء الاصطناعي بيع منتج باهظ الثمن لا يتناسب مع الاحتياجات ، يلاحظون ذلك. يختارون الخروج. لا يعودون.
مشكلة الذكاء الاصطناعي العامل
تتضخم تلك المخاطر عندما ننظر إلى الذكاء الاصطناعي العامل.
الذكاء الاصطناعي العامل مبني على العمل بشكل مستقل. يمكنه إكمال سير عمل متعددة الخطوات دون تدخل بشري. ولكن إذا كانت منطق الذكاء الاصطناعي معيبًا أو التدريب غير متوافق ، تزيد الأضرار.
يتفق الخبراء على أن الذكاء الاصطناعي العامل لا يزال بعيدًا. في الواقع ، تُظهر تقرير حديث أن معظم مديري المالية يзнаون عن الذكاء الاصطناعي العامل ، ولكن فقط 15٪ يفكرون جديًا في ذلك. تشير البيانات المقابلة إلى أن القدرة على رصد التحيز بدقة ومنعه كان حجر عثرة رئيسيًا أمام اعتماد الذكاء الاصطناعي.
ما زالت معظم الأنظمة العاملة تعاني من الغموض والذاكرة المستمرة والمساءلة. هذا مزيج خطير عندما لا توجد طريقة واضحة لتشخيص أو تصحيح الأخطاء أو التحيزات أثناء حدوثها.
لا ينبغي للعلامات التجارية أن تجلس على الأرصفة ، لكنها تحتاج إلى المضي قدمًا بشكل استراتيجي.
كيف يمكن للعلامات التجارية تقليل تحيز الهدف
لنكون واضحين: لا يمكنك إزالة التحيز. أنت هي التحيز.
شكلت علامتك التجارية سلوك الذكاء الاصطناعي – للأسوأ أو للأفضل. هذه التحيزات موجودة بالفعل في تفاعلاتك الحالية مع العملاء. موجودة في الاحتكاك في تدفق الإلغاء ، وشفافية الشروط والأحكام أو الأنماط المظلمة على موقعك الإلكتروني.
الفرق مع تحيز الذكاء الاصطناعي هو النطاق. يمكن للذكاء الاصطناعي تضخيم تلك القرارات بشكل أسرع وأقل رقابة ، مما يؤدي إلى تآكل الأهداف طويلة الأمد مثل ولاء العلامة التجارية والقيمة مدى الحياة.
لذلك عليك أن تتقدم قبل ذلك:
1. اسأل الأسئلة الصحيحة
قبل أن تبدأ رحلتك مع الذكاء الاصطناعي ، أوقف واسأل: “هل لدينا بالفعل ما نحتاجه لفعل ذلك بشكل صحيح؟ هل يمكننا القيام بذلك دون وضع تجربة المستهلك وسمعتنا في خطر؟”
تجاوزت علامات تجارية كثيرة إلى الذكاء الاصطناعي لأنها لا تريد أن ت 落 وراء. لكن محاولة مواكبة جونز هو استراتيجية سيئة.
هل لديك البيانات الصحيحة ، والتكامل ، والحوكمة لدعم حالة استخدام الذكاء الاصطناعي في خدمة العملاء دون زيادة التحيز؟ هل تفهم تمامًا أهداف عملائك؟
إذا كان الجواب لا ، أو حتى “ربما” ، فأنت لست مستعدًا.
2. توازن الأهداف
لتوازن الأهداف الفعال ، فكر في احتياجات العملاء كهدف ، بينما تكون أهدافك التجارية هي الحدود. يجب أن يعمل الذكاء الاصطناعي داخل تلك الحدود ، ولكن يهدف إلى نتيجة تضع العملاء في المقام الأول. يمكنك أيضًا النظر إليه على أنه توازن بين التفكير قصير الأمد وطويل الأمد.
المقاييس قصيرة الأمد ، مثل الإيرادات لكل互одействة ، مهمة. لكنها غالبًا ما تتعارض مع القيمة طويلة الأمد. حتى “أبو الذكاء الاصطناعي” حذر ضد الذكاء الاصطناعي الذي يُ驱ى من أجل الربح قصير الأمد ، لأن ذلك العقلية لا تتناسب مع النمو.
قد يصل الذكاء الاصطناعي إلى هدف الإيرادات اليوم ، لكن هل أنت مستعد لتجارة ولاء العملاء من أجل الربح السريع؟
فكر مرة أخرى في مثال دلتا. الاستراتيجية ذكية تقنيًا ومتوافقة مع الأعمال. لكن المستهلكين لم يكونوا سعداء بالفكرة التي تدفع المزيد من النقود مقابل تذاكر الطيران ، و العلامة التجارية تلقت ضربة.
فكر في أفق زمني يبلغ خمس سنوات. عليك أن تنمو قيمة العمر ببطء ومستدام.
3. افهم احتياجات عملائك المتغيرة
ليس فقط بشكل عام ، ولكن في كل حالة استخدام. ما هم يحاولون إنجازه؟
إذا لم تفهم ذلك ، فإن الذكاء الاصطناعي سيكون مجرد تخمين. هذا هو السبب في أن ملفات تعريف العملاء الخاصة بك يجب أن تكون حديثة و كاملة و محددة ، على المستوى العام و على مستوى الفرد.
القطاعات الواسعة والافتراضات القديمة لن تكون كافية. تحتاج إلى بيانات تمثل الشخص الحقيقي على الجانب الآخر من التفاعل. هذا سوف يقود إلى فهم أعمق للعميل وسيشكل أساس تدريب نماذج LLM.
ولكنه ليس تمرينًا واحدًا. تتحول أهداف العملاء وتتغير التوقعات. علامات تجارية تحتاج إلى تحديث أنظمة الذكاء الاصطناعي بانتظام لتعكس أحدث التطورات. هذا يعني إعادة النظر في بيانات التدريب وتسهيل التعلم المستمر ، وليس فقط تعديل الإخراج.
4. فحص باعة الذكاء الاصطناعي بعناية
ليس جميع البائعين متساوين ، والوعد الكبير لا يعني دائمًا نتائج كبيرة. اختر شركاء حقيقيين مع خبرة في العالم الحقيقي وسجل حافل ، وليس فقط عروض تجريبية مثيرة. يمكن للبائعين الذين لديهم عقود من البيانات الخاصة بالمنطقة استخدامها لتدريب نماذج أفضل مقارنة bằng علامة تجارية جديدة تعتمد على مجموعات بيانات عامة.
العملاء قد يلاحظون الفرق في عمق البيانات عندما يحتاجون إلى دعم متخصص.
تذكر ، إذا فشل الذكاء الاصطناعي في البرية ، فإن علامتك التجارية ستتأثر. اسأل الأشخاص المتأثرين bằng عطل CrowdStrike لعام 2024. لم يلوم المستهلك العادي المزود. لوموا العلامات التجارية التي نشرت التكنولوجيا.
ابحث عن بائعين قاموا بذلك من قبل ، في صناعتك ، مع حالات استخدامك. معرفة المجال تفوق الطموح دائمًا.
5. بناء الحوكمة
إذا لم تعرف المنطق بوضوح وثبات ، فإن الذكاء الاصطناعي سوف يبدأ في اتخاذ قرارات بناءً على الأنماط ، وليس السياسات. تلك الأنماط قد لا تمثل علامتك التجارية أو قيمك أو التزاماتك القانونية.
التحكم المركزي ووضع القواعد ضروريان لضمان أن الذكاء الاصطناعي يفعل ما يُفترض أن يفعله – كل مرة ، في كل互одействة مع العملاء. بدون هذا النوع من الحوكمة ، قد يتعامل نموذج واحد مع سؤال الفاتورة بطريقة واحدة ، بينما يعطى نموذج آخر إجابة مختلفة تمامًا.
اتبع أفضل الممارسات في الصناعة واعتماد إطارات إدارة المخاطر لحماية العلامة التجارية. الحوكمة الجيدة لن تبطئك. سوف تنقذك من التنظيف فيما بعد.
6. نطاق الذكاء الاصطناعي العامل بحذر
يبدو الإعلام وكأنه يُجعل من أنظمة الوكيل مستقبل كل شيء. في الواقع ، معظم العلامات التجارية ليست مستعدة ، وهذا موافق.
منذ أن لا يوجد الكثير من الأدلة حتى الآن ، ابدأ ببطء. شريك مع مزود تكنولوجي الذي قام بذلك من قبل ويمكنه إرشادك على طول الطريق. أعد أولوية سير العمل منخفضة المخاطر مع خطوات محددة بوضوح حيث يمكن الثقة بمستوى الوكالة – المثالي ، مملوك من قبل فريق واحد. هذه الحالات عادة ما تكون لها منطق واضح ومساءلة ومراقبة. ثم يمكنك التعلم والنمو من هناك.
إذا كان هناك العديد من الفرق المشاركة أو عملية تفتقر إلى البنية ، فلا تتوقع أن تعمل اتخاذ القرار الآلي من أجل عملائك.
لتحقيق النجاح الحقيقي ، يتطلب الذكاء الاصطناعي العامل الوصول إلى ملف تعريف عميل كامل و aktu. بدون السياق في الوقت الفعلي ، حتى أفضل النماذج سوف تنتج تجارب غير متصلة و متحيزة.
التحيز هو مرآة ، وليس عطلًا
الذكاء الاصطناعي لا يخترع التحيز. إنه يعكس ما يُقال له من خلال البيانات والتدريب وأولويات الأعمال. هذا هو السبب في أن التناسب مهم. إذا لم يتم تصميم أنظمتك حول العملاء ، فإن الذكاء الاصطناعي سوف يوسع الفجوة فقط.
لا يمكن إزالة تحيز الهدف بالكامل ، لكن يمكن إدارته.
اجعل الولاء طويل الأمد هدفك الأول. سوف يتبع الباقي. عندما يتم تمرير كل قرار نموذج عبر الاحتفاظ و قيمة العمر والثقة ، فإن أولويات أخرى (الحوكمة ، وفهم العملاء ، والأهداف المتوازنة) تتبع بشكل طبيعي إلى مكانها.
القرارات قصيرة الأجل تقريبًا دائمًا تكلفك غدًا ، لكنه يتقدم مع الولاء في قلب استراتيجيتك ، والذكاء الاصطناعي يتحول من عيب إلى ميزة.
