توقف عن إلقاء اللوم على البيانات. ابدأ بإصلاح أهدافك

يتعلم الذكاء الاصطناعي منا. ونحن متحيزون.

نظرًا لأن الذكاء الاصطناعي يُدرب على محتوى يُنشئه البشر في الغالب، فإنه يلتقط تحيزاتنا ويُدمجها. لهذا السبب تتركز معظم المناقشات حول تحيز الذكاء الاصطناعي على البيانات السيئة. مدخل سيء، مخرج سيء. يبدو الأمر بسيطًا. لكن حتى مع البيانات النظيفة، لا يزال التحيز يتسلل.

قضية أكثر دقة وغالبًا ما تُغفل هي التحيز الموضوعي. هو أقل وضوحًا من مشكلة مجموعة البيانات ويُعد أحد أكبر التحديات لاستخدام الذكاء الاصطناعي الموجه للعملاء.

في هذه المقالة، سأتعمق في ما يبدو عليه التحيز الموضوعي كجزء من تجربة العميل (CX)، ولماذا يهم، وما الذي يمكن للعلامات التجارية فعله حيال ذلك.

تعريف التحيز الموضوعي

التحيز الموضوعي لا يتعلق ببيانات معطوبة. إنه يتعلق بنية معطوبة. يقوم الذكاء الاصطناعي بما يُطلب منه بالضبط، وإذا طُلب منه تعظيم الإيرادات، سيفعل ذلك — حتى وإن كان ذلك يعني الإضرار بالعلاقة مع العميل.

خذ شركة Delta Air Lines (DAL ). أعلنوا مؤخرًا التسعير المدعوم بالذكاء الاصطناعي المصمم لتحديد الحد الأقصى الذي يكون المستهلك مستعدًا لدفعه. إنه مثال مثالي على التحيز الموضوعي. النظام ليس مُدربًا لمساعدتك في العثور على صفقة جيدة. إنه مُدرب لزيادة التحويل وخفض التكاليف التشغيلية.

لنفترض أنك تحجز رحلة إلى باريس. تريد أفضل سعر، لكن النظام يريد أفضل هامش ربح. قد يعرض الذكاء الاصطناعي رحلة بسعر 800 دولار بينما تتوفر رحلة بسعر 400 دولار. ليس لأن الذكاء الاصطناعي مخطئ، بل لأنه يقوم بعمله.

ليس بالضبط النوع من التخصيص الذي يتوسل إليه المستهلكون …

لماذا هو حتمي

التحيز الموضوعي هو انعكاس لقيم علامتك التجارية وثقافتها وأولوياتها. إنه منسج في نسيج الذكاء الاصطناعي الخاص بك. السؤال الحقيقي هو: إلى أي اتجاه “يميل”؟ هل يفضّل أهداف العملاء أم أهداف الإيرادات؟

الفرق، المناطق والثقافات المختلفة لديها عقول مختلفة وستدرب نموذج الذكاء الاصطناعي بطرق مختلفة. إذا تولت المبيعات القيادة، سيميل نحو التحويل. إذا كانت مجموعة تجربة العملاء (CX) هي المسؤولة، قد يكون أكثر توافقًا مع الخدمة والتوفير.

نفس البنية، نتائج مختلفة.

الحل ليس إزالة التحيز تمامًا — بل توجيهه في الاتجاه الصحيح. احرص على توجيه تحيز الذكاء الاصطناعي نحو الولاء طويل الأمد، لا الانتصارات القصيرة الأمد.

عواقب الذكاء الاصطناعي غير المتوافق

أكبر خطر تواجهه العلامات التجارية عندما يتعلق الأمر بالتحيز الموضوعي هو فقدان الثقة.

العملاء سئموا بالفعل من التفاعلات العامة وغير ذات الصلة مع العلامة التجارية. عندما يجعل الذكاء الاصطناعي تلك التجارب أسوأ، يسبب الإحباط ويبعد المشتري عنك.

إذا تم تدريب نماذج اللغة الكبيرة (LLMs) على بيانات متحيزة ومبنية على افتراضات، فستنتج ردودًا غير شخصية. نتيجة لذلك، سيشعر العملاء أن العلامة التجارية لا تهتم بهم على الإطلاق. قد يشترون منك اليوم لكن من غير المرجح أن يظلوا مخلصين لعلامتك على المدى الطويل.

التجربة الآن هي ما يدفع الولاء. العديد من العملاء مستعدون حتى لدفع المزيد مقابلها. لذا، عندما يحاول الذكاء الاصطناعي رفع سعر منتج عالي الثمن لا يتناسب مع الحاجة، يلاحظون ذلك. يختارون الانسحاب. لا يعودون.

مشكلة الذكاء الاصطناعي الوكالي 

يتضخم هذا الخطر عندما ننظر إلى الذكاء الاصطناعي الوكالي.

Agentic AI مُصمم للعمل بشكل مستقل. يمكنه إكمال سير عمل متعدد الخطوات دون تدخل بشري. ولكن إذا كان منطق الذكاء الاصطناعي معطوبًا أو التدريب غير متوافق، فإن الضرر يتفاقم.

يتفق الخبراء على أن الذكاء الاصطناعي الوكالي لا يزال أمامه طريق طويل. في الواقع، يُظهر تقرير حديث أنه بينما يعرف تقريبًا جميع المديرين الماليين عن الذكاء الاصطناعي الوكالي، فإن فقط 15٪ يفكرون فيه بجدية. تشير البيانات المقابلة إلى أن القدرة على مراقبة التحيز بدقة ومنعه كانت عائقًا رئيسيًا أمام الاعتماد.

لا تزال معظم الأنظمة الوكالية تكافح مع الغموض والذاكرة المستمرة والمسؤولية. هذه تركيبة خطرة عندما لا توجد طريقة واضحة لتشخيص أو تصحيح الأخطاء أو التحيزات عند حدوثها.

لا ينبغي للعلامات التجارية الجلوس على الهامش، لكنها تحتاج إلى المضي قدمًا بشكل استراتيجي.

كيف يمكن للعلامات التجارية تقليل التحيز الموضوعي

لنكن واضحين: لا يمكنك القضاء على التحيز. أنت هو التحيز.

تشكل علامتك التجارية سلوك الذكاء الاصطناعي — للأفضل أو للأسوأ. هذه التحيزات موجودة بالفعل في تفاعلاتك الحالية مع العملاء. إنها في العوائق في عملية الإلغاء، شفافية الشروط والأحكام أو أنماط خادعة على موقعك.

الفرق مع تحيز الذكاء الاصطناعي هو النطاق. يمكن للذكاء الاصطناعي تضخيم تلك القرارات بسرعة أكبر ومع إشراف أقل بكثير، مما سيقوّض الأهداف طويلة الأمد مثل ولاء العلامة التجارية والقيمة طوال الحياة.

لهذا السبب تحتاج إلى الاستباق.

1. اطرح الأسئلة الصحيحة

قبل أن تبدأ رحلتك مع الذكاء الاصطناعي، توقف واسأل: “هل نمتلك فعلاً ما نحتاجه للقيام بذلك بشكل صحيح؟ هل يمكننا إنجازه دون تعريض تجربة المستهلك وعلامتنا التجارية للخطر؟”

الكثير من العلامات التجارية تقفز إلى الذكاء الاصطناعي لأنها لا تريد أن تتخلف. لكن محاولة مواكبة الآخرين ليست استراتيجية جيدة.

هل لديك بيانات العملاء المناسبة، والتكاملات، والحوكمة التي تدعم حالة استخدام ذكاء اصطناعي موجه للعميل دون زيادة التحيز؟ هل تفهم تماماً أهداف عملائك؟

إذا كان الجواب لا، أو حتى “نوعاً ما”، فأنت غير جاهز.

2. موازنة الأهداف

لتحقيق موازنة فعّالة بين أهداف العميل وأهداف الأعمال، فكر في احتياجات العميل كهدف، بينما تكون أهداف عملك هي الحدود. يجب أن يعمل الذكاء الاصطناعي داخل هذه الحدود، مع السعي لتحقيق نتيجة تضع العميل في المقام الأول. يمكنك أيضاً النظر إلى ذلك كوازن بين التفكير قصير الأجل وطويل الأجل.

المقاييس قصيرة الأجل، مثل الإيرادات لكل تفاعل، مهمة. لكنها غالباً ما تتعارض مع القيمة طويلة الأجل. حتى “Godfather of AI” warned against AI driven by short-term profit، لأن هذا النهج لا يتوسع.

قد يحقق الذكاء الاصطناعي هدفه من الإيرادات اليوم، لكن هل أنت مستعد لتبادل ولاء العملاء مقابل ربح سريع؟

فكر في مثال دلتا مرة أخرى. الاستراتيجية ذكية من الناحية التقنية ومتوافقة مع الأعمال. لكن المستهلكين لم يكونوا متحمسين لفكرة دفع المزيد مقابل تذاكر الطيران، وتضررت سمعة العلامة التجارية.

فكّر في جداول زمنية مدتها خمس سنوات. تحتاج إلى تنمية قيمة العميل مدى الحياة ببطء وبشكل مستدام.

3. فهم احتياجات عملائك المتطورة

ليس بشكل عام فقط، بل في كل حالة استخدام. ما الذي يحاولون تحقيقه؟

إذا لم تفهم ذلك، سيظل الذكاء الاصطناعي مجرد تخمين. لهذا تحتاج ملفات تعريف العملاء إلى أن تكون حديثة، كاملة، ومحددة، سواء على مستوى عالٍ أو على مستوى كل فرد.

الأقسام العامة والافتراضات القديمة لن تكون كافية. تحتاج إلى بيانات تمثل الشخص الحقيقي على الطرف الآخر من التفاعل. ذلك سيؤدي إلى فهم أعمق للعميل ويشكل أساس تدريب نماذج اللغة الكبيرة الخاصة بك.

نماذج التوليد المعززة بالاسترجاع (RAG) تساعد أيضاً هنا، حيث تستخرج من بيانات منقحة وذات صلة لتقدم للمستهلك تجربة أفضل للمهمة المحددة التي يحاول تنفيذها.

لكنها ليست تمريناً يُنجز مرة واحدة فقط. تتغير أهداف العملاء وتتحول توقعاتهم. تحتاج العلامات التجارية إلى تحديث أنظمة الذكاء الاصطناعي بانتظام لتعكس أحدث التطورات. وهذا يعني مراجعة بيانات التدريب وتسهيل التعلم المستمر، وليس مجرد تحسين المخرجات.

4. فحص موردي الذكاء الاصطناعي عن كثب

ليس كل الموردين متساوين، والوعود الكبيرة لا تعني دائماً نتائج كبيرة. اختر شركاء لديهم خبرة عملية وسجل حافل، وليس مجرد عروض تجريبية لامعة. الموردون الذين يمتلكون عقوداً من البيانات المتخصصة في مجالهم يمكنهم استخدامها لتدريب نماذج أفضل مقارنةً بعلامة تجارية جديدة تعتمد على مجموعات بيانات عامة.

قد يلاحظ عميلك الفرق في عمق البيانات عندما يحتاج إلى دعم متخصص.

وتذكر، إذا فشل الذكاء الاصطناعي في البيئة الحقيقية، سيتأثر علامتك التجارية. فقط اسأل الأشخاص المتأثرين بـ 2024 CrowdStrike outage (CRWD ). المستهلك المتوسط لم يلوم المزود. بل لامّ العلامات التجارية التي نشرت التقنية.

ابحث عن موردين قاموا بذلك من قبل، في صناعتك، مع حالات الاستخدام الخاصة بك. المعرفة المتخصصة تتفوق على الطموح في كل مرة.

5. بناء الحوكمة

إذا لم تحدد المنطق بوضوح وبشكل ثابت، سيبدأ الذكاء الاصطناعي في اتخاذ قرارات بناءً على الأنماط، وليس على السياسات. قد لا تمثل تلك الأنماط علامتك التجارية، أو قيمك، أو التزاماتك القانونية.

التنسيق المركزي وتحديد القواعد أمران حاسمان لضمان أن يقوم الذكاء الاصطناعي بما هو مطلوب منه—في كل مرة، عبر كل تفاعل مع العميل. بدون هذا النوع من الحوكمة، قد يتعامل نموذج واحد مع سؤال الفوترة بطريقة، بينما يقدم نموذج آخر إجابة مختلفة تماماً.

التزم بأفضل الممارسات في الصناعة واعتمد على risk management frameworks لحماية العلامة التجارية. الحوكمة الجيدة لن تبطئك. بل ستوفر عليك جهد التنظيف لاحقاً.

6. تحديد نطاق الذكاء الاصطناعي الوكالي بحذر

تجعل وسائل الإعلام الأمر يبدو كأن الأنظمة القائمة على الوكالة هي مستقبل كل شيء. في الواقع، معظم العلامات التجارية غير جاهزة، وهذا مقبول.

نظرًا لعدم وجود دليل كبير حتى الآن، ابدأ صغيرًا. شارك مع مزود تقنية قام بذلك من قبل ويمكنه إرشادك على طول الطريق. أعطِ الأولوية لتدفقات العمل منخفضة المخاطر ذات الخطوات المحددة بوضوح حيث يمكن الوثوق بمستوى الوكالة—ويُفضَّل أن تكون مملوكة لفريق واحد. عادةً ما تكون هذه الحالات ذات منطق واضح، ومسؤولية، وإشراف. ثم يمكنك التعلم والتوسع من هناك.

إذا شاركت فرق متعددة أو كان العملية تفتقر إلى الهيكل، لا تتوقع أن يعمل اتخاذ القرار الآلي لصالح عملائك.

لكي تكون ناجحًا حقًا، تحتاج الذكاء الاصطناعي الوكّالي إلى الوصول إلى ملف تعريف العميل الكامل والحديث. بدون سياق لحظي، حتى أفضل النماذج ستنتج تجارب منفصلة ومتحيزة.

التحيز مرآة، ليس عطلًا

الذكاء الاصطناعي لا يختلق التحيّز. إنه يعكس ما يُخبر به عبر البيانات، والتدريب، وأولويات الأعمال. لهذا السبب التوافق مهم. إذا لم تُصمم أنظمتك حول العميل، سيزيد الذكاء الاصطناعي الفجوة فقط.

لا يمكن إزالة التحيّز الموضوعي بالكامل، لكنه يمكن التحكم فيه.

اجعل الولاء طويل الأمد هدفك الأساسي. سيتبع ذلك البقية. عندما يُفلتر كل قرار نموذج عبر الاحتفاظ، والقيمة الدائمة، والثقة، تتناسق باقي الأولويات (الحكم، وفهم العميل، والأهداف المتوازنة) تلقائيًا.

الاختصارات اليوم تكلفك تقريبًا دائمًا غدًا، لكن إذا وضعت الولاء في صميم استراتيجيتك، يتحول الذكاء الاصطناعي من عبء إلى ميزة.