डेटा को दोष देना बंद करें। अपने उद्देश्यों को ठीक करना शुरू करें।

एआई हमसे सीखता है। और हम पूर्वाग्रह से ग्रस्त हैं।

क्योंकि एआई मुख्य रूप से मानव-निर्मित सामग्री पर प्रशिक्षित होता है, यह हमारे पूर्वाग्रहों को पकड़ लेता है और उन्हें इसमें शामिल कर लेता है। यही कारण है कि एआई पूर्वाग्रह के बारे में अधिकांश चर्चाएं खराब डेटा पर केंद्रित होती हैं। कचरा अंदर, कचरा बाहर। सरल पर्याप्त। लेकिन साफ डेटा के साथ भी, पूर्वाग्रह अभी भी घुसपैठ करता है।

एक अधिक सूक्ष्म और अक्सर अनदेखी समस्या उद्देश्य पूर्वाग्रह है। यह डेटासेट समस्या की तुलना में कम दिखाई देता है और ग्राहक-सामना करने वाले एआई उपयोग के लिए सबसे बड़ी चुनौतियों में से एक है।

इस लेख में, मैं ग्राहक अनुभव (सीएक्स) के हिस्से के रूप में उद्देश्य पूर्वाग्रह की तरह दिखता है, यह क्यों मायने रखता है और ब्रांड वास्तव में इसके बारे में क्या कर सकते हैं, इस पर गहराई से जाऊंगा।

उद्देश्य पूर्वाग्रह की परिभाषा

उद्देश्य पूर्वाग्रह खराब डेटा के बारे में नहीं है। यह खराब इरादे के बारे में है। एआई ठीक वही करता है जो उसे करने के लिए कहा जाता है, और यदि उसे राजस्व को अधिकतम करने के लिए कहा जाता है, तो यह करेगा – भले ही इसका मतलब ग्राहक के साथ संबंध को नुकसान पहुंचाना हो।

डेल्टा एयर लाइंस लें। उन्होंने हाल ही में एआई-संचालित मूल्य निर्धारण की घोषणा की जो उपभोक्ता द्वारा भुगतान की जाने वाली अधिकतम राशि का निर्धारण करने के लिए डिज़ाइन की गई है। यह उद्देश्य पूर्वाग्रह का एक आदर्श उदाहरण है। सिस्टम आपको एक अच्छा सौदा खोजने में मदद करने के लिए प्रशिक्षित नहीं है। यह रूपांतरण को बढ़ाने और परिचालन लागत को कम करने के लिए प्रशिक्षित है।

मान लें कि आप पेरिस की यात्रा बुक कर रहे हैं। आप सबसे अच्छा किराया चाहते हैं, लेकिन सिस्टम सबसे अच्छा मार्जिन चाहता है। एआई $800 की उड़ान की पेशकश कर सकता है जब $400 की एक उपलब्ध है। न कि इसलिए कि एआई गलत है, बल्कि इसलिए कि यह अपना काम कर रहा है।

ग्राहकों द्वारा जिस तरह की व्यक्तिगतीकरण की मांग की जा रही है, वह ठीक वैसा नहीं है …

यह क्यों अपरिहार्य है

उद्देश्य पूर्वाग्रह आपके ब्रांड के मूल्यों, संस्कृति और प्राथमिकताओं का प्रतिबिंब है। यह आपके एआई में बुना हुआ है। असली सवाल यह है कि यह किस दिशा में “झुकता” है? क्या यह ग्राहक के लक्ष्यों की ओर झुकता है या राजस्व लक्ष्यों की ओर?

विभिन्न टीमें, क्षेत्र और संस्कृतियों के विभिन्न मानसिकता और वे एआई मॉडल को अलग तरह से प्रशिक्षित करेंगे। यदि बिक्री कमान संभालती है, तो यह रूपांतरण की ओर झुकेगा। यदि सीएक्स समूह प्रभारी है, तो यह सेवा और बचत के साथ बेहतर संरेखित हो सकता है।

एक ही वास्तुकला, अलग परिणाम।

समाधान यह नहीं है कि पूर्वाग्रह को पूरी तरह से हटा दें – यह सही दिशा में इशारा करना है। अपने एआई को दीर्घकालिक वफादारी के लिए पूर्वाग्रह दें, न कि अल्पकालिक जीत के लिए।

मिसालिग्न्ड एआई के परिणाम

एआई पूर्वाग्रह के संबंध में ब्रांडों को जो सबसे बड़ा जोखिम है, वह विश्वास की हानि है।

ग्राहक पहले से ही जेनेरिक, अप्रासंगिक ब्रांड इंटरैक्शन से परेशान हैं। जब एआई उन अनुभवों को और खराब बनाता है, तो यह ग्राहक को निराश और अलग-थलग कर देता है।

यदि बड़े भाषा मॉडल (एलएलएम) पूर्वाग्रहित, धारणा आधारित डेटा पर प्रशिक्षित होते हैं, तो वे व्यक्तिगत रूप से प्रतिक्रिया देंगे। परिणामस्वरूप, ग्राहक महसूस करेंगे कि ब्रांड उनकी परवाह नहीं करता है। वे आज आपके साथ खरीदारी कर सकते हैं, लेकिन दीर्घकाल में आपके ब्रांड के साथ रहने की संभावना कम है।

अनुभव अब वफादारी को चलाता है। कई ग्राहक इसके लिए अधिक भुगतान करने को तैयार हैं। इसलिए, जब एआई एक उच्च-मूल्य वाले उत्पाद को अपसेल करने की कोशिश करता है जो जरूरतों के अनुरूप नहीं है, तो वे इसे नोटिस करते हैं। वे ऑप्ट आउट करते हैं। वे वापस नहीं आते हैं।

एजेंटिक एआई समस्या

जोखिम तब बढ़ जाता है जब हम एजेंटिक एआई को देखते हैं।

एजेंटिक एआई स्वायत्त रूप से कार्य करने के लिए बनाया गया है। यह मानव हस्तक्षेप के बिना बहु-चरण कार्य प्रवाह को पूरा कर सकता है। लेकिन अगर एआई का तर्क दोषपूर्ण है या प्रशिक्षण गलत तरीके से किया गया है, तो नुकसान बढ़ जाता है।

विशेषज्ञों का मानना ​​है कि एजेंटिक एआई को अभी भी लंबा सफर तय करना है। वास्तव में, एक हालिया रिपोर्ट से पता चलता है कि जबकि लगभग सभी सीएफओ एजेंटिक एआई के बारे में जानते हैं, केवल 15% इसे गंभीरता से विचार कर रहे हैं। संबंधित डेटा इंगित करता है कि पूर्वाग्रह को सटीक रूप से निगरानी और रोकने की क्षमता गोद लेने के लिए एक प्रमुख बाधा थी।

अधिकांश एजेंटिक सिस्टम अभी भी अस्पष्टता, स्थायी स्मृति और जवाबदेही से जूझ रहे हैं। यह एक खतरनाक संयोजन है जब कोई स्पष्ट तरीका नहीं है कि त्रुटियों या पूर्वाग्रहों का निदान या सुधार किया जाए।

ब्रांडों को प्रतीक्षा नहीं करनी चाहिए, लेकिन उन्हें रणनीतिक रूप से आगे बढ़ने की आवश्यकता है।

ब्रांड उद्देश्य पूर्वाग्रह को कम कर सकते हैं

स्पष्ट करें: आप पूर्वाग्रह को समाप्त नहीं कर सकते। आप पूर्वाग्रह हैं।

आपका ब्रांड यह आकार देता है कि एआई कैसे व्यवहार करता है – बेहतर या बदतर। ये पूर्वाग्रह आपके वर्तमान ग्राहक इंटरैक्शन में पहले से मौजूद हैं। वे आपके रद्दीकरण प्रवाह में घर्षण में, आपके नियमों और शर्तों की पारदर्शिता में या आपकी वेबसाइट पर डार्क पैटर्न में हैं।

एआई पूर्वाग्रह के साथ अंतर यह है कि पैमाना। एआई उन निर्णयों को तेजी से और कम पर्यवेक्षण के साथ बढ़ा सकता है, जो दीर्घकालिक लक्ष्यों जैसे ब्रांड वफादारी और लाइफटाइम मूल्य को कम कर देगा।

यही कारण है कि आपको इसके आगे रहने की आवश्यकता है:

1. सही प्रश्न पूछें

अपनी एआई यात्रा शुरू करने से पहले, रुकें और पूछें: “क्या हम वास्तव में इसे सही तरीके से करने के लिए क्या है?” क्या हम इसे उपभोक्ता अनुभव और हमारे ब्रांड को जोखिम में डाले बिना कर सकते हैं?”

ब्रांडों की तुलना में बहुत से लोग एआई में कूद जाते हैं क्योंकि वे पीछे नहीं रहना चाहते हैं। लेकिन जोन्स के साथ तालमेल रखने की कोशिश करना एक खराब रणनीति है।

क्या आपके पास ग्राहक-सामना करने वाले एआई उपयोग के मामले का समर्थन करने के लिए सही ग्राहक डेटा, एकीकरण और शासन है, बिना पूर्वाग्रह बढ़ाए? क्या आप पूरी तरह से अपने ग्राहकों के लक्ष्यों को समझते हैं?

यदि उत्तर नहीं है, या यहां तक ​​कि “कIND OF,” तो आप तैयार नहीं हैं।

2. उद्देश्यों को संतुलित करें

ग्राहक और व्यवसाय उद्देश्यों को प्रभावी ढंग से संतुलित करने के लिए, ग्राहक की जरूरतों को लक्ष्य के रूप में सोचें, जबकि आपके व्यवसाय उद्देश्य सीमाएं हैं। आपका एआई उन सीमाओं के भीतर काम करना चाहिए, लेकिन ग्राहक-पहले परिणाम के लिए लक्ष्य रखें। आप इसे अल्पकालिक और दीर्घकालिक सोच के बीच संतुलन के रूप में भी देख सकते हैं।

अल्पकालिक मेट्रिक्स, जैसे प्रति इंटरैक्शन राजस्व, महत्वपूर्ण हैं। लेकिन वे अक्सर दीर्घकालिक मूल्य के साथ संघर्ष करते हैं। यहां तक ​​कि एआई के “गॉडफादर” ने अल्पकालिक लाभ से चलने वाले एआई के खिलाफ चेतावनी दी, क्योंकि यह मानसिकता स्केल नहीं करती है।

आपका एआई आज राजस्व लक्ष्य को मार सकता है, लेकिन क्या आप ग्राहक वफादारी के लिए त्वरित बक का व्यापार करने को तैयार हैं?

डेल्टा उदाहरण पर वापस जाएं। रणनीति तकनीकी रूप से स्मार्ट और व्यवसाय-संरेखित है। लेकिन उपभोक्ता एयरफेयर के लिए अधिक भुगतान करने के विचार से ज्यादा खुश नहीं थे, और ब्रांड को नुकसान हुआ।

पांच साल की समय सीमा में सोचें। आपको धीरे-धीरे और स्थायी रूप से लाइफटाइम मूल्य बढ़ाने की आवश्यकता है।

3. अपने ग्राहकों की बदलती जरूरतों को समझें

न केवल सामान्य तौर पर, बल्कि प्रत्येक उपयोग के मामले में। वे क्या हासिल करने की कोशिश कर रहे हैं?

यदि आप यह नहीं समझते हैं, तो आपका एआई केवल अनुमान लगा रहा होगा। यही कारण है कि आपको अपने ग्राहक प्रोफाइल को वर्तमान, पूरा और विशिष्ट रखने की आवश्यकता है, न केवल एक उच्च स्तर पर बल्कि व्यक्तिगत रूप से भी।

व्यापक खंड और पुरानी धारणाएं पर्याप्त नहीं हैं। आपको वास्तविक व्यक्ति का प्रतिनिधित्व करने वाला डेटा चाहिए जो इंटरैक्शन के दूसरी तरफ है। यह ग्राहक की गहरी समझ और आपके एलएलएम प्रशिक्षण का आधार बनाएगा।

रिट्रीवल-ऑगमेंटेड जेनरेशन (आरएजी) मॉडल भी यहां मदद करते हैं, जो विशिष्ट कार्य के लिए उपभोक्ता को बेहतर अनुभव प्रदान करने के लिए क्यूरेटेड, प्रासंगिक डेटा से खींचते हैं।

लेकिन यह एक बार का अभ्यास नहीं है। ग्राहक के लक्ष्य बदल जाते हैं और अपेक्षाएं बदलती हैं। ब्रांडों को अपने एआई सिस्टम को नियमित रूप से अपडेट करने की आवश्यकता है ताकि यह最新 विकास को प्रतिबिंबित कर सके। इसका मतलब है कि प्रशिक्षण डेटा पर वापस जाना और निरंतर सीखने की सुविधा प्रदान करना, न कि केवल आउटपुट को फाइन-ट्यून करना।

4. एआई विक्रेताओं की सावधानी से जांच करें

सभी विक्रेता समान नहीं बनाए गए हैं, और बड़े वादे हमेशा बड़े परिणामों का मतलब नहीं है। वास्तविक दुनिया के विशेषज्ञता और एक प्रोवेन ट्रैक रिकॉर्ड वाले भागीदारों का चयन करें, न कि केवल फ्लैशी डेमो के साथ। डोमेन-विशिष्ट डेटा के दशकों के साथ विक्रेता मॉडल को बेहतर ढंग से प्रशिक्षित करने के लिए इसका उपयोग कर सकते हैं जो सामान्यीकृत डेटासेट पर निर्भर एक नए ब्रांड की तुलना में अधिक है।

आपका ग्राहक विशेषज्ञ समर्थन की आवश्यकता होने पर डेटा की गहराई में अंतर देख सकता है।

और याद रखें, यदि एआई जंगल में विफल रहता है, तो आपका ब्रांड पीड़ित होगा। 2024 क्राउडस्ट्राइक संबंधित आईटी आउटेज से प्रभावित लोगों से पूछें। औसत उपभोक्ता ने प्रदाता को दोष नहीं दिया। उन्होंने उन ब्रांडों को दोष दिया जिन्होंने तकनीक को तैनात किया था।

जो विक्रेता पहले से ही आपके उद्योग में, आपके उपयोग के मामलों में कर चुके हैं, उनकी तलाश करें। डोमेन ज्ञान महत्वाकांक्षा से बेहतर है।

5. शासन बनाएं

यदि आप तर्कसंगत रूप से और लगातार तर्क को परिभाषित नहीं करते हैं, तो आपका एआई नीतियों के बजाय पैटर्न पर आधारित निर्णय लेना शुरू कर देगा। वे पैटर्न आपके ब्रांड, आपके मूल्यों या आपके कानूनी दायित्वों का प्रतिनिधित्व नहीं कर सकते हैं।

केंद्रीकृत ऑर्केस्ट्रेशन और नियम-सेटिंग ग्राहक इंटरैक्शन में हर बार एआई को वह करने के लिए महत्वपूर्ण है जो यह करना चाहिए। इस तरह के शासन के बिना, एक मॉडल एक बिलिंग प्रश्न को एक तरह से संभाल सकता है, जबकि दूसरा पूरी तरह से अलग उत्तर देता है।

उद्योग के सर्वोत्तम अभ्यासों का पालन करें और जोखिम प्रबंधन ढांचे पर निर्भर करें ताकि ब्रांड को सुरक्षित रखा जा सके। अच्छा शासन आपको धीमा नहीं करेगा। यह आपको बाद में साफ-सफाई से बचाएगा।

6. एजेंटिक एआई को सावधानी से दायर करें

मीडिया इसे ऐसे प्रस्तुत करता है जैसे एजेंट-आधारित सिस्टम सब कुछ का भविष्य है। वास्तव में, अधिकांश ब्रांड तैयार नहीं हैं, और यह ठीक है।

क्योंकि अभी तक बहुत सारे प्रमाण नहीं हैं, छोटे से शुरू करें। एक प्रौद्योगिकी प्रदाता के साथ साझेदारी करें जिसने यह पहले किया है और आपको मार्गदर्शन कर सकता है। कम जोखिम वाले कार्य प्रवाह को प्राथमिकता दें जिनमें स्पष्ट रूप से परिभाषित चरण हों जहां एजेंसी का स्तर विश्वास किया जा सकता है – आदर्श रूप से, एक ही टीम द्वारा स्वामित्व। ये उपयोग के मामले आमतौर पर स्पष्ट तर्क, जवाबदेही और पर्यवेक्षण होते हैं। फिर आप सीख सकते हैं और वहां से स्केल कर सकते हैं।

यदि कई टीमें शामिल हैं या प्रक्रिया में संरचना की कमी है, तो ग्राहकों के लिए मशीन निर्णय लेने की अपेक्षा न करें।
दीर्घकालिक वफादारी को अपना प्राथमिक लक्ष्य बनाएं। बाकी इसका पालन करेगा। जब प्रत्येक मॉडल निर्णय वफादारी, लाइफटाइम मूल्य और विश्वास के माध्यम से फिल्टर किया जाता है, तो शासन, ग्राहक समझ, संतुलित उद्देश्य जैसी अन्य प्राथमिकताएं स्वाभाविक रूप से जगह में आ जाती हैं।

आज के लिए शॉर्टकट कल की लागत। लेकिन वफादारी को अपनी रणनीति के दिल में रखें, और एआई एक देनदार से लाभ में बदल जाता है।