एआई संकट संचार हथियारों की दौड़: जब आपका चैटबॉट खराब हो जाता है, तो नया प्लेबुक क्या है?

जैसा कि इंटरनेट अब मौजूद है, ब्रांड ग्राहक इंटरैक्शन और व्यवसाय को स्ट्रीमलाइन करने के लिए एआई-पावर्ड चैटबॉट्स को एकीकृत करने के लिए प्रतिस्पर्धा कर रहे हैं। लेकिन उच्च बुद्धिमत्ता के साथ अभूतपूर्व खतरा आता है। जब एक एआई चैटबॉट विफल होता है, तो ऑफ-कलर, भ्रामक, या मानहानिकारक सामग्री प्रकाशित करता है, तो नुकसान तेजी से और स्वार्थपूर्वक किया जा सकता है। मुद्दा यह है: ब्रांड अपने एआई के गलत होने पर कैसे प्रतिक्रिया करते हैं?

ब्रांड जोखिम का नया मोर्चा

हाल की घटनाएं इस संभावित खतरे की ओर इशारा करती हैं। फरवरी 2024 में, एयर कनाडा ने अपने एआई-पावर्ड चैटबॉट के कारण कानूनी परिणामों का सामना किया, जिसने एक ग्राहक को विमान की शोक नीति के बारे में गलत जानकारी प्रदान की। चैटबॉट ने गलत तरीके से यात्री को बताया कि वह यात्रा के बाद शोक छूट के लिए आवेदन कर सकता है, जो विमान की वास्तविक नीति के विपरीत था। जब ग्राहक ने यात्रा के बाद छूट का अनुरोध किया, तो एयर कनाडा ने अनुरोध को अस्वीकार कर दिया, जिससे विवाद पैदा हो गया। ब्रिटिश कोलंबिया सिविल रिजॉल्यूशन ट्रिब्यूनल ने यात्री के पक्ष में फैसला सुनाया, एयर कनाडा को मुआवजा देने और छूट को बनाए रखने का आदेश दिया। यह मामला उन संभावित दायित्वों को रेखांकित करता है जिनका सामना कंपनियों को एआई सिस्टम द्वारा असटीक जानकारी प्रदान करने पर करना पड़ता है, जो मजबूत निगरानी और जवाबदेही तंत्र की आवश्यकता पर जोर देता है।

इसी तरह, मेटा अपने एआई-आधारित डिजिटल साथियों के लिए आलोचना का सामना कर रहा है। द वॉल स्ट्रीट जर्नल द्वारा की गई एक जांच में पाया गया कि इसके कुछ चैटबॉट बच्चों के रूप में प्रस्तुत करने वाले उपयोगकर्ताओं के साथ यौन संबंधों पर चर्चा कर रहे थे। इस खुलासे ने कंपनी के लिए गंभीर प्रतिष्ठा समस्याएं पैदा की हैं, जो नैतिक प्रश्नों और एआई से संबंधित गार्डरेल की आवश्यकता को उठाती हैं।

ओपनएआई का चैटजीपीटी भी विवाद से अछूता नहीं रहा है। एक हालिया अपडेट ने चैटबॉट को अत्यधिक मित्रवत बना दिया, जिससे उपयोगकर्ताओं द्वारा व्यक्त किए गए हानिकारक या भ्रमपूर्ण विचारों की पुष्टि हुई। यह सहमति अधिभार, जो बातचीत बढ़ाने के लिए डिज़ाइन किया गया था, ने उपयोगकर्ता व्यवहार और भावनात्मक मान्यता पर एआई के प्रभाव के बारे में नैतिक मुद्दों को उठाया। ओपनएआई ने इस मुद्दे पर ध्यान दिया और अपडेट को वापस ले लिया, लेकिन घटना ने उपयोगकर्ता जुड़ाव और नैतिक एआई व्यवहार के बीच पतली रेखा को रेखांकित किया।

एआई के युग में जवाबदेही

इन घटनाओं ने मूलभूत प्रश्न उठाए हैं जो जवाबदेही के बारे में हैं। जब एक मानव राजदूत से गलती होती है, तो पुनर्प्राप्ति का मार्ग सरल होता है: माफी मांगो, माफी मांगो, और भूल जाओ। हालांकि, जब एक एआई सिस्टम जिम्मेदार होता है, तो चीजें भ्रमित हो जाती हैं। दोष किसका है, निर्माताओं का, एआई को नियोजित करने वाले संगठन का, या एआई स्वयं का?

ब्रांडों को सावधानी से काम लेना चाहिए और स्वीकार करना चाहिए कि एआई लागू करने से उन्हें जिम्मेदारी से मुक्त नहीं किया जाता है। उपभोक्ता चैटबॉट की आवाज को ब्रांड की आवाज के रूप में मानते हैं। इसलिए, एआई द्वारा की गई छोटी सी गलती भी ब्रांड की प्रतिष्ठा पर प्रतिबिंबित होती है। यह फर्मों के लिए आवश्यक है कि वे एआई की निगरानी के लिए सख्त दिशानिर्देशों का पालन करें और नकारात्मक परिदृश्य में तेजी से कार्रवाई करने के लिए तैयार रहें।

एआई के आसपास पारदर्शिता की अपेक्षाएं तेजी से विकसित हो रही हैं। उपभोक्ता, नियामक और पत्रकार स्वचालित प्रणालियों के प्रशिक्षण, तैनाती और शासन के बारे में स्पष्टता की मांग कर रहे हैं। इस वातावरण में, मौन या विचलित करना विकल्प नहीं है। ब्रांडों को अपनी एआई शासन प्रथाओं के बारे में सक्रिय रूप से संवाद करना चाहिए और एआई त्रुटि के मामले में मानव प्रतिक्रिया प्रदान करने के लिए तैयार रहना चाहिए। संकट प्रोटोकॉल में अब एआई से संबंधित विशिष्ट संकटों को शामिल करना शामिल है, जैसे कि एआई द्वारा उत्पन्न आउटपुट के लिए स्पष्ट स्वामित्व की स्थापना और यह सुनिश्चित करना कि मानव पर्यवेक्षण प्रक्रिया का हिस्सा है। केवल “अल्गोरिदम” को दोष देना एक रणनीति नहीं है; यह एक बहाना है जो विश्वास को कम करता है।

इसके अतिरिक्त, कंपनियों को यह पहचानने की आवश्यकता है कि एआई-चालित त्रुटियां पारंपरिक त्रुटियों की तुलना में तेजी से फैलती हैं, जो वायरल सोशल मीडिया प्रवर्धन और प्रौद्योगिकी मिस्स्टेप्स के प्रति जनता की आकर्षण से ईंधन प्राप्त करती हैं। एक ही चैटबॉट बातचीत का एक स्क्रीनशॉट घंटों के भीतर लाखों लोगों तक पहुंच सकता है। यह एआई की निरंतर निगरानी और तेजी से वृद्धि मार्गों की आवश्यकता को बढ़ाता है। संचार टीमों को एआई विफलताओं के लिए परिदृश्य योजना का संचालन करना चाहिए, टेम्पलेटेड प्रतिक्रियाओं का विकास करना चाहिए, और कानूनी, अनुपालन और इंजीनियरिंग टीमों को जवाबदेही की साझा समझ के आसपास संरेखित करना चाहिए। इस नए परिदृश्य में, प्रतिष्ठा लचीलापन न केवल यह निर्धारित करता है कि एक ब्रांड एआई संकटों पर कैसे प्रतिक्रिया करता है, बल्कि यह भी कि यह उन्हें पहले स्थान पर कैसे तैयार करता है।

एआई संकट प्रबंधन के लिए रोकथाम के कदम

जटिल एआई परिदृश्य में पनपने के लिए, ब्रांड निम्नलिखित कदमों का उपयोग कर सकते हैं:

• मजबूत निगरानी प्रणाली लागू करें: एआई आउटपुट की नियमित रूप से ऑडिट करें ताकि आपत्तिजनक सामग्री की पहचान और सुधार समय पर किया जा सके। उदाहरण के लिए, सीकआउट, एक प्रतिभा बुद्धिमत्ता प्लेटफ़ॉर्म, अपने एआई सिस्टम की नियमित रूप से ऑडिट करता है ताकि यह सुनिश्चित किया जा सके कि निष्पक्ष और पूर्वाग्रह-मुक्त परिणाम हों। नियामकों के लिए और जिम्मेदार एआई के प्रति अपनी प्रतिबद्धता के हिस्से के रूप में, सीकआउट ने अपने एल्गोरिदम का मूल्यांकन करने के लिए तीसरे पक्ष के ऑडिटर क्रेडो एआई को शामिल किया। ऑडिट ने विभिन्न जनसांख्यिकीय समूहों में एआई सुविधाओं के प्रदर्शन का आकलन किया, यह पुष्टि करते हुए कि नौकरी के शीर्षकों के लिए खोज परिणाम प्रतिनिधि और न्यायसंगत थे। यह सक्रिय दृष्टिकोण सीकआउट को संभावित पूर्वाग्रहों की पहचान करने और उन्हें तुरंत ठीक करने में सक्षम बनाता है, अपनी एआई-संचालित सेवाओं की अखंडता और न्यायसंगतता को बनाए रखता है।
• स्पष्ट जवाबदेही फ्रेमवर्क बनाएं: यह निर्धारित करें कि संगठन में कौन एआई निगरानी और संकट प्रबंधन को संभालेगा। उदाहरण के लिए, संयुक्त राज्य अमेरिका के महा लेखा परीक्षक कार्यालय ने एक एआई जवाबदेही फ्रेमवर्क जारी किया जो शासन, डेटा, प्रदर्शन और निगरानी पर जोर देता है। यह संघीय एजेंसियों के लिए जिम्मेदार एआई उपयोग सुनिश्चित करने के लिए सर्वोत्तम प्रथाओं को प्रदान करता है, जिसमें स्पष्ट लक्ष्य निर्धारित करना और विविध हितधारकों को शामिल करना शामिल है।
• एआई-विशिष्ट संकट प्रतिक्रिया योजनाएं बनाएं: सामान्य संकट प्रबंधन योजनाएं पर्याप्त नहीं हो सकती हैं। एआई-विशिष्ट संकटों का जवाब देने के लिए योजनाओं को अनुकूलित करें, जैसे कि आवश्यकतानुसार एआई सिस्टम को बंद करना। संयुक्त राष्ट्र विकास कार्यक्रम एआई-संचालित संकट जोखिम डैशबोर्ड का उपयोग संकटों की निगरानी और भविष्यवाणी के लिए करता है, जैसे कि नफरत भरी भाषा और हिंसा। ये डैशबोर्ड वास्तविक समय के डेटा का विश्लेषण करके और जोखिमों की भविष्यवाणी करके सक्रिय प्रतिक्रियाओं को सक्षम बनाते हैं।
• ईमानदार संचार का अभ्यास करें: जब एआई त्रुटि होती है, तो हितधारकों को त्रुटि, सुधारात्मक कार्रवाई और भविष्य में ऐसी घटनाओं को रोकने के लिए की गई प्रक्रियाओं के बारे में ईमानदारी से संवाद करें। उदाहरण के लिए, 2018 में, अमेज़न ने अपने एआई भर्ती उपकरण को बंद कर दिया जब यह पता चला कि यह महिला उम्मीदवारों के प्रति पूर्वाग्रह रखता है। कंपनी ने मुद्दे को स्वीकार किया और उपकरण का उपयोग बंद कर दिया, एआई की कमियों को संबोधित करने में पारदर्शिता का प्रदर्शन किया।
• एआई के नैतिक प्रशिक्षण पर खर्च करें: सुनिश्चित करें कि एआई मॉडल विविध और समावेशी डेटासेट के साथ प्रशिक्षित हैं ताकि पूर्वाग्रह और अपमानजनकता को दबाया जा सके। इस संबंध में, वाशिंगटन विश्वविद्यालय और एलन इंस्टीट्यूट फॉर एआई के शोधकर्ताओं ने डेल्फी विकसित किया, एक एआई प्रणाली जो नैतिक निर्णय लेने में सक्षम है। जबकि यह आशाजनक है, डेल्फी कभी-कभी सामाजिक पूर्वाग्रहों को प्रतिबिंबित करता है, एआई को विविध और समावेशी डेटासेट के साथ प्रशिक्षित करने में आने वाली चुनौतियों को उजागर करता है।

क्योंकि कृत्रिम बुद्धिमत्ता ब्रांड संचार में अधिक गहराई से एकीकृत हो जाती है, जोखिम बढ़ जाता है। जबकि एआई मूल्यवान दक्षता प्रदान करता है, यह विशिष्ट चुनौतियां भी पेश करता है जिन्हें ब्रांडों को प्रबंधित करने के लिए तैयार रहने की आवश्यकता है। नियंत्रण उपायों और अनुकूलित संकट प्रतिक्रिया योजनाओं को लागू करके, संगठन अपनी प्रतिष्ठा की रक्षा कर सकते हैं और इस विकसित डिजिटल परिदृश्य में उपभोक्ता विश्वास बनाए रख सकते हैं।