विचार नेता

अगर बॉट को बच्चों के साथ फ्लर्ट करने की अनुमति है, तो उसे आपके डेटा के साथ और क्या करने की छूट है?

Victor Cho
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
A professional boardroom at night featuring a large monitor displaying a glowing
मुख्य बिंदुअधिकांश कर्मचारी उद्यम सुरक्षा उपायों के बिना उपभोक्ता एआई टूल में कंपनी डेटा चिपकाते…
और देखें
  • अधिकांश कर्मचारी उद्यम सुरक्षा उपायों के बिना उपभोक्ता एआई टूल में कंपनी डेटा चिपकाते हैं।
  • एआई संवेदनशील व्यावसायिक संचार से संदर्भ को संक्षिप्त करता है और सूक्ष्मता हटा देता है।
  • हर एआई प्रणाली केवल अपने कोड का नहीं, बल्कि अपने निर्माताओं के निर्णयों का प्रतिबिंब होती है।

जब लीक हुए आंतरिक दिशानिर्देशों ने खुलासा किया कि मेटा अपने एआई चैटबॉट्स को बच्चों के साथ फ्लर्ट करने की अनुमति दे रहा था, तो अधिकांश लोगों ने इसे एक घोटाले के रूप में माना और आगे बढ़ गए। लेकिन यह देखने के लिए इसकी जांच करना उचित है कि यह जांच हमें वर्तमान एआई नैतिकता की स्थिति के बारे में क्या बताती है: यदि मेटा जैसी कंपनी इस तरह की नीतियों को अपने पैमाने पर स्वीकार कर रही है, तो ये प्लेटफ़ॉर्म अन्य चीजें क्या चुपचाप अनुमति दे रहे हैं? और इनमें से कितना कुछ आपके डेटा से जुड़ा है?

व्यवसायिक नेता आमतौर पर एआई टूल्स का मूल्यांकन उनके द्वारा की जाने वाली चीजों से, उनकी गति से और लागत से करते हैं। लेकिन कुछ कठिन प्रश्न पूछने योग्य हैं, विशेष रूप से जब एआई टूल्स तेजी से कारोबार की बुनियादी आवश्यकता बनते जा रहे हैं: जब आपकी टीमें एआई टूल्स का उपयोग शुरू करती हैं, तो आप किन शर्तों से सहमत होते हैं? मॉडल प्रदाता और एजेंट बिल्डर्स आपके डेटा के साथ क्या कर रहे हैं? और जब कुछ गलत हो जाता है, तो कौन जिम्मेदारी स्वीकार करता है?

अधिकांश संगठन इतने व्यस्त हैं कि वे इस नई तकनीक से अधिक से अधिक पैसा निकालने के तरीके सोचने में लगे हुए हैं, उन्होंने अभी तक सबसे महत्वपूर्ण प्रश्न पर विचार नहीं किया है:

आपके डेटा के साथ वास्तव में क्या हो रहा है?

अधिकांश लोग या तो किसी चैटबॉट के साथ कुछ साझा करने के जोखिम को बहुत बढ़ा-चढ़ाकर आंकते हैं या इस मामले को पूरी तरह से खारिज कर देते हैं। तथ्य यह है कि बड़े भाषा मॉडल, एक बार प्रशिक्षित और सार्वजनिक रूप से जारी किए जाने के बाद, एक तरह से जमे हुए होते हैं। इसका मतलब है कि आपकी बातचीत अलग से संग्रहीत की जाती है, तुरंत प्रणाली की स्मृति में वापस नहीं जाती; आपने आज सुबह चैटजीपीटी को जो कुछ बताया है, वह उसी दोपहर किसी अन्य व्यक्ति को मॉडल द्वारा दिए जाने वाले उत्तर को तुरंत प्रभावित नहीं करता।

इसका मतलब यह नहीं है कि आपका डेटा उपयोग नहीं किया जा रहा है। यह हो रहा है। मार्ग बस अधिक जटिल है।

बातचीत लॉग अलग से संग्रहीत किए जाते हैं, और कई एआई प्रयोगशालाएं स्पष्ट रूप से अपने मॉडल के अगले संस्करण को प्रशिक्षित करने के लिए उनका उपयोग करने का अधिकार सुरक्षित रखती हैं। यह सेवा की शर्तों में है। आज एक ग्राहक सहायता प्रश्न या रणनीति पर विचार-मंथन के रूप में क्या जाता है, वह समय के साथ उन लाखों लोगों द्वारा उपयोग किए जाने वाले मॉडल को प्रभावित कर सकता है जो कल इसका उपयोग करेंगे।

स्वामित्व वाले डेटा के लिए जोखिम नीति से परे है। 2025 में, स्केल एआई ने अनजाने में मेटा, गूगल और एक्सएआई जैसे ग्राहकों से गोपनीय परियोजना सामग्री के हजारों पृष्ठों का खुलासा किया। अलग से, ओपनएआई के एक विक्रेता के यहां नवंबर में हुए सुरक्षा उल्लंघन में हैकर्स ने ग्राहक डेटा चुरा लिया, जिसमें नाम, ईमेल और सिस्टम विवरण शामिल थे।

स्पष्ट रूप से, यह उच्चतम अलार्म स्तर की आपात स्थिति नहीं है, लेकिन यह जोखिम से मुक्त भी नहीं है। उद्यम-ग्रेड प्रणाली में डेटा पुन: उपयोग के लिए अनुबंधित सुरक्षा उपाय हैं। उपभोक्ता उपकरणों में आम तौर पर ऐसे उपाय नहीं होते। यदि आपका डेटा इतना संवेदनशील है कि आप उसकी सुरक्षा के लिए गोपनीयता समझौता चाहेंगे, तो आपको इसे उपभोक्ता चैटबॉट को सौंपना नहीं चाहिए और यह मान लेना चाहिए कि यह कहीं और उपयोग नहीं किया जाएगा।

संख्याएं बताती हैं कि अधिकांश संगठनों ने अभी तक इसे समझा नहीं है। लगभग दस में से आठ कर्मचारियों ने कंपनी की जानकारी एआई टूल्स में चिपका दी है, और उनमें से पांच में से चार से अधिक ने व्यक्तिगत खातों का उपयोग करके ऐसा किया है, 2025 के एक कार्यबल सर्वेक्षण के अनुसार। पांच में से एक संगठन ने पहले से ही छाया एआई उपयोग से जुड़े सुरक्षा उल्लंघन की सूचना दी है, और केवल 37 प्रतिशत के पास इसका पता लगाने या प्रबंधित करने के लिए नीतियां हैं, आईबीएम की 2025 की डेटा उल्लंघन की लागत संबंधी रिपोर्ट के अनुसार।

एक बार समझने के बाद, इस तरह के डेटा जोखिम से निपटना मुश्किल नहीं है। उपभोक्ता और उद्यम उपकरणों के बीच अंतर करें, जानें कि आप क्या हस्ताक्षर कर रहे हैं, और आपने अधिकांश बुनियादी पहलुओं को संभाल लिया होगा।

एआई के माध्यम से होने वाला संचार व्यवसायों को कहां निराश करता है

आपके डेटा के साथ क्या होता है यह एक टुकड़ा है। दूसरा, और कई व्यवसायों के लिए अधिक परिणामी, यह है कि ये प्रणालियां आपके सबसे महत्वपूर्ण संचार की गुणवत्ता और जवाबदेही के साथ क्या करती हैं।

व्यवसाय को आगे बढ़ाने वाली बातचीत के बारे में सोचें: लंबे समय से ग्राहकों को बनाए रखने के लिए बैठकें; एक बिक्री वार्ता जहां लहजा और भरोसा लगभग सौदे की भाषा से भी अधिक महत्वपूर्ण होते हैं; या वर्ष के मील के पत्थर की प्रगति पर तिमाही बोर्ड प्रस्तुति। पता चलता है कि एआई इन बातचीत के व्यावहारिक पहलुओं को काफी अच्छी तरह संभाल सकता है जैसे कि बैठक के नोट्स लेना, प्राथमिकताएं सौंपना और कार्रवाई के बिंदुओं को उजागर करना। यह नीचे की चीजों के साथ संघर्ष करता है।

विफलता के विशिष्ट तरीकों को स्पष्ट करना उपयोगी है। एआई संदर्भ को संकुचित करता है; यह सारांशित करता है, चिकना करता है और मानकीकृत करता है जिस तरह से यह सूक्ष्मता को बाहर निकाल सकता है। इसके अलावा, बड़े भाषा मॉडल द्वारा उत्पन्न सामग्री की पुष्टि करना मुश्किल है। जिन लोगों को आपने एआई-जनित ईमेल या सारांशित बैठक नोट्स भेजे हैं, उनके पास यह पुष्टि करने का कोई तरीका नहीं है कि उन्हें जो मिला है वह आपका मतलब है, या संदेश एआई द्वारा फिल्टर्ड या पुन: फ्रेम नहीं किया गया था।

यह कहना नहीं है कि एआई का व्यवसाय संचार में कोई स्थान नहीं है। स्पष्ट रूप से उसका स्थान है। लेकिन बातचीत की एक श्रेणी है जहां कुशलता लाभ जोखिम को सही ठहराने के लिए पर्याप्त नहीं है, और अधिकांश संगठनों ने पर्याप्त रूप से इन उपयोग के मामलों के बीच अंतर नहीं किया है।

जानें कि कब इसे स्वयं करना है

तो प्रश्न यह बन जाता है: आपके सबसे संवेदनशील संचार में, क्या एआई को लूप में होना चाहिए?

मेरा ईमानदार उत्तर है नहीं, कम से कम ऐसे व्यक्ति के बिना नहीं जिसे इस बात के लिए जवाबदेह ठहराया जा सके कि क्या कहा गया, कैसे कहा गया और संदेश पहुंचा या नहीं। मानव संचार की पुष्टि करना पुराने तरीके से काम करने को प्राथमिकता देना नहीं है; यह बस यह मान्यता है कि कुछ बातचीत के लिए एक व्यक्ति की आवश्यकता होती है जो उनकी जिम्मेदारी ले सके।

नेताओं को अपना होमवर्क करना चाहिए। विक्रेता की डेटा नीति पुनः उपयोग के बारे में क्या कहती है? अनुबंध समाप्त होने पर आपकी टीम की बातचीत लॉग का क्या होता है? ये प्रश्न आपकी आईटी टीम के लिए पृष्ठभूमि में सॉर्ट आउट करने के लिए नहीं हैं। वे खरीद प्रश्न हैं, और उन्हें प्रक्रिया में वर्तमान से पहले के चरण में पूछा जाना चाहिए।

बच्चों के साथ फ्लर्ट करने की अनुमति पाने वाले बॉट ने यह निर्णय खुद नहीं लिया था। किसी ने इसकी अनुमति दी थी। प्रत्येक एआई प्रणाली उन लोगों के निर्णय-विवेक को प्रतिबिंबित करती है जिन्होंने इसे बनाया और तैनात किया, और वे फैसले हमेशा बाहर से स्पष्ट नहीं होते हैं।

जब तक एआई टूल्स और प्रणालियों के ऑडिट के साधन उनके अपनाए जाने की गति के अनुरूप नहीं हो जाते, व्यवसायिक नेताओं के लिए सबसे मजबूत स्थिति यह है कि वे यह निर्धारित करें कि वे कौन-सी बातचीत एआई के माध्यम से करने में सहज हैं और कौन-सी नहीं।

एआई के लिए कुशलता का तर्क आकर्षक है। अपने नाम से भेजी जाने वाली बातों की जिम्मेदारी लेने का तर्क भी उतना ही मजबूत है।

विक्टर चो एमोविड के सीईओ हैं, जहां वे जांचते हैं कि कैसे एआई अधिक प्रामाणिक, भावनात्मक रूप से बुद्धिमान संचार का समर्थन कर सकता है। उत्पाद नवाचार और डिजिटल नेतृत्व में पृष्ठभूमि के साथ, वह लोगों को अधिक प्रभावी ढंग से जुड़ने में मदद करने के लिए उपकरण बनाने पर केंद्रित हैं - मानव स्पर्श को खोए बिना।