एंटरप्राइज़ को एआई एप्लिकेशन ओवरलोड को कैसे संबोधित करना चाहिए?

नॉट-सो-पर्सनल कंप्यूटिंग

वर्षों से, तकनीकी विकास को अधिक सुलभ बनाने की इच्छा से चलाया जा रहा है। स्मार्टफ़ोन से लेकर टैबलेट, लैपटॉप और वियरेबल टेक तक, कंप्यूटर और उनकी क्षमताओं को बढ़ते समय में व्यक्तिगत बनाने का एक सामान्य रुझान है। बस उद्योग के कोने के पत्थरों के नामकरण पर विचार करें: “व्यक्तिगत कंप्यूटर,” या पीसी; “आई” पॉड, पैड, फ़ोन, और उससे आगे। इनमें से प्रत्येक डिवाइस का उद्देश्य एक व्यक्तिगत साथी के रूप में कार्य करना है, जो उपयोगकर्ता के डिजिटल अनुभव को सुव्यवस्थित करने में मदद करता है, और इसके विस्तार से, उनके जीवन में।

आर्टिफ़िशियल इंटेलिजेंस (एआई) के विकास—विशेष रूप से बड़े भाषा मॉडल (एलएलएम) और एजेंटिक समाधान—मुख्य रूप से इसी दिशा में बढ़ रहा है। पीसी और आईफ़ोन की तरह, एआई टूल्स जैसे कि चैटजीपीटी ने खोज, संपादन, और ब्रेनस्टॉर्मिंग जैसी कंप्यूटिंग गतिविधियों को सामान्य जनता के लिए अधिक सुलभ बना दिया है। लेकिन जैसे ही यह सुलभता बढ़ी है, इससे जोखिम भी बढ़ गया है।

चाहे वह ज़हरीले कनेक्टर्स के माध्यम से हो या अनजाने में सर्च इंजन इंडेक्सिंग के माध्यम से, निजी एआई उपयोग के लिए खतरे बढ़ते जा रहे हैं और उनका बचाव करना मुश्किल हो रहा है। इसमें यह अनिश्चितता जोड़ें कि कौन से टूल का उपयोग कर रहा है, और व्यवसायों को बढ़ते खतरों और अपर्याप्त सुरक्षा का एक आदर्श तूफान का सामना करना पड़ रहा है। एआई टूल्स के वादे और उनकी सुरक्षा के बारे में अनिश्चितता को देखते हुए, एक प्रौद्योगिकी-आगे वाले उद्यम के लिए क्या करना है?

अनधिकृत एआई ऐप्स की वृद्धि

2025 में 700 मिलियन से अधिक दैनिक उपयोगकर्ताओं के साथ, चैटजीपीटी का उपयोग वर्ष-दर-वर्ष 4 गुना से अधिक बढ़ गया है। इसके बावजूद, इनमें से केवल पांच मिलियन उपयोगकर्ता भुगतान करने वाले व्यवसायिक ग्राहक हैं। इससे उनके उपयोगकर्ता आधार के अन्य 695 मिलियन या तो व्यक्तिगत या अनधिकृत व्यवसायिक उपयोगकर्ता हैं। यह संख्या तब तक बड़ी लगती है जब तक आप यह नहीं याद दिलाते कि चैटजीपीटी बाजार में एकमात्र एआई समाधान नहीं है। वास्तव में, यह दूर है—एआई और मशीन लर्निंग की समकालीन विस्फोट ने सैकड़ों हजारों नए मॉडल और समाधानों को जन्म दिया है, दोनों सार्वजनिक और निजी।

व्यवसायों के लिए, एआई समाधानों की असीमित वृद्धि ने साइबर खतरे के परिदृश्य के एक नए आयाम को जन्म दिया है, जिसे “शैडो एआई” कहा जाता है। “शैडो आईटी” की घटना की तरह, यह अवधारणा कर्मचारियों द्वारा उनके संगठन की पूर्व वेटिंग और व्यक्त विशेष अनुमोदन के बिना एआई समाधानों का उपयोग करने पर आधारित है। यह पूरी तरह से आईटी और सुरक्षा पर्यवेक्षण को दरकिनार कर देता है, जिससे ऐसे दृश्य बनते हैं जहां कर्मचारी संवेदनशील कार्य के लिए संभावित रूप से खतरनाक या असुरक्षित समाधानों का उपयोग कर सकते हैं।

शैडो एआई उपयोग व्यापक और विस्तारित है। एक रिपोर्ट में पाया गया कि प्रति उद्यम के लिए 320 से अधिक अनधिकृत एआई ऐप्स का उपयोग किया जा रहा है। इनमें से प्रत्येक अनधिकृत ऐप और उनके द्वारा कर्मचारियों का उपयोग खतरे के परिदृश्य को और बढ़ा देता है।

एआई ओवरलोड के अंतर्निहित जोखिम

एआई ओवरलोड से जुड़े खतरे बहुस्तरीय और, दुर्भाग्य से, लगातार बढ़ रहे हैं। डेटा जहर, प्रॉम्प्ट इंजेक्शन, मॉडल मैनिपुलेशन, और डेटा स्क्रैपिंग जैसे कुछ खतरे सामान्य ज्ञान हैं। एआई मैनिपुलेशन और शोषण के इन सीधे प्रयासों से बुरे अभिनेताओं को संवेदनशील उद्यम डेटा और आंतरिक प्रणालियों तक पहुंच प्राप्त हो सकती है। इस जोखिम को देखते हुए, उद्यम सक्रिय रूप से ऐसे हमलों के खिलाफ सुरक्षा कर रहे हैं।

लेकिन व्यवसाय केवल उन खतरों के खिलाफ सुरक्षा कर सकते हैं जिन्हें वे जानते हैं। एक मध्ययुगीन किले की सुरक्षा पर विचार करें। दीवारें, वॉचटावर, गेट, खाई, और अधिक किले को बाहरी दुश्मनों और आक्रमणकारियों से सुरक्षित करने में मदद करते हैं। लेकिन अगर रसोइये के पास दीवारों को दरकिनार करने वाला एक गुप्त मार्ग है? या एक जोरदार गार्ड को स्थानीय तवेर्न में बदलाव के बारे में चर्चा करते हुए सुना जाता है? इनमें से किसी भी अज्ञात खतरे से चोर किले की सुरक्षा को दरकिनार कर सकते हैं और आंतरिक दीवारों में सेंध लगा सकते हैं।

शैडो एआई उद्यम डेटा सुरक्षा पर इसी प्रभाव को डालता है। अनधिकृत एलएलएम और कोपायलट्स का भी संवेदनशील डेटा सुरक्षा के लिए विपत्ति का कारण बन सकता है, क्योंकि किसी भी असुरक्षित समाधान बुरे अभिनेताओं के लिए प्रवेश द्वार के रूप में कार्य कर सकता है। एलएलएम का कोई भी उपयोग स्वतः डेटा रिटेंशन, प्रॉम्प्ट इंजेक्शन, या मॉडल पूर्वाग्रह जैसे मुद्दों के जोखिम को बढ़ाता है, प्रत्येक के लिए अपने संबंधित सुरक्षा उपायों की आवश्यकता होती है। इससे डेटा उल्लंघन, अनुपालन उल्लंघन और संचालन विफलताओं के जोखिम बढ़ जाते हैं, जिनमें से अधिकांश केवल तब पहचाने जाते हैं जब नुकसान पहले ही हो चुका होता है।

एआई समाधानों पर नियंत्रण स्थापित करना

जैसे ही एआई उपयोग व्यक्तिगत और उद्यम स्तर पर बढ़ता है, यह महत्वपूर्ण है कि संगठन अपने गोद लेने से पहले इन समाधानों पर नियंत्रण स्थापित करें। एआई को सुरक्षित करना और अनधिकृत एआई जोखिमों से बचाव करने में शामिल है:

1. व्यापक दृश्यता प्राप्त करना। जैसा कि उल्लेख किया गया है, आप उन खतरों के खिलाफ अपने डेटा की सुरक्षा नहीं कर सकते हैं जिनके बारे में आप अनजान हैं। सुरक्षा उन सभी एआई समाधानों पर पर्यवेक्षण से शुरू होती है जिनका उपयोग आपके कर्मचारी कर रहे हैं—स्वीकृत और अनधिकृत दोनों। यह कहना आसान है, लेकिन एक क्लाउड एक्सेस सिक्योरिटी ब्रोकर (सीएएसबी) समाधान कर्मचारी अनुप्रयोग उपयोग में निरंतर दृश्यता स्थापित करने में मदद कर सकता है।
2. व्यापक जोखिम मूल्यांकन करना। टीमों को टीपीआरएम प्रयासों को सुनिश्चित करने के लिए संचालित करना चाहिए कि सभी एआई समाधानों का उनकी सुरक्षा और संभावित जोखिमों के लिए मूल्यांकन किया जाता है। इन प्रयासों को चौथे पक्ष के स्तर तक भी बढ़ाया जाना चाहिए, क्योंकि यहां तक कि स्वीकृत अनुप्रयोग जैसे कि सीआरएम या उत्पादकता मंच भी अपने मंचों में बाहरी एलएलएम क्षमताओं को एम्बेड करना शुरू कर रहे हैं। इन चौथे पक्ष के समाधानों को भी आंतरिक रूप से अनुमोदित अनुप्रयोगों के समान सुरक्षा मानकों का पालन करना चाहिए।
3. शासन के ढांचे स्थापित करना। इस पर्यवेक्षण और समझ के साथ, संगठन अपने अनुप्रयोग पारिस्थितिकी तंत्र भर में सुसंगत एआई शासन नीति ढांचे विकसित और तैनात कर सकते हैं। डेटा एक्सेस की तरह, ये शासन नीतियां एआई समाधानों को नियंत्रित करने में मदद कर सकती हैं जिन तक कर्मचारी पहुंच सकते हैं, वे उन्हें जो जानकारी साझा कर सकते हैं, और उनके दैनिक उपयोग की पारदर्शिता।
4. जोखिम का पता लगाने को स्वचालित करना। एआई गोद लेने की असीमित वृद्धि मैनुअल जोखिम का पता लगाने और प्रतिक्रिया लगभग असंभव बना देती है। शासन नीतियों और अपेक्षित उपयोगकर्ता व्यवहार के आधार पर इन प्रक्रियाओं को स्वचालित करने से विसंगतियों की पहचान करने और उनके व्यापक सुरक्षा प्रभाव को सीमित करने में मदद मिल सकती है।
5. कर्मचारी अपेक्षाओं की व्याख्या करना। सुरक्षित एआई गोद लेने और उपयोग का सबसे महत्वपूर्ण हिस्सा आपके कर्मचारी हैं। पर्याप्त प्रशिक्षण प्रदान करना और स्पष्ट अपेक्षाएं निर्धारित करने से जोखिम भरे एआई उपयोग को रोकने में मदद मिलेगी और सुरक्षित, व्यवसाय-चालित स्वीकृत और सुरक्षित समाधानों का उपयोग करने को प्रोत्साहित किया जा सकेगा।

सुरक्षित एआई गोद लेने को बनाए रखना

इन प्रकार के प्रवर्तनक सुरक्षा उपायों को स्थापित करके, व्यवसाय एआई समाधानों का उपयोग करने के तरीकों का एक अधिक समग्र दृश्य प्राप्त करते हैं—चाहे स्वीकृत हो या “शैडो” में। इससे सुरक्षा पर तुरंत प्रभाव पड़ता है, जिससे टीमें मौजूदा जोखिमों और खतरों की पहचान कर सकती हैं और उन्हें दूर करने के लिए कार्रवाई कर सकती हैं।

हालांकि, अधिक महत्वपूर्ण बात यह है कि यह व्यवसायों को दीर्घकालिक एआई सफलता के लिए तैयार करता है। एआई उपयोगकर्ताओं के बीच सुरक्षा-पहले संस्कृति के साथ-साथ सुरक्षित एआई गोद लेने और तकनीकी आधार बनाने से, यह बहुस्तरीय दृष्टिकोण भविष्य के लिए एआई टूल्स के लिए एक टिकाऊ मॉडल बनाने में मदद करता है। तकनीकी समर्थन और पर्याप्त प्रशिक्षण के साथ सशक्त, कर्मचारी एआई के लाभों का लाभ उठा सकते हैं而 जोखिमों से बोझिल हुए बिना।

जो संगठन इन परिवर्तनों को जल्दी से करने में सक्षम होंगे, वे एआई समाधानों के भविष्य से मिलने के लिए सबसे अच्छी स्थिति में होंगे, जो भी हो। एआई गोद लेने के बॉक्स को चेक करने के बजाय एक मजबूत आधार बनाने के लिए फ्रंट-एंड काम करने से टीमों को स्थायी एआई-संचालित सफलता के लिए सबसे अच्छी स्थिति में रखा जाएगा।