एआई पर प्रतिबंध सुरक्षा जोखिमों को बढ़ाता है और संस्थानों को कैसे प्रतिक्रिया देनी चाहिए

संयुक्त राज्य अमेरिका भर में, स्कूल जिलों और सार्वजनिक क्षेत्र के संगठन जनरेटिव एआई (जेनएआई) प्रौद्योगिकियों या विशिष्ट उपकरणों तक पहुंच को प्रतिबंधित या ब्लॉक करने के लिए आगे बढ़ रहे हैं। कोलोराडो में, बोल्डर वैली स्कूल जिले ने हाल ही में जिला नेटवर्क पर चैटजीपीटी पर प्रतिबंध लगा दिया, दुरुपयोग, सुरक्षा और अकादमिक अखंडता के बारे में चिंताओं का हवाला देते हुए।

सुरक्षा घटनाओं या डेटा दुरुपयोग के संपर्क में आने के जोखिम को कम करने की इच्छा समझ में आती है। कमजोर गार्डरेल या अस्पष्ट गोपनीयता प्रतिबद्धताओं वाले प्लेटफ़ॉर्म, जैसे कि डीपसीक, प्रतिबंध और जांच के लायक हैं। लेकिन जेनएआई टूल्स तक पहुंच को प्रतिबंधित करने से जोखिम को वास्तव में कम नहीं किया जाता है; यह अक्सर इसे ऐसे वातावरण में स्थानांतरित कर देता है जहां पर्यवेक्षण गायब हो जाता है।

एक कॉलेज बोर्ड सर्वेक्षण में पाया गया कि 84% हाई स्कूल के छात्रों ने स्कूल के काम के लिए जेनएआई का उपयोग करने की सूचना दी, भले ही 45% प्रिंसिपलों ने स्कूल में एआई एक्सेस पर कुछ प्रतिबंधों की सूचना दी। इसी तरह, एक आईबीएम रिपोर्ट में पाया गया कि 80% ऑफिस वर्कर्स एआई का उपयोग करते हैं, लेकिन केवल 22% विशेष रूप से नियोक्ता-प्रदान किए गए उपकरणों पर भरोसा करते हैं।

एक्सेस नीतियां अकेले व्यवहार को निर्धारित नहीं कर रही हैं। छात्र अपने फोन निकाल सकते हैं और अपने सेल्युलर डेटा नेटवर्क पर किसी भी एआई टूल का उपयोग कर सकते हैं, या घर पर या सार्वजनिक वाई-फाई पर प्लेटफ़ॉर्म का उपयोग कर सकते हैं। वे प्रतिबंधों को बायपास करने के लिए वीपीएन, रिमोट डेस्कटॉप और प्लग-इन का भी उपयोग कर सकते हैं। कर्मचारी कार्यस्थल नियंत्रणों को बायपास करने के लिए भी ऐसा ही कर सकते हैं।

संगठनों को यह मान लेना चाहिए कि जब किसी को एआई का उपयोग करने की इच्छा होती है, तो वहाँ एक तरीका होता है। जब तकनीक को ऐसे तरीके से सीमित किया जाता है जो इसके उपयोग को संस्थागत दृश्यता से परे धकेल देता है, तो छाया एआई का जोखिम बढ़ जाता है। यह जानने का कोई तरीका नहीं है कि प्रॉम्प्ट में क्या जानकारी दर्ज की जाती है या मॉडल द्वारा क्या डेटा बनाए रखा जाता है। सुरक्षा पर कोई नियंत्रण तुरंत चला जाता है।

छाया एआई के जोखिम से परे, प्रतिबंध साक्षरता अंतराल पैदा करते हैं, छात्रों को पूरी तरह से तैयार नहीं छोड़ते हैं कि वे तकनीक का उपयोग कैसे करें जो उनके भविष्य का एक बड़ा हिस्सा होगा। ये उपकरण बढ़ते हुए सर्च इंजन, व्यवसाय प्लेटफ़ॉर्म, उत्पादकता सुइट और व्यक्तिगत उपकरणों में निहित हैं। एक प्यू रिसर्च सर्वेक्षण में पाया गया कि 62% अमेरिकी वयस्कों का कहना है कि वे कम से कम सप्ताह में कई बार एआई के साथ बातचीत करते हैं। यह लगभग गारंटीकृत है कि छात्र और कर्मचारी संस्थागत नीतियों की परवाह किए बिना जेनएआई प्रणालियों का सामना करेंगे।

इस वातावरण में, शिक्षा दुरुपयोग या सुरक्षा के बारे में चिंताओं के खिलाफ सबसे विश्वसनीय सुरक्षा है, और यह सुनिश्चित करने के लिए कि छात्र और कार्यकर्ता दोनों ही एक ऐसे उपकरण का उपयोग करने के लिए अच्छी तरह से तैयार हैं जो उनके करियर के लिए एकीकृत होगा। जिम्मेदार और नैतिक उपयोग सिखाने से उपयोगकर्ताओं को डेटा जोखिमों को पहचानने और जहां भी वे इन प्रणालियों का सामना करते हैं वहां सूचित निर्णय लेने में सक्षम बनाता है।

शिक्षा कार्यक्रमों पर ध्यान केंद्रित करना चाहिए कि बड़े भाषा मॉडल (एलएलएम) डेटा को कैसे संसाधित और बनाए रखते हैं, हॉलुसिनेशन को कैसे पहचानें, एआई-जनित आउटपुट को कैसे सत्यापित करें, और फ़िशिंग अभियानों और एआई-जनित छवियों को कैसे पहचानें, बस कुछ नाम लेने के लिए। उपयोगकर्ताओं को संदेहास्पद बनाने के लिए सिखाएं। एआई आउटपुट अक्सर आत्मविश्वास से और चिकनी भाषा में प्रस्तुत किया जाता है, जो एक प्राधिकरण का भ्रम पैदा कर सकता है। प्रशिक्षण के बिना, उपयोगकर्ता मान सकते हैं कि एक अच्छी तरह से स्वरूपित उत्तर स्वयं सटीक है।

डिजिटल सामग्री पर प्रश्न उठाने की क्षमता गहरे नकली और एआई-संवर्धित फ़िशिंग अभियानों के रूप में जटिल होने के रूप में एक अग्रिम रक्षा है। एक गार्टनर सर्वेक्षण में पाया गया कि 62% संगठनों ने पिछले साल एक गहरे नकली हमले का अनुभव किया, और 32% ने एआई अनुप्रयोगों पर हमले का सामना किया। इन घटनाओं की आवृत्ति और दायरा केवल बढ़ने की उम्मीद है।

सार्वजनिक क्षेत्र के संस्थान, जैसे कि स्कूल और स्थानीय सरकारें, विशेष रूप से गहरे नकली सामाजिक अभियांत्रिकी के लिए अतिसंवेदनशील हैं क्योंकि उनकी इतनी गतिविधि रिकॉर्ड की जाती है और सार्वजनिक रूप से उपलब्ध है। सार्वजनिक बैठकों से ऑडियो स्निपेट को मैनिपुलेट किया जा सकता है और विश्वासपात्र वॉइस कॉल उत्पन्न करने के लिए उपयोग किया जा सकता है। हमने खतरा अभिनेताओं को इसका उपयोग धोखाधड़ी के लिए किया है, जैसे कि संवेदनशील लेनदेन के दौरान फंड को रीडायरेक्ट करना। जबकि यह सबसे अधिक बार लक्षित मामलों में होता है, जिन उपयोगकर्ताओं को इन तकनीकों को पहचानने या यहां तक कि यह जानने के लिए प्रशिक्षित नहीं किया गया है कि वे संभव हैं, वे शुरू से ही नुकसान में हैं।

शिक्षा के बाद, संगठनों को एआई उपयोग और शासन के संबंध में स्पष्ट रूप से संवाद की गई नीतियां होनी चाहिए। उन्हें अनुमोदित उपकरण, स्वीकार्य उपयोग के मामलों और जो डेटा किसी मॉडल में दर्ज किया जा सकता है और क्या नहीं को परिभाषित करना चाहिए। नीतियों को विभागों के बीच लगातार लागू किया जाना चाहिए, न कि कक्षा से कक्षा या कार्यालय से कार्यालय में भिन्न होना चाहिए। स्पष्ट अपेक्षाएं अस्पष्टता को कम करती हैं और जिम्मेदारी को मजबूत करती हैं।

इसके बजाय कि कंबल प्रतिबंध, संगठनों को तकनीक का उपयोग कैसे किया जाता है इसे आकार देने के लिए देखना चाहिए। जब एक संगठन एक उपकरण को समर्थन देता है जो सुलभ, सुरक्षित और अच्छी तरह से काम करता है, तो यह अधिकांश उपयोगकर्ताओं के लिए डिफ़ॉल्ट बन जाता है। आकस्मिक छाया एआई उपयोग घट जाता है क्योंकि इसका एक सीधा विकल्प है जो वीपीएन डाउनलोड करने के लिए इसका उपयोग नहीं करता है।

संगठन और संस्थान एलएलएम तक सुरक्षित पहुंच प्रदान करने के तरीके खोज रहे हैं ताकि उनके डेटा को सुरक्षित रूप से रखा जा सके और इसे साझा या प्रशिक्षण के लिए उपयोग न किया जा सके। एआई सक्षमन और सुरक्षा उपकरणों की एक बढ़ती श्रेणी इसे करने के लिए उभर रही है। वे कई एलएलएम तक पहुंच प्रदान कर सकते हैं जबकि संस्थान के डेटा को सुरक्षित रूप से कंटेनरीकृत रखा जाता है। शून्य डेटा प्रतिधारण समझौते यह सुनिश्चित करने के लिए कानूनी ढांचा प्रदान करते हैं कि संगठन के डेटा संपत्ति कंपनी या संस्थान की संपत्ति बनी रहती है, और एलएलएम इसका प्रशिक्षण नहीं ले सकता है। इसके अलावा, यदि एक कर्मचारी संस्थान छोड़ देता है, तो कोई भी एआई उपयोग, कार्य प्रवाह या डेटा संगठन की संपत्ति बनी रहती है।

तकनीकी गार्डरेल को विशेषता स्तर पर भी लागू किया जा सकता है। एक संस्थान छात्रों या कर्मचारियों को एक स्वीकृत एलएलएम के भीतर सामान्य प्रश्न पूछने की अनुमति दे सकता है, जबकि फ़ाइल अपलोड, दस्तावेज़ साझा करने या अन्य उच्च-जोखिम वाली क्षमताओं को अक्षम कर देता है। ये कॉन्फ़िगरेशन उत्पादकता लाभों को बनाए रखते हुए नियंत्रित डेटा एक्सपोज़र के लिए दरवाजा नहीं खोलते हैं।

अधिक उन्नत उपकरण संवेदनशील जानकारी को मॉडल तक पहुंचने से पहले ही अनामित कर सकते हैं। उदाहरण के लिए, डॉक्टरों और नर्सों को जेनएआई का उपयोग करने की अनुमति देने के लिए रोगी नाम या पहचानकर्ताओं को तटस्थ प्लेसहोल्डर्स के साथ बदलना, बिना सुरक्षित डेटा के संपर्क में। अन्य डेटा हानि रोकथाम नियंत्रण एकीकृत करते हैं जो सामाजिक सुरक्षा संख्या, वित्तीय खाता डेटा या अन्य विनियमित जानकारी को प्रॉम्प्ट में जमा करने से रोकते हैं।

शिक्षा के आधार पर स्पष्ट नीतियां और तकनीकी गार्डरेल्स सबसे अच्छा बचाव बनाते हैं, विशेष रूप से जब तकनीक इतनी तेजी से बदलती है। जेनएआई अधिकांश सार्वजनिक क्षेत्र के संगठनों – और उनके बजट – की तुलना में तेजी से विकसित हो रहा है। प्रत्येक नए मॉडल पर प्रतिबंध लगाने का प्रयास करना अस्थिर है क्योंकि एक मंच प्रतिबंधित होने से पहले ही एक और प्लेटफ़ॉर्म प्राप्त कर लेता है। जोखिमों को समझने वाले उपयोगकर्ता उपकरण और संस्करणों के पार अनुकूलित हो सकते हैं।

एआई-सक्षम वातावरण में सुरक्षा इस वास्तविकता को स्वीकार करने पर निर्भर करती है कि जेनएआई अब दैनिक जीवन में निहित है। जिन्न को फिर से बोतल में नहीं डाला जा सकता है। कंबल प्रतिबंध सावधानी का संकेत दे सकते हैं, लेकिन वे अक्सर दिखाई देने वाले, प्रबंधनीय जोखिम के लिए अदृश्य, अप्रबंधित जोखिम का व्यापार करते हैं। किसी व्यक्ति को जिम्मेदारी से एआई का उपयोग करने के लिए सिखाएं, और वे जो कुछ भी आता है उसके लिए तैयार होंगे।