राय
एआई अब हमारे पीसी तक पहुँच रही है—लेकिन यह क्या देख सकती है, इसे नियंत्रित कौन करता है?

मुख्य बिंदुस्थानीय एआई प्रसंस्करण डिवाइस पर चलने वाले एजेंटों के लिए गोपनीयता या सुरक्षा की स्वतः…
और देखें
- स्थानीय एआई प्रसंस्करण डिवाइस पर चलने वाले एजेंटों के लिए गोपनीयता या सुरक्षा की स्वतः गारंटी नहीं देता है।
- एजेंटों को न्यूनतम-विशेषाधिकार पहुँच के अंतर्गत कार्य करना चाहिए जो प्रत्येक विशिष्ट कार्यप्रवाह की आवश्यकता तक सीमित हो।
- उपयोगकर्ताओं को इस पर पारदर्शी और रद्द करने योग्य नियंत्रण चाहिए कि एजेंट क्या देख और कर सकते हैं।
एआई एजेंट चैट विंडो से बाहर निकलकर उन ऑपरेटिंग सिस्टम, ऐप्लिकेशन और फ़ाइलों तक पहुँचने लगे हैं, जिनका लोग हर दिन इस्तेमाल करते हैं।
हाल के महीनों में जारी हुए नए Windows पीसी और सॉफ़्टवेयर आम उपयोगकर्ताओं और उद्यमों के लिए कई चरणों वाले स्वायत्त एआई वर्कफ़्लो के नए दौर की शुरुआत कर रहे हैं। यह बदलाव अब महज़ तकनीकी भविष्यवाणी नहीं रह गया है।
NVIDIA के RTX-संचालित Windows पीसी स्थानीय रूप से चलने वाले एआई एजेंटों को सपोर्ट करते हैं, जबकि Perplexity ने संगत Windows कंप्यूटरों पर अपनी एजेंट क्षमताओं का विस्तार किया है, जिससे स्थानीय फ़ाइलों और कनेक्टेड ऐप्लिकेशन से जुड़े वर्कफ़्लो संभव हुए हैं। इस बीच, Microsoft यह नियंत्रित करने के लिए सुरक्षा उपाय विकसित कर रहा है कि एजेंट संसाधनों तक कैसे पहुँचें और कार्रवाई कैसे करें।
लेकिन अधिक स्वायत्तता के साथ सुरक्षा जोखिम भी बढ़ते हैं। 19 अक्टूबर को, Microsoft की सुरक्षा मामलों की कार्यकारी उपाध्यक्ष Hayete Gallot ने चेतावनी दी कि संगठनों को “एजेंटिक अंदरूनी तत्वों” की सुरक्षा के लिए और अधिक प्रयास करने होंगे। उन्होंने कहा कि एआई एजेंटों को अक्सर ज़रूरत से ज़्यादा अधिकार दिए जाते हैं और वे महत्वपूर्ण प्रक्रियाओं में निर्णय लेते समय संवेदनशील डेटा, टूल और सिस्टम तक पहुँच सकते हैं।
Microsoft की Windows सुरक्षा रणनीति नियंत्रण, सीमित अनुमतियों और सीमित निगरानी पर आधारित है। साथ ही, यह चिंता बढ़ रही है कि किसी एजेंट की गलती का असर केवल एक गलत जवाब तक सीमित न रहे। वह संवेदनशील जानकारी उजागर कर सकता है, महत्वपूर्ण फ़ाइलों में बदलाव कर सकता है या कारोबारी ऐप्लिकेशन में अनचाही गतिविधियाँ कर सकता है।
स्थानीय एआई का मतलब अपने-आप निजी एआई नहीं होता
पीसी पर एआई एजेंट इस्तेमाल करने से क्लाउड-आधारित सेवाओं को भेजे जाने वाले संवेदनशील डेटा की मात्रा घटाने में मदद मिल सकती है, लेकिन स्थानीय प्रसंस्करण सुरक्षा का संपूर्ण कवच नहीं है।
डिवाइस पर चलने वाले मॉडल को भी बहुत ज़्यादा फ़ाइलों तक पहुँच मिल सकती है, उसकी सुरक्षा कमज़ोर हो सकती है या दूसरी ऐप्लिकेशन से उसका असुरक्षित जुड़ाव हो सकता है।
iData Global के सीईओ और सह-संस्थापक Bayron Quintero ने कहा कि समस्या हमेशा एआई मॉडल की नहीं होती; अक्सर यह संगठन के शासन-प्रबंधन से जुड़ी होती है। उनकी कंपनी पूरे अमेरिका महाद्वीप में एआई समाधान उपलब्ध कराने में विशेषज्ञता रखती है।
उन्होंने Unite.AI को बताया कि कंपनियाँ डेटा, ऐप्लिकेशन और कारोबारी प्रक्रियाओं तक बहुत ज़्यादा या बहुत कम पहुँच दे सकती हैं। एजेंटों को ऐसे अधिकार मिल सकते हैं जो उनसे अपेक्षित काम के अनुरूप नहीं होते।
Quintero ने कहा, “चुनौती यह सुनिश्चित करना है कि एजेंट न्यूनतम आवश्यक विशेषाधिकार के सिद्धांत के तहत काम करे और किसी खास वर्कफ़्लो के लिए ज़रूरी डेटा, सिस्टम और कार्रवाइयों तक ही उसकी पहुँच हो।” इसका मतलब है कि किसी विशिष्ट वर्कफ़्लो के लिए ज़रूरी डेटा, सिस्टम और कार्रवाइयों तक ही पहुँच दी जाए।
उन्होंने स्पष्ट डेटा-स्वामित्व, भूमिका-आधारित पहुँच नियंत्रण और आंतरिक तथा तृतीय-पक्ष प्रणालियों के साथ होने वाली गतिविधियों की निरंतर निगरानी को आवश्यक सुरक्षा उपाय बताया।
Quintero ने ज़ोर देकर कहा कि पूरी तरह सुरक्षित स्थानीय एआई जैसी कोई चीज़ नहीं होती।
अत्यधिक अनुमतियाँ, कमज़ोर एन्क्रिप्शन, अपर्याप्त निगरानी और असुरक्षित एकीकरण डिवाइस पर चलने वाले एजेंट को क्लाउड-आधारित एजेंट जितना जोखिमभरा—या उससे भी ज़्यादा जोखिमभरा—बना सकते हैं।
सुरक्षा केवल इस बात पर निर्भर नहीं करती कि किसी सिस्टम का मॉडल कहाँ चल रहा है; यह इस पर भी निर्भर करती है कि उसे कैसे कॉन्फ़िगर और प्रबंधित किया गया है।
अब अनुमति ही नई सीमा है
आम उपयोगकर्ता के लिए सवाल यह है कि एआई एजेंट को उसके काम के हिसाब से उचित पहुँच दी गई है या नहीं।
अगर किसी एजेंट से केवल एक दस्तावेज़ का सारांश माँगा गया है, तो उसे पूरी ड्राइव स्कैन करने की ज़रूरत नहीं होनी चाहिए। तस्वीरें व्यवस्थित करने वाले टूल को वित्तीय डेटा नहीं पढ़ना चाहिए और न ही संदेश भेजने में सक्षम होना चाहिए। अनुमतियाँ सीमित, पारदर्शी और वापस ली जा सकने वाली होनी चाहिए।
Microsoft में एजेंट-खाते और कार्यक्षेत्र का मॉडल एजेंट की गतिविधियों को व्यक्ति के सत्र से अलग करने की दिशा में एक कदम है। हालाँकि, ये सुरक्षा उपाय केवल प्रदर्शन तक सीमित न रहकर वास्तविक उपयोग में भी प्रभावी होने चाहिए।
Microsoft के Windows एजेंट-सुरक्षा दिशानिर्देशों में उपयोगकर्ता की अनुमति, गतिविधियों के लॉग और ऐसी व्यवस्था की माँग की गई है जो एजेंटों को केवल ज़रूरी पहुँच तक सीमित रखे। नियोक्ताओं और डेवलपरों को यह निगरानी करनी होगी कि दस्तावेज़ों, वेबसाइटों या संदेशों में दिए गए भ्रामक निर्देशों पर एजेंट कैसे प्रतिक्रिया देते हैं।
किसी अधिकृत काम के दौरान एजेंटों को अविश्वसनीय सामग्री मिल सकती है। अगर कोई एजेंट शत्रुतापूर्ण पाठ को आदेश समझ ले, तो यह सुरक्षा की बड़ी समस्या बन सकती है, क्योंकि जानकारी तक आसानी से पहुँच बनाई जा सकती है।
संवेदनशील कार्रवाइयों के लिए मानवीय मंज़ूरी और न्यूनतम आवश्यक पहुँच के साथ-साथ नियंत्रण भी ज़रूरी है।
सुविधा के साथ स्पष्ट सीमाएँ भी ज़रूरी हैं
एआई पीसी का मूल्यांकन केवल इस आधार पर नहीं होगा कि एजेंट कितना काम स्वचालित कर सकते हैं, बल्कि इस आधार पर भी होगा कि उपयोगकर्ता निजी और पेशेवर डेटा साझा करने को लेकर कितना भरोसा महसूस करते हैं।
स्थानीय प्रसंस्करण के साथ, एजेंटिक एआई गति बढ़ा सकती है और कुछ डेटा के उजागर होने का जोखिम घटा सकती है, लेकिन इससे अनुमतियों और निगरानी की ज़रूरत खत्म नहीं होती।
सिद्धांत सीधा होना चाहिए: एजेंटों को केवल काम के लिए ज़रूरी चीज़ों तक पहुँच मिलनी चाहिए, और उपयोगकर्ताओं को यह समझने, निगरानी करने और रोकने में सक्षम होना चाहिए कि एजेंट क्या करता है।
कंप्यूटर हमारे लिए अधिक काम करने में सक्षम होते जा रहे हैं, इसलिए नियंत्रण को बाद में जोड़ने वाली बात नहीं माना जा सकता। इसे डिज़ाइन का हिस्सा होना चाहिए।












