एआई एजेंट्स के छिपे हुए खतरे की मांग एक नए सुरक्षा मॉडल की है

एजेंटिक एआई सिस्टम पिछले एक साल में मुख्यधारा में आ गए हैं। वे अब कई कार्यों के लिए उपयोग किए जा रहे हैं, जिनमें उपयोगकर्ताओं को प्रमाणित करना, पूंजी स्थानांतरित करना, अनुपालन कार्य प्रवाह को ट्रिगर करना और न्यूनतम मानव पर्यवेक्षण के साथ उद्यम पर्यावरण में समन्वय करना शामिल है।

हालांकि, बढ़ती स्वायत्तता के साथ एक शांत समस्या उत्पन्न हो रही है, न कि प्रॉम्प्ट या नीतियों के स्तर पर, बल्कि बुनियादी ढांचे के विश्वास के स्तर पर। एजेंटिक सिस्टम को अंदरूनी अधिकार दिया जा रहा है, जबकि वे अभी भी ऐसे कंप्यूटिंग वातावरण में चल रहे हैं जो स्वायत्त निर्णय लेने वालों को बुनियादी ढांचे से बचाने के लिए डिज़ाइन नहीं किए गए हैं।

पारंपरिक सुरक्षा यह मानती है कि सॉफ्टवेयर निष्क्रिय है, लेकिन एजेंटिक सिस्टम निष्क्रिय नहीं हैं। वे तर्क करते हैं, याद रखते हैं और निरंतर, स्वायत्त और प्रतिनिधि अधिकार के साथ कार्य करते हैं।

यह नहीं भूलना चाहिए कि एआई एजेंटों के पास व्यक्तिगत डेटा तक पहुंच होने की संभावना है, उनके उपयोग के मामले के आधार पर, जैसे कि ईमेल और कॉल रिकॉर्ड, अन्य चीजों के अलावा।

इसके अलावा, जबकि हार्डवेयर-आधारित सुरक्षा उपाय, जैसे कि गोपनीय वर्चुअल मशीन और सुरक्षित एन्क्लेव, मौजूद हैं, वे अभी भी अधिकांश एजेंटिक एआई तैनाती के लिए डिफ़ॉल्ट फाउंडेशन नहीं हैं। परिणामस्वरूप, कई एजेंट अभी भी ऐसे वातावरण में निष्पादित होते हैं जहां संवेदनशील डेटा रनटाइम के दौरान अंतर्निहित बुनियादी ढांचे के लिए उजागर होता है।

एजेंट अंदरूनी हैं, न कि उपकरण

सुरक्षा टीमें पहले से ही जानती हैं कि अंदरूनी खतरों को कैसे संभालना है, एक मुद्दा जो वरिज़ोन की 2025 डेटा ब्रीच रिपोर्ट में उजागर किया गया है, जो दिखाती है कि सिस्टम इंट्रूज़न पिछले साल पुष्टि की गई उल्लंघनों में से 53% से अधिक के लिए जिम्मेदार थी। इनमें से 22% मामलों में, हमलावरों ने अंदरूनी पहुंच प्राप्त करने के लिए चोरी किए गए प्रमाण-पत्रों का उपयोग किया, जो दिखाता है कि वे कितनी बार वैध पहचान का उपयोग करके सफल होते हैं, तकनीकी खामियों का फायदा उठाने के बजाय।

अब, एक एजेंट पर विचार करें, जो प्रॉम्प्ट तर्क, उपकरण और प्लगइन, प्रमाण-पत्र, साथ ही नीतियों से बना है। न केवल यह कोड चला सकता है और वेब ब्राउज़ कर सकता है, बल्कि यह सीआरएम को क्वेरी कर सकता है, ईमेल पढ़ सकता है और टिकट धक्का दे सकता है, अन्य कई चीजों के अलावा। जो कार्यों का संयोजन लाया है वह पारंपरिक हमले की सतह को एक आधुनिक इंटरफ़ेस में लाया है।

ऐसे अंदरूनी खतरों का खतरा काल्पनिक नहीं है। ओपन वेब एप्लिकेशन सुरक्षा परियोजना (ओडब्ल्यूएएसपी) अब एलएलएम अनुप्रयोगों के लिए एक महत्वपूर्ण कमजोरियों के रूप में “प्रॉम्प्ट इंजेक्शन” को सूचीबद्ध करता है, जो कि विशेष रूप से एजेंटिक सिस्टम के लिए खतरनाक है जो क्रियाओं को श्रृंखला में जोड़ते हैं। माइक्रोसॉफ्ट की खतरा खुफिया टीम ने भी सलाहकार प्रकाशित किए हैं जो चेतावनी देते हैं कि एआई सिस्टम जो उपकरण तक पहुंच प्रदान करते हैं उन्हें डेटा चोरी करने के लिए प्रतिबद्ध किया जा सकता है यदि सुरक्षा उपाय वास्तुकला द्वारा लागू नहीं किए जाते हैं।

इन रिपोर्टों को यह याद दिलाने के लिए समय पर दिया जा रहा है कि एजेंट जो प्रणालियों और डेटा तक वैध पहुंच प्रदान करते हैं उन्हें उनके मालिकों के खिलाफ मोड़ा जा सकता है। हालांकि, एजेंटिक सिस्टम के लिए जोखिम परिदृश्य एकत्रित नहीं है। एप्लिकेशन-परत के खतरे जैसे प्रॉम्प्ट इंजेक्शन और उपकरण दुरुपयोग मॉडल की inability के कारण उत्पन्न होते हैं विश्वसनीय निर्देशों को अविश्वसनीय उपयोगकर्ता इनपुट से अलग करने के लिए, एक डिज़ाइन सीमा जिसे किसी भी मात्रा में मेमोरी कठोरता से ठीक नहीं किया जा सकता है।

एक अलग और समान रूप से महत्वपूर्ण समस्या बुनियादी ढांचे के स्तर पर मौजूद है: कुछ एजेंट प्लेटेक्स्ट मेमोरी में चलते हैं, जिसका अर्थ है कि संवेदनशील जानकारी – जैसे कि चैट इतिहास, एपीआई प्रतिक्रियाएं और दस्तावेज़ – प्रसंस्करण के दौरान देखी जा सकती है और बाद में सुलभ रह सकती है। ओडब्ल्यूएएसपी इस जोखिम को संवेदनशील जानकारी प्रकटीकरण (एलएलएम02) और सिस्टम प्रॉम्प्ट लीकेज (एलएलएम07) के रूप में पहचानता है और संदर्भ अलगाव, नामस्थान खंडीकरण और मेमोरी सैंडबॉक्सिंग का उपयोग सुरक्षा उपाय के रूप में सुझाता है।

इस प्रकार, उपयोगकर्ताओं को इन एजेंटों को केवल अनुप्रयोगों के रूप में नहीं मानना चाहिए, क्योंकि वे गतिशील, तर्कसंगत निष्पादक हैं जिन्हें उनकी विशिष्ट प्रकृति के लिए एक सुरक्षा मॉडल की आवश्यकता होती है जो गैर-मानव entitites के रूप में कार्य करता है। इस दृष्टिकोण में सॉफ्टवेयर नियंत्रण शामिल होने चाहिए जो मॉडल के कार्यों को सीमित करते हैं और हार्डवेयर सुरक्षा जो डेटा को सुरक्षित रखती है जब यह उपयोग किया जा रहा हो।

विश्वास की वास्तुकला में एक महत्वपूर्ण दोष है

वर्तमान सुरक्षा प्रथाएं डेटा को विश्राम और संचरण में सुरक्षित करने पर केंद्रित हैं। अंतिम सीमा, डेटा का उपयोग, लगभग पूरी तरह से उजागर रहता है। जब एक एआई एजेंट एक गोपनीय डेटासेट पर कारण देता है तो ऋण को मंजूरी देने, रोगी रिकॉर्ड का विश्लेषण करने या व्यापार को निष्पादित करने के लिए, आमतौर पर डेटा सर्वर की मेमोरी के भीतर प्लेटेक्स्ट में डिक्रिप्ट और प्रसंस्कृत किया जाता है।

मानक क्लाउड मॉडल में, कोई भी जो बुनियादी ढांचे पर पर्याप्त नियंत्रण रखता है, जिसमें हाइपरवाइज़र प्रशासक या सह-टेनेंट हमलावर शामिल हैं, कार्यभार चलने के दौरान हो रही चीजों में झांक सकते हैं। एआई एजेंटों के लिए, यह जोखिम विशेष रूप से खतरनाक है, क्योंकि उन्हें अपना काम करने के लिए संवेदनशील जानकारी तक पहुंच की आवश्यकता होती है, जो संभावित रूप से हमले की सतह बन सकती है।

जैसा कि लुमिया सुरक्षा ने प्रदर्शित किया है, हमलावर जो स्थानीय मशीन तक पहुंच प्राप्त कर सकते हैं वे सीधे चैटजीपीटी, क्लॉड और कोपायलट डेस्कटॉप अनुप्रयोगों के प्रक्रिया मेमोरी से जेडब्ल्यूटी और सत्र कुंजी प्राप्त कर सकते हैं। चोरी किए गए प्रमाण-पत्र उन्हें दूसरे उपयोगकर्ता के रूप में प्रस्तुत करने, बातचीत इतिहास चोरी करने और सत्रों में प्रॉम्प्ट इंजेक्ट करने की अनुमति दे सकते हैं जो एजेंट व्यवहार को बदल सकते हैं या झूठी यादें लगा सकते हैं।

एक उदाहरण के रूप में, एएचएस कोडबिल्ड की जुलाई 2025 में मेमोरी-डंप घटना में हमलावरों ने परियोजना में दुर्भाग्यपूर्ण कोड जोड़ा, और जब सिस्टम ने इसे चलाया, तो कोड ने कंप्यूटर की मेमोरी में संग्रहीत छिपे हुए लॉगिन टोकन में झांका। उन टोकन के साथ, हमलावरों ने परियोजना के कोड को बदल दिया और संभावित रूप से अन्य प्रणालियों तक पहुंच प्राप्त की।

वित्तीय संस्थानों के लिए, यह शांत हेरफेर अस्तित्वहीन है। बैंक, बीमा कंपनियां और निवेश फर्म पहले से ही औसतन 10 मिलियन डॉलर से अधिक की उल्लंघन लागत को अवशोषित करती हैं, और वे समझते हैं कि अखंडता गोपनीयता के रूप में महत्वपूर्ण है। एक हालिया इन्फोर्मेटिका रिपोर्ट के अनुसार, “विश्वास परिदृश्य” को इस प्रकार समझाया गया है: संगठन स्वायत्त एजेंटों को तेजी से तैनात कर रहे हैं जितनी तेजी से वे उनके आउटपुट की पुष्टि कर सकते हैं। परिणामस्वरूप, स्वचालन जो त्रुटियों या पूर्वाग्रह को मूल प्रक्रियाओं में मशीन गति से हार्डवायर कर सकता है।

गोपनीय कंप्यूटिंग और अलगाव का मामला

क्रमिक सुधार समस्या का समाधान नहीं करेंगे, हालांकि सख्त पहुंच नियंत्रण और बेहतर निगरानी मदद कर सकती है। फिर भी, न तो समस्या को बदल सकता है। मुद्दा वास्तुकला है, और जब तक कि गणना उजागर मेमोरी में होती है, एजेंट तब तक कमजोर रहेंगे जब वे सबसे ज्यादा मायने रखते हैं, जो कि तर्क है।

गोपनीय कंप्यूटिंग, जिसे कॉन्फिडेंशियल कंप्यूटिंग कंसोर्टियम (सीसीसी) द्वारा हार्डवेयर-आधारित ट्रस्टेड एक्जीक्यूशन एनवायरनमेंट (टीईई) के माध्यम से उपयोग में डेटा की सुरक्षा के रूप में परिभाषित किया जाता है, सीधे तौर पर मूल समस्या को संबोधित करता है।

एआई एजेंटों के लिए, यह हार्डवेयर-स्तरीय अलगाव परिवर्तनकारी है, क्योंकि यह एजेंट के पहचान प्रमाण-पत्र, इसके मॉडल वजन, प्रोप्राइटरी प्रॉम्प्ट और संवेदनशील उपयोगकर्ता डेटा को निष्पादन के दौरान सक्रिय रूप से मेमोरी में एन्क्रिप्टेड रहने देता है। अलगाव पारंपरिक मॉडल को निश्चित रूप से तोड़ता है जहां बुनियादी ढांचे पर नियंत्रण कार्यभार पर नियंत्रण की गारंटी देता है।

दूरस्थ सत्यापन प्रदान करता है क्रिप्टोग्राफिक प्रमाण जो यह प्रमाणित करता है कि एक विशिष्ट अनुमान अनुरोध एक हार्डवेयर-समर्थित ट्रस्टेड एक्जीक्यूशन एनवायरनमेंट के भीतर चलाया गया था, चाहे वह सीपीयू हो या जीपीयू। प्रमाण हार्डवेयर मापदंडों से उत्पन्न होता है और प्रतिक्रिया के साथ वितरित किया जाता है, जो यह सत्यापित करने की अनुमति देता है कि कार्यभार कहां और कैसे चलाया गया था।

प्रमाणीकरण रिकॉर्ड निष्पादित कोड का खुलासा नहीं करते हैं। इसके बजाय, प्रत्येक कार्यभार एक अद्वितीय कार्यभार आईडी या लेनदेन आईडी से जुड़ा होता है, और टीईई प्रमाणीकरण रिकॉर्ड उस पहचानकर्ता से जुड़ा होता है। प्रमाणीकरण यह पुष्टि करता है कि गणना एक विश्वसनीय वातावरण के भीतर चलाई गई थी बिना इसकी सामग्री का खुलासा किए।

सेटअप एक नए आधार के लिए अनुपालन और लेखा परीक्षा की अनुमति देता है, जो एजेंट की क्रियाओं को एक विशिष्ट संस्करण कोड से जोड़ने की अनुमति देता है जो प्रमाणित किया गया है और एक ज्ञात सेट इनपुट डेटा के साथ।

जिम्मेदार स्वायत्तता की ओर

उपरोक्त प्रणाली के परिणाम सुरक्षा से परे हैं। वित्त, स्वास्थ्य सेवा और व्यक्तिगत जानकारी को नियंत्रित करने वाले कानूनों पर विचार करें। कई क्षेत्राधिकार डेटा संप्रभुता नियम लागू करते हैं जो यह प्रतिबंधित करते हैं कि जानकारी कहां संसाधित की जा सकती है। चीन में, व्यक्तिगत जानकारी संरक्षण कानून और डेटा सुरक्षा कानून कुछ श्रेणियों के डेटा को घरेलू स्तर पर संग्रहीत करने और स्थानांतरण से पहले समीक्षा करने की आवश्यकता को निर्दिष्ट करते हैं।

इसी तरह, कई खाड़ी देश, जैसे कि संयुक्त अरब अमीरात और सऊदी अरब, वित्त, सरकार और महत्वपूर्ण बुनियादी ढांचे के डेटा के लिए विशेष रूप से इसी तरह के दृष्टिकोण को अपनाया है।

गोपनीय कंप्यूटिंग सुरक्षा और लेखा परीक्षा को मजबूत कर सकती है डेटा की सुरक्षा सुनिश्चित करके और रनटाइम वातावरण के प्रमाणीकरण की अनुमति देकर। हालांकि, यह संसाधित होने के स्थान को नहीं बदलता है। जहां डेटा संप्रभुता नियम स्थानीय प्रसंस्करण या क्रॉस-बॉर्डर हस्तांतरण पर स्थितियों को लागू करते हैं, विश्वसनीय निष्पादन वातावरण अनुपालन नियंत्रणों का समर्थन कर सकते हैं, कानूनी आवश्यकताओं को प्रतिस्थापित नहीं कर सकते हैं।

इसके अलावा, गोपनीय कंप्यूटिंग बहु-एजेंट प्रणालियों में सुरक्षित सहयोग को सक्षम बनाती है, जहां विभिन्न संगठनों या विभागों के भीतर एजेंटों को अक्सर जानकारी साझा करने या आउटपुट को सत्यापित करने की आवश्यकता होती है बिना प्रोप्राइटरी डेटा का खुलासा किए।

और जब यह प्रौद्योगिकी शून्य-विश्वास वास्तुकला के साथ जोड़ी जाती है, तो परिणाम एक बहुत मजबूत आधार है। शून्य-विश्वास निरंतर पहचान और पहुंच को सत्यापित करता है, जबकि गोपनीय कंप्यूटिंग हार्डवेयर की मेमोरी को अनधिकृत निष्कर्षण से बचाती है और संवेदनशील जानकारी को प्लेटेक्स्ट में पुनर्प्राप्त करने से रोकती है।

एक साथ, वे वास्तव में महत्वपूर्ण चीजों की रक्षा करते हैं, जैसे कि निर्णय तर्क, संवेदनशील इनपुट और क्रिप्टोग्राफिक कुंजी जो कार्रवाई को अधिकृत करती हैं।

स्वायत्त प्रणालियों के लिए एक नया आधार

यदि प्रत्येक इंटरैक्शन लोगों को उजागर करने का जोखिम पैदा करता है, तो वे एआई को स्वास्थ्य रिकॉर्ड जैसी चीजों को संभालने या वित्तीय निर्णय लेने की अनुमति नहीं देंगे। इसी तरह, कंपनियां अपने सबसे महत्वपूर्ण कार्यों को स्वचालित नहीं करेंगी यदि ऐसा करने से नियामक समस्याएं या महत्वपूर्ण डेटा का नुकसान हो सकता है।

गंभीर निर्माता यह पहचानते हैं कि अनुप्रयोग-परत सुधार ही उच्च-विश्वास वातावरण में पर्याप्त नहीं हैं। जब एजेंटों को वित्तीय अधिकार, विनियमित डेटा या संगठन-व्यापी समन्वय से सौंपा जाता है, तो बुनियादी ढांचे का जोखिम एक सैद्धांतिक चिंता से अधिक हो जाता है। और बिना गोपनीय निष्पादन के ऐसे संदर्भों में, कई एजेंट अभी भी एक नरम लक्ष्य बने हुए हैं, जिनकी कुंजी चोरी की जा सकती है और उनका तर्क मalleable है। आधुनिक उल्लंघनों का आकार बताता है कि यह रास्ता कहां जाता है।

गोपनीयता और अखंडता वैकल्पिक विशेषताएं नहीं हैं जिन्हें तैनाती के बाद जोड़ा जा सकता है। उन्हें सिलिकॉन से ऊपर डिज़ाइन किया जाना चाहिए। इसलिए, एजेंटिक एआई को सुरक्षित रूप से स्केल करने के लिए, हार्डवेयर-आधारित गोपनीयता को केवल एक प्रतिस्पर्धी लाभ के रूप में नहीं सोचा जाना चाहिए, बल्कि एक आधार के रूप में होना चाहिए।