साइबर सुरक्षा
Sysdig ने एंडपॉइंट से क्लाउड तक एजेंट की कार्रवाइयों को नियंत्रित करने के लिए AI Defense लॉन्च किया
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
Sysdig ने AI Defense लॉन्च किया है, जो रनटाइम सुरक्षा और शासन का ऐसा उत्पाद है जिसे यह जाँचने के लिए बनाया गया है कि AI एजेंट क्या करते हैं और जब उनकी कार्रवाइयाँ किसी संगठन की नीतियों की सीमा पार करती हैं, तो हस्तक्षेप करता है। 4 नवंबर की घोषणा के अनुसार, यह उत्पाद macOS और Windows के लिए आम तौर पर उपलब्ध है। इसका उद्देश्य कर्मचारियों के वर्कस्टेशन पर होने वाली गतिविधियों को उन क्लाउड संसाधनों से जोड़कर दिखाना है, जिन तक उनकी साख के ज़रिए पहुँचा जा सकता है।
यह उत्पाद AI के जवाब देने से लेकर सॉफ़्टवेयर संचालित करने तक के बदलाव को ध्यान में रखकर बनाया गया है। कोडिंग एजेंट फ़ाइलें पढ़ सकता है, टूल चला सकता है, प्रक्रियाएँ शुरू कर सकता है और इन्फ्रास्ट्रक्चर में बदलाव कर सकता है। इस कार्यप्रवाह को सुरक्षित रखने के लिए यह समझना ज़रूरी है कि एजेंट के अनुसार वह कौन-सा काम कर रहा है और वास्तव में पर्दे के पीछे कौन-सी कार्रवाइयाँ हो रही हैं।
एजेंट के इरादे को ऑपरेटिंग सिस्टम से मिले साक्ष्यों से जोड़ना
Sysdig के अनुसार, AI Defense एजेंट के हार्नेस—यानी उसे चलाने वाले ढाँचे—के भीतर की इंस्ट्रूमेंटेशन को ऑपरेटिंग सिस्टम की टेलीमेट्री के साथ जोड़ता है। हार्नेस की इंस्ट्रूमेंटेशन टूल, Model Context Protocol सर्वर, स्किल और प्लगइन को की गई कॉल के साथ-साथ उनके तर्कों और लक्ष्यों को दर्ज करती है। सिस्टम-स्तर पर निगरानी से इन कॉल के कारण शुरू हुई प्रक्रियाओं और गतिविधियों का अलग रिकॉर्ड मिलता है।
जब एजेंट का विवरण अधूरा हो या उसके साथ छेड़छाड़ की गई हो, तब यह अंतर महत्त्वपूर्ण हो जाता है। लॉग में दर्ज टूल की एक कार्रवाई कई प्रक्रियाएँ शुरू कर सकती है, और किसी सत्र के दौरान जोड़ा गया कनेक्शन या स्किल एजेंट की क्षमताएँ बदल सकता है। Sysdig के अनुसार, शुरुआती अवलोकन में एजेंट के लॉग में दर्ज हर कार्रवाई के पीछे लगभग सात प्रक्रियाएँ चलती दिखीं; यह कंपनी का निष्कर्ष है, सभी एजेंटों पर लागू होने वाला सार्वभौमिक अनुपात नहीं।
यह सिस्टम यह भी देखता है कि कार्रवाई करने वाले के पास कितने अधिकार हैं: फ़ाइल पढ़ने की एक ही कार्रवाई के नतीजे इस बात पर निर्भर करते हुए अलग हो सकते हैं कि संबंधित साख किसी परीक्षण परिवेश तक पहुँच देती है या प्रोडक्शन का प्रशासन करने का अधिकार। कार्रवाई-आलेख का उद्देश्य घटनाओं के क्रम, जवाबदेह व्यक्ति, एजेंट की बताई गतिविधि और उसकी पहुँच में आने वाले संसाधनों को आपस में जोड़ना है।
ऐसी नीतियाँ जो किसी कार्रवाई की अनुमति दें, उसे रोककर रखें या अवरुद्ध करें
संगठन प्रवर्तन चालू करने से पहले नीतियों को अलर्ट मोड में लागू करना शुरू कर सकते हैं। Sysdig के अनुसार, लागू होने के बाद ये नीतियाँ बिना जाँचे गए टूल और कनेक्शन को अवरुद्ध कर सकती हैं, जोखिमपूर्ण साख तक पहुँच रोक सकती हैं या किसी कार्रवाई को मानवीय मंज़ूरी मिलने तक रोककर रख सकती हैं। विज्ञप्ति में यह भी बताया गया है कि यदि कोई कार्रवाई पहले के नियंत्रण से आगे निकल जाए, तो प्रक्रिया को समाप्त किया जा सकता है।
ये तरीके कार्रवाई के क्रम के अलग-अलग चरणों पर काम करते हैं। किसी प्रक्रिया को पूरा होने से रोकना, गतिविधि का पता लगाने और उसके बाद प्रक्रिया समाप्त करने से अलग है। घोषणा में ऐसी कोई सार्वजनिक तालिका नहीं दी गई है जिससे पता चले कि समर्थित प्रत्येक ऑपरेटिंग सिस्टम, हार्नेस और प्रबंधित प्लेटफ़ॉर्म पर कौन-से नियंत्रण रोकथाम करते हैं।
नीति टेम्पलेट में डेवलपर के लिए अपवाद प्रक्रिया-पथों के साथ OWASP Top 10 for LLM Applications से संबद्धता शामिल है। Sysdig ऐसे सत्र रिकॉर्ड का भी वर्णन करता है जिनमें दिखता है कि कौन-सी नीति लागू हुई, क्या अनुमति दी गई या अवरुद्ध किया गया और अपवाद को किसने मंज़ूरी दी। इन रिकॉर्ड से टीमों को किसी घटना के बाद सत्र को फिर से बनाने की ज़रूरत के बिना जाँच और ऑडिट का काम करने में मदद मिल सकती है।
Falco Foundation क्या योगदान देता है
Sysdig इस उत्पाद को क्लाउड-नेटिव रनटाइम सुरक्षा के क्षेत्र में अपने अनुभव और Falco से जोड़ता है—यह ओपन-सोर्स प्रोजेक्ट उसी ने मूल रूप से बनाया था। Falco के दस्तावेज़ बताते हैं कि यह Linux कर्नेल की घटनाओं और प्लगइन से मिलने वाले इवेंट स्रोतों पर नज़र रखता है, कंटेनर और Kubernetes का संदर्भ जोड़कर घटनाओं को समृद्ध करता है और अलर्ट बनाने के लिए नियम लागू करता है।
यह आधार समझाता है कि Sysdig केवल AI सिस्टम के अपने विवरण पर निर्भर रहने के बजाय वास्तविक निष्पादन को देखने पर ज़ोर क्यों देता है। हालांकि, इसका यह अर्थ नहीं है कि ओपन-सोर्स Falco प्रोजेक्ट स्वयं AI Defense में बताई गई एजेंट-शासन या अवरोधन की हर क्षमता देता है। Falco की दस्तावेज़ीकृत पहचान-वास्तुकला और Sysdig के व्यावसायिक उत्पाद को अलग-अलग समझना चाहिए।
विज्ञप्ति में Claude Code, Codex, GitHub Copilot और Cursor को उन एजेंट परिवेशों में गिना गया है जिनकी सूची बनाने और उन्हें किसी मानव मालिक से जोड़ने का लक्ष्य है। macOS और Windows के लिए उपलब्धता का उसका विवरण, Linux, Kubernetes और प्रबंधित एजेंट प्लेटफ़ॉर्म तक कवरेज पहुँचने के व्यापक दावे से अधिक विशिष्ट है; संगठनों को हर परिवेश के लिए लागू एकीकरण की पुष्टि करनी होगी।
रनटाइम शासन, मॉडल परीक्षण का पूरक है
Sysdig की साझी ज़िम्मेदारी पर तकनीकी चर्चा रनटाइम नियंत्रणों को एजेंट के काम के चारों ओर सुरक्षा-परत के रूप में प्रस्तुत करती है। व्यावहारिक अंतर यह है कि मॉडल से किसी सीमा का सम्मान करने को कहना एक बात है, और सॉफ़्टवेयर द्वारा कोई कार्रवाई करने की कोशिश के समय उस सीमा को लागू करना दूसरी।
AI Defense को मौजूदा एंडपॉइंट सुरक्षा, मॉडल परीक्षण और रेड टीमिंग के साथ इस्तेमाल किए जाने के लिए प्रस्तुत किया गया है। परीक्षण यह जाँचता है कि चुनी हुई परिस्थितियों में कोई मॉडल या कार्यप्रवाह कैसे व्यवहार करता है; रनटाइम शासन वास्तविक सत्र के दौरान होने वाली कार्रवाइयों पर ध्यान देता है। इनमें से किसी भी विवरण से यह साबित नहीं होता कि कोई तैनाती समझौते या हमले से पूरी तरह सुरक्षित है। इसकी प्रभावशीलता नीति के विन्यास और निष्पादन-पथ के कवरेज पर निर्भर करती है।
एजेंट की गतिविधि और AI पर होने वाले खर्च का हिसाब
सुरक्षा के अलावा, Sysdig का कहना है कि AI Defense मॉडल कॉल को संबंधित एजेंट, टीम और जिम्मेदार व्यक्ति से जोड़ता है। इसमें वह गतिविधि भी शामिल है जो किसी केंद्रीकृत AI गेटवे से होकर नहीं गुजरती। इससे संगठनों को नियमित काम में मॉडल के महंगे इस्तेमाल और ऐसी गतिविधि के बीच अंतर करने में मदद मिल सकती है जिसके लिए अधिक सक्षम मॉडल की जरूरत हो।
व्यापक प्रस्ताव सुरक्षा, शासन और लागत प्रबंधन के लिए एक साझा साक्ष्य-परत का है। जैसे-जैसे एजेंट अधिक उपकरण हासिल करते हैं और कर्मचारियों के वास्तविक क्रेडेंशियल का उपयोग करके काम करते हैं, उनका प्रभाव इस बात से तय होता है कि वे क्या-क्या कर सकते हैं। Sysdig AI Defense का उद्देश्य कार्रवाई के बिंदु पर उस अधिकार को दृश्यमान और लागू करने योग्य बनाना है।
