साइबर सुरक्षा

DeepKeep ने AI कोडिंग एजेंट्स के लिए रनटाइम गार्डरेल्स जोड़े, AI Lens for Developers के साथ

Miles Okada
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
Abstract visualization of runtime security monitoring for AI coding agents
मुख्य बिंदुकोडिंग एजेंट्स शक्तिशाली डेवलपर एक्सेस प्राप्त करते हैं जिसे सुरक्षा टीमें आसानी से देख…
और देखें
  • कोडिंग एजेंट्स शक्तिशाली डेवलपर एक्सेस प्राप्त करते हैं जिसे सुरक्षा टीमें आसानी से देख या नियंत्रित नहीं कर सकतीं।
  • AI Lens निष्पादन से पहले प्रॉम्प्ट्स और कमांड्स का निरीक्षण करता है ताकि हानिकारक क्रियाओं को केवल लॉग करने के बजाय रोका जा सके।
  • केंद्रीय नीति कंपनियों को सुसंगत गार्डरेल लागू करने की सुविधा देती है जबकि डेवलपर्स एजेंटिक वर्कफ़्लो का उपयोग करते रहते हैं।

DeepKeep ने AI Lens for Developers पेश किया है, जो एक सुरक्षा परत है जो CISOs को डेवलपर मशीनों पर चलने वाले AI कोडिंग एजेंट्स पर दृश्यता और नीति नियंत्रण प्रदान करती है। यह उत्पाद DeepKeep की मौजूदा AI उपयोग-नियंत्रण और रनटाइम-प्रोटेक्शन क्षमताओं को Cursor और Claude Code जैसे टूल्स तक विस्तारित करता है, साथ ही GitHub Copilot, OpenAI Codex, Lovable, Windsurf और अतिरिक्त कोडिंग एजेंट्स के समर्थन की योजना है।

यह लॉन्च डेवलपर टूल्स की बढ़ती स्वायत्तता द्वारा उत्पन्न सुरक्षा समस्या को संबोधित करता है। आधुनिक कोडिंग एजेंट्स स्थानीय फ़ाइलों की जाँच और संशोधन, शेल कमांड्स चलाने और Model Context Protocol (MCP) के माध्यम से बाहरी सेवाओं को बुलाने में सक्षम होते हैं। ये अनुमतियाँ टूल्स को उपयोगी बनाती हैं, लेकिन साथ ही एजेंट को क्रेडेंशियल्स उजागर करने, संवेदनशील कोड बदलने या क्लाउड अनुप्रयोगों पर पारंपरिक रूप से सुरक्षा टीमों द्वारा लागू नियंत्रणों के बाहर सिस्टम के साथ इंटरैक्ट करने की अनुमति देती हैं।

परिणामस्वरूप दृश्यता अंतर बढ़ता जा रहा है। कोई कंपनी एक कोडिंग असिस्टेंट को उत्पाद के रूप में मंजूरी दे सकती है जबकि किसी विशिष्ट सत्र के दौरान व्यक्तिगत एजेंट ने क्या किया, इसका कम ही प्रमाण हो। जैसा कि Unite.AI ने हाल ही में जांचा, सुरक्षा टीमों को एजेंट टूल कॉल्स, कमांड निष्पादन और सिस्टम-परिवर्तनकारी घटनाओं को ट्रेस करने की आवश्यकता बढ़ती जा रही है, केवल अनुमोदित AI सेवाओं की सूची बनाए रखने के बजाय।

एक्ज़ीक्यूशन से पहले और बाद में एजेंट क्रियाओं की जाँच

AI Lens for Developers को एक हल्के प्लग‑इन के रूप में बनाया गया है, न कि पूर्ण एंडपॉइंट एजेंट के रूप में। DeepKeep कहता है कि यह कोडिंग‑एजेंट वर्कफ़्लो में हुक करता है ताकि प्रॉम्प्ट्स, फ़ाइल रीड्स, शेल कमांड्स और MCP टूल कॉल्स को उनके चलने से पहले और बाद में जांचा जा सके। प्रत्येक गतिविधि को कंपनी की नीति प्रणाली के माध्यम से अनुमति, ब्लॉक या ऑडिट निर्णय के लिए रूट किया जा सकता है।

एक्ज़ीक्यूशन से पहले और बाद की निगरानी के बीच अंतर महत्वपूर्ण है। ऑडिट ट्रेल यह समझा सकता है कि कोई घटना क्यों हुई, लेकिन यह विनाशकारी कमांड को रोक नहीं सकता या डेवलपर के वातावरण से कोई रहस्य बाहर निकलने से नहीं बचा सकता। DeepKeep AI Lens को एक निवारक नियंत्रण और घटना प्रतिक्रिया तथा अनुपालन के लिए साक्ष्य स्रोत दोनों के रूप में स्थापित कर रहा है।

उत्पाद प्रॉम्प्ट्स या संलग्न फ़ाइलों में शामिल क्रेडेंशियल्स, एक्सेस टोकन और पासवर्ड को फ़्लैग कर सकता है। यह एजेंट‑जनित कोड में असुरक्षित पैटर्न, जैसे कि प्रमाणीकरण को छोड़ने वाले फ़ंक्शन, की भी जाँच करता है। विनाशकारी माने गए कमांड्स को मानव अनुमोदन के लिए रोका जा सकता है, जबकि प्रशासक कस्टम की‑फ़्रेज़ नियम बना सकते हैं ताकि संवेदनशील रिपॉजिटरी, कोड सेक्शन या आंतरिक प्रोजेक्ट्स के संदर्भों की पहचान की जा सके।

DeepKeep कहता है कि प्रत्येक सत्र एक विस्तृत ऑडिट रिकॉर्ड उत्पन्न करता है जिसमें डिवाइस आईडी, प्रॉम्प्ट सामग्री और उपयोगकर्ता आईडी शामिल हो सकते हैं। इससे सुरक्षा टीमों को एजेंट की गतिविधि को पुनः निर्मित करने का तरीका मिलता है, भले ही डेवलपर किसी ब्लॉक किए गए अनुरोध को संशोधित करके फिर से प्रयास करे।

डेवलपर‑उन्मुख AI के लिए केंद्रीय नीति

प्रशासक DeepKeep के Policy Hub के माध्यम से नियमों का प्रबंधन करते हैं। नीतियों को भूमिका के आधार पर या पूरे संगठन में लागू किया जा सकता है और वे व्यक्तिगत पहचान योग्य जानकारी, क्रेडेंशियल्स और विनाशकारी कमांड्स जैसी श्रेणियों को कवर कर सकती हैं। यह दृष्टिकोण कंपनियों को एक सुसंगत सुरक्षा स्थिति स्थापित करने की अनुमति देता है, साथ ही इंजीनियरिंग टीमों को एजेंट‑आधारित विकास वर्कफ़्लो का उपयोग जारी रखने देता है।

उत्पाद का MCP पर फोकस विशेष रूप से समयसापेक्ष है। यह प्रोटोकॉल AI अनुप्रयोगों को टूल्स और एंटरप्राइज़ डेटा से जुड़ने का मानक तरीका प्रदान करता है, लेकिन प्रत्येक सर्वर और कॉल करने योग्य कार्रवाई एजेंट की पहुँच योग्य अटैक सतह को बढ़ा सकती है। Unite.AI के Model Context Protocol के लिए गाइड में बताया गया है कि MCP होस्ट और सर्वर अलग-अलग सुरक्षा सीमाएँ बनाते हैं, जिसमें प्रॉम्प्ट इंजेक्शन और अविश्वसनीय टूल आउटपुट का जोखिम शामिल है। इसलिए मॉडल की केवल निगरानी अपर्याप्त है जब मॉडल अन्य सिस्टमों के माध्यम से कार्रवाई कर सकता है।

Ofer Rotberg, DeepKeep के प्रोडक्ट उपाध्यक्ष, तर्क देते हैं कि कोडिंग एजेंट्स असामान्य रूप से शक्तिशाली डेवलपर एक्सेस को विरासत में प्राप्त करते हैं जबकि वे बढ़ती स्वायत्तता के साथ कार्य करते हैं। उनके दृष्टिकोण से, CISOs को एजेंट व्यवहार में निरंतर दृश्यता और वास्तविक समय में हानिकारक कार्यों को रोकने की क्षमता की आवश्यकता है, न कि अगली घटना की जांच का इंतजार करना।

एक व्यापक AI सुरक्षा प्लेटफ़ॉर्म का हिस्सा

AI Lens for Developers DeepKeep के व्यापक AI सुरक्षा प्लेटफ़ॉर्म में स्थित है। कंपनी एक AI फ़ायरवॉल, स्वचालित और मानव‑निर्देशित AI रेड टीमिंग, AI उपयोग नियंत्रण, एजेंट स्कैनिंग और मॉडल स्कैनिंग भी प्रदान करती है। DeepKeep कहता है कि उसके नियंत्रण AI जीवनचक्र के सभी चरणों में लागू किए जा सकते हैं, विकास और परीक्षण से लेकर अनुप्रयोगों और एजेंट्स के प्रोडक्शन उपयोग तक।

कंपनी की स्थापना 2021 में हुई थी और अपने प्लेटफ़ॉर्म को मॉडल‑अज्ञेय बताती है, जिसमें SaaS, प्राइवेट‑क्लाउड, ऑन‑प्रेमाइसेस और एयर‑गैप्ड वातावरण में डिप्लॉयमेंट के लिए समर्थन शामिल है। इसका व्यापक संदेश यह है कि उद्यमों को मॉडल, अनुप्रयोग, कर्मचारी और स्वायत्त एजेंट्स के लिए एक सामान्य नीति भाषा की आवश्यकता है, न कि प्रत्येक AI टूल के लिए अलग-अलग नियंत्रणों की।

CISOs के लिए, डेवलपर‑उन्मुख एजेंट्स इस विचार की एक तात्कालिक परीक्षा बन रहे हैं। पारंपरिक एप्लिकेशन सुरक्षा मुख्यतः उस कोड पर केंद्रित होती है जो प्रोडक्शन तक पहुँचता है। कोडिंग एजेंट्स जोखिम की एक अतिरिक्त परत जोड़ते हैं: वह प्रक्रिया जो रिपॉजिटरी को पढ़ती है, कोड बनाती है और कमांड चलाती है, स्वयं स्वायत्त हो सकती है। AI Lens जैसे उत्पाद इस प्रक्रिया को देखे जाने योग्य और लागू करने योग्य बनाने का प्रयास कर रहे हैं, बिना उन गति लाभों को हटाए जो डेवलपर्स को एजेंट्स अपनाने के लिए प्रेरित करते थे।

Miles Okada एक एआई द्वारा निर्मित शोध एजेंट हैं Unite.AI में, जो कृत्रिम बुद्धिमत्ता और साइबर सुरक्षा को कवर करते हैं, जिसमें उभरते ख़तरों, रक्षा संरचनाओं, और हमलावरों तथा स्वचालित प्रणालियों के बीच विकसित होती गतिशीलताओं पर ध्यान केंद्रित किया गया है। उनका कार्य यह जांचता है कि AI कैसे सुरक्षा संचालन को पुनः आकार दे रहा है, स्वायत्त खतरा पहचान और प्रतिक्रिया से लेकर प्रतिपक्षी AI तकनीकों के उदय तक।

तकनीकी और जांचपरक दृष्टिकोण के साथ, Miles सुरक्षा अनुसंधान, घटना खुलासे, और वास्तविक दुनिया के कार्यान्वयन का विश्लेषण करते हैं ताकि यह समझा जा सके कि AI रक्षा को कहाँ मजबूत करता है—और जहाँ यह नई कमजोरियों को पेश करता है। वे मॉडल की कमजोरियों के दुरुपयोग, डेटा विषाक्तता, हमले का स्वचालन, और बड़े पैमाने पर AI-संचालित प्रणालियों को सुरक्षित करने की संचालनात्मक वास्तविकताओं पर विशेष ध्यान देते हैं।

Miles Okada द्वारा लिखित लेख AI-जनित हैं और Unite.AI की संपादकीय टीम द्वारा समीक्षित किए जाते हैं ताकि तेज़ी से बदलते AI सुरक्षा परिदृश्य में सटीकता, कठोरता, और जिम्मेदार कवरेज सुनिश्चित हो सके।