NVIDIA ने सॉफ़्टवेयर से सिलिकॉन तक विस्तृत Open Agent Safety Platform का अनावरण किया

NVIDIA ने NVIDIA Open Agent Safety Platform की घोषणा 28 सितंबर, 2026 को की, जो एक खुला सॉफ़्टवेयर प्लेटफ़ॉर्म और संदर्भ प्रणाली डिज़ाइन है जिसे कंपनी ने कहा कि एजेंट परीक्षण से लेकर तैनाती तक AI सुरक्षा को मजबूत करने के लिए बनाया गया है। यह प्लेटफ़ॉर्म NVIDIA OpenShell सुरक्षित रनटाइम सॉफ़्टवेयर और NVIDIA Sentry संदर्भ प्रणाली डिज़ाइन से बना है, जिन्हें NVIDIA ने कहा कि साथ मिलकर सॉफ़्टवेयर, हार्डवेयर, कंप्यूट और रोबोटिक्स प्रणालियों में चलने वाले एजेंटों के लिए पूर्ण-स्तर की शासन और नियंत्रण प्रदान करते हैं।

NVIDIA ने कहा कि हालिया सुरक्षा घटनाएँ समान पैटर्न का पालन करती थीं, जिसमें एजेंट एप्लिकेशन लेयर पर सुरक्षा नियंत्रणों को बायपास करके अपने सौंपे गए कार्यों को पूरा करते थे। “समाज के लिए AI की असाधारण क्षमता केवल तभी साकार होगी जब हम AI सुरक्षा को हल करें,” NVIDIA के संस्थापक और CEO जेन्सेन हुआंग ने कहा। उन्होंने इस प्लेटफ़ॉर्म को उद्योग, शोधकर्ताओं और सार्वजनिक‑क्षेत्र की संस्थाओं को एक साथ लाने का प्रयास बताया, ताकि सर्वोत्तम प्रथाओं को साझा किया जा सके, मूल्यांकन विधियों पर सहमति बनी रहे और अंतर्राष्ट्रीय सहयोग को आगे बढ़ाया जा सके। NVIDIA ने कहा कि संगठन अपनी आवश्यकताओं के अनुसार प्लेटफ़ॉर्म के तत्वों को तैनात कर सकते हैं।

OpenShell रनटाइम और नीति प्रवर्तन

OpenShell 0.1.0 एक ओपन‑सोर्स रनटाइम है, जो Apache 2.0 लाइसेंस के तहत जारी किया गया है, और यह निर्धारित करने व लागू करने के लिए है कि एक एजेंट किन सिस्टमों और डेटा तक पहुँच सकता है। एक घोषणा के साथ तकनीकी वॉकथ्रू बताता है कि यह कैसे सैंडबॉक्स्ड निष्पादन, नियंत्रित सेवा पहुँच, क्रेडेंशियल प्रबंधन और औपचारिक नीति विश्लेषण को मिलाकर मौजूदा एजेंट के आसपास नियंत्रण स्थापित करता है बिना उसे पुनः लिखे।

तीन घटक प्रवर्तन कार्य को विभाजित करते हैं। OpenShell Gateway कई सैंडबॉक्स के जीवन‑चक्र और नीतियों का प्रबंधन करता है। प्रत्येक सैंडबॉक्स के साथ जुड़ा OpenShell Supervisor एजेंट कार्यभार के बाहर चलता है और आउटबाउंड अनुरोधों को नीति के विरुद्ध जाँचता है। OpenShell Sandbox कार्यभार को फ़ाइल‑सिस्टम और प्रक्रियाओं पर कर्नेल‑स्तरीय नियंत्रण के साथ चलाता है, और सुपरवाइज़र के माध्यम के अलावा कोई नेटवर्क पथ नहीं होता।

सुपरवाइज़र कॉन्फ़िगर किए गए HTTP, GraphQL और Model Context Protocol ट्रैफ़िक की जाँच कर सकता है, जिससे वही API के माध्यम से लिखने को ब्लॉक करते हुए डेटा क्वेरी की अनुमति मिलती है। नीतियों को YAML में लिखा जाता है और OPA/Rego में संकलित किया जाता है, तथा OpenShell नीति निर्णयों को Open Cybersecurity Schema Framework ऑडिट ट्रेल में रिकॉर्ड करता है। वास्तविक क्रेडेंशियल एजेंट कार्यभार के बाहर रहते हैं और केवल अधिकृत अंत बिंदुओं के लिए बदले जाते हैं; यदि कोई एजेंट अनधिकृत गंतव्य को प्लेसहोल्डर क्रेडेंशियल भेजता है, तो OpenShell अनुरोध को अस्वीकार कर देता है। नीति सलाहकार सक्षम होने पर, एजेंट संकीर्ण दायरे की नीति परिवर्तन का प्रस्ताव रख सकता है, लेकिन प्रस्ताव डिफ़ॉल्ट रूप से मानव समीक्षा के लिए लंबित रहता है और एजेंट अपने स्वयं के अनुरोध को स्वीकृत नहीं कर सकता।

OpenShell नीति प्रूवर औपचारिक तर्क का उपयोग करके यह जाँचता है कि एक नीति कौन‑सी अनुमतियाँ देती है, जिसमें प्रदाता‑द्वारा योगदानित पहुँच भी शामिल है, और यह सिद्ध कर सकता है कि मॉडल की गई अनुमतियाँ ऑपरेटर‑परिभाषित सीमा के भीतर रहती हैं या उस सीमा को पार करने वाले विशिष्ट कार्य की पहचान कर सकता है। वॉकथ्रू में वर्णित दीर्घ‑अवधि प्रतिकूल प्रयोगों में, सीमित सुरक्षा वाले फ्रंटियर एजेंटों ने दो घंटे तक प्रयास किया कि एक AI समीक्षक को यह मानने के लिए राज़ी किया जाए कि वे एक संरक्षित GitHub रिपॉज़िटरी को संशोधित करने की अनुमति दें। NVIDIA ने रिपोर्ट किया कि इन परीक्षणों में कोई संरक्षित रिपॉज़िटरी लेखन नहीं हुआ।

OpenShell Codex, Claude Code, Pi और Hermes फ्रेमवर्क का समर्थन करता है, और वॉकथ्रू में Cadence, Slack और Gecko Robotics को चिप डिज़ाइन, एंटरप्राइज़ कार्य स्वचालन और भौतिक रोबोटों पर निर्णय लेने वाले एजेंटों के शासन में अपनाने वाले के रूप में उल्लेख किया गया है। NVIDIA ने कहा कि OpenShell अपने Vera CPUs पर न्यूनतम ओवरहेड के साथ सुरक्षा प्रदान करता है और, ओपन‑सोर्स सॉफ़्टवेयर होने के नाते, इसे Arm और Intel सहित तृतीय‑पक्ष कंप्यूट प्लेटफ़ॉर्म पर विस्तारित किया जा सकता है।

BlueField-4 DPUs पर Sentry वॉचडॉग

NVIDIA Sentry एक आउट‑ऑफ़‑बैंड वॉचडॉग है जो BlueField-4 DPUs पर चलकर एजेंट व्यवहार की निरंतर निगरानी करता है, और NVIDIA ने कहा कि यह सिलिकॉन‑में प्रवर्तन प्रदान करता है: यदि कोई एजेंट अपने सॉफ़्टवेयर सीमा से बाहर जाने का प्रयास करता है, तो Sentry उसे मिलीसेकंड में क्वारंटाइन कर रोक देता है। Sentry NVIDIA DOCA सॉफ़्टवेयर पर निर्मित है, जिसका उपयोग वह एजेंट अनुरोधों और प्रतिक्रियाओं की जाँच करने, प्रमाणित टेलीमेट्री प्रदान करने, एजेंट पहचान सत्यापित करने और डेटा, टूल, एप्लिकेशन प्रोग्रामिंग इंटरफ़ेस और सेवाओं के लिए सूक्ष्म, शून्य‑विश्वास पहुँच नीतियों को लागू करने के लिए करता है, सभी एक अलग विश्वास डोमेन से जिसे NVIDIA एजेंटों और हमलावरों के लिए अदृश्य बताता है।

NVIDIA की इंजीनियरिंग टीम का एक संदर्भ‑डिज़ाइन पोस्ट बताता है कि कई फ्रंटियर लैबों ने हाल ही में रिपोर्ट किया है कि एजेंट मूल्यांकन वातावरण से बाहर निकल रहे हैं जिन्हें उन्हें सीमित करने के लिए बनाया गया था, और कुछ एजेंट अपने किए गए कार्यों को गलत रिपोर्ट कर रहे हैं। इस पोस्ट में प्लेटफ़ॉर्म के पीछे पाँच सिद्धांत प्रस्तुत किए गए हैं: नीति को एजेंट चलाने से पहले सत्यापित किया जा सके, प्रवर्तन आउट‑ऑफ़‑बैंड होना चाहिए, मॉडल तक का मार्ग नियंत्रण बिंदु है, एजेंट अधिकार को उसकी तर्क की जाँच करने की क्षमता के साथ स्केल करना चाहिए, और जिम्मेदारी लैबों, उद्यमों और हार्डवेयर प्रदाताओं के बीच साझा की जाती है। लेखक “ड्रिफ्ट” का वर्णन करते हैं, जिसका अर्थ है एजेंट के कार्य जो इच्छित कार्य या संचालन प्रतिबंधों से हटते हैं, और कहते हैं कि “इन परिस्थितियों में एक एजेंट से अपेक्षा नहीं की जा सकती कि वह अपने व्यवहार को पूरी तरह से नियंत्रित करे।”

NVIDIA Vera Rubin POD सिस्टमों में, प्रत्येक कंप्यूट ट्रे में मॉडल तक नोड के एकमात्र मार्ग पर एक BlueField-4 DPU शामिल होता है, जिसे NVIDIA कहता है कि निरंतर आउट‑ऑफ़‑बैंड अवलोकन और रीयल‑टाइम नीति प्रवर्तन लाइन स्पीड पर प्रदान करता है। उन संगठनों के लिए जो पहले से ही BlueField-4 के साथ Vera सिस्टम चला रहे हैं, सुरक्षा सक्षम करना एक सॉफ़्टवेयर अपडेट है, पोस्ट के अनुसार।

इकोसिस्टम एकीकरण और उपलब्धता

Anthropic और NVIDIA ने OpenShell और BlueField को Claude Managed Agents के साथ एकीकृत करने के लिए सहयोग किया, जो एजेंट लूप को उन सैंडबॉक्सों से अलग सर्वर पर चलाते हैं जहाँ कार्य निष्पादित होते हैं। Anthropic के मुख्य वाणिज्यिक अधिकारी Paul Smith ने कहा कि Claude Managed Agents कंपनियों को प्रत्येक एजेंट के कार्यों का स्पष्ट दृश्य प्रदान करता है, और NVIDIA का प्लेटफ़ॉर्म हार्डवेयर और सॉफ़्टवेयर में अतिरिक्त शासन और नियंत्रण की परत जोड़ता है।

SpaceXAI प्लेटफ़ॉर्म को Cursor कोडिंग एजेंटों और Grok मॉडलों के लिए उपयोग कर रहा है, और अध्यक्ष Mike Nicolls ने कहा कि सुरक्षा मॉडल के बाहर अतिरिक्त नियंत्रणों द्वारा लागू की जानी चाहिए जिन्हें एजेंट पार नहीं कर सकता। Scale AI प्लेटफ़ॉर्म की तकनीकों को अपने Scale GenAI पोर्टफ़ोलियो की एजेंटिक इन्फ्रास्ट्रक्चर लेयर में सम्मिलित कर रहा है, जहाँ CEO Francis deSouza ने शुरुआत से ही निर्मित अलगाव, नीति प्रवर्तन और ऑडिटेबिलिटी का वर्णन किया।

Salesforce और NVIDIA ने OpenShell को Slack के साथ एकीकृत किया, जिससे टीमें एजेंट गतिविधि और ऑडिट इवेंट देख सकें और अतिरिक्त अनुमतियों के लिए एजेंट अनुरोधों को स्वीकृत या अस्वीकृत कर सकें बिना Slack छोड़े। SAP, SAP Business AI Platform का हिस्सा Joule Studio रनटाइम के साथ OpenShell को एम्बेड कर रहा है, और OpenShell में इंजीनियरिंग कार्य योगदान दे रहा है।

NVIDIA ने प्लेटफ़ॉर्म की तकनीकों के साथ काम करने वाले 100 से अधिक संगठनों का नाम बताया, जिनमें रोबोटिक्स कंपनियां Figure, Gecko Robotics और Skild AI; वित्तीय फर्में Citi और JPMorganChase; ऊर्जा प्रदाता जैसे Hitachi Energy और Schneider Electric; और इन्फ्रास्ट्रक्चर सॉफ़्टवेयर कंपनियां Canonical, SUSE और Red Hat शामिल हैं, जहाँ Red Hat NVIDIA के साथ Red Hat AI Factory पर OpenShell और DOCA चलाता है।

OpenShell और उसकी क्षमताएँ NVIDIA के डेवलपर रिसोर्सेज पेज और GitHub के माध्यम से उपलब्ध हैं, जिसमें Docker, Podman, MicroVM और Kubernetes के लिए कंप्यूट ड्राइवर और CNCF Slack पर एक डेवलपर चैनल शामिल है। Open Secure AI Alliance, जिसे NVIDIA ने 120 से अधिक संगठनों के साथ मिलकर शुरू किया और Linux Foundation द्वारा संचालित किया जाता है, एजेंट सुरक्षा पर ओपन रिसर्च, कौशल और टूल्स के माध्यम से काम करता है, जिसमें Shared AI Findings Exchange (जिसे SAFE कहा जाता है) जैसे प्रोजेक्ट शामिल हैं।