फंडिंग
जेनिटी ने 125 मिलियन डॉलर जुटाए क्योंकि उद्यम स्वायत्त एआई एजेंटों के सुरक्षा जोखिमों का सामना करते हैं
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
जेनिटी ने $125 मिलियन की श्रृंखला सी फंडिंग जुटाई है क्योंकि व्यवसाय कृत्रिम बुद्धिमत्ता एजेंटों को नियंत्रित प्रयोगों से उन प्रणालियों में स्थानांतरित कर रहे हैं जो डेटा तक पहुंच सकते हैं, सॉफ्टवेयर टूल को आमंत्रित कर सकते हैं और संचालन कार्यों को पूरा कर सकते हैं।
नॉर्वेस्ट ने राउंड का नेतृत्व किया, कुमरा कैपिटल, सॉफ्टबैंक विजन फंड 2, हिटाची वेंचर्स और एलजी टेक्नोलॉजी वेंचर्स नए निवेशकों के रूप में शामिल हुए। मौजूदा समर्थकों वर्टेक्स वेंचर्स, थर्ड पॉइंट वेंचर्स, डीटीसीपी और इंटेल कैपिटल ने भी भाग लिया। कंपनी ने अपने मूल्यांकन का खुलासा नहीं किया।
वित्तपोषण जेनिटी के $38 मिलियन श्रृंखला बी के बाद आता है अक्टूबर 2024 में और कंपनी के खुलासा किए गए वित्तपोषण को कम से कम $180 मिलियन तक ले जाता है।
एआई प्रयोगों से स्वायत्त प्रणाली तक
राउंड का आकार एक व्यापक परिवर्तन को दर्शाता है कि कैसे उद्यम एआई को अपना रहे हैं। एआई एजेंट जोखिम का एक अलग स्तर पेश करते हैं क्योंकि वे कार्रवाई कर सकते हैं। उनकी अनुमतियों के आधार पर, एजेंट आंतरिक डेटाबेस तक पहुंच सकते हैं, एप्लिकेशन प्रोग्रामिंग इंटरफेस को कॉल कर सकते हैं, रिकॉर्ड को अपडेट कर सकते हैं, कोड को निष्पादित कर सकते हैं, संदेश भेज सकते हैं या कई उद्यम प्रणालियों को शामिल करने वाले कार्यों को शुरू कर सकते हैं।
यह सुरक्षा समस्या को आगे बढ़ाता है कि क्या एक मॉडल एक अनुचित प्रतिक्रिया उत्पन्न करता है। संगठनों को यह भी समझना होगा कि कौन से एजेंट तैनात किए गए हैं, कौन उन्हें नियंत्रित करता है, वे किस जानकारी तक पहुंच सकते हैं और वे क्या कार्रवाई करने के लिए अधिकृत हैं।
एक एजेंट अपने डिजाइन के अनुसार व्यवहार कर सकता है और फिर भी एक सुरक्षा घटना पैदा कर सकता है यदि यह अधिक अनुमतियां है, हेरफेर की गई जानकारी का सामना करता है या एक हमलावर के निर्देशों को एक वैध कार्य के हिस्से के रूप में व्याख्या करता है।
जेनिटी इसे एक “एजेंट-लेयर” समस्या के रूप में वर्णित करता है। इसका प्लेटफ़ॉर्म एक एजेंट के कॉन्फ़िगरेशन, अनुमतियों, जुड़े हुए टूल, मेमोरी और रनटाइम क्रियाओं की जांच करने के लिए डिज़ाइन किया गया है, न कि केवल एक मॉडल में प्रवेश करने वाले प्रॉम्प्ट या उत्पन्न प्रतिक्रियाओं पर विचार करने के लिए।
जेनिटी एआई एजेंटों को कैसे सुरक्षित करता है
जेनिटी अपने प्लेटफ़ॉर्म को तीन मुख्य क्षेत्रों में विभाजित करता है: दृश्यता, सुरक्षा मुद्रा प्रबंधन, और पता लगाना और प्रतिक्रिया।
दृश्यता घटक संगठन भर में संचालित एजेंटों की खोज और इन्वेंट्री करता है। इसमें सॉफ़्टवेयर-ए-ए-सर्विस प्लेटफ़ॉर्म में एम्बेडेड एजेंट, क्लाउड परिवेश में चलने वाले आंतरिक रूप से विकसित एजेंट और कर्मचारी डिवाइसों पर स्थापित स्थानीय टूल शामिल हैं।
उद्देश्य सुरक्षा टीमों को प्रत्येक एजेंट के मालिक, कॉन्फ़िगरेशन, अनुमतियों, एकीकरण और रनटाइम व्यवहार का लगातार अद्यतन चित्र देना है। यह बढ़ती महत्व के रूप में हो रहा है क्योंकि व्यक्तिगत विभाग और कर्मचारी एक पारंपरिक सॉफ़्टवेयर विकास या सुरक्षा समीक्षा प्रक्रिया के माध्यम से जाने के बिना एजेंट बनाने में सक्षम हो रहे हैं।
जेनिटी की शासन परत उत्पादन में प्रवेश करने से पहले कॉन्फ़िगरेशन और अनुमतियों का मूल्यांकन करती है। नीतियों का उपयोग अत्यधिक पहुंच, असुरक्षित एकीकरण या एजेंट को उसकी भूमिका से परे काम करने की अनुमति देने वाले टूल की पहचान करने के लिए किया जा सकता है। प्लेटफ़ॉर्म एजेंटों को समय के साथ संशोधित किए जाने पर भी उन नियंत्रणों की जांच जारी रख सकता है।
रनटाइम पर, जेनिटी एक एजेंट के निष्पादन पथ, टूल कॉल, मेमोरी एक्सेस, डेटा उपयोग और अन्य प्रणालियों के साथ बातचीत का विश्लेषण करता है। कंपनी का कहना है कि यह संदर्भ का उपयोग एक क्रिया को होने से पहले अनुमति, संशोधित या ब्लॉक करने के लिए कर सकता है।
यह दृष्टिकोण एक सामान्य अनुरोध और एक स्पष्ट रूप से सामान्य अनुरोध के बीच अंतर करने के लिए डिज़ाइन किया गया है जो दुर्भाग्यपूर्ण सामग्री से प्रभावित है। यह प्रॉम्प्ट फ़िल्टरिंग की एक महत्वपूर्ण सीमा को भी संबोधित करता है: एक खतरनाक परिणाम व्यक्तिगत रूप से हानिरहित क्रियाओं की एक श्रृंखला से उत्पन्न हो सकता है।
सास, क्लाउड और कर्मचारी डिवाइसों को कवर करना
जेनिटी एक विखंडित एजेंट पारिस्थितिकी तंत्र में एक सामान्य सुरक्षा परत प्रदान करने का प्रयास कर रहा है।
सॉफ़्टवेयर-ए-ए-सर्विस वातावरण के लिए, यह माइक्रोसॉफ्ट 365 कोपायलट, माइक्रोसॉफ्ट कोपायलट स्टूडियो, चैटजीपीटी एंटरप्राइज और सेल्सफोर्स (CRM ) एजेंटफोर्स के साथ जुड़े एजेंटों का समर्थन करता है। ये प्रणाली एजेंटों को व्यवसाय दस्तावेज़, ग्राहक रिकॉर्ड, संचार और कार्यों तक पहुंच प्रदान कर सकती हैं जो उद्यम पूरी तरह से होस्ट या नियंत्रित नहीं करता है।
प्लेटफ़ॉर्म सेवाओं के साथ बनाए गए कस्टम एजेंटों को भी कवर करता है, जिनमें एएवीएस बेडरॉक, एज़्योर एआई फाउंड्री और गूगल वर्टेक्स एआई शामिल हैं। जेनिटी उन टूल और क्लाउड सेवाओं की निगरानी करता है जिन्हें ये एजेंट आमंत्रित करते हैं और विकास और निष्पादन के दौरान नीतियों को लागू करते हैं।
एक तीसरा क्षेत्र डिवाइस-आधारित एजेंटों को शामिल करता है, जैसे कि कोडिंग सहायक, डेस्कटॉप अनुप्रयोग और एजेंटिक ब्राउज़र। ये टूल एक कर्मचारी के प्रमाणित वातावरण के भीतर काम कर सकते हैं, संभावित रूप से फ़ाइलों, ब्राउज़र सत्रों और जुड़े सेवाओं तक पहुंच प्राप्त कर सकते हैं।
इन वातावरणों को एक प्रणाली में लाना शासन को सरल बना सकता है, लेकिन यह एक महत्वपूर्ण तकनीकी चुनौती भी पैदा करता है। एक सॉफ़्टवेयर-ए-ए-सर्विस कोपायलट की वास्तुकला, अनुमतियां और टेलीमेट्री एक कस्टम क्लाउड एजेंट या स्थानीय रूप से स्थापित कोडिंग टूल से काफी भिन्न हो सकती है।
सुरक्षा अनुसंधान उभरते हुए खतरे मॉडल को उजागर करता है
जेनिटी ने अपने उत्पाद विकास का समर्थन जेनिटी लैब्स के माध्यम से किया है, जो यह जांचता है कि स्वायत्त प्रणालियों को कैसे अविश्वसनीय सामग्री के माध्यम से हेरफेर किया जा सकता है।
इसके एजेंटफ्लेयर अनुसंधान ने व्यापक रूप से उपयोग किए जाने वाले उद्यम एआई प्लेटफ़ॉर्म में शामिल शून्य-क्लिक और एक-क्लिक हमला श्रृंखलाओं की जांच की। प्रदर्शन में ऐसे दृश्य शामिल थे जहां दुर्भाग्यपूर्ण निर्देश ईमेल, दस्तावेज़, समर्थन मामलों या सहयोग टूल के माध्यम से वितरित किए गए थे और एजेंटों को जानकारी का खुलासा करने, जुड़े हुए टूल का दुरुपयोग करने या अपनी प्रतिक्रियाओं को बदलने का कारण बनते थे।
हाल के अनुसंधान ने पर्प्लेक्सिटी के कोमेट एजेंटिक ब्राउज़र की जांच की। जेनिटी शोधकर्ताओं ने प्रदर्शित किया कि कैलेंडर आमंत्रण के अंदर छिपे हुए निर्देश ब्राउज़र को प्रभावित कर सकते हैं जबकि यह एक नियमित कार्य कर रहा था। एक दृश्य में, समझौता किया गया एजेंट एक अनलॉक किए गए 1पासवर्ड वेब वॉल्ट नेविगेट किया और सामान्य वेब अनुरोधों के माध्यम से प्रमाणीकरण जानकारी प्रसारित की।
अनुसंधान ने इस मुद्दे को एजेंट और तृतीय-पक्ष सामग्री के बीच पर्याप्त पृथक्करण की कमी के लिए जिम्मेदार ठहराया। चूंकि एजेंट पहले से ही एक प्रमाणित ब्राउज़र सत्र के भीतर काम कर रहा था, इसलिए यह संभावित रूप से उपयोगकर्ता द्वारा वैध रूप से दी गई पहुंच का उपयोग कर सकता था।
ये प्रदर्शन यह दर्शाते हैं कि क्यों एजेंट सुरक्षा पूरी तरह से स्पष्ट रूप से दुर्भाग्यपूर्ण प्रॉम्प्ट का पता लगाने पर निर्भर नहीं रह सकती है। निर्देश उस डेटा के भीतर दफन हो सकते हैं जिसे एजेंट को पढ़ने की अपेक्षा की जाती है, जबकि परिणामी क्रियाएं सामान्य ब्राउज़िंग, दस्तावेज़ पुनर्प्राप्ति या अनुप्रयोग गतिविधि की तरह लग सकती हैं।
वे एजेंट के तर्क को हेरफेर किए जाने पर भी लागू होने वाली सीमाओं का भी महत्व रेखांकित करते हैं।
वैश्विक विस्तार और उत्पाद विकास के लिए वित्तपोषण
जेनिटी का कहना है कि उसका राजस्व पिछले दो वर्षों में तीन गुना हो गया है और इस वर्ष फिर से तीन गुना होने की गति पर है। कंपनी का कहना है कि उसके कई ग्राहक फॉर्च्यून 500 और ग्लोबल 2000 संगठन हैं जो वित्तीय सेवाओं, स्वास्थ्य सेवा, फार्मास्यूटिकल्स, विनिर्माण और ऊर्जा जैसे नियामक उद्योगों में काम करते हैं।
अब इसके 230 से अधिक कर्मचारी हैं, शोध और विकास तेल अवीव में केंद्रित है और इसके बाजार और परिचालन कार्य न्यूयॉर्क से नेतृत्व किए जाते हैं।
श्रृंखला सी वित्तपोषण का उपयोग उत्पाद विकास को तेज करने, जेनिटी लैब्स का विस्तार करने और कंपनी की यूरोप और एशिया-प्रशांत क्षेत्र में उपस्थिति को मजबूत करने के लिए किया जाएगा। यह जेनिटी को एजेंट फ्रेमवर्क की बढ़ती संख्या का समर्थन करने के लिए अतिरिक्त संसाधन भी देगा क्योंकि उद्यम एआई बुनियादी ढांचा अधिक विविध हो जाता है।
यह विस्तार कंपनी के पिछले संस्थागत दौर के लगभग दो वर्ष बाद आता है, जब जेनिटी अभी भी अपनी निम्न-कोड और नो-कोड अनुप्रयोग सुरक्षा में उत्पत्ति पर जोर दे रही थी। इसका वर्तमान स्थानीयकरण उन पहले के चिंताओं के विकास को दर्शाता है: जो कर्मचारी पहले सरल व्यवसाय अनुप्रयोग बना सकते थे, वे अब एजेंट बना सकते हैं जो निर्णय ले सकते हैं और जुड़े हुए प्रणालियों को संचालित कर सकते हैं।
एआई एजेंट सुरक्षा अपनी खुद की श्रेणी बन रही है
जेनिटी के फंडरेज़ निवेशकों के विश्वास को इंगित करता है कि एआई एजेंट सुरक्षा एक महत्वपूर्ण साइबर सुरक्षा श्रेणी में विकसित हो सकती है, न कि केवल मौजूदा क्लाउड, पहचान या एंडपॉइंट उत्पादों के भीतर एक विशेषता के रूप में।
एक समर्पित श्रेणी का तर्क यह है कि पारंपरिक उपकरण आमतौर पर केवल एजेंट की गतिविधि का एक हिस्सा देखते हैं। क्लाउड सुरक्षा प्लेटफ़ॉर्म बुनियादी ढांचे की जांच कर सकते हैं, पहचान प्रणाली अनुमतियों को प्रबंधित कर सकती हैं और एंडपॉइंट उत्पाद ऑपरेटिंग-सिस्टम-स्तर के खतरों का पता लगा सकते हैं। वे आवश्यक रूप से एजेंट की भूमिका या एक टूल कॉल श्रृंखला को उपयोगकर्ता के मूल उद्देश्य से संबंधित नहीं समझते हैं।
जेनिटी को अभी भी यह साबित करने की आवश्यकता है कि उसके इरादे आधारित नियंत्रण तेजी से बदलते फ्रेमवर्क के माध्यम से संचालित हो सकते हैं और अधिक अलर्ट, वैध कार्य को ब्लॉक करने या अस्वीकार्य देरी जोड़ने के बिना। यह यह भी प्रदर्शित करना होगा कि उद्यम एक अलग एजेंट-सुरक्षा प्लेटफ़ॉर्म पर निर्भर करने के बजाय प्रमुख क्लाउड और सॉफ़्टवेयर प्रदाताओं द्वारा जोड़े गए नियंत्रणों पर भरोसा नहीं करेंगे।
तत्काल बाजार का अवसर फिर भी स्पष्ट होता जा रहा है। जैसे ही एजेंट संवेदनशील डेटा तक पहुंच प्राप्त करते हैं और महत्वपूर्ण व्यवसाय प्रक्रियाओं को नियंत्रित करना शुरू करते हैं, संगठनों को केवल एक घटना के बाद क्या हुआ, इसका रिकॉर्ड नहीं चाहिए। उन्हें तंत्र की आवश्यकता होगी जो यह पहचान सकते हैं कि कौन से एजेंट मौजूद हैं, यह सीमित करें कि वे क्या कर सकते हैं और एक अनुचित क्रिया एक उल्लंघन बन जाने से पहले हस्तक्षेप करें।
जेनिटी का $125 मिलियन श्रृंखला सी उद्यम पर्यावरण में स्वायत्त सॉफ़्टवेयर द्वारा बढ़ती आबादी के लिए सुरक्षा टीमों की तैयारी के रूप में कंपनी को महत्वपूर्ण संसाधन प्रदान करता है जो एजेंटों की पहचान करने, उन्हें सीमित करने और एक अनुचित क्रिया को उल्लंघन बनने से पहले हस्तक्षेप करने में सक्षम हैं।
