SplxAI ने एजेंटिक AI सिस्टम में बढ़ते सुरक्षा खतरों से निपटने के लिए $7M सीड राउंड सुरक्षित किया

एआई के भविष्य को सुरक्षित करने की दिशा में एक बड़ा कदम, SplxAI, एजेंटिक AI के लिए आक्रामक सुरक्षा में एक अग्रणी, ने $7 मिलियन की सीड फंडिंग जुटाई है। इस दौर का नेतृत्व LAUNCHub Ventures ने किया, जिसमें Rain Capital, Inovo, Runtime Ventures, DNV Ventures, और South Central Ventures ने रणनीतिक भागीदारी की। नई पूंजी SplxAI प्लेटफ़ॉर्म के विकास को तेज़ करेगी, जो उन्नत AI एजेंट और अनुप्रयोगों को तैनात करने वाले संगठनों की रक्षा के लिए डिज़ाइन किया गया है।

जैसे ही उद्यम AI को दैनिक संचालन में एकीकृत करते हैं, खतरों का परिदृश्य तेजी से विकसित हो रहा है। 2028 तक, यह अनुमान लगाया गया है कि 33% उद्यम अनुप्रयोगों में एजेंटिक AI शामिल होंगे – स्वायत्त निर्णय लेने और जटिल कार्य निष्पादन में सक्षम AI सिस्टम। लेकिन यह परिवर्तन एक विशाल रूप से विस्तारित हमला सतह लाता है जिसे पारंपरिक साइबर सुरक्षा उपकरण संभालने में असमर्थ हैं।

“AI एजेंटों को बड़े पैमाने पर तैनात करने से महत्वपूर्ण जटिलता उत्पन्न होती है,” क्रिस्टियन कंबर ने कहा, SplxAI के सीईओ और सह-संस्थापक। “मैनुअल परीक्षण इस वातावरण में संभव नहीं है। हमारा प्लेटफ़ॉर्म एगेंटिक AI को सुरक्षित करने के लिए एकमात्र स्केलेबल समाधान है।”

एजेंटिक AI क्या है और यह एक सुरक्षा जोखिम क्यों है?

पारंपरिक AI सहायकों के विपरीत जो सीधे प्रॉम्प्ट का जवाब देते हैं, एजेंटिक AI उन प्रणालियों को संदर्भित करता है जो स्वायत्त रूप से बहु-चरण कार्यों को पूरा करने में सक्षम हैं। बैठकों का समय निर्धारित करने, यात्रा का आरक्षण करने या कार्य प्रवाह का प्रबंधन करने में सक्षम AI एजेंटों के बारे में सोचें – सभी बिना मानव इनपुट के। यह स्वायत्तता, जबकि शक्तिशाली है, गंभीर जोखिमों को पेश करती है, जिनमें प्रॉम्प्ट इंजेक्शन, ऑफ-टॉपिक प्रतिक्रियाएं, संदर्भ रिसाव और AI हॉलुसिनेशन (झूठे या भ्रामक आउटपुट) शामिल हैं।

इसके अलावा, अधिकांश मौजूदा सुरक्षा – जैसे कि AI गार्डरेल – प्रतिक्रियात्मक और अक्सर खराब प्रशिक्षित होते हैं, जिसके परिणामस्वरूप या तो अत्यधिक प्रतिबंधात्मक व्यवहार होता है या खतरनाक अनुमति होती है। यहीं पर SplxAI आता है।

SplxAI प्लेटफ़ॉर्म: एआई के लिए रेड टीमिंग

SplxAI प्लेटफ़ॉर्म GenAI सिस्टम के लिए पूरी तरह से स्वचालित रेड टीमिंग प्रदान करता है, जिससे उद्यमों को AI-संचालित कार्य प्रवाहों में निरंतर, वास्तविक समय पेनेट्रेशन परीक्षण करने में सक्षम बनाता है। यह कई मोडलिटी में जटिल विरोधी हमलों का अनुकरण करता है, जिनमें पाठ, छवियां, आवाज और यहां तक कि दस्तावेज शामिल हैं।

कुछ उल्लेखनीय क्षमताओं में शामिल हैं:

• डायनामिक रिस्क विश्लेषण: निरंतर AI ऐप्स को स्कैन करता है ताकि कमजोरियों का पता लगाया जा सके और कार्रवाई योग्य अंतर्दृष्टि प्रदान की जा सके।

• डोमेन-विशिष्ट पेनेट्रेशन टेस्टिंग: प्रत्येक संगठन के विशिष्ट उपयोग के मामलों के लिए परीक्षण को अनुकूलित करता है – वित्त से लेकर ग्राहक सेवा तक।

• सीआई/सीडी पाइपलाइन एकीकरण: सुरक्षा को सीधे विकास प्रक्रिया में एम्बेड करता है ताकि उत्पादन से पहले कमजोरियों को पकड़ा जा सके।

• अनुपालन मैपिंग: NIST AI, OWASP LLM टॉप 10, EU AI अधिनियम और ISO 42001 जैसे फ्रेमवर्क के साथ संरेखण का स्वचालित रूप से मूल्यांकन करता है।

यह प्रोक्टिव दृष्टिकोण पहले से ही गति प्राप्त कर रहा है। ग्राहकों में KPMG, Infobip, ब्रांड इंगेजमेंट नेटवर्क और Glean शामिल हैं। अगस्त 2024 में लॉन्च होने के बाद से, कंपनी ने 127% की तिमाही-दर-तिमाही वृद्धि की सूचना दी। (BNAI )

निवेशक एआई सुरक्षा के लिए दृष्टि का समर्थन करते हैं

LAUNCHub Ventures के स्टैन सिराकोव ने जोर देकर कहा कि एआई सुरक्षा समाधानों को स्केलेबल होने की आवश्यकता है: “जैसे ही एजेंटिक एआई मानक बन जाता है, वैसे ही इसके दुरुपयोग की संभावना भी बढ़ जाती है। SplxAI एकमात्र विक्रेता है जिसके पास जोखिम को स्केल पर प्रबंधित करने की योजना है।”

रेन कैपिटल के चेनक्सी वांग ने इस भावना को दोहराया, जोर देकर कहा कि एआई प्रणालियों के लिए स्वचालित रेड टीमिंग का महत्व है: “SplxAI की विशेषज्ञता और प्रौद्योगिकी इसे GenAI को सुरक्षित करने में एक केंद्रीय खिलाड़ी होने की स्थिति में रखती है। मैनुअल परीक्षण अब और नहीं चलेगा।”

नई भर्तियां टीम को मजबूत करती हैं

निवेश के साथ, SplxAI ने दो रणनीतिक भर्तियों की घोषणा की:

• स्टैन सिराकोव (LAUNCHub Ventures) बोर्ड ऑफ डायरेक्टर्स में शामिल होते हैं।

• सैंडी डन, ब्रांड इंगेजमेंट नेटवर्क के पूर्व सीआईएसओ, मुख्य सूचना सुरक्षा अधिकारी के रूप में कंपनी की शासन, जोखिम और अनुपालन (जीआरसी) पहल का नेतृत्व करने के लिए शामिल होते हैं।

अग्रिम उपकरण: एजेंटिक रडार और वास्तविक समय उपचार

मुख्य प्लेटफ़ॉर्म के अलावा, SplxAI ने हाल ही में एजेंटिक रडार लॉन्च किया है – एक ओपन-सोर्स टूल जो एगेंटिक वर्कफ़्लो में निर्भरता को मैप करता है, कमजोर लिंक की पहचान करता है और स्टेटिक कोड विश्लेषण के माध्यम से सुरक्षा अंतराल को उजागर करता है।

इस बीच, उनका उपचार इंजन हार्डन्ड सिस्टम प्रॉम्प्ट्स को स्वचालित रूप से उत्पन्न करने का एक तरीका प्रदान करता है, जो हमले की सतह को 80% तक कम करता है, प्रॉम्प्ट लीकेज रोकथाम में 97% सुधार करता है, और इंजीनियरिंग प्रयास को 95% तक कम करता है। ये सिस्टम प्रॉम्प्ट AI व्यवहार को आकार देने में महत्वपूर्ण हैं और, यदि उजागर या खराब डिज़ाइन किए जाते हैं, तो वे महत्वपूर्ण सुरक्षा दायित्व बन सकते हैं।

20+ भाषाओं में वास्तविक दुनिया के खतरों का अनुकरण

SplxAI वैश्विक समाधान के रूप में एंटरप्राइज़ AI सुरक्षा के लिए बहु-भाषा सुरक्षा परीक्षण का भी समर्थन करता है। प्लेटफ़ॉर्म दोनों विरोधी और हानिरहित उपयोगकर्ता प्रकारों से दुर्भाग्यपूर्ण प्रॉम्प्ट का अनुकरण करता है, जो संगठनों को खतरों जैसे कि:

• संदर्भ रिसाव (संवेदनशील डेटा का आकस्मिक प्रकटीकरण)

• सामाजिक इंजीनियरिंग हमले

• प्रॉम्प्ट इंजेक्शन और जेलब्रेक तकनीक

• विषाक्त या पूर्वाग्रहपूर्ण आउटपुट

यह सब SplxAI की विशिष्ट AI रेड-टीमिंग बुद्धिमत्ता के साथ न्यूनतम झूठी सकारात्मकता के साथ प्रदान किया जाता है।

आगे देख रहे हैं: सुरक्षित एआई का भविष्य

जैसे ही व्यवसाय ग्राहक सेवा से लेकर उत्पाद विकास तक सब कुछ में AI एकीकृत करने की दौड़ में हैं, वास्तविक समय में AI सुरक्षा की आवश्यकता कभी भी अधिक नहीं रही है। SplxAI सुनिश्चित करने के लिए आगे बढ़ रहा है कि AI सिस्टम न केवल शक्तिशाली हों, बल्कि विश्वसनीय, सुरक्षित और अनुपालन भी हों।

“हम GenAI-संचालित ऐप्स को सुरक्षित और सुरक्षित करने के लिए एक मिशन पर हैं,” कंबर ने जोड़ा। “हमारा प्लेटफ़ॉर्म संगठनों को तेजी से आगे बढ़ने में सक्षम बनाता है – चीजों को तोड़े बिना या विश्वास को समझौता किए बिना।”

ताज़ा पूंजी और गति के साथ, SplxAI आने वाले वर्षों में AI सुरक्षा स्टैक में एक आधारभूत परत बनने के लिए तैयार है।