रोनी ओहायोन, डीपकीप के सीईओ और संस्थापक – साक्षात्कार श्रृंखला

रोनी ओहायोन, डीपकीप के सीईओ और संस्थापक, एक अनुभवी उद्यमी और प्रौद्योगिकीविद् हैं जिनका करियर एआई, साइबर सुरक्षा, स्वायत्त प्रणालियों और बड़े पैमाने पर वीडियो प्रौद्योगिकियों में फैला हुआ है। उन्होंने इन क्षेत्रों में कई कंपनियों की स्थापना और नेतृत्व किया है, जिनमें स्वायत्त वाहन कनेक्टिविटी, लाइव वीडियो प्रसारण और उन्नत इंजीनियरिंग में प्रमुख भूमिकाएं शामिल हैं, साथ ही साथ कंप्यूटर इंजीनियरिंग में पहले के शैक्षणिक कार्य भी शामिल हैं।

डीपकीप एक एआई-सुरक्षा प्लेटफ़ॉर्म है जो उद्यमों को अपने पूरे जीवन चक्र में एआई, जनरेटिव एआई, एलएलएम, कंप्यूटर विजन और मल्टीमॉडल सिस्टम को सुरक्षित करने में मदद करने के लिए डिज़ाइन किया गया है। कंपनी कमजोरियों की पहचान करने, विरोधी खतरों को अवरुद्ध करने, डेटा लीक और प्रॉम्प्ट मैनिपुलेशन जैसे मुद्दों को रोकने, नियामक अनुपालन का समर्थन करने और विश्वसनीय, लचीले और सुरक्षित एआई तैनाती सुनिश्चित करने के लिए निरंतर निगरानी प्रदान करने पर केंद्रित है।

आपने वीडियो प्रसारण, स्वायत्त वाहन कनेक्टिविटी और एआई प्रणालियों में प्रमुख नवाचारों का नेतृत्व किया है। आपके अपने करियर में क्या था जिसने आपको यह महसूस कराया कि अगली बड़ी चुनौती जिसे आपको हल करने की आवश्यकता थी वह उद्यम एआई को सुरक्षित करना था?

मैं हमेशा उच्च-प्रभाव वाली चुनौतियों को हल करने के लिए प्रेरित रहा हूं जो उद्योगों को फिर से आकार देती हैं। वर्षों से, मैंने एक बार-बार दोहराए जाने वाले पैटर्न को देखा है जहां नई प्रौद्योगिकी, विशेष रूप से एआई, अक्सर सुरक्षा उपायों को पीछे छोड़ देती है, जिससे महत्वपूर्ण कमजोरियां पीछे रह जाती हैं।

उद्यम एआई को अपनाने, विशेष रूप से बड़े भाषा मॉडल (एलएलएम) और एजेंटिक एआई के उदय के साथ, एक नया जोखिमों का मोर्चा खुल गया, और व्यवसाय अक्सर अभिभूत और असुरक्षित महसूस करते हैं कि वे इन प्रणालियों का सुरक्षित और आत्मविश्वास से उपयोग कैसे करें। मेरे एआई प्रणालियों में अनुभव ने मुझे यह महसूस कराया कि यह कितना आवश्यक है कि सुरक्षा को इन प्रौद्योगिकियों के हृदय में एकीकृत किया जाए ताकि वे न केवल नवाचारी हों, बल्कि सुरक्षित और विश्वसनीय भी हों, और व्यवसायों को सक्रिय रूप से समर्थन देने के लिए विश्वसनीय परिणाम प्रदान करें। यह एहसास डीपकीप की स्थापना के लिए आया, जिसमें एआई प्रणालियों को सुरक्षित करने पर ध्यान केंद्रित किया गया था ताकि व्यवसाय एआई को आत्मविश्वास से अपना सकें और उत्पादकता और व्यवसाय विकास को बढ़ावा दे सकें, सुरक्षा या गोपनीयता के साथ समझौता किए बिना।

जब आप और आपके सह-संस्थापक ने 2021 में डीपकीप लॉन्च किया, तो कौन सा विशिष्ट एआई-सुरक्षा अंधकार था जिसने आपको यह महसूस कराया कि एक समर्पित प्लेटफ़ॉर्म के लिए तत्काल आवश्यकता थी, और कैसे उस अंतर्दृष्टि ने कंपनी के शुरुआती दिशा को आकार दिया?

वर्षों के बाद कंप्यूटर विजन में काम करने के बाद, जिसमें यह सुनिश्चित करने के लिए महत्वपूर्ण प्रयास की आवश्यकता थी कि यह विश्वसनीय और मजबूत है, हमें एहसास हुआ कि कंप्यूटर विजन में विश्वास और सुरक्षा सुनिश्चित करने के लिए एक समर्पित समाधान डिज़ाइन करने का समय आ गया है।

2021 में, एलएलएम विस्फोट से पहले, हमने कंप्यूटर विजन मॉडल में जोखिमों को संबोधित करने के लिए डीपकीप लॉन्च किया।

क्या आप हमें पहले प्रोटोटाइप में वापस ले जा सकते हैं—यह वास्तव में क्या करता था, टीम कितनी छोटी थी, और आपने यह कैसे सत्यापित किया कि आप सही रास्ते पर थे?

जब हमने डीपकीप की स्थापना की, तो फोकस अभी भी पारंपरिक एआई – कंप्यूटर विजन, टेबुलर मॉडल और प्रारंभिक एनएलपी पर था, जो बड़े भाषा मॉडल के उदय से बहुत पहले था। हमारा पहला प्रोटोटाइप कंप्यूटर विजन वर्गीकरणकर्ताओं को विरोधी हमलों के खिलाफ उनकी मजबूती का परीक्षण करने के लिए एक प्रणाली थी। इसके साथ ही, हमने एआई फ़ायरवॉल का एक प्रारंभिक संस्करण बनाया जो इन हमलों का पता लगा सकता था और उन्हें वास्तविक समय में झंडी दिखा सकता था।

प्रारंभिक उपयोग के मामले ऑटोमोटिव, बीमा और वित्तीय सेवाओं से आए, जहां मॉडल के दुर्व्यवहार वास्तविक परिचालन जोखिम को वहन करते हैं। हम उस समय लगभग आठ लोगों की एक छोटी टीम थी, जिससे हम जल्दी से प्रोटोटाइप तैयार कर सकते थे।

हमने यह सत्यापित किया कि हम सही रास्ते पर हैं संभावित ग्राहकों से सीधे बात करके, जिन्होंने लगातार विरोधी मजबूती को एक उभरती हुई चिंता के रूप में उजागर किया। लगभग उसी समय, एमआईटीआरई के एटलस जैसे फ्रेमवर्क – पहली बार 2021 में जारी किए गए – प्रकट होने लगे, जो एआई सुरक्षा और विरोधी खतरा मॉडलिंग के क्षेत्र में विकसित हो रहे थे। ग्राहक प्रतिक्रिया और उद्योग दिशा के बीच संरेखण ने हमें विश्वास दिलाया कि हम सही दिशा में जा रहे हैं।

डीपकीप को शुरू से ही पारंपरिक सॉफ़्टवेयर के बजाय एआई प्रणालियों को सुरक्षित करने के लिए डिज़ाइन किया गया था। आपने पहले मॉडल प्रकार और हमले की सतह को कैसे प्राथमिकता दी?

हमें पता था कि उद्यम एआई को सुरक्षित करने के लिए एक दृष्टिकोण परिवर्तन की आवश्यकता है। जबकि कई संगठन पर्याप्त रूप से समझदार हैं कि उन्हें मॉडल के लिए प्रवेश परीक्षण और मूल्यांकन करने की आवश्यकता है, हम समझते थे कि ये कार्रवाइयां केवल शुरुआत हैं।

वास्तविक जोखिम पूरे अनुप्रयोग पारिस्थितिकी तंत्र में, न केवल मॉडलों में, उत्पन्न होते हैं। इसलिए, जबकि पारंपरिक एआई चैटबॉट के साथ पारंपरिक लाल टीमिंग उद्योग की शुरुआती बिंदु थी, हम जल्दी ही विकसित समाधानों पर आगे बढ़े जो कस्टम एआई अनुप्रयोगों और एआई एजेंटों को सुरक्षित करते हैं, और आगे बढ़ेंगे जो एजेंटों के बीच बातचीत और महत्वपूर्ण क्रॉस-डोमेन बुद्धिमत्ता के साथ सुरक्षित करेंगे।

हम सभी मॉडल प्रकारों में मॉडल स्कैनिंग को सक्षम करते हैं, लेकिन हम सबसे तत्काल खतरों जैसे विरोधी हमलों, डेटा लीक, सिस्टम दुरुपयोग और विश्वास के क्षरण के खिलाफ सुरक्षा प्रदान करते हैं मॉडलों को लाल टीमिंग करके और एआई प्रॉम्प्ट और प्रतिक्रियाओं को सुरक्षित करने के लिए गार्डरेल लगाकर।

साथ ही, हम मॉडलों के “सेमेंटिक लेयर” को सुरक्षित करके संदर्भ में सुरक्षा प्रदान करते हैं जिसमें मॉडल संचालित होते हैं। यह सुनिश्चित करता है कि मॉडलों को आसानी से हेरफेर नहीं किया जा सकता है।

संस्थापन चरण और डीपकीप के वर्तमान उत्पाद दिशा के बीच आप कौन से सबसे बड़े तकनीकी या रणनीतिक परिवर्तन करते हैं?

हमने जो सबसे बड़ा निर्णय लिया वह पारंपरिक मॉडल सुरक्षा से परे एआई अनुप्रयोग सुरक्षा के क्षेत्र में विस्तार करना था। शुरू में, हमने व्यक्तिगत मॉडलों को सुरक्षित करने पर ध्यान केंद्रित किया, लेकिन जैसे ही एआई परिदृश्य विकसित हुआ, हमने महसूस किया कि पूरे एआई पारिस्थितिकी तंत्र को सुरक्षित करना, जहां कई मॉडल, एजेंट और उपयोग के मामले परस्पर क्रिया करते हैं, कहीं अधिक महत्वपूर्ण था।

एक और महत्वपूर्ण निर्णय यह था कि हमने पूर्ण तैनाती लचीलेपन की पेशकश करने का निर्णय लिया, जिसमें क्लाउड-एज्नोस्टिक, ऑन-प्रीम और एयर-गैप्ड समाधान शामिल हैं, जिससे उद्यमों को किसी भी वातावरण में डीपकीप को सुरक्षित रूप से तैनात करने की अनुमति मिलती है। हमने हाल ही में अपने प्लेटफ़ॉर्म में एक उन्नत उद्योग-अग्रणी व्यक्तिगत रूप से पहचान योग्य जानकारी गार्डरेल एकीकृत किया है, जिसने हमारे ग्राहकों को और भी गहरे स्तर की डेटा सुरक्षा प्रदान की है और यह सुनिश्चित किया है कि उद्यम अपने एआई उपयोग को बढ़ाते समय वैश्विक अनुपालन आवश्यकताओं को पूरा कर सकते हैं।

डीपकीप सुरक्षा और विश्वसनीयता पर समान जोर देता है। किस चरण में यह दोहरा फोकस कंपनी की पहचान का मुख्य हिस्सा बन गया?

सुरक्षा और विश्वसनीयता पर ध्यान केंद्रित करना शुरू से ही स्पष्ट था, खासकर जब हम अपने ग्राहकों और उनकी जरूरतों को गहराई से समझने लगे।

एआई मॉडल के साथ काम करते समय, सुरक्षा और विश्वास हाथ से हाथ जाते हैं और दोनों बराबर भूमिका निभाते हैं क्योंकि अंत में, दोनों ही हानिकारक और विनाशकारी परिणाम पैदा कर सकते हैं। एक अनुप्रयोग मजबूत और अविश्वसनीय नहीं हो सकता है, और इसके विपरीत।

पारंपरिक साइबर सुरक्षा उपकरण प्रॉम्प्ट इंजेक्शन, हॉलुसिनेशन, डेटा लीक, या मॉडल मैनिपुलेशन के लिए डिज़ाइन नहीं किए गए थे। आप कौन से उभरते खतरों को देखते हैं जिनका सामना उद्यम सबसे ज्यादा करते हैं, और उन वास्तविक दुनिया के मुद्दों ने डीपकीप के आर्किटेक्चर को कैसे प्रभावित किया?

उभरते खतरों में, प्रॉम्प्ट इंजेक्शन और डेटा लीक सबसे दबाव वाले चिंताएं हैं जिनका सामना हम उद्यमों को करते हुए देखते हैं। जैसे ही एआई अनुप्रयोग और एआई एजेंट व्यवसाय प्रक्रियाओं में एकीकृत होते जाते हैं, प्रॉम्प्ट मैनिपुलेशन और संवेदनशील डेटा के आकस्मिक एक्सपोज़र के जोखिम अधिक प्रमुख हो जाते हैं। इन मुद्दों ने हमें डीपकीप को संदर्भ सुरक्षा पर ध्यान केंद्रित करने के लिए डिज़ाइन करने के लिए प्रेरित किया, न केवल मॉडलों की सुरक्षा के लिए, बल्कि पूरे एआई पारिस्थितिकी तंत्र में डेटा और इंटरैक्शन के प्रवाह की सुरक्षा के लिए। हमारी बुनियादी ढांचा इन परतों को विकास चरण में पेंटेस्ट करने और रन-टाइम के दौरान सुरक्षित करने के लिए बनाया गया था।

आपका प्लेटफ़ॉर्म गार्डरेल, रेड-टीमिंग और डेटा-सुरक्षा परतों को जोड़ती है। तकनीकी दृष्टिकोण से, कौन सा सबसे कठिन साबित हुआ है और आपने तेजी से बदलते एआई मॉडल के लिए एक प्रणाली बनाते समय क्या सीखा?

प्रत्येक परत – गार्डरेल, रेड-टीमिंग और डेटा सुरक्षा – अपनी चुनौतियों के साथ आती है, लेकिन हमने पाया कि इन सभी परतों की चुनौतियां जो सामान्य थीं वे वास्तव में सबसे कठिन थीं।

पहली चुनौती परिवर्तन की गति है: नए जोखिम, जेलब्रेक और हमले के तकनीक लगातार उत्पन्न होते रहते हैं, इसलिए कुछ भी स्थिर होने से जल्दी पुराना हो जाता है। दूसरी चुनौती संदर्भ अपनाना है: उद्यम में, एक-आकार-फिट-सभी दृष्टिकोण बस काम नहीं करता है क्योंकि प्रत्येक अनुप्रयोग की अलग-अलग नीतियों, डेटा संवेदनशीलता और उपयोगकर्ता व्यवहार होते हैं।

पहली चुनौती का सामना करने के लिए, हमने एक पूरी तरह से मॉड्यूलर आर्किटेक्चर बनाया जिसमें प्लग-इन शैली के घटक हैं, जिससे हम रेड-टीमिंग इंजन में नए हमलों या फ़ायरवॉल में नए गार्डरेल जोड़ सकते हैं बिना प्रणाली को बाधित किए।

और दूसरी चुनौती को हल करने के लिए, हमने एक एजेंटिक, संदर्भ-जागरूक प्रणाली डिज़ाइन की। यह अनुप्रयोग के वातावरण का विश्लेषण करता है और स्वचालित रूप से संबंधित सुरक्षा उपायों को समायोजित करता है – जो तब आवश्यक है जब अंतर्निहित एआई मॉडल और उपयोग के मामले इतनी तेजी से विकसित होते हैं।

वे दो क्षमताएं, मॉड्यूलरिटी और संदर्भ जागरूकता, उद्यम स्तर पर संचालित करने और तेजी से बदलते एआई प्रणालियों के साथ तालमेल बिठाने के लिए महत्वपूर्ण रही हैं।

एआई सुरक्षा एक विकसित होता क्षेत्र है। आप आज उद्यमों में कौन से अंतराल देखते हैं – नीति, टूलिंग, या जोखिम समझ – जो डीपकीप के सुरक्षा स्टैक और ग्राहक ऑनबोर्डिंग को आकार देने में सबसे直接 रूप से आकार दिया है?

अंतराल उद्योग, कंपनी के आकार और एआई अपनाने की परिपक्वता के आधार पर काफी भिन्न होते हैं।

बड़े उद्यमों में आज हम जो सबसे बड़ा अंतर देखते हैं वह यह है कि सभी एआई सुरक्षा आवश्यकताओं को कवर करने वाला एक एकल समाधान की कमी है। कई ऐसे व्यवसाय एआई सुरक्षा समाधानों की आवश्यकता के बारे में जागरूक हैं, लेकिन जैसे ही अपनाना बढ़ता है, अतिरिक्त सुरक्षा कवरेज की आवश्यकता भी बढ़ जाती है। हमने जल्दी से सीखा कि एक मजबूत, समग्र समाधान में मूल्य है जिसमें विभिन्न क्षमताएं सामंजस्यपूर्ण रूप से एक साथ काम करती हैं और सहज एकीकरण के साथ। ग्राहकों को यह लाभ होता है कि समाधान का पूरा हिस्सा इसके व्यक्तिगत भागों की तुलना में अधिक है।

जैसे ही बाजार परिपक्व हुआ, हमने एक और अंतर की पहचान की कि संगठन अधिक अनुकूलित और कम जेनेरिक सुरक्षा उपकरणों की तलाश में हैं जो उनके एजेंटों और अनुप्रयोगों को सुरक्षित कर सकें। हमारे संदर्भ-जागरूक दृष्टिकोण के पीछे एक कारण यह था कि इस अंतर को संबोधित करने के लिए, यह समझ के साथ कि प्रत्येक अनुप्रयोग और एजेंट अलग है और सुरक्षा की आवश्यकता है।

अगर हम पांच साल आगे देखते हैं, तो आप कैसे उम्मीद करते हैं कि उद्यम एआई जोखिम विकसित होंगे – और आप डीपकीप को उस भविष्य से आगे रहने के लिए कहां स्थित देखते हैं?

मुझे उम्मीद है कि अगले पांच वर्षों में एआई जोखिम एआई स्वायत्तता के साथ विकसित होंगे। जैसे ही एजेंट अधिक स्वायत्त हो जाते हैं और व्यवसायिक संचालन में एकीकृत होते हैं, जटिल कार्यों को करने में सक्षम होते हैं, सुरक्षा उल्लंघन और दुरुपयोग की संभावना बढ़ जाती है। हम एजेंटों के इंटरनेट (IoA) के विकास की कल्पना करते हैं, जहां एजेंट एक दूसरे के साथ बातचीत करते हैं, एक और जटिल एआई इंटरैक्शन वेब बनाते हैं जिसे सुरक्षित करने की आवश्यकता है।

आगे रहने के लिए, डीपकीप अपने प्लेटफ़ॉर्म को और अधिक जटिल एआई प्रणालियों को सुरक्षित करने के लिए विकसित करना जारी रखेगा, यह सुनिश्चित करते हुए कि हम रन-टाइम पर कई एआई मॉडल और एआई-संचालित निर्णय लेने की बढ़ती प्रवृत्ति का समर्थन करते हैं। हमारा लक्ष्य व्यवसायों के लिए एक विश्वसनीय भागीदार बनना है जिस पर वे अपने पूरे एआई पारिस्थितिकी तंत्र को सुरक्षित करने के लिए भरोसा कर सकते हैं, चाहे वह कितना भी जटिल क्यों न हो। धन्यवाद इस शानदार साक्षात्कार के लिए, पाठक जो और जानना चाहते हैं उन्हें डीपकीप पर जाना चाहिए।

धन्यवाद इस शानदार साक्षात्कार के लिए, पाठक जो और जानना चाहते हैं उन्हें डीपकीप पर जाना चाहिए।