एआई मॉडल और प्लेटफ़ॉर्म
रोब गुर्ज़ीव, साइकोग्निटो के सीईओ और सह-संस्थापक – साक्षात्कार श्रृंखला
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
रोब गुर्ज़ीव, साइकोग्निटो के सीईओ और सह-संस्थापक, ने निजी क्षेत्र और खुफिया एजेंसियों दोनों के लिए आक्रामक सुरक्षा समाधानों के विकास का नेतृत्व किया है।
साइकोग्निटो की स्थापना से पहले, वह सी4 सुरक्षा (एल्बिट सिस्टम द्वारा अधिग्रहित) में आक्रामक सुरक्षा के निदेशक और अनुसंधान एवं विकास के प्रमुख और 8200 इज़राइली खुफिया कोर के उत्पाद विभाग के सीटीओ थे। उन्हें इज़राइली रक्षा बलों के अधिकारी के रूप में उत्कृष्टता पुरस्कार, रचनात्मक सोच पुरस्कार और जीवन के स्रोत पुरस्कार से सम्मानित किया गया था। (ESLT )
साइकोग्निटो की स्थापना राष्ट्रीय खुफिया एजेंसियों के दिग्गजों द्वारा की गई थी, जो जानते हैं कि हमलावर कैसे अंधे धब्बों का फायदा उठाते हैं और कुछ सबसे विश्वसनीय साइबर सुरक्षा कंपनियों के अनुभवी प्रबंधन द्वारा शामिल किया गया था।
साइबर सुरक्षा में आपको最初 क्या आकर्षित किया?
मैं लगभग 13 या 14 साल की उम्र में तकनीक में रुचि लेने लगा। मैंने आईआरसी चैनलों में लोगों के साथ तकनीक और जिसे उस समय “हैकिंग” कहा जाता था, में रुचि लेना शुरू किया।
उस समय लोग विभिन्न प्रकार की दिलचस्प चीजों के साथ प्रयोग कर रहे थे, जैसे कि संदेशवाहक ऐप्स में क्रिप्टोग्राफी। वे फ़ाइल साझा करने के साथ भी प्रयोग कर रहे थे। बच्चे अपने दोस्तों को मजाक में एक ऐसी निष्पादन योग्य फ़ाइल भेजते थे जो कुछ मजाकिया काम करती थी। यदि आप इसके बारे में सोचते हैं, तो यह आज जिसे हम “सोशल इंजीनियरिंग” हमले कहते हैं, उसका आधार था।
यह सब मुझे सोचने पर मजबूर किया: क्या होगा अगर कोई व्यक्ति बुरे इरादों से इस तकनीक का उपयोग करने का प्रबंधन करता है?
इन शुरुआती अनुभवों ने मेरे सुरक्षा करियर को शुरू किया। मैं अंततः इज़राइली यूनिट 8200 इंटेलिजेंस फोर्स में जासूसी कार्य में उतर गया, और बाद में साइकोग्निटो की सह-स्थापना की।
साइकोग्निटो की उत्पत्ति की कहानी साझा कर सकते हैं?
साइकोग्निटो की स्थापना इस जागरूकता पर की गई थी कि हमलावर रक्षकों से आगे रहते हैं। वे चतुर, निरंतर और हमेशा प्रतिरोध के रास्ते की तलाश में रहते हैं। और जबकि सभी हमलावरों को केवल एक कमजोर स्थान की आवश्यकता होती है तोड़ने के लिए, सुरक्षा टीमों को हर संभावित प्रवेश बिंदु को सुरक्षित करना होता है – यह एक बड़ा चुनौती है।
इस समस्या को बढ़ाने के लिए, अधिकांश संगठनों में सुरक्षा टीमों द्वारा अनदेखे संभावित प्रवेश बिंदु होते हैं लेकिन खतरे के अभिनेताओं द्वारा आसानी से खोजे जा सकते हैं।
एक दिन, मैं अपने सह-संस्थापक, दिमा पोटेखिन के साथ बैठा और हमने दृष्टिकोण को बदलने का फैसला किया जहां हम एजेंटों को तैनात करने या एक पोर्ट स्कैनर को कुछ ज्ञात आईपी रेंज को स्कैन करने के निर्देश देने के बजाय, हम एक ऐसा समाधान बनाएंगे जो एक वर्ल्ड-क्लास हमलावर की तरह काम करेगा, जिसका अर्थ है कि यह केवल एक कंपनी के नाम से शुरू होगा और फिर जोखिम वाले संपत्ति और सबसे खुले मार्गों की पहचान करेगा।
हम एक हमलावर के आक्रामक संचालन की नकल करना चाहते थे, जो कि पहले चरण से शुरू होता है, जहां हमलावर को केवल लक्ष्य कंपनी का नाम पता होता है और उनका लक्ष्य संवेदनशील डेटा तक पहुंच प्राप्त करना होता है।
तो 2017 में, हमने अपने राष्ट्रीय खुफिया एजेंसी के अनुभव को लिया और इसे होने के लिए शुरू किया, जिसका मिशन संगठनों को आक्रामक रूप से साइबर जोखिम को प्रबंधित करने में मदद करना था, जो उनकी बाहरी जोखिम को निरंतर मैप करके और उनके आंतरिक नेटवर्क में प्रतिरोध के रास्ते को खोजने के लिए। इसके लिए हमें उन्नत आक्रामक साइबर ज्ञान का लाभ उठाने की आवश्यकता थी, साथ ही साथ हमारे उद्योग में अभी भी दुर्लभ रूप से उपयोग की जाने वाली आधुनिक प्रौद्योगिकी, जैसे कि बेयसियन मशीन लर्निंग मॉडल, एलएलएम, एनएलपी और ग्राफ डेटा मॉडल।
आज, हम उभरते और बड़े वैश्विक 100 कंपनियों को बढ़ते खतरों से अपने हमले की सतह को सुरक्षित करने में मदद करते हैं। हमारे कुछ ग्राहकों में कोलगेट-पामोलिव, कैलिफोर्निया राज्य, बर्लिट्ज, हिटाची, टेस्को शामिल हैं, बस कुछ नाम लेने के लिए।
बाहरी हमला सतह प्रबंधन क्या है?
बाहरी हमला सतह प्रबंधन (ईएएसएम) की पाठ्यपुस्तक परिभाषा उन प्रक्रियाओं और प्रौद्योगिकियों को संदर्भित करती है जिनका उपयोग एक संगठन की डिजिटल संपत्तियों के संपर्क में आने या इंटरनेट से दिखाई देने वाले जोखिम की पहचान, मूल्यांकन और प्रबंधन के लिए किया जाता है।
(CL )बाहरी हमले की सतह विशाल और जटिल होती है। एक ही संगठन में इंटरनेट के लिए सैकड़ों और हजारों प्रणाली, अनुप्रयोग, क्लाउड उदाहरण, आपूर्ति श्रृंखला, आईओटी उपकरण और डेटा हो सकते हैं – अक्सर सहायक कंपनियों, कई क्लाउड और तीसरे पक्ष द्वारा प्रबंधित संपत्ति में फैले हुए।
सुरक्षा टीमों के पास इन संपत्तियों की खोज करने की सीमित क्षमता है। उन्हें हजारों अलर्ट के साथ बमबारी की जा रही है, लेकिन उन्हें यह संदर्भ नहीं है कि कौन से महत्वपूर्ण हैं और कौन से प्राथमिकता दी जानी चाहिए।
वास्तव में महत्वपूर्ण मुद्दों को अलग करने से पहले हमले की सतह पर दृश्यता की आवश्यकता है, लेकिन इससे भी महत्वपूर्ण बात यह है कि प्रभावित संपत्तियों के संदर्भ और उद्देश्य की गहन समझ की आवश्यकता है। एक बार यह स्थापित हो जाने के बाद, सुरक्षा टीमें हमले के मार्गों की गणना कर सकती हैं और भविष्यवाणी कर सकती हैं कि कौन से विशिष्ट खतरे महत्वपूर्ण हैं – जो संभावित रूप से व्यवसाय को गंभीर वित्तीय या प्रतिष्ठा नुकसान पहुंचा सकते हैं। फिर, संगठन प्राथमिकता दे सकता है और अधिकतम प्रभाव के लिए उपचार कर सकता है।
क्या आप अज्ञात जोखिमों की खोज के लिए हमलावर की तरह सोचने के महत्व पर अपने विचार साझा कर सकते हैं?
वरिज़ोन के डीबीआईआर के अनुसार, 82% हमले बाहर से आते हैं। इसके अलावा, अधिकांश उल्लंघनों के अनुसार गार्टनर अज्ञात और अनप्रबंधित संपत्तियों से संबंधित हैं।
यह सprecisely यही कारण है कि अपने हमले की सतह का मूल्यांकन करने के लिए बाहर से भीतर की ओर दृष्टिकोण को अपनाना साइबर सुरक्षा जोखिम का आकलन और प्रबंधन के लिए महत्वपूर्ण है। हमलावर के जूते में कदम रखना आपके सिस्टम के भीतर रहने वाले ताज के गहनों के एक वस्तुनिष्ठ दृश्य प्रदान करता है और जो अधिक महत्वपूर्ण है, जो उजागर और कमजोर हैं।
जैसा कि मैंने पहले उल्लेख किया है, हमले की सतहें बढ़ रही हैं और जटिल हैं। अधिकांश सुरक्षा टीमों में उजागर और कमजोर संपत्तियों में पूर्ण-स्पेक्ट्रम दृश्यता का अभाव है। हमलावर जानते हैं! और वे हमले की सतह का अन्वेषण करना जारी रखेंगे, प्रतिरोध के रास्ते की तलाश में और एक ही अंतराल जिसे सुरक्षा टीमें निगरानी नहीं करती हैं। दुर्भाग्य से, एक सुरक्षा अंतराल ही उन्हें तोड़ने के लिए आवश्यक है। जबकि सुरक्षा टीमों के पास अपने संगठनों को सबसे अधिक कमजोर बनाने वाले जोखिमों की पहचान करने और उन प्रवेश बिंदुओं की रक्षा के लिए कार्रवाई करने का कठिन काम है।
कितनी बार आप उन खतरों की पहचान करते हैं जो बाहरी अनुप्रयोगों और एपीआई के कारण होते हैं जो просто निगरानी या परीक्षण नहीं किए जा रहे हैं?
अधिक बार जितना हम चाहेंगे। हमने हाल ही में शोध किया जिसमें संवेदनशील डेटा को उजागर करने वाले कमजोर सार्वजनिक क्लाउड, मोबाइल और वेब अनुप्रयोगों को उजागर किया गया, जिनमें असुरक्षित एपीआई और व्यक्तिगत रूप से पहचान योग्य जानकारी (पीआईआई) शामिल थी। यहाँ कुछ प्रमुख निष्कर्ष हैं:
- 74 प्रतिशत संपत्तियों में पीआईआई कम से कम एक ज्ञात प्रमुख शोषण के लिए कमजोर हैं, और 10 में से 1 में कम से कम एक आसानी से शोषित मुद्दा है।
- 70 प्रतिशत वेब अनुप्रयोगों में गंभीर सुरक्षा अंतराल हैं, जैसे कि डब्ल्यूएएफ सुरक्षा या एचटीटीपीएस जैसे एन्क्रिप्टेड कनेक्शन की कमी, जबकि 25 प्रतिशत वेब अनुप्रयोगों में दोनों की कमी थी।
- एक औसत वैश्विक उद्यम में 12,000 वेब अनुप्रयोग होते हैं, जिनमें एपीआई, सास अनुप्रयोग, सर्वर और डेटाबेस शामिल हैं। इनमें से कम से कम 30 प्रतिशत वेब अनुप्रयोगों में – 3,000 से अधिक संपत्ति – कम से कम एक शोषित या उच्च जोखिम वाली कमजोरता है। इनमें से आधे संभावित रूप से कमजोर वेब अनुप्रयोग क्लाउड में होस्ट किए जाते हैं।
- 98 प्रतिशत वेब अनुप्रयोग कुकीज़ से बाहर निकलने के अवसर की कमी के कारण जीडीपीआर के अनुरूप नहीं हैं।
हमारे शोध के अलावा, आज ऐसे खतरों के प्रमाण हैं। MOVEit शोषण एक मामला है, जो अभी भी जारी है।
हमले की सतह को परीक्षण और प्रबंधन के लिए प्रक्रियाओं और उपकरणों को समेकित करने के महत्व पर चर्चा कर सकते हैं?
‘स्टैक ब्लोट’ कुछ ऐसा है जिससे अधिकांश उद्यम पीड़ित हैं। यह सुरक्षा में विशेष रूप से प्रमुख है। अधिकांश संगठनों में विभाजित, असंबद्ध सुरक्षा उपकरण हैं। सुरक्षा में एक मंत्र यह रहा है कि अधिक मंच सुरक्षा अंतराल को समाप्त कर देगा। लेकिन इसके बजाय, यह मानव त्रुटियों, अतिव्यापी, बढ़े हुए परिचालन भार और अंधे धब्बों के लिए दरवाजा खोलता है।
साइकोग्निटो को कई विरासत पॉइंट समाधानों का काम करने के लिए बनाया गया था। हम कंपनियों को अपने स्टैक को समेकित करने में मदद करते हैं ताकि वे अपना काम करने पर ध्यान केंद्रित कर सकें।
बुरे अभिनेता एलएलएम और जनरेटिव एआई का उपयोग हमलों को बढ़ाने के लिए कैसे कर रहे हैं?
हमने अभी तक बड़े पैमाने पर एलएलएम का उपयोग करके हमले नहीं देखे हैं, लेकिन यह समय की बात है। मेरे दृष्टिकोण से, एलएलएम के पास साइबर हमलों के विभिन्न चरणों में अधिक स्केल, स्कोप, पहुंच और गति प्रदान करने की क्षमता है।
उदाहरण के लिए, एलएलएम स्वचालित टोही में तेजी ला सकते हैं, जहां हमलावर एक संगठन की संपत्ति, ब्रांड और सेवाओं को मैप और खोज सकते हैं, साथ ही साथ संवेदनशील जानकारी जैसे कि उजागर प्रमाण पत्र। एलएलएम नेटवर्क में कमजोरियों की खोज में भी मदद कर सकते हैं और फ़िशिंग या वॉटरिंग-होल हमलों जैसी तकनीकों के माध्यम से शोषण को सुविधाजनक बना सकते हैं। एलएलएम नेटवर्क से संवेदनशील डेटा की प्रतिलिपि बनाने या निकालने में भी मदद कर सकते हैं।
इसके अलावा, चैटजीपीटी जैसे उपभोक्ता अनुप्रयोग एलएलएम पर आधारित हो सकते हैं, जो जानबूझकर या अनजाने में कर्मचारियों द्वारा कंपनी की बौद्धिक संपदा को लीक करने के लिए उपयोग किए जा सकते हैं।
भाला फ़िशिंग अभियान एक और उपयोग का मामला प्रदान करते हैं। उच्च गुणवत्ता वाली फ़िशिंग लक्ष्य की गहरी समझ पर आधारित होती है; यह ठीक वही है जो बड़े भाषा मॉडल बहुत अच्छी तरह से कर सकते हैं, क्योंकि वे बड़ी मात्रा में डेटा को बहुत तेजी से संसाधित करते हैं और संदेशों को प्रभावी ढंग से अनुकूलित करते हैं।
उद्यम कैसे बदले में जनरेटिव एआई का उपयोग स्वयं की रक्षा के लिए कर सकते हैं?
महान प्रश्न। यह सब के लिए अच्छी खबर है। यदि हमलावर जन एआई का उपयोग कर सकते हैं, तो सुरक्षा टीमें भी ऐसा कर सकती हैं। जन एआई सुरक्षा टीमों को अपनी खुद की कंपनियों पर जासूसी करने और कमजोरियों को दूर करने में मदद कर सकता है। वे अपने हमले की सतह को अधिक तेजी से और लागत प्रभावी ढंग से स्कैन और मैप कर सकते हैं ताकि उजागर संवेदनशील संपत्ति जैसे व्यक्तिगत रूप से पहचान योग्य जानकारी (पीआईआई), फ़ाइलें आदि की पहचान की जा सके।
जन एआई संपत्ति के व्यवसाय संदर्भ को समझने में भी बहुत मदद कर सकता है। उदाहरण के लिए, यह एक डेटाबेस को पहचान सकता है जो पीआईआई धारण करता है और राजस्व लेनदेन में एक भूमिका निभाता है। यह बहुत मूल्यवान है।
जन एआई संपत्ति के व्यवसाय उद्देश्य का भी निर्धारण कर सकता है। उदाहरण के लिए, यह एक भुगतान तंत्र, एक महत्वपूर्ण डेटाबेस और एक यादृच्छिक उपकरण के बीच अंतर करने में मदद कर सकता है – और इसके जोखिम प्रोफ़ाइल को वर्गीकृत कर सकता है। इससे सुरक्षा टीमों को जोखिम को प्राथमिकता देने में मदद मिलती है। प्राथमिकता देने की क्षमता के बिना, सुरक्षा टीमों को असीमित कमजोरियों के माध्यम से छानना होगा जो ‘अत्यावश्यक’ के रूप में लेबल की जाती हैं जब वास्तव में अधिकांश मिशन-महत्वपूर्ण नहीं हैं।
सुरक्षा उद्देश्यों के लिए जनरेटिव एआई पर अधिक निर्भर होने के बारे में उद्यमों को क्यों सावधानी बरतनी चाहिए?
जनरेटिव एआई की बड़ी संभावना है, लेकिन हमें उद्योग के रूप में कुछ मुद्दों को हल करने की आवश्यकता है।
बड़ा चित्र मेरे लिए यह है कि जन एआई मॉडल सुरक्षा टीमों को सुस्त बना सकते हैं। स्वचालन का प्रलोभन महान है, लेकिन मैनुअल समीक्षा महत्वपूर्ण है क्योंकि जन एआई मॉडल आज की स्थिति में हैं। उदाहरण के लिए, जन एआई मॉडल ‘हॉलुसिनेट’ करते हैं। दूसरे शब्दों में, वे असटीक आउटपुट उत्पन्न करते हैं।
इसके अलावा, जन एआई मॉडल (विशेष रूप से एलएलएम) संदर्भ को नहीं समझते हैं क्योंकि वे सांख्यिकीय, कालानुक्रमिक पाठ विश्लेषण पर बनाए जाते हैं – जो आगे ‘हॉलुसिनेशन’ का कारण बन सकता है जो बहुत मुश्किल से देखा जा सकता है।
मैं समझता हूं कि सुरक्षा टीमें ‘कम से अधिक’ करने की तलाश में हैं – लेकिन मानव पर्यवेक्षण सुरक्षा प्रक्रिया का हिस्सा होगा और रहना चाहिए।
साइकोग्निटो स्वचालित बाहरी हमला सतह प्रबंधन और निरंतर परीक्षण कैसे प्रदान करता है?
मैं एक टूटी हुई रिकॉर्ड की तरह लगता हूं, लेकिन जैसा कि मैंने पहले उल्लेख किया है, हमले की सतह विशाल और जटिल हैं – और वे बढ़ रहे हैं।
हमने साइकोग्निटो को निगमित कोर से परे पूरी हमले की सतह को लगातार मैप करने के लिए बनाया है ताकि सहायक कंपनियों, अधिग्रहण, संयुक्त उद्यम और ब्रांड संचालन शामिल हों – और प्रत्येक को अपने सही मालिक को असाइन करें।
कुछ तकनीकी क्षमताएं हैं जिन पर ध्यान देने योग्य हैं।
ब्लैक बॉक्स हमले की सतह की खोज प्रक्रिया में, हमारा मंच एलएलएम को डोज़नों से एक स्रोत के रूप में उपयोग करता है जिसे हमारे बेयसियन एमएल मॉडल “विशेषता परिकल्पनाओं” के लिए विश्लेषण करते हैं जो संगठन की व्यावसायिक संरचना (1000 के व्यावसायिक इकाइयों और सहायक कंपनियों तक) और संपत्ति को मालिकों (लाखों आईटी संपत्ति के पैमाने पर) को स्वचालित रूप से असाइन करने का निर्धारण करते हैं।
प्लेटफ़ॉर्म स्वाभाविक भाषा प्रसंस्करण और सांख्यिकीय एल्गोरिदम के माध्यम से संपत्ति वर्गीकरण को तेज़ करता है – एक कार्य जो आमतौर पर महंगा और संसाधन गहन होता है।
हम जोखिमों को प्रभावी ढंग से प्राथमिकता देने के लिए व्यवसायिक संदर्भ प्रदान करते हैं। भले ही एक कमजोरता हजारों मशीनों को प्रभावित करती है, साइकोग्निटो सबसे महत्वपूर्ण एक की पहचान कर सकता है जो उजागरता, व्यवसायिक महत्व, शोषण योग्यता और हैकर चैट के स्तर के अंतर्दृष्टि प्रदान करके करता है।
हम बाहरी हमला सतह प्रबंधन के लिए एक समग्र दृष्टिकोण अपनाते हैं जो सभी महत्वपूर्ण मुद्दों को समान तत्परता के साथ व्यवहार करने के जाल से बचाता है। हम सुरक्षा को वास्तविक महत्वपूर्ण वेक्टरों को प्राथमिकता देने में सक्षम बनाते हैं, जिससे उन्हें समय और पैसा बचाता है।
साक्षात्कार के लिए धन्यवाद, पाठक जो और जानना चाहते हैं उन्हें साइकोग्निटो पर जाना चाहिए।
