शाहर मैन, बैकस्लैश सिक्योरिटी के सह-संस्थापक और सीईओ – साक्षात्कार श्रृंखला

शाहर मैन, बैकस्लैश सिक्योरिटी के सह-संस्थापक और सीईओ, एक अनुभवी प्रौद्योगिकी नेता हैं जिनके पास क्लाउड विकास, साइबर सुरक्षा और उद्यम सॉफ्टवेयर में गहरी विशेषज्ञता है। वह वर्तमान में बैकस्लैश सिक्योरिटी का नेतृत्व करते हैं, जो एक ऐसी कंपनी है जो एआई-मूल सॉफ्टवेयर विकास परिवेशों को सुरक्षित करने पर केंद्रित है, जिसमें आईडीई, एआई एजेंट, जेनरेटेड कोड और प्रॉम्प्टिंग वर्कफ्लो शामिल हैं। इससे पहले, उन्होंने एक्वा सिक्योरिटी में वरिष्ठ नेतृत्व भूमिकाएं निभाईं, जहां उन्होंने उत्पाद प्रबंधन और अनुसंधान एवं विकास के उपाध्यक्ष के रूप में कार्य किया, जिससे विकास जीवन चक्र में कंटेनर सुरक्षा के लिए एक प्रमुख मंच बनाने में मदद मिली। अपने करियर की शुरुआत में, मैन ने एसएपी में दस से अधिक वर्षों तक विकास और उत्पाद पहलों का नेतृत्व किया, जिसमें एसएपी वेब आईडीई और वैश्विक उद्यम ग्राहकों के साथ काम करना शामिल था, साथ ही डेवलपर इकोसिस्टम विकास में भी योगदान दिया। उनका करियर तकनीकी और नेतृत्व भूमिकाओं में शुरू हुआ, जिसमें स्टार्टअप वातावरण और इज़राइल की रक्षा प्रौद्योगिकी इकाइयों में काम करना शामिल था, जिससे उन्हें इंजीनियरिंग और बड़े पैमाने पर प्रणालियों में मजबूत आधार मिला।

बैकस्लैश सिक्योरिटी एक उभरती हुई साइबर सुरक्षा मंच है जो एआई-चालित सॉफ्टवेयर विकास के युग के लिए डिज़ाइन किया गया है। कंपनी पूरे एआई-मूल विकास स्टैक को सुरक्षित करने पर केंद्रित है, जिसमें एआई एजेंट, कोड जेनरेशन पाइपलाइन और आधुनिक डेवलपर वर्कफ्लो शामिल हैं, जो क्षेत्र पारंपरिक सुरक्षा उपकरण अक्सर अनदेखा करते हैं। डेवलपर वेलोसिटी को बाधित किए बिना दृश्यता, शासन और वास्तविक समय सुरक्षा प्रदान करके, बैकस्लैश ऑटोमेटेड कोडिंग और “वाइब कोडिंग” वातावरण द्वारा पेश किए जाने वाले बढ़ते जोखिमों को संबोधित करने का लक्ष्य रखता है। जैसे ही सॉफ्टवेयर निर्माण एआई-सहायता प्राणालियों की ओर बढ़ता है, मंच यह सुनिश्चित करने के लिए डिज़ाइन किया गया है कि सुरक्षा समानांतर में विकसित हो, न कि एक बोतलनेक बनकर, जिससे बैकस्लैश को डेवसेकओप्स और अगली पीढ़ी के एआई विकास के बीच के交点 पर रखा जा सके।

आपने एक्वा सिक्योरिटी और एसएपी जैसी कंपनियों में उत्पाद और अनुसंधान एवं विकास में नेतृत्व भूमिकाएं निभाई हैं trước बैकस्लैश की स्थापना की। एआई-मूल विकास और वाइब कोडिंग को सॉफ्टवेयर निर्माण को मौलिक रूप से बदलने के लिए कौन से शुरुआती संकेत आपको आश्वस्त करते हैं कि सुरक्षा को इसका समर्थन करने के लिए पुनः निर्मित किया जाना चाहिए?

मैं पहले से ही एक बड़े बदलाव का हिस्सा रहा हूं जब सॉफ्टवेयर क्लाउड-मूल वास्तुकला में चला गया था। एसएपी और बाद में एक्वा में, हमने देखा कि जब विकास इतना बदल जाता है, तो सुरक्षा आमतौर पर पीछे रह जाती है। एआई ने उस सच्चाई को एक नए स्तर पर ले जाया है, न केवल इसलिए कि यह कोड लिखने में तेजी ला सकता है, बल्कि इसलिए भी कि यह सॉफ्टवेयर निर्माण के आसपास के पूरे वातावरण को बदलना शुरू कर दिया है।

कोड को सुरक्षित करना अब कोड खुद के बारे में कम है और अधिक कोड के आसपास के वातावरण के बारे में है। एक साल से कम समय में, जो पहले एक अपेक्षाकृत सीमित और कम-जोखिम वाला विकास सेटअप था, वह एक विस्तृत, उच्च जुड़ाव वाला हमला सतह में विस्तारित हो गया है जिसमें बहुत कम पर्यवेक्षण या शासन है। एक बार जब यह हुआ, तो कोड दोषों के आसपास सुरक्षा प्रश्न पूरी तरह से बदल गए। वास्तविक मुद्दा यह नहीं है कि कोई दिया गया कोड दोषपूर्ण है या नहीं। मुद्दा यह है कि एआई-चालित विकास को सक्षम करके, हमने प्रणाली, एजेंट, एकीकरण और एक्सेस पथ पेश किए हैं जो कोड से बहुत आगे निकल जाते हैं। सुरक्षा अब केवल कोड के आउटपुट पर ध्यान केंद्रित नहीं कर सकती है। इसे पूरे वातावरण को ध्यान में रखना होगा जो उस कोड को संभव बनाता है।

आप वाइब कोडिंग को हमला सतह को कोड से परे बढ़ाने के रूप में वर्णित करते हैं जिसमें प्रॉम्प्ट, एजेंट, एमसीपी सर्वर और टूलिंग परतें शामिल हैं। इस नए स्टैक में सबसे बड़ा गलत समझा जाने वाला जोखिम क्या है जिसे विकासकर्ता और सुरक्षा टीमें वर्तमान में अनदेखा कर रही हैं?

सबसे बड़ा गलतफहमी यह है कि कई टीमें अभी भी सोचती हैं कि जोखिम मुख्य रूप से जेनरेटेड कोड में रहता है। यह केवल एक परत है। एआई-मूल विकास में, जोखिम पहले और कई अधिक स्थानों पर पेश किया जाता है। यह प्रॉम्प्ट में हो सकता है, मॉडल को दी गई संदर्भ में हो सकता है, एजेंटों को दी गई अनुमतियों में हो सकता है, एमसीपी सर्वरों में हो सकता है जिससे वे जुड़ते हैं, या बाहरी टूल और प्लगइन्स में हो सकता है जो उनकी पहुंच का विस्तार करते हैं। एक ही उपयोगकर्ता का लैपटॉप कब्जा कर लिया जा सकता है और एक व्यापक हमले के पुलहेड के रूप में उपयोग किया जा सकता है। यह एक एंडपॉइंट पेन पॉइंट है जो एआई कोडिंग समस्या के रूप में प्रस्तुत होता है। कोड दोषों के विपरीत, यह केवल आपके अनुप्रयोगों को जोखिम में नहीं डालता है – यह आपके पूरे संगठन को जोखिम में डाल सकता है। यदि आप केवल कोड देख रहे हैं, तो आप अधिकांश चित्र को याद कर रहे हैं।

पारंपरिक अनुप्रयोग सुरक्षा ने भारी मात्रा में कोड समीक्षा पर ध्यान केंद्रित किया है। एआई एजेंट कोड को वास्तविक समय में उत्पन्न, संशोधित और तैनात करते समय सुरक्षा सोच कैसे विकसित होनी चाहिए?

सुरक्षा को आवधिक निरीक्षण से निरंतर पर्यवेक्षण में स्थानांतरित करना होगा। विश्वास की धारणा पूरी तरह से टूट गई है – आपके पास विश्वसनीय मॉडल और विश्वसनीय एमसीपी सर्वर हो सकते हैं, लेकिन एआई की गैर-निर्धारित प्रकृति के कारण, वे अभी भी हेरफेर किए जा सकते हैं या अप्रत्याशित जोखिम पैदा करने के लिए गलत व्यवहार कर सकते हैं।

इसका मतलब यह भी है कि एक मानसिकता बदलाव की आवश्यकता है जिसमें सुरक्षा विकास प्रक्रिया के साथ-साथ चलती है और उस पर्यावरण में बहुत गहरी शासन, गार्डरेल और पता लगाने और प्रतिक्रिया क्षमताएं होती हैं। इसका अर्थ है जिन टूल्स का उपयोग किया जा रहा है, उनके बारे में महत्वपूर्ण रूप से सोचना, जो संदर्भ वे उपभोग कर रहे हैं, कौन सी नीतियां उन्हें नियंत्रित करनी चाहिए, और वे वास्तविक समय में क्या कार्रवाई कर रहे हैं।

क्यूरेटर, क्लॉड कोड और गिटहब कोपायलट जैसे टूल्स डेवलपर वर्कफ्लो में मानक बन रहे हैं। इन टूल्स को एक उचित शासन परत के बिना अपनाने पर सुरक्षा में सबसे बड़ा अंतर कहां है?

सबसे बड़ा अंतर दृश्यता है। कई संगठनों में, ये टूल्स तेजी से फैल रहे हैं और एक औपचारिक समीक्षा के बिना। सुरक्षा टीमें अक्सर नहीं जानती हैं कि कौन से एजेंटों का उपयोग किया जा रहा है, वे कैसे कॉन्फ़िगर किए गए हैं, वे किन डेटा तक पहुंच सकते हैं, या वे किन बाहरी प्रणालियों से जुड़े हुए हैं। इससे एक छाया एआई समस्या बनती है, जो सिद्धांत रूप में छाया आईटी के समान है, बस तेजी से और अधिक गतिशील।

बैकस्लैश पूरे एआई विकास पारिस्थितिकी तंत्र को सुरक्षित करने पर केंद्रित है, न कि व्यक्तिगत टूल्स पर। यह पूर्ण-स्टैक दृष्टिकोण क्यों आवश्यक है, और यदि संगठन इन जोखिमों को अलग-अलग मानते हैं तो क्या होता है?

क्योंकि जोखिम किसी एक उत्पाद में आपके स्टैक में साफ-साफ नहीं बैठता है। एआई-मूल विकास में जोखिम एक पारिस्थितिकी तंत्र समस्या है क्योंकि यह इतने सारे अलग-अलग स्थानों पर काम करता है, इतने सारे अलग-अलग टूल्स का उपयोग करता है। आईडीई, मॉडल, एजेंट, एमसीपी सर्वर, बाहरी प्लगइन्स, पहचान, और जुड़ी हुई डेटा स्रोत सभी प्रभावित करते हैं कि क्या बनाया जाता है और कैसे। संगठन एक ही टूल पर मानकीकरण नहीं कर रहे हैं क्योंकि उनकी सापेक्ष ताकत इतनी तेजी से बदल रही है। यदि आप श्रृंखला में केवल एक बिंदु को सुरक्षित करते हैं, तो आप अभी भी जोखिम को पूरी प्रणाली में कैसे चलता है यह याद करते हैं।

प्रॉम्प्टिंग एक नई परत के रूप में उभर रही है जो प्रोग्राम करने योग्य है। संगठनों को प्रॉम्प्ट्स को सुरक्षित करने और प्रॉम्प्ट इंजेक्शन, डेटा लीक, या मैनिपुलेशन जैसी समस्याओं को रोकने के लिए कैसे दृष्टिकोण करना चाहिए?

प्रॉम्प्ट्स तार्किक और व्यवहार को आकार देने के लिए बढ़ती तरह से महत्वपूर्ण हो रहे हैं। कई मामलों में, वे वास्तव में सॉफ्टवेयर निर्माण के लिए एक नया नियंत्रण विमान हैं। इसका मतलब है कि उन्हें नीति, निगरानी और गार्डरेल की आवश्यकता है जैसे कि कोड या बुनियादी ढांचे की परिभाषाएं होंगी। व्यावहारिक रूप से, इसका मतलब है कि प्रॉम्प्ट्स को क्या एक्सेस करने और किन डाउनस्ट्रीम कार्रवाइयों को ट्रिगर करने की अनुमति देने की सीमा है। इसका मतलब यह भी है कि सुरक्षा और गुणवत्ता अपेक्षाओं के साथ संरेखित प्रॉम्प्ट नियमों को परिभाषित करना, संवेदनशील डेटा को संदर्भ विंडो के माध्यम से उजागर होने से रोकना, और प्रॉम्प्ट इंजेक्शन या अप्रत्यक्ष निर्देश अपहरण जैसे मैनिपुलेशन प्रयासों के लिए देखना। और इसमें यह भी शामिल है कि नियम स्वयं प्रॉम्प्ट इंजेक्शन के लिए बैकडोर के रूप में उपयोग नहीं किए जाते हैं। व्यापक बिंदु यह है कि आप प्रॉम्प्टिंग को सुरक्षित नहीं करते हैं bằng बताकर विकासकर्ताओं और एजेंटों को “सावधानी बरतें”। आप इसे पर्यावरण में नियंत्रण एम्बेड करके सुरक्षित करते हैं जहां प्रॉम्प्टिंग वास्तव में होती है।

एमसीपी सर्वर और एजेंट स्किल्स डायनामिक कनेक्शन पेश करते हैं जो सिस्टम के बीच होते हैं। सुरक्षा के दृष्टिकोण से, क्या वे एआई-चालित विकास में सबसे महत्वपूर्ण नया जोखिम वेक्टर प्रस्तुत करते हैं?

एमसीपी सर्वर और एजेंट स्किल्स एक प्रमुख नया जोखिम परत प्रस्तुत करते हैं क्योंकि वे यह परिभाषित करते हैं कि एआई प्रणाली वास्तविक दुनिया से कैसे जुड़ती हैं और बातचीत करती हैं। स्किल्स परिभाषित करते हैं कि एक एजेंट को क्या करने के लिए अधिकृत किया गया है, जबकि एमसीपी इसकी पहुंच को संदर्भ और प्रणालियों में विस्तारित करता है। एक साथ, वे एजेंट के वास्तविक व्यवहार को आकार देते हैं। यदि ये परतें कड़ाई से नियंत्रित नहीं हैं, तो संगठन अपने एआई टूल्स की क्षमताओं और वास्तव में क्या कर रहे हैं में दृश्यता खो देते हैं। कोड को उत्पन्न करने से लेकर कार्रवाई करने तक का संक्रमण यह इतना महत्वपूर्ण क्षेत्र बनाता है कि सुरक्षा के लिए। और जब आप उन्हें श्रृंखला में जोड़ते हैं तो वे और अधिक अप्रत्याशित हो जाते हैं।

आपके मुख्य विषयों में से एक “विभाग का हां” होना है – सुरक्षा को सक्षम करना डेवलपर्स को धीमा किए बिना। आप वास्तविक समय सुरक्षा को डेवलपर वेलोसिटी के साथ कैसे संतुलित करते हैं जहां गति महत्वपूर्ण है?

सुरक्षा तब घर्षण पैदा करती है जब यह देर से होती है या वास्तव में डेवलपर्स कैसे काम करते हैं उससे जुड़ी नहीं है। यह तब बहुत अधिक प्रभावी हो जाती है जब यह कार्यप्रवाह में एम्बेडेड होती है और वास्तव में क्या महत्वपूर्ण है पर केंद्रित होती है। यह बैकस्लैश के बारे में हमारी सोच का हिस्सा रहा है, और यह एआई-चालित विकास में और भी महत्वपूर्ण है।

हम गैर-तकनीकी उपयोगकर्ताओं को एआई टूल्स का उपयोग करके सॉफ्टवेयर बनाते हुए देख रहे हैं। गैर-डेवलपर वाइब कोडर्स का उदय खतरे के परिदृश्य को कैसे बदलता है?

यह खतरे के परिदृश्य को दो तरह से बढ़ाता है। पहला, यह उन लोगों की संख्या में नाटकीय रूप से वृद्धि करता है जो सुरक्षा परिणामों को समझे बिना सॉफ्टवेयर जैसे आउटपुट उत्पन्न कर सकते हैं। दूसरा, यह एक झूठी सुरक्षा भावना पैदा करता है क्योंकि टूल्स विकास को संवादात्मक और कम घर्षण वाला बनाते हैं।

12 से 24 महीनों में, एआई-मूल विकास प्रवाहों के कारण किस प्रकार के हमले या कमजोरियों की अपेक्षा करें?

मैं अपेक्षा करता हूं कि कई सामान्य कोड कमजोरियों को एलएलएम में सुधार के माध्यम से या प्रॉम्प्ट नियमों में सुधार के माध्यम से आगे से हटा दिया जाएगा, जो इन टूल्स के आसपास के “हार्नेस” में हैं। यदि हम एक साल पहले एआई मॉडल द्वारा कई कमजोरियों को देखते थे, तो चीजें काफी नाटकीय रूप से सुधर गई हैं, और अन्य मॉडल अब पहले से कभी नहीं पाए गए शून्य दिनों को खोजने के लिए उपयोग किए जा रहे हैं। इसलिए हम बेहतर आउटपुट की ओर बढ़ रहे हैं – लेकिन जो काम कर रहा है उसे कौन देख रहा है? हमलावर कहीं और देख रहे हैं।

हालांकि, मैं बहुत खराब परिणामों की अपेक्षा करता हूं जब यह खुले स्रोत एआई टूल्स के उपयोग की बात आती है, जैसे कि ओपनक्लॉ, जो बहुत खराब सुरक्षा डिफ़ॉल्ट के साथ आते हैं और जिनके पास सुरक्षा ज्ञान उनके वाइब कोडिंग के उत्साह से बहुत आगे निकल गया है।

परिणामस्वरूप, मुझे लगता है कि हम उत्पादन प्रणालियों की तुलना में विकास पारिस्थितिकी तंत्र पर हमलों की ओर एक बदलाव देखेंगे। जैसे ही एआई सॉफ्टवेयर निर्माण का हिस्सा बन जाता है, हमलावर उस प्रक्रिया को आकार देने वाले टूल्स और कनेक्शनों को हेरफेर करने पर ध्यान केंद्रित करेंगे, जिससे सॉफ्टवेयर को तैनाती से पहले ही समझौता किया जा सकेगा।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें बैकस्लैश सिक्योरिटी पर जाना चाहिए।