जे. पॉल हेन्स, सिंची के सीईओ – साक्षात्कार श्रृंखला

जे. पॉल हेन्स, सिंची के सीईओ, एक साइबर सुरक्षा और प्रौद्योगिकी कार्यकारी हैं जिनके पास दशकों का अनुभव है जिसमें उन्होंने उद्यम सुरक्षा कंपनियों का निर्माण और विस्तार किया है। उन्हें सबसे ज्यादा ईसेंटायर में उनके नेतृत्व के लिए जाना जाता है, जहां उन्होंने कंपनी को एक प्रमुख प्रबंधित डिटेक्शन और प्रतिक्रिया प्रदाता में मदद की, और सिंची में इंजीनियरिंग, साइबर सुरक्षा, निजी इक्विटी-समर्थित विकास और उद्यम जोखिम में मजबूत पृष्ठभूमि लाते हैं क्योंकि कंपनी विश्वसनीय एआई अपनाने और शासन पर ध्यान केंद्रित करती है।

सिंची एक उद्यम एआई शासन और डेटा सहयोग कंपनी है जो संगठनों को एआई, प्रणालियों और डेटा को सुरक्षित रूप से जोड़ने में मदद करने पर केंद्रित है। इसका पेरिमाइंड प्लेटफ़ॉर्म एआई कार्यों के लिए एक नियंत्रण विमान के रूप में कार्य करता है, जो उद्यमों को यह देखने की अनुमति देता है कि एआई एजेंट व्यवसाय प्रणालियों के साथ कैसे बातचीत करते हैं, जबकि इसका डेटा सहयोग मंच टीमों को जटिल एकीकरण या दोहराए जाने वाले डेटा सिलोस पर निर्भर किए बिना संगठन भर में शासित डेटा को प्रबंधित और साझा करने में मदद करता है।

आपने ईसेंटायर को साइबर सुरक्षा उद्योग की सबसे मान्यता प्राप्त कंपनियों में से एक में मदद करने के लिए 15 से अधिक वर्षों तक काम किया। आप सिंची के सीईओ के रूप में अपनी नई भूमिका में उस यात्रा से क्या सबक ला रहे हैं, और आप क्यों मानते हैं कि अब एआई शासन और विश्वसनीय एआई अपनाने पर ध्यान केंद्रित करने का समय है?

मैंने ईसेंटायर में सीखा सबसे बड़ा सबक यह है कि संगठनों को परेशानी नहीं है क्योंकि उन्हें प्रौद्योगिकी की कमी है। उन्हें परेशानी है क्योंकि उभरती प्रौद्योगिकियां ऑपरेशनल जटिलता पैदा करती हैं जो अधिकांश कंपनियों को अपने आप से प्रबंधित करने से ज्यादा तेजी से होती हैं। मैं एआई को एक ही तरह के मार्ग का अनुसरण करते हुए देखता हूं।

आज की चुनौती यह नहीं है कि कर्मचारियों को एआई के साथ प्रयोग करने के लिए प्राप्त किया जाए। अधिकांश संगठन पहले से ही ऐसा कर रहे हैं। वास्तविक चुनौती एआई को उत्पादन में ले जाना है, जहां निर्णय ग्राहकों, वित्तीय परिणामों, नियामक अनुपालन और व्यवसाय संचालन को प्रभावित करते हैं।

वित्तीय सेवाओं जैसे उच्च नियंत्रित उद्योग इसे बिल्कुल सही ढंग से दर्शाते हैं। वे धीमी गति से आगे बढ़ नहीं रहे हैं क्योंकि वे एआई को नहीं समझते हैं। वे सावधानी से आगे बढ़ रहे हैं क्योंकि वे अभी तक मिशन-महत्वपूर्ण काम के लिए एआई पर भरोसा नहीं कर सकते हैं। एआई प्रणाली निर्णय लेने से पहले, संगठनों को मूलभूत प्रश्नों के उत्तर देने की आवश्यकता है: किसने उन निर्णयों को मंजूरी दी? वे कैसे निगरानी की जाती हैं? जब एक मानव हस्तक्षेप करता है? यदि मॉडल ड्रिफ्ट हो जाता है, विफल हो जाता है या अनुपलब्ध हो जाता है तो क्या होता है?

वे प्रश्न मुझे यह याद दिलाते हैं कि साइबर सुरक्षा कहां थी। सुरक्षा एक प्रौद्योगिकी समस्या से एक ऑपरेशनल अनुशासन में विकसित हुई। मैं मानता हूं कि एआई शासन उसी ट्रेजेक्टरी पर है।

यही कारण है कि मैं सिंची में शामिल हुआ। हम मानते हैं कि विश्वसनीय एआई अपनाना (एआई प्रयोग नहीं) अगले दशक को परिभाषित करेगा, और हम देखते हैं कि प्रबंधित एआई शासन प्रबंधित साइबर सुरक्षा के रूप में महत्वपूर्ण हो जाएगा।

पिछले दो वर्षों में, कई उद्यमों ने जनरेटिव एआई के साथ प्रयोग किया है, लेकिन tương đối कम ही एआई को मिशन-महत्वपूर्ण कार्य प्रवाह में सफलतापूर्वक तैनात किया है। संगठनों को पायलट से उत्पादन में जाने से रोकने वाली सबसे बड़ी बाधाएं क्या हैं?

मुझे लगता है कि कंपनियां संघर्ष नहीं कर रही हैं क्योंकि प्रौद्योगिकी पर्याप्त नहीं है। मुझे लगता है कि वे संघर्ष कर रहे हैं क्योंकि दांव एक बार एआई प्रयोग से बाहर निकल जाते हैं।

एक पायलट एक बात है। एआई को उत्पादन में ले जाना एक और बात है। अब यह उद्यम डेटा तक पहुंच रहा है, व्यवसाय प्रणालियों के साथ बातचीत कर रहा है, शायद甚至 कर्मचारियों की ओर से निर्णय ले रहा है। यही समय है जब नेतृत्व सही मायने में पूछता है, “हम इसे कैसे नियंत्रित करते हैं? हम इसे कैसे निगरानी करते हैं? और हमें कब एक व्यक्ति को शामिल करने की आवश्यकता है?”

वे कारण एआई अपनाने को धीमा करने के लिए नहीं हैं। वे चीजें हैं जो एआई अपनाने को संभव बनाती हैं। यदि आप उन प्रश्नों का उत्तर आत्मविश्वास से दे सकते हैं, तो संगठन बहुत तेजी से आगे बढ़ते हैं।

आपने अपने करियर का अधिकांश भाग उद्यम वातावरण को साइबर खतरों से सुरक्षित करने में बिताया है। एक एआई-संचालित संगठन की सुरक्षा एक पारंपरिक आईटी वातावरण की सुरक्षा से कैसे भिन्न है?

पारंपरिक साइबर सुरक्षा एंडपॉइंट्स, पहचान, नेटवर्क और क्लाउड वातावरण की रक्षा पर केंद्रित है। एआई एक और स्थायी उद्यम खतरा पैदा करता है। प्रत्येक एआई प्रणाली नए जोखिम पेश करती है। मॉडल एक्सेस, प्रोम्प्ट इंजेक्शन, अत्यधिक अनुमतियां, मॉडल ड्रिफ्ट, स्वायत्त निर्णय लेने और पूरी तरह से नए हमले मार्ग जो पहले मौजूद नहीं थे।

महत्वपूर्ण बात यह है कि एआई सुरक्षा साइबर सुरक्षा से अलग नहीं है। यह साइबर सुरक्षा का विस्तार है। संगठनों को अभी भी हर मौजूदा सुरक्षा नियंत्रण की आवश्यकता है, लेकिन अब उन्हें उत्पादन में एआई प्रणालियों के लिए विशेष रूप से डिज़ाइन की गई सुरक्षा की भी आवश्यकता है।

सुरक्षा टीमों के लिए शैडो आईटी लंबे समय से एक चिंता का विषय रहा है, लेकिन अब हम शैडो एआई के उदय को देख रहे हैं। यह चुनौती कितनी महत्वपूर्ण है, और संगठन किन जोखिमों को कम आंक रहे हैं?

शैडो एआई व्यवसाय जोखिम के तेजी से बढ़ने वाले तरंग में से एक बन रहा है क्योंकि कार्यकारी टीमें अक्सर शासन को पहले रखने के बिना तेजी से एआई अपनाने को प्रोत्साहित कर रही हैं। अधिकांश कर्मचारी दुर्भावनापूर्ण नहीं हैं। वे अधिक उत्पादक बनने की कोशिश कर रहे हैं। समस्या यह है कि एआई प्रणालियां जो अनुमतियां पहले से ही उपयोगकर्ताओं के पास हैं।

एक कार्यकारी एक सार्वजनिक एआई मॉडल के साथ प्रयोग कर सकता है और अनजाने में गोपनीय वित्तीय डेटा, ग्राहक जानकारी या बौद्धिक संपदा को उजागर कर सकता है, क्योंकि एआई को इसका विश्लेषण करने के लिए कहता है।

यही कारण है कि संगठनों को दृश्यता, नीति नियंत्रण और शासन की आवश्यकता है, न कि एआई अपनाने को धीमा करने के लिए, बल्कि इसे स्केल करने के लिए पर्याप्त सुरक्षित बनाने के लिए।

एआई एजेंटों को उद्यम प्रणालियों, डेटा और निर्णय लेने की प्रक्रियाओं तक पहुंच प्रदान की जा रही है। जब एआई प्रणालियां स्वायत्त रूप से कार्य कर सकती हैं, न कि केवल सामग्री उत्पन्न कर सकती हैं, तो कौन से नए जवाबदेही और शासन चुनौतियां उत्पन्न होती हैं?

एआई एजेंट मूल रूप से शासन वार्ता को बदलते हैं क्योंकि वे अब सामग्री उत्पन्न नहीं कर रहे हैं। वे कार्रवाई कर रहे हैं। जब एक स्वायत्त प्रणाली लेन-देन को मंजूरी दे सकती है, उद्यम प्रणालियों तक पहुंच सकती है या व्यवसाय निर्णय ले सकती है, तो संगठनों को पूरी जवाबदेही की आवश्यकता होती है।

प्रत्येक कार्रवाई को सरल प्रश्नों का उत्तर देना चाहिए:

• क्या हुआ?
• यह क्यों हुआ?
• किस एआई एजेंट ने निर्णय लिया?
• किसने इसकी अनुमति दी?
• कब एक मानव हस्तक्षेप करना चाहिए?

वे सिद्धांत नए नहीं हैं। उद्योग दशकों से सार्बेन्स-ऑक्सले जैसे नियमों के तहत जवाबदेही आवश्यकताओं के साथ जी रहे हैं। एआई उन्हीं अपेक्षाओं को स्वायत्त डिजिटल श्रमिकों तक बढ़ाता है।

कई संगठन प्रतिस्पर्धी दबाव के कारण एआई को तैनात करने की दौड़ में हैं। व्यवसायिक नेता गति की आवश्यकता के साथ शासन, अनुपालन और जोखिम प्रबंधन की आवश्यकता को कैसे संतुलित कर सकते हैं?

शासन को एआई अपनाने को धीमा नहीं करना चाहिए। यह त्वरण करना चाहिए। संगठन तेजी से आगे बढ़ते हैं जब नेतृत्व वातावरण पर भरोसा करता है जो वे बना रहे हैं। इसका मतलब एक सुरक्षित, निगरानी योग्य एआई आर्किटेक्चर स्थापित करना है, मॉडल को ड्रिफ्ट और प्रदर्शन के लिए लगातार मूल्यांकन करना, उद्यम प्रणालियों तक पहुंच का प्रबंधन करना और एआई उत्पादन तक पहुंचाने से पहले स्पष्ट ऑपरेशनल नियंत्रण होना चाहिए।

जैसे कि संगठनों ने साइबर सुरक्षा को सरल बनाने के लिए प्रबंधित डिटेक्शन और प्रतिक्रिया को अपनाया, मुझे लगता है कि कई प्रबंधित एआई शासन को अपनाएंगे ताकि वे विशेषज्ञ टीमों को आंतरिक रूप से बनाने के लिए आवश्यक विशेषज्ञता प्राप्त कर सकें।

निदेशक मंडल एआई पर्यवेक्षण में अधिक शामिल हो रहे हैं। प्रबंधन टीमों से एआई रणनीति, शासन और जवाबदेही के बारे में निदेशक मंडल को क्या प्रश्न पूछने चाहिए?

निदेशक मंडल को एक मूलभूत प्रश्न पूछना चाहिए: क्या प्रबंधन यह प्रदर्शित कर सकता है कि एआई अन्य महत्वपूर्ण व्यवसाय प्रणालियों के समान स्तर के शासन के तहत संचालित हो रहा है?

इसका मतलब है कि एआई का उपयोग कहां किया जा रहा है, इसका मालिक कौन है, निर्णय कैसे निगरानी की जाती है, जोखिम कैसे प्रबंधित किया जाता है और यदि एआई सेवा अनुपलब्ध हो जाती है तो संगठन कैसे संचालित होगा। जो संगठन सफल होंगे वे आवश्यक रूप से एआई को सबसे तेजी से अपनाने वाले नहीं होंगे। वे विश्वसनीय एआई को बड़े पैमाने पर विश्वास करने के लिए ऑपरेशनल अनुशासन बनाने वाले होंगे।

साइबर सुरक्षा उद्योग ने दशकों से ढांचे, नियंत्रण और सर्वोत्तम प्रथाओं का विकास किया है। क्या साइबर सुरक्षा से एआई शासन में सीधे तौर पर लागू की जा सकने वाली कोई सबक हैं, या क्या एआई के लिए एक पूरी तरह से नया दृष्टिकोण की आवश्यकता है?

साइबर सुरक्षा एआई शासन के लिए एक उत्कृष्ट नीले रंग की छपाई प्रदान करती है। पहचान प्रबंधन, न्यूनतम विशेषाधिकार, निरंतर निगरानी, ऑडिट ट्रेल, घटना प्रतिक्रिया और लचीलापन सभी आवश्यक हैं। एआई जो नया है वह है कि यह पारंपरिक प्रणालियों में कभी नहीं देखे गए चुनौतियां पेश करता है, जिनमें मॉडल ड्रिफ्ट, हॉलुसिनेशन, प्रोम्प्ट मैनिपुलेशन और तीसरे पक्ष के फाउंडेशन मॉडल पर निर्भरता शामिल है। इसलिए, एआई साइबर सुरक्षा को प्रतिस्थापित नहीं करता है। यह एक अतिरिक्त शासन परत के साथ इस पर बनाता है।

“विश्वसनीय एआई अपनाने” का क्या अर्थ है और क्या कोई विशिष्ट शासन सिद्धांत या परिचालन सुरक्षा हैं जो हर उद्यम को एआई पहल को स्केल करने से पहले रखना चाहिए?

मैं इसे उसी तरह सोचता हूं जैसे हम वर्षों पहले साइबर सुरक्षा के बारे में सोचते थे। किसी ने नहीं पूछा कि सुरक्षा मूल्य बनाती है या नहीं। प्रश्न यह था कि क्या आप अपने वातावरण पर भरोसा करते हैं जिससे व्यवसाय चल सकता है।

एआई ठीक उसी दिशा में जा रहा है। यदि आप देख नहीं सकते कि यह क्या कर रहा है, इसके पास क्या पहुंच है या यह क्यों某 निर्णय ले रहा है, तो आप शायद इसे कुछ महत्वपूर्ण संभालने देने वाले नहीं हैं।

एक बार जब आप उस विश्वास को प्राप्त कर लेते हैं, तो अपनाने में स्वाभाविक रूप से होता है। संगठन एआई को एक दिलचस्प प्रयोग की तरह नहीं बल्कि व्यवसाय का एक और हिस्सा मानने लगते हैं।

आगामी तीन से पांच वर्षों में, आप एआई शासन और प्रतिस्पर्धी लाभ के बीच संबंध को कैसे विकसित होते हुए देखते हैं? क्या मजबूत शासन एक अलगाव बन जाएगा या क्या यह व्यवसाय करने के लिए एक आवश्यकता बन जाएगी?

आगामी तीन से पांच वर्षों में, मजबूत एआई शासन प्रतिस्पर्धी लाभ का एक अलगाव नहीं होगा। यह एक व्यवसाय आवश्यकता बन जाएगी। संगठन जो शासन की स्थापना करते हैं वे एआई को तेजी से अपनाएंगे क्योंकि वे महत्वपूर्ण कार्यभार को उत्पादन में ले जाने के लिए आत्मविश्वास रखेंगे। जो नहीं करते हैं वे प्रयोग में फंसे रहेंगे जबकि प्रतिस्पर्धी उत्पादकता, नवाचार और ग्राहक अनुभव में मापने योग्य लाभ प्राप्त करते हैं। अंततः, शासन एआई अपनाने को धीमा नहीं करेगा। यह संगठनों को एआई पर भरोसा करने के लिए पर्याप्त विश्वास दिलाने का कारण होगा कि वे इसे पूरी तरह से अपना सकते हैं।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें सिंची पर जाना चाहिए।