निक कैथमैन, लॉजिकगेट में सीआईएसओ/सीआईओ – साक्षात्कार श्रृंखला

निकोलस कैथमैन लॉजिकगेट में मुख्य सूचना सुरक्षा अधिकारी (सीआईएसओ) हैं, जहां वे कंपनी के सूचना सुरक्षा कार्यक्रम का नेतृत्व करते हैं, प्लेटफ़ॉर्म सुरक्षा नवाचारों की देखरेख करते हैं, और ग्राहकों के साथ साइबर सुरक्षा जोखिम को प्रबंधित करने पर जोर देते हैं। आईटी में दो दशक से अधिक के अनुभव और 18+ वर्षों के साइबर सुरक्षा में अनुभव के साथ, कैथमैन ने छोटे व्यवसायों और फॉर्च्यून 100 उद्यमों में सुरक्षा संचालन का निर्माण और नेतृत्व किया है।

लॉजिकगेट एक जोखिम और अनुपालन मंच है जो संगठनों को अपने शासन, जोखिम और अनुपालन (जीआरसी) कार्यक्रमों को स्वचालित और स्केल करने में मदद करता है। अपने फ्लैगशिप उत्पाद, रिस्क क्लाउड®, के माध्यम से, लॉजिकगेट टीमों को व्यवसाय में जोखिम की पहचान, मूल्यांकन और प्रबंधन करने में सक्षम बनाता है, जिसमें अनुकूलित कार्य प्रवाह, वास्तविक समय के अंतर्दृष्टि और एकीकरण शामिल हैं। यह मंच तीसरे पक्ष के जोखिम, साइबर सुरक्षा अनुपालन और आंतरिक लेखा प्रबंधन सहित विभिन्न उपयोग के मामलों का समर्थन करता है, जो कंपनियों को अधिक लचीले और लचीले जोखिम रणनीतियों का निर्माण करने में मदद करता है।

आप लॉजिकगेट में सीआईएसओ और सीआईओ दोनों के रूप में कार्य करते हैं – अगले 2-3 वर्षों में आप इन भूमिकाओं की जिम्मेदारियों को कैसे बदलते हुए देखते हैं?

एआई पहले से ही इन दोनों भूमिकाओं को बदल रहा है, लेकिन अगले 2-3 वर्षों में, मुझे लगता है कि हम एजेंटिक एआई में एक बड़ी वृद्धि देखेंगे जो व्यवसाय प्रक्रियाओं को पुनः कल्पना करने की शक्ति रखता है। जो कुछ भी आमतौर पर आईटी हेल्प डेस्क जैसे पासवर्ड रीसेट, एप्लिकेशन इंस्टॉलेशन और अधिक को संभालता है, उसे एक एआई एजेंट द्वारा संभाला जा सकता है। एक और महत्वपूर्ण उपयोग का मामला एआई एजेंटों का उपयोग करके थकाऊ ऑडिट मूल्यांकन को संभालना होगा, जिससे सीआईएसओ और सीआईओ अधिक रणनीतिक अनुरोधों पर ध्यान केंद्रित कर सकें।

संघीय साइबर छंटनी और नियामक रुझानों के साथ, एआई को तैनात करने के दौरान मजबूत सुरक्षा मुद्रा कैसे बनाए रखें?

जबकि हम अमेरिका में एक नियामक रुझान देख रहे हैं, नियम यूरोपीय संघ में मजबूत हो रहे हैं। इसलिए, यदि आप एक बहुराष्ट्रीय उद्यम हैं, तो एआई के जिम्मेदार उपयोग के आसपास वैश्विक नियामक आवश्यकताओं की अपेक्षा करें। अमेरिका में केवल संचालित करने वाली कंपनियों के लिए, मुझे लगता है कि एआई को अपनाने में एक सीखने की अवधि होगी। मुझे लगता है कि उन उद्यमों के लिए यह महत्वपूर्ण है कि वे मजबूत एआई शासन नीतियां बनाएं और तैनाती प्रक्रिया में मानव पर्यवेक्षण बनाए रखें, सुनिश्चित करें कि कुछ भी असफल नहीं हो रहा है।

वर्तमान में मौजूदा साइबर सुरक्षा ढांचे में एआई को एकीकृत करने के लिए आप कौन से सबसे बड़े अंधे धब्बे देखते हैं?

जबकि मुझे कई क्षेत्रों के बारे में सोचने की जरूरत है, सबसे प्रभावी अंधा धब्बा वह होगा जहां आपका डेटा स्थित है और जहां यह यात्रा कर रहा है। एआई की शुरुआत उस क्षेत्र में पर्यवेक्षण को और अधिक चुनौतीपूर्ण बना देगी। विक्रेता अपने उत्पादों में एआई सुविधाओं को सक्षम कर रहे हैं, लेकिन वह डेटा हमेशा एआई मॉडल/विक्रेता को सीधे नहीं जाता है। यह पारंपरिक सुरक्षा उपकरणों जैसे डीएलपी और वेब मॉनिटरिंग को प्रभावी रूप से अंधा बना देता है।

आप कहते हैं कि अधिकांश एआई शासन रणनीतियां “कागज़ के शेर” हैं। एक शासन ढांचे के मुख्य घटक क्या हैं जो वास्तव में काम करते हैं?

जब मैं “कागज़ के शेर” कहता हूं, तो मैं विशेष रूप से उन शासन रणनीतियों को संदर्भित करता हूं जहां केवल एक छोटी टीम प्रक्रियाओं और मानकों को जानती है, और वे संगठन भर में लागू या समझे नहीं जाते हैं। एआई बहुत व्यापक है, जिसका अर्थ है कि यह प्रत्येक समूह और प्रत्येक टीम को प्रभावित करता है। “एक आकार सभी के लिए फिट” रणनीतियां काम नहीं करेंगी। एक वित्त टीम जो अपने ईआरपी में एआई सुविधाओं को लागू कर रही है, एक उत्पाद टीम से अलग है जो एक विशिष्ट उत्पाद में एक एआई सुविधा को लागू कर रही है, और सूची जारी है। एक मजबूत शासन ढांचे के मुख्य घटक भिन्न होते हैं, लेकिन आईएपीपी, ओवीएएसपी, एनआईएसटी और अन्य सलाहकार निकायों ने अच्छे ढांचे तैयार किए हैं जो मूल्यांकन के लिए क्या करना है। सबसे कठिन हिस्सा यह तय करना है कि आवश्यकताएं प्रत्येक उपयोग के मामले में कब लागू होती हैं।

कंपनियां एआई मॉडल ड्रिफ्ट और जिम्मेदार उपयोग को कैसे रोक सकती हैं और समय के साथ बेहतर शर्तों पर बातचीत कर सकती हैं?

ड्रिफ्ट और अपक्षय तकनीक का उपयोग करने का हिस्सा है, लेकिन एआई इस प्रक्रिया को तेज कर सकता है। लेकिन अगर ड्रिफ्ट बहुत बड़ा हो जाता है, तो सुधारात्मक उपायों की आवश्यकता होगी। समय के साथ सटीकता, पूर्वाग्रह और अन्य लाल झंडों की पहचान और माप करने के लिए एक व्यापक परीक्षण रणनीति आवश्यक है। यदि कंपनियां पूर्वाग्रह और ड्रिफ्ट से बचना चाहती हैं, तो उन्हें पहले यह सुनिश्चित करने की आवश्यकता है कि उनके पास पहचान और मापने के लिए उपकरण हैं।

चेंजलॉग, सीमित नीति अद्यतन और वास्तविक समय प्रतिक्रिया लूप की भूमिका क्या होनी चाहिए?

वे वर्तमान में जोखिम और दायित्व को कम करने के लिए एक भूमिका निभाते हैं, लेकिन वास्तविक समय प्रतिक्रिया लूप ग्राहकों और उपयोगकर्ताओं को एआई शासन करने की क्षमता को बाधित करते हैं, खासकर जब संचार तंत्र में परिवर्तन बहुत बार होते हैं।

अंडरराइटिंग या क्रेडिट स्कोरिंग में एआई पूर्वाग्रह और भेदभाव, विशेष रूप से “बाय नाउ, पे लेटर” (बीएनपीएल) सेवाओं के साथ, आपको क्या चिंता है?

पिछले वर्ष में, मैंने एक बड़े बहुराष्ट्रीय बैंक में एक एआई/एमएल शोधकर्ता से बात की थी जो अपने जोखिम मॉडल में एआई/एलएलएम के साथ प्रयोग कर रहे थे। मॉडल, भले ही उन्हें बड़े और सटीक डेटा सेट पर प्रशिक्षित किया गया था, ने असाधारण, असमर्थित निर्णय लिए – अनुमोदन या अंडरराइटिंग को अस्वीकार करने के लिए। उदाहरण के लिए, यदि “महान क्रेडिट” शब्द ग्राहकों के साथ संचार में उल्लेख किए गए थे, तो मॉडल डिफ़ॉल्ट रूप से ऋण को अस्वीकार कर देगा – चाहे ग्राहक ने यह कहा हो या बैंक कर्मचारी ने कहा हो। यदि एआई पर भरोसा किया जाना है, तो बैंकों को बेहतर पर्यवेक्षण और जिम्मेदारी की आवश्यकता है, और उन “अचंभे” को कम करने की आवश्यकता है।

उच्च जोखिम वाले निर्णय लेने वाले अल्गोरिदम का ऑडिट या मूल्यांकन कैसे किया जाना चाहिए – और कौन जिम्मेदार होना चाहिए?

यह व्यापक परीक्षण मॉडल में वापस आता है, जहां यह आवश्यक है कि अल्गोरिदम/मॉडल का परीक्षण और बेंचमार्किंग वास्तविक समय के करीब से किया जाए। यह मुश्किल हो सकता है, क्योंकि मॉडल आउटपुट में वांछनीय परिणाम हो सकते हैं जिन्हें मानवों द्वारा पहचाना जाना आवश्यक है। एक बैंकिंग उदाहरण के रूप में, एक मॉडल जो सभी ऋणों को स्वीकृति से इनकार करता है, एक महान जोखिम रेटिंग होगी, क्योंकि शून्य ऋण जो यह अंडरराइट करता है वह कभी भी चूक नहीं करेगा। इस मामले में, मॉडल/अल्गोरिदम को लागू करने वाला संगठन मॉडल के परिणाम के लिए जिम्मेदार होना चाहिए, जैसे कि मानव निर्णय ले रहे हों।

साइबर बीमा की आवश्यकता वाले अधिक उद्यमों के साथ, एआई टूल्स जोखिम परिदृश्य और बीमा अंडरराइटिंग को कैसे बदल रहे हैं?

एआई टूल्स बड़ी मात्रा में डेटा को वितरित करने और रुझानों या पैटर्न को खोजने में महान हैं। ग्राहक की ओर से, ये टूल संगठन के वास्तविक जोखिम को समझने और उस जोखिम को प्रबंधित करने में मददगार होंगे। अंडरराइटर की ओर से, ये टूल असंगतताओं को खोजने और समय के साथ परिपक्व होते संगठनों में मददगार होंगे।

कंपनियां साइबर जोखिम को कम करने और आज के बीमा बाजार में बेहतर शर्तों पर बातचीत करने के लिए एआई का लाभ कैसे उठा सकती हैं?

आज, साइबर जोखिम को कम करने और बेहतर बीमा शर्तों पर बातचीत करने के लिए एआई का उपयोग करने का सबसे अच्छा तरीका है शोर और विक्षेपों को फिल्टर करना, जो आपको सबसे महत्वपूर्ण जोखिमों पर ध्यान केंद्रित करने में मदद करता है। यदि आप उन जोखिमों को व्यापक रूप से कम करते हैं, तो आपकी साइबर बीमा दरें कम होनी चाहिए। यह बहुत आसान है कि आप जोखिमों की भारी मात्रा से अभिभूत हो जाएं। हर एक मुद्दे को संबोधित करने की कोशिश करने में नहीं फंसना चाहिए जब सबसे महत्वपूर्ण लोगों पर ध्यान केंद्रित करने से बहुत बड़ा प्रभाव पड़ सकता है।

कंपनियों के लिए जो जिम्मेदारी से एआई लागू करना चाहती हैं लेकिन नहीं जानती कि कहां से शुरू करें – आपके कुछ रणनीतिक कदम क्या हैं?

सबसे पहले, आपको यह समझने की आवश्यकता है कि आपके उपयोग के मामले क्या हैं और वांछित परिणामों का दस्तावेजीकरण करें। हर कोई एआई लागू करना चाहता है, लेकिन यह महत्वपूर्ण है कि आप पहले अपने लक्ष्यों के बारे में सोचें और वहां से काम करें। एक बार जब आपके पास अपने उपयोग के मामलों की अच्छी समझ हो, तो आप विभिन्न एआई ढांचे का शोध कर सकते हैं और समझ सकते हैं कि कौन से लागू नियंत्रण आपके उपयोग के मामलों और कार्यान्वयन के लिए महत्वपूर्ण हैं। मजबूत एआई शासन व्यवसाय के लिए महत्वपूर्ण है, जोखिम मिटाने और दक्षता के लिए, क्योंकि स्वचालन केवल तभी उपयोगी है जब डेटा इनपुट हो। एआई का लाभ उठाने वाले संगठनों को जिम्मेदारी से ऐसा करना चाहिए, क्योंकि भागीदार और संभावनाएं एआई फैलाव और उपयोग के आसपास कठिन प्रश्न पूछ रहे हैं। उत्तर नहीं जानने से व्यवसाय सौदों की कमी हो सकती है, जो सीधे तौर पर बॉटम लाइन को प्रभावित करती है।

यदि आपको पांच साल में सबसे बड़ा एआई संबंधित सुरक्षा जोखिम का अनुमान लगाना होगा – तो यह क्या होगा और हम आज इसके लिए कैसे तैयारी कर सकते हैं?

मेरी भविष्यवाणी है कि जब एजेंटिक एआई को अधिक व्यवसाय प्रक्रियाओं और अनुप्रयोगों में निर्मित किया जाएगा, तो हमलावर एजेंटों को धोखा देने और उन्हें दुर्भाग्यपूर्ण परिणाम देने के लिए धोखा देंगे। हम यह पहले से ही देख चुके हैं कि ग्राहक सेवा एजेंटों के साथ छेड़छाड़ के परिणामस्वरूप अनधिकृत सौदे और रिफंड होते हैं। खतरनाक अभिनेताओं ने नीतियों को बायपास करने और एजेंट के निर्णय लेने में हस्तक्षेप करने के लिए भाषा के तरकीबों का उपयोग किया।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें लॉजिकगेट पर जाना चाहिए।