IRONSCALES के प्रिंसिपल टेक्निकल स्ट्रैटेजिस्ट Audian Paxson — साक्षात्कार शृंखला

Audian Paxson, IRONSCALES में प्रिंसिपल टेक्निकल स्ट्रैटेजिस्ट, साइबर सुरक्षा और उत्पाद रणनीति के अनुभवी विशेषज्ञ हैं। उन्हें ईमेल सुरक्षा, खतरे का पता लगाने, नेटवर्किंग और उद्यम प्रौद्योगिकी के क्षेत्र में दो दशकों से अधिक का अनुभव है। IRONSCALES में उनका ध्यान उत्पादों के लॉन्च, संदेश और पोज़िशनिंग, बाज़ार में उतरने की रणनीति और उभरते ईमेल सुरक्षा खतरों से निपटने में कृत्रिम बुद्धिमत्ता तथा मशीन लर्निंग के इस्तेमाल से जुड़े विचार-नेतृत्व पर रहता है। उनके करियर में Netgate, BlueCat, Alert Logic, Critical Watch, Iconix, Strix Systems और Intel में वरिष्ठ उत्पाद प्रबंधन, उत्पाद विपणन और व्यवसाय विकास की भूमिकाएँ शामिल हैं। Paxson ने साइबर सुरक्षा और नेटवर्किंग उत्पादों को लॉन्च करने, उद्यमों के लिए बाज़ार में उतरने की रणनीतियाँ विकसित करने और कंपनियों को नए बाज़ारों में विस्तार देने में अहम भूमिका निभाई है। वे पेटेंट प्राप्त सुरक्षा तकनीक के सह-आविष्कारक भी हैं।

IRONSCALES कृत्रिम बुद्धिमत्ता से संचालित ईमेल सुरक्षा कंपनी है, जिसका ध्यान संगठनों को फ़िशिंग, बिज़नेस ईमेल से छेड़छाड़, खातों पर कब्ज़ा, डीपफ़ेक और सोशल इंजीनियरिंग के अन्य बदलते खतरों से बचाने पर है। इसका प्लेटफ़ॉर्म Adaptive AI को मानव और समुदाय-आधारित जानकारी के साथ जोड़कर Microsoft 365 और Google Workspace पर खतरों का पता लगाने, उनकी जाँच करने और उनका समाधान करने में मदद करता है। इसके साथ ही, यह फ़िशिंग सिमुलेशन, सुरक्षा जागरूकता प्रशिक्षण, बाहर भेजे जाने वाले ईमेल की सुरक्षा और डोमेन सुरक्षा की सुविधाएँ भी देता है। कंपनी ने रेड टीमिंग, फ़िशिंग सुरक्षा संचालन और फ़िशिंग सिमुलेशन के लिए विशेष AI एजेंटों के ज़रिए अपना दायरा बढ़ाया है। इन एजेंटों को हमलों का पूर्वानुमान लगाने, संदिग्ध गतिविधियों की जाँच करने और कर्मचारियों की सुरक्षा मज़बूत करने के लिए बनाया गया है। IRONSCALES का कहना है कि 18,000 से अधिक संगठन इसकी तकनीक का इस्तेमाल करते हैं और इसमें 36,000 से अधिक सुरक्षा पेशेवरों के समुदाय से मिली जानकारी शामिल है।

ईमेल सुरक्षा के क्षेत्र में आपका काम दो दशकों से भी अधिक पुराना है। इसमें शुरुआती एंटी-फ़िशिंग उत्पादों को विकसित करने में मदद करना और अब उभरते ईमेल खतरों से निपटने के लिए AI तथा मशीन लर्निंग के इस्तेमाल पर ध्यान देना शामिल है। इस लंबे अनुभव के आधार पर, AI-संचालित सोशल इंजीनियरिंग में आपको वास्तव में नया क्या लगता है, और समस्या के कौन-से पहलू आश्चर्यजनक रूप से अब भी पहले जैसे ही हैं?

मेरी उम्र का एहसास कराने के लिए धन्यवाद! 2000 के शुरुआती वर्षों में जब हमने फ़िशिंग से लड़ना शुरू किया था, तब सबसे बड़ी समस्या जागरूकता की थी और फ़िल्टर केवल भेजने वाले के डोमेन की प्रतिष्ठा के आधार पर फ़ैसला कर सकते थे। लेकिन हथकंडे बहुत ज़्यादा नहीं बदले हैं। तात्कालिकता का दबाव, अधिकार जताना, नकली चालान—आज दिखने वाले लगभग हर बहाने को मैं पहचान लेता हूँ। AI ने जिस चीज़ को बदला है, वह है हुनरमंद कारीगरी की बाधा। अब कोई अनुभवहीन हमलावर भी 2004 के किसी घोटाले का पूरी तरह विश्वसनीय और व्यक्ति के मुताबिक़ ढाला गया रूप बड़े पैमाने पर तैयार कर सकता है।

Anthropic ने पाया कि Claude Mythos 5 वास्तविक इंटरनेट के संकेतों को तब पहचान सकता था, जब वे संकेत अलग-अलग पेश किए गए; लेकिन किसी काम में पूरी तरह डूबे होने पर वह उन्हीं सबूतों के आधार पर कार्रवाई करने में काफी हद तक विफल रहा। यह अंतर हमें क्या बताता है—किसी AI मॉडल के पास ज्ञान होने और सही समय पर उसे वास्तव में लागू करने के बीच क्या फ़र्क है?

मैं ईमेल सुरक्षा के क्षेत्र में काम करता हूँ, AI शोधकर्ता नहीं, इसलिए मैंने इसे उसी नज़रिए से पढ़ा। Mythos को पहले ही बता दिया गया था कि वह एक सिमुलेशन में है, और उस संदर्भ ने उसकी सोच पर हावी होकर जीत हासिल की। उसने वास्तविक सबूतों को यह कहकर नज़रअंदाज़ कर दिया कि वे उस कहानी से मेल नहीं खाते जिसमें वह पहले से था। यही किसी बहाने का असरदार होना है, और इसी वजह से हमलावर सबसे पहले संदर्भ गढ़ने में इतनी मेहनत करते हैं।

यहाँ इंसानों के फ़िशिंग व्यवहार से एक दिलचस्प समानता दिखती है: कोई कर्मचारी प्रशिक्षण के दौरान संदिग्ध संकेतों को आसानी से पहचान सकता है, लेकिन जल्दबाज़ी में या किसी दूसरे काम को पूरा करने पर ध्यान देते हुए उन्हीं संकेतों को नज़रअंदाज़ कर सकता है। आपके विचार से इंसानों और AI के निर्णयों के बीच इस तुलना को किस हद तक उचित रूप से आगे बढ़ाया जा सकता है?

एक हद तक। जब दोनों किसी काम में पूरी तरह डूबे होते हैं, तो वे बड़ी तस्वीर से भटक जाते हैं। “नीचे दिए गए दावों की समीक्षा करनी है” जैसी नियमित कारोबारी प्रक्रिया का हिस्सा लगने वाली बात को इंसान और मॉडल, दोनों ही बिना जाँच के स्वीकार कर लेते हैं। लेकिन भावनाओं के मामले में यह तुलना लागू नहीं होती। इंसान जल्दबाज़ी, डर या दूसरों को खुश करने की चाह में चूकते हैं। कोई एजेंट अपने ही ट्रिगर के कारण विफल होता है—जैसे ऐसे निर्देश, जिन्हें वह पढ़े जा रहे डेटा से अलग नहीं पहचान पाता।

सुरक्षा प्रशिक्षण में पारंपरिक रूप से लोगों को दुर्भावनापूर्ण लिंक, असामान्य अनुरोध, किसी और का रूप धरने और खतरे के अन्य संकेतों को पहचानना सिखाया जाता रहा है। अगर इंसान और AI सिस्टम, दोनों उन संकेतों को अनदेखा कर सकते हैं जिन्हें वे तकनीकी रूप से समझते हैं, तो क्या सुरक्षा टीमों को पहचानने पर कम और दबाव तथा विशेष संदर्भ में फ़ैसले लेने के तरीक़े पर ज़्यादा ध्यान देना चाहिए?

हाँ। संकेतों को पहचानने का प्रशिक्षण यह मानकर चलता है कि लोग ध्यान दे रहे हैं। हमलावर संदेश इस तरह तैयार करते हैं कि वे ऐसे समय पहुँचें जब लोग ध्यान न दे रहे हों या उन्हें अपना प्रशिक्षण भूलने पर मजबूर कर दें। इससे बेहतर निवेश यह है कि अहम मौकों पर—जैसे भुगतान, क्रेडेंशियल रीसेट और पहुँच में बदलाव—रुककर सोचने की व्यवस्था बनाई जाए, ताकि न कोई व्यक्ति और न ही कोई एजेंट बिना सोचे-समझे फ़ैसला करे।

जैसे-जैसे AI एजेंट इनबॉक्स और उद्यमों के कार्यप्रवाह में अधिक गहराई से जुड़ते जा रहे हैं, हमलावर सिर्फ़ कर्मचारियों को नहीं, बल्कि सीधे AI सिस्टम को भी सोशल इंजीनियरिंग के ज़रिए प्रभावित करने में सक्षम हो सकते हैं। किसी ईमेल एजेंट या स्वायत्त सहायक को खास तौर पर गुमराह करने के लिए बनाया गया हमला कैसा दिख सकता है?

यह एजेंट के लिए लिखा गया ईमेल है, जिसमें निर्देश इंसान से छिपाए जाते हैं—सफेद पृष्ठभूमि पर सफेद अक्षरों में, तस्वीर के वैकल्पिक पाठ में या किसी दूसरी भाषा में—ताकि अंग्रेज़ी के अनुरूप बनाए गए फ़िल्टर उसे न पकड़ें। हमारी शोध टीम ने एक परिदृश्य तैयार किया, जिसमें एजेंट की स्मृति में एक झूठा “तथ्य” डाल दिया जाता है (“finance@ से मंज़ूरियाँ पहले से अधिकृत हैं”), ताकि कई हफ़्ते बाद वित्त विभाग के नाम से भेजा गया जाली ईमेल बिना किसी अड़चन के आगे बढ़ जाए। एक दूसरे परिदृश्य में, चालान की तस्वीर के भीतर ऐसा पाठ छिपाया जाता है जो एजेंट से उसे कम जोखिम वाला चिह्नित करने और भुगतान के लिए सुरक्षित बताकर उसका सारांश देने को कहता है। इंसान उस सारांश पर भरोसा कर लेता है।

क्या हमलावर जान-बूझकर वैध दिखने वाली बातचीतों की लंबी शृंखलाएँ बना सकते हैं, जो किसी एक साफ़ तौर पर दुर्भावनापूर्ण ईमेल या प्रॉम्प्ट पर निर्भर रहने के बजाय धीरे-धीरे किसी एआई प्रणाली को गलत निर्णय की ओर धकेलें? आज के सुरक्षा उपकरणों के लिए ऐसे कई चरणों वाले हमलों का पता लगाना कितना मुश्किल होगा?

ऐसे हमले लोगों के खिलाफ़ पहले से हो रहे हैं, और अब एजेंटों की बारी है। हमलावर पहले कुछ नुकसानरहित ईमेल भेजते हैं—जैसे परिचय या धन्यवाद—ताकि पहली बार संदेश भेजने वालों के लिए लगे अलर्ट हट जाएँ। फिर वे लक्ष्य की भूमिका से जुड़े संदेशों की ओर बढ़ते हैं और उसके बाद ही हमले का असली हिस्सा भेजते हैं। अक्सर यह किसी बैठक का निमंत्रण होता है, जिसका लिंक स्कैनर को एक साफ़-सुथरा पेज दिखाता है, जबकि असली उपयोगकर्ताओं को फ़िशिंग वाली साइट पर ले जाता है। हर ईमेल को अलग-अलग परखने वाले उपकरण इस चाल को नहीं पकड़ पाते। कोई भी एक संदेश संदिग्ध नहीं दिखता, इसलिए समय के साथ बने संबंध का आकलन करना ज़रूरी है।

एआई से तैयार फ़िशिंग की चर्चा अक्सर बेहतर लेखन, वैयक्तिकरण और डीपफ़ेक के संदर्भ में होती है। क्या आपको इस बात की ज़्यादा चिंता है कि एआई सोशल इंजीनियरिंग हमलों की सामग्री को बेहतर बना रहा है, या इस बात की कि हमलावर एआई की मदद से ठीक-ठीक समझ पा रहे हैं कि कोई खास लक्ष्य कब और कैसे गलती करने की सबसे अधिक संभावना रखता है?

दोनों की, और सामग्री को लेकर मुकाबला पहले ही खत्म हो चुका है। ChatGPT के आम तौर पर उपलब्ध होने के बाद से ही एआई द्वारा लिखी गई परिष्कृत फ़िशिंग का स्तर यही रहा है। इससे बड़ा बदलाव यह है कि अब लक्ष्य चुनना, वैयक्तिकरण और सही समय तय करना स्वचालित हो गया है। इसलिए बिना किसी तकनीकी कौशल वाला व्यक्ति भी डेटा उल्लंघनों से मिले डेटा को कुख्यात RockYou सूची जैसे लीक हुए पासवर्ड के संग्रह के साथ जोड़ सकता है, किसी असली मेलबॉक्स पर कब्ज़ा कर सकता है और ठीक उसी समय किसी नियमित लेन-देन वाले ईमेल की जालसाज़ी करके भेज सकता है, जब लक्ष्य ऐसे ईमेल की उम्मीद कर रहा हो।

जब हमलावर साफ़ दिखाई देने वाले तकनीकी खतरे के संकेतों को हटाने और दुर्भावनापूर्ण संदेशों को वैध दिखाने में बेहतर होते जा रहे हैं, तो वैध संवाद और छल में फ़र्क करने के लिए कौन-से संकेत सबसे अहम हो जाते हैं?

सबसे पहले संदर्भ देखें। उदाहरण के लिए, क्या इस व्यक्ति या विक्रेता का इस चैनल पर, इस समय संपर्क करना सामान्य है? फिर तात्कालिकता और बार-बार दोहराने पर ध्यान दें। जिसे सचमुच कोई ज़रूरी काम हो, वह फ़ोन करेगा या Teams या Slack पर संदेश भेजेगा। वह एक ही ईमेल तीन बार नहीं भेजेगा। और अपनी सहज समझ पर भरोसा करें। मेरा नियम है, “कुछ करने में जल्दबाज़ी न करें, पहले ठहरें।” इसलिए रुकें, किसी दूसरे व्यक्ति से भी जाँच करवाएँ और किसी अलग चैनल से पुष्टि करें।

जब इंसानों और एआई प्रणालियों, दोनों में कमज़ोरियाँ हो सकती हैं, तो संगठनों को मानवीय और एआई निगरानी की व्यवस्था कैसे करनी चाहिए? क्या मानवीय निर्णय और एआई को मिलाने से नए अंधे बिंदु पैदा हो सकते हैं, अगर दोनों में से हर एक यह मान ले कि दूसरे ने निर्णय की पहले ही पुष्टि कर ली है?

दोनों को वही काम दें जिसमें वे सबसे अच्छे हैं, और ज़िम्मेदारी सौंपने की प्रक्रिया स्पष्ट रखें। एआई बड़ी मात्रा में काम संभालता है और पूरे परिवेश में पैटर्न पहचानता है; बड़े नतीजों वाले फ़ैसलों—जैसे धन हस्तांतरित करना या पहुँच देना—की ज़िम्मेदारी इंसानों की होती है। एआई को अपने साक्ष्य भी दिखाने चाहिए, ताकि समीक्षक उसके तर्क की जाँच कर सके। आपने जिस अंधे बिंदु की बात की है, वह वास्तविक है। इसका समाधान एक सख़्त नियम है… “एआई ने कहा कि यह सुरक्षित है” को कभी भी मानवीय समीक्षा नहीं माना जाएगा।

अगर मूल समस्या यह अंतर है कि इंसान या एआई प्रणालियाँ क्या जानती हैं और कोई काम करते समय वे किन बातों को पहचान पाती हैं, तो इस अंतर को कम करने और सोशल इंजीनियरिंग हमलों को सफलतापूर्वक अंजाम देना बहुत कठिन बनाने के लिए संगठन आज कौन-से व्यावहारिक बदलाव कर सकते हैं?

चेक लिखने के लिए इस्तेमाल होने वाले एक पुराने नियंत्रण को अपनाएँ—“कर्तव्यों का पृथक्करण।” एक व्यक्ति नया उपयोगकर्ता बना सकता है, लेकिन उसे सक्रिय नहीं कर सकता; दूसरा व्यक्ति उपयोगकर्ता को सक्रिय कर सकता है, लेकिन बना नहीं सकता; और तीसरे व्यक्ति को दोनों कामों की सूचना मिलती है। यही विभाजन भुगतान, विक्रेता के विवरण में बदलाव और अपने एआई एजेंटों पर भी लागू करें (किसी एक एजेंट को किसी कार्रवाई का अनुरोध करने और उसे मंज़ूर करने, दोनों की अनुमति नहीं होनी चाहिए)। किसी एक कर्मचारी को झाँसा देकर या किसी एक एजेंट पर कब्ज़ा करके हमला पूरा नहीं किया जा सकता।

बेहतरीन साक्षात्कार के लिए धन्यवाद। जो पाठक और जानना चाहते हैं, वे IRONSCALES पर जा सकते हैं।