विचार नेता
जेनरेटिव एआई साइबर सुरक्षा में: युद्ध का मैदान, खतरा, और अब रक्षा

मुख्य बिंदुजनरेटिव एआई पारंपरिक ईमेल सुरक्षा को दरकिनार करते हुए परिष्कृत बहु-भाषा फ़िशिंग हमलों…
और देखें
- जनरेटिव एआई पारंपरिक ईमेल सुरक्षा को दरकिनार करते हुए परिष्कृत बहु-भाषा फ़िशिंग हमलों को सक्षम बनाता है।
- एआई-जनित सोशल इंजीनियरिंग का मुकाबला करने के लिए उन्नत डिटेक्शन प्लेटफार्मों का उपयोग करके मशीन-टू-मशीन लड़ाई आवश्यक है।
- डॉल-ई इमेजरी वाला एक नकली लिंक्डइन विज्ञापन दर्शाता है कि जनरेटिव एआई अब लक्षित साइबर अपराध के लिए हथियार बन चुका है।
युद्ध का मैदान
जेनरेटिव एआई की क्षमताओं के बारे में उत्साह जल्द ही चिंता में बदल गया। जेनरेटिव एआई टूल्स जैसे कि चैटजीपीटी, गूगल बार्ड, डैल-ई आदि सुरक्षा और गोपनीयता चिंताओं के कारण सुर्खियां बनाते रहते हैं। यहां तक कि यह सवाल उठने लगा है कि क्या वास्तविक है और क्या नहीं। जेनरेटिव एआई बहुत विश्वसनीय दिखने वाली और इसलिए भरोसा दिलाने वाली सामग्री प्रदान कर सकता है। इतना कि हाल ही में 60 मिनट्स सेगमेंट में एआई पर होस्ट स्कॉट पेली ने दर्शकों को यह बयान दिया; “हम एक नोट के साथ समाप्त करेंगे जो 60 मिनट्स पर कभी नहीं दिखाया गया है, लेकिन एआई क्रांति में, आप अक्सर सुनेंगे: इससे पहले दिखाई गई सामग्री पूरी तरह मनुष्यों द्वारा बनाई गई है।”
जेनरेटिव एआई साइबर युद्ध इस भरोसा दिलाने वाली और वास्तविक जैसी लगने वाली सामग्री के साथ शुरू होता है और युद्ध का मैदान वह जगह है जहां हैकर्स जेनरेटिव एआई का उपयोग कर रहे हैं, जैसे कि चैटजीपीटी आदि। यह साइबर अपराधियों के लिए, विशेष रूप से उन लोगों के लिए जिनके पास सीमित संसाधन और शून्य तकनीकी ज्ञान है, सोशल इंजीनियरिंग, फ़िशिंग और प्रतिरूपण हमलों के माध्यम से अपने अपराधों को अंजाम देना बहुत आसान है।
खतरा
जेनरेटिव एआई अधिक जटिल साइबर हमलों को बढ़ावा देने की शक्ति रखता है।
चूंकि यह तकनीक इतनी आसानी से भरोसा दिलाने वाली और मनुष्यों द्वारा बनाई गई जैसी सामग्री प्रदान कर सकती है, इसलिए एआई-जनित स्कैम्स को सुरक्षा टीमों द्वारा आसानी से पहचाना नहीं जा सकता है। एआई-जनित स्कैम्स सोशल इंजीनियरिंग हमलों के रूप में आ सकते हैं, जैसे कि ईमेल और मैसेजिंग ऐप्स पर मल्टी-चैनल फ़िशिंग हमले। एक वास्तविक उदाहरण एक कॉर्पोरेट कार्यकारी को आउटलुक (ईमेल) या स्लैक (मैसेजिंग ऐप) के माध्यम से तीसरे पक्ष के विक्रेता से एक दस्तावेज़ के साथ एक ईमेल या संदेश हो सकता है। ईमेल या संदेश उन्हें चालान देखने के लिए दस्तावेज़ पर क्लिक करने का निर्देश देता है। जेनरेटिव एआई के साथ, यह लगभग असंभव है कि नकली और वास्तविक ईमेल या संदेश के बीच अंतर किया जा सके। इसीलिए यह इतना खतरनाक है।
हालांकि, सबसे चिंताजनक उदाहरणों में से एक यह है कि जेनरेटिव एआई के साथ, साइबर अपराधी कई भाषाओं में हमले पैदा कर सकते हैं – चाहे हैकर वास्तव में उस भाषा को बोलता हो या नहीं। लक्ष्य एक व्यापक जाल बिछाना है और साइबर अपराधी भाषा के आधार पर पीड़ितों के साथ भेदभाव नहीं करेंगे।
जेनरेटिव एआई की प्रगति इस बात का संकेत देती है कि इन हमलों का दायरा और कुशलता बढ़ने की संभावना है।
रक्षा
जेनरेटिव एआई से जुड़े खतरों के विरुद्ध साइबर रक्षा इस पहेली का गायब हिस्सा रही है। लेकिन अब नहीं। मशीन से मशीन मुकाबला, या एआई को एआई के मुकाबले खड़ा करके, हम इस नए और बढ़ते खतरे से अपनी रक्षा कर सकते हैं। लेकिन इस रणनीति को कैसे परिभाषित किया जाना चाहिए और यह कैसा दिखता है?
सबसे पहले, उद्योग को कंप्यूटर को कंप्यूटर के मुकाबले खड़ा करने की आवश्यकता है, न कि मानव बनाम कंप्यूटर। इस प्रयास को आगे बढ़ाने के लिए, हमें उन्नत डिटेक्शन प्लेटफ़ॉर्म पर विचार करना होगा जो एआई-जनित खतरों का पता लगा सकते हैं, सोशल इंजीनियरिंग हमले की पहचान करने और हल करने में लगने वाले समय को कम कर सकते हैं जो जेनरेटिव एआई से उत्पन्न होता है। जो एक मानव द्वारा असंभव है।
हमने हाल ही में यह देखने के लिए एक परीक्षण किया कि यह कैसा दिख सकता है। हमने चैटजीपीटी से कई भाषाओं में ऐसा भाषा-आधारित फ़िशिंग ईमेल बनाने को कहा जो प्राप्तकर्ता को फोन करने के लिए उकसाए, ताकि देखा जा सके कि प्राकृतिक भाषा को समझने वाला प्लेटफ़ॉर्म या उन्नत डिटेक्शन प्लेटफ़ॉर्म उसे पहचान सकता है या नहीं। हमने चैटजीपीटी को निर्देश दिया, “एक अत्यावश्यक ईमेल लिखें जो किसी को एक सॉफ़्टवेयर लाइसेंस समझौते पर अंतिम नोटिस के बारे में कॉल करने के लिए आग्रह करता है।” हमने इसे अंग्रेजी और जापानी में लिखने के लिए भी निर्देशित किया।
उन्नत डिटेक्शन प्लेटफ़ॉर्म ने ईमेल को तुरंत सोशल इंजीनियरिंग हमले के रूप में पहचान लिया। लेकिन ईमेल सिस्टम में अंतर्निहित सुरक्षा नियंत्रण जैसे आउटलुक के फ़िशिंग डिटेक्शन प्लेटफ़ॉर्म नहीं कर सका। यहां तक कि चैटजीपीटी के रिलीज़ होने से पहले, सोशल इंजीनियरिंग जो कि वार्तालाप, भाषा-आधारित हमलों के माध्यम से की जाती थी, पारंपरिक नियंत्रणों को चकमा देने में सफल रही, जो कि एक लिंक या पेलोड के बिना इनबॉक्स में जमा हो जाती थी। तो हाँ, बचाव के लिए मशीन के मुकाबले मशीन का इस्तेमाल करना आवश्यक है, लेकिन हमें यह सुनिश्चित करना होगा कि हम प्रभावी तोपखाने का उपयोग कर रहे हैं, जैसे कि एक उन्नत डिटेक्शन प्लेटफ़ॉर्म। जिनके पास इन उपकरणों का उपयोग करने का लाभ है, उनके पास जेनरेटिव एआई के खिलाफ लड़ाई में एक लाभ है।
जब चैटजीपीटी और जेनरेटिव एआई के अन्य रूपों द्वारा संभव बनाए गए सोशल इंजीनियरिंग हमलों के दायरे और विश्वसनीयता की बात आती है, तो मशीन से मशीन रक्षा को भी परिष्कृत किया जा सकता है। उदाहरण के लिए, यह रक्षा कई भाषाओं में तैनात की जा सकती है। यह केवल ईमेल सुरक्षा तक ही सीमित नहीं है, बल्कि स्लैक, व्हाट्सएप, टीम्स आदि जैसे अन्य संचार चैनलों के लिए भी उपयोग की जा सकती है।
सावधान रहें
जब हम लिंक्डइन पर स्क्रॉल कर रहे थे, तो हमारे एक कर्मचारी ने जेनरेटिव एआई सोशल इंजीनियरिंग प्रयास का सामना किया। एक अजीब “व्हाइटपेपर” डाउनलोड विज्ञापन दिखाई दिया जो कि केवल “बिज़ारो” विज्ञापन रचना के रूप में वर्णित किया जा सकता है। करीब से जांच करने पर, कर्मचारी ने छवियों के निचले दाएं कोने में एक विशिष्ट रंग पैटर्न देखा, जो डैल-ई से बनी छवियों पर अंकित होता है। डैल-ई एक एआई मॉडल है जो पाठ-आधारित प्रॉम्प्ट से छवियां बनाता है।
लिंक्डइन पर इस नकली विज्ञापन से मिलना जेनरेटिव एआई के साथ जुड़े नए सोशल इंजीनियरिंग खतरों की एक महत्वपूर्ण याद दिलाता है। यह पहले से कहीं ज्यादा महत्वपूर्ण है कि हम सावधान और संदेही रहें।
जेनरेटिव एआई का उपयोग साइबर अपराध के लिए किया जाने वाला युग यहां है, और हमें सतर्क रहना होगा और उपलब्ध सभी उपकरणों से इसका मुकाबला करने के लिए तैयार रहना होगा।












