जेनरेटिव एआई साइबर सुरक्षा में: युद्ध का मैदान, खतरा, और अब रक्षा

युद्ध का मैदान

जेनरेटिव एआई की क्षमताओं के बारे में उत्साह जल्द ही चिंता में बदल गया। जेनरेटिव एआई टूल्स जैसे कि चैटजीपीटी, गूगल बार्ड, डैल-ई आदि सुरक्षा और गोपनीयता चिंताओं के कारण सुर्खियां बनाते रहते हैं। यहां तक कि यह सवाल उठने लगा है कि क्या वास्तविक है और क्या नहीं। जेनरेटिव एआई बहुत ही प्लॉसिबल और इसलिए मनोवैज्ञानिक सामग्री प्रदान कर सकता है। इतना कि हाल ही में 60 मिनट्स सेगमेंट में एआई पर होस्ट स्कॉट पेली ने दर्शकों को यह बयान दिया; “हम एक नोट के साथ समाप्त करेंगे जो 60 मिनट्स पर कभी नहीं दिखाया गया है, लेकिन एआई क्रांति में, आप अक्सर सुनेंगे: पिछला सामग्री 100% मानव सामग्री के साथ बनाया गया है।”

जेनरेटिव एआई साइबर युद्ध इस मनोवैज्ञानिक और वास्तविक सामग्री के साथ शुरू होता है और युद्ध का मैदान वह जगह है जहां हैकर्स जेनरेटिव एआई का उपयोग कर रहे हैं, जैसे कि चैटजीपीटी आदि। यह साइबर अपराधियों के लिए, विशेष रूप से उन लोगों के लिए जिनके पास सीमित संसाधन और शून्य तकनीकी ज्ञान है, सोशल इंजीनियरिंग, फ़िशिंग और प्रतिरूपण हमलों के माध्यम से अपने अपराधों को अंजाम देना बहुत आसान है।

खतरा

जेनरेटिव एआई अधिक जटिल साइबर हमलों को बढ़ावा देने की शक्ति रखता है।

चूंकि यह तकनीक इतनी आसानी से मनोवैज्ञानिक और मानव-जैसी सामग्री प्रदान कर सकती है, इसलिए एआई-जनित स्कैम्स को सुरक्षा टीमों द्वारा आसानी से पहचाना नहीं जा सकता है। एआई-जनित स्कैम्स सोशल इंजीनियरिंग हमलों के रूप में आ सकते हैं, जैसे कि ईमेल और मैसेजिंग ऐप्स पर मल्टी-चैनल फ़िशिंग हमले। एक वास्तविक उदाहरण एक कॉर्पोरेट कार्यकारी को आउटलुक (ईमेल) या स्लैक (मैसेजिंग ऐप) के माध्यम से तीसरे पक्ष के विक्रेता से एक दस्तावेज़ के साथ एक ईमेल या संदेश हो सकता है। ईमेल या संदेश उन्हें यह देखने के लिए निर्देशित करता है कि यह एक इनवॉइस है। जेनरेटिव एआई के साथ, यह लगभग असंभव है कि नकली और वास्तविक ईमेल या संदेश के बीच अंतर किया जा सके। जो इसे इतना खतरनाक बनाता है।

हालांकि, सबसे चिंताजनक उदाहरणों में से एक यह है कि जेनरेटिव एआई के साथ, साइबर अपराधी कई भाषाओं में हमले पैदा कर सकते हैं – चाहे हैकर वास्तव में उस भाषा को बोलता हो या नहीं। लक्ष्य एक व्यापक जाल बिछाना है और साइबर अपराधी भाषा के आधार पर पीड़ितों के साथ भेदभाव नहीं करेंगे।

जेनरेटिव एआई की प्रगति इस बात का संकेत देती है कि इन हमलों का दायरा और कुशलता बढ़ने की संभावना है।

रक्षा

जेनरेटिव एआई के लिए साइबर रक्षा पuzzल का लापता टुकड़ा रहा है। लेकिन अब नहीं। मशीन से मशीन कombat, या एआई को एआई के खिलाफ पिन करने के द्वारा, हम इस नए और बढ़ते खतरे का बचाव कर सकते हैं। लेकिन इस रणनीति को कैसे परिभाषित किया जाना चाहिए और यह कैसा दिखता है?

सबसे पहले, उद्योग को कंप्यूटर को कंप्यूटर के खिलाफ पिन करने की आवश्यकता है, न कि मानव बनाम कंप्यूटर। इस प्रयास को आगे बढ़ाने के लिए, हमें उन्नत डिटेक्शन प्लेटफ़ॉर्म पर विचार करना होगा जो एआई-जनित खतरों का पता लगा सकते हैं, सोशल इंजीनियरिंग हमले को झंडा देने और हल करने में लगने वाले समय को कम कर सकते हैं जो जेनरेटिव एआई से उत्पन्न होता है। जो एक मानव द्वारा असंभव है।

हमने हाल ही में यह देखने के लिए एक परीक्षण किया कि यह कैसा दिख सकता है। हमने चैटजीपीटी को एक भाषा-आधारित कॉलबैक फ़िशिंग ईमेल बनाने के लिए कहा जो कई भाषाओं में एक प्राकृतिक भाषा समझने वाले प्लेटफ़ॉर्म या उन्नत डिटेक्शन प्लेटफ़ॉर्म द्वारा पता लगाया जा सकता है। हमने चैटजीपीटी को निर्देश दिया, “एक अस्थायी ईमेल लिखें जो किसी को एक सॉफ़्टवेयर लाइसेंस समझौते पर अंतिम नोटिस के बारे में कॉल करने के लिए आग्रह करता है।” हमने इसे अंग्रेजी और जापानी में लिखने के लिए भी निर्देशित किया।

उन्नत डिटेक्शन प्लेटफ़ॉर्म तुरंत ईमेल को एक सोशल इंजीनियरिंग हमले के रूप में पहचान लिया। लेकिन मूल ईमेल नियंत्रण जैसे आउटलुक के फ़िशिंग डिटेक्शन प्लेटफ़ॉर्म नहीं कर सका। यहां तक कि चैटजीपीटी के रिलीज़ होने से पहले, सोशल इंजीनियरिंग जो कि वार्तालाप, भाषा-आधारित हमलों के माध्यम से की जाती थी, पारंपरिक नियंत्रणों को चकमा देने में सफल रही, जो कि एक लिंक या पेलोड के बिना इनबॉक्स में जमा हो जाती थी। तो हाँ, यह मशीन बनाम मशीन कombat लेता है रक्षा करने के लिए, लेकिन हमें यह सुनिश्चित करना होगा कि हम प्रभावी तोपखाने का उपयोग कर रहे हैं, जैसे कि एक उन्नत डिटेक्शन प्लेटफ़ॉर्म। जिनके पास इन उपकरणों का उपयोग करने का लाभ है, उनके पास जेनरेटिव एआई के खिलाफ लड़ाई में एक लाभ है।

जब जेनरेटिव एआई द्वारा प्रदान किए गए सोशल इंजीनियरिंग हमलों के दायरे और विश्वसनीयता की बात आती है, तो मशीन से मशीन रक्षा को भी परिष्कृत किया जा सकता है। उदाहरण के लिए, यह रक्षा कई भाषाओं में तैनात की जा सकती है। यह केवल ईमेल सुरक्षा तक ही सीमित नहीं है, बल्कि स्लैक, व्हाट्सएप, टीम्स आदि जैसे अन्य संचार चैनलों के लिए भी उपयोग की जा सकती है।

सावधान रहें

जब हम लिंक्डइन पर स्क्रॉल कर रहे थे, तो हमारे एक कर्मचारी ने जेनरेटिव एआई सोशल इंजीनियरिंग प्रयास का सामना किया। एक अजीब “व्हाइटपेपर” डाउनलोड विज्ञापन दिखाई दिया जो कि केवल “बिज़ारो” विज्ञापन रचना के रूप में वर्णित किया जा सकता है। करीब से जांच करने पर, कर्मचारी ने छवियों में एक विशिष्ट रंग पैटर्न देखा जो डैल-ई द्वारा उत्पादित किया गया था, एक एआई मॉडल जो पाठ-आधारित प्रॉम्प्ट से छवियां बनाता है।

लिंक्डइन पर इस नकली विज्ञापन से मिलना जेनरेटिव एआई के साथ जुड़े नए सोशल इंजीनियरिंग खतरों की एक महत्वपूर्ण याद दिलाता है। यह पहले से कहीं ज्यादा महत्वपूर्ण है कि हम सावधान और संदेही रहें।

जेनरेटिव एआई का उपयोग साइबर अपराध के लिए किया जाने वाला युग यहां है, और हमें हर संभव उपकरण के साथ इसका मुकाबला करने के लिए तैयार रहना होगा।