जब AI AI को हैक करता है: साइबर खतरों का नया मोर्चा

पिछले कई वर्षों में, AI प्रौद्योगिकी ने उल्लेखनीय प्रगति की है. सरल चैटबॉट्स से जो अक्सर पूछे जाने वाले प्रश्नों और फोन कॉलों का उत्तर दे सकते थे, सटीक सर्जरी और लगभग स्वायत्त साइबर हमलों तक। यह घटना Hugging Face पर जनवरी 2026 में एक चिंताजनक मील का पत्थर बन गई: AI एजेंटों ने पहली बार AI प्लेटफ़ॉर्म को स्वायत्त रूप से हैक करने की क्षमता प्रदर्शित की। इस मामले ने एक बुनियादी समस्या उजागर की: पारंपरिक सुरक्षा उपाय एक हमलावर AI के खिलाफ प्रभावी नहीं हैं। लेकिन इसका अर्थ AI उद्योग के लिए क्या है — और हमें वास्तव में किस बात की चिंता करनी चाहिए?

आज हमलावरों के लिए AI क्या कर सकता है

अगर मैं कहूँ कि हैकरों की AI के साथ क्षमताएँ हमलावर की कौशल और उद्देश्यों पर निर्भर करती हैं, तो यह कोई नई बात नहीं है। बड़े पैमाने पर अभियानों को संचालित करने वाले खतरे वाले अभिनेता लगातार AI का उपयोग जासूसी, फ़िशिंग साइट विकास, डिकॉय आदि के लिए कर रहे हैं। इसके अलावा, हमलावर अक्सर कोड निर्माण के लिए AI का उपयोग करते हैं — जिसे वाइब कोडिंग कहा जाता है. 

वाइब कोडिंग ने न केवल आईटी पेशे में प्रवेश की बाधा को काफी हद तक कम किया, बल्कि हैकरों के लिए साइबरक्राइम व्यवसाय में शामिल होना भी आसान बना दिया, जहाँ वे इस तकनीक का उपयोग अपने मालवेयर को विकसित और डिबग करने में करते हैं।

पिछले वर्ष में, दर्जनों APT समूहों ने पुष्टि की है कि AI-आधारित हमले अब सैद्धांतिक नहीं रहे। इसके अलावा, मुझे विश्वास है कि AI हमलावरों के हाथों में एक खतरनाक उपकरण बन रहा है — और यह अतिरंजना नहीं है. हाइब्रिड APT हमले आधुनिक वास्तविकता हैं। मेरा मतलब है एक मानव-निर्देशित संचालन जिसमें AI मुख्य उपकरण के रूप में कार्य करता है।

यहाँ महत्वपूर्ण है AIM3 (AI Malware Maturity Model), जो AI-सक्षम खतरों के लिए पाँच स्तरों की परिपक्वता को परिभाषित करता है, जहाँ L1 प्रयोगात्मक हमलों को कवर करता है और L5 पूर्ण स्वायत्त AI हमलों को।

2025 में, L4 हमले का पहला ज्ञात उदाहरण पता लगाया गया — GTG-1002 द्वारा संचालित ऑपरेशन। इस मामले में, अभिनेता ने Claude Code के उदाहरणों को समूहों में स्वायत्त पेनिट्रेशन-टेस्टिंग आयोजकों और एजेंटों के रूप में कार्य करने के लिए नियुक्त किया, जिससे खतरे वाले अभिनेता AI का उपयोग करके 80–90% टैक्टिकल ऑपरेशन्स को स्वतंत्र रूप से निष्पादित कर सके।

एक और उल्लेखनीय प्रवृत्ति यह है कि हमलावर एक हमले के दौरान एक से अधिक AI समाधान का उपयोग करते हैं। उदाहरण के लिए, TAT26-12 दो AI सिस्टमों का उपयोग कर रहा है जो पूरक भूमिकाएँ निभाते हैं। इसके अलावा, OpenAI का उपयोग आंतरिक पीड़ित सर्वरों पर स्वचालित बड़े पैमाने पर विश्लेषण के लिए किया गया: हमलावर ने OpenAI की रिपोर्टों का विश्लेषण किया और संबंधित निष्कर्षों को Claude सत्रों में फीड किया, जो बदले में एक इंटरैक्टिव शोषण सहायक के रूप में कार्य करते थे।

एक समान मामला जुलाई 2026 में उजागर किया गया, जब अनाम खतरे वाले अभिनेता ने अपने हमलों के लिए Claude Code और DeepSeek-v4-pro का उपयोग किया। Claude Code निष्पादन इंजन के रूप में कार्य करता है, एजेंटिक टूल उपयोग, बैश कमांड निष्पादन, सत्र निरंतरता, और कार्य समानांतरता का प्रबंधन करता है। DeepSeek-v4-pro, बदले में, आधारभूत तर्क मॉडल के रूप में कार्य करता है, जो हमले की लॉजिक, स्क्रिप्ट जनरेशन, और निर्णय लेने को संभालता है।

यह उल्लेखनीय है कि जंगली वातावरण में कोई पुष्टि किए गए L5 AI हमले के मामलों का उल्लेख नहीं किया जा सकता। मेरा मानना है कि उन्नत अभिनेता AI खतरों की परिपक्वता के L3–L4 स्तर को लक्ष्य करेंगे, क्योंकि यह उन्हें स्केल करने और पर्याप्त हमले करने में मदद कर सकता है। चूँकि L5 हमले लागू करने में जटिल हैं, कम से कम निकट भविष्य में वे सैद्धांतिक ही रहेंगे।

डार्क वेब में AI

अंडरग्राउंड फ़ोरमों पर, AI आमतौर पर उल्लेखित किया जाता था प्रत्येक समाधान की सामान्य क्षमताओं और प्रॉम्प्ट निर्माण के संदर्भ में चर्चा में. हालांकि, पोस्टों का एक महत्वपूर्ण हिस्सा सीधे दुष्ट गतिविधियों से संबंधित था। प्रसिद्ध साइबरक्रिमिनल प्लेटफ़ॉर्मों पर पोस्टों में विषय शामिल थे जैसे AI का उपयोग करके हमलावर बुनियादी ढांचे को कॉन्फ़िगर करने के निर्देश ढूँढना और लोकप्रिय एंटीवायरस समाधान द्वारा पहचान से बचने के तरीके; लोकप्रिय क्रिप्टोकरेंसी एक्सचेंजों पर KYC प्रक्रियाओं को बायपास करने के लिए AI का उपयोग; ज्ञात AI-सक्षम हमलों पर चर्चा; मालवेयर का विकास और वितरण; और AI का उपयोग करके फ़िशिंग पेज बनाना जो ऑनलाइन सेवाओं की नकल करते हैं।

फ़ोरमों पर सबसे अधिक उल्लेखित तीन AI समाधान वही हैं जो साइबरक्रिमिनल समूहों द्वारा किए गए हमलों में सबसे सामान्यतः देखे जाते हैं: Gemini, OpenAI टूल्स, और Claude Code। Gemini का उपयोग बड़े हमलों में अधिक बार किया गया, जबकि ChatGPT पर फ़ोरमों में अधिक चर्चा हुई। 

AI उद्योग एक लक्ष्य के रूप में

हमले करने के लिए AI का उपयोग करने के अलावा, खतरे वाले अभिनेता स्वयं AI समाधान को भी लक्ष्य बनाते हैं। AI टूल्स पर हमले सार्वजनिक रूप से शायद ही कभी उजागर होते हैं; हालांकि, ऐसा एक हमला कई कंपनियों पर महत्वपूर्ण प्रभाव डाल सकता है। AI आपूर्तिकर्ताओं पर हमला एक सप्लाई-चेन अभियान उत्पन्न कर सकता है, जिससे हमलावर सीधे लक्ष्य बनाये बिना ग्राहकों तक पहुँच सकते हैं।

इसके अलावा, AI डेवलपर्स भी सप्लाई-चेन हमलों के शिकार हो सकते हैं। उदाहरण के लिए, मई 2026 की शुरुआत में, TeamPCP ने समझौता किए गए npm पैकेजों में दुर्भावनापूर्ण Mini Shai-Hulud इम्प्लांट डाला; इस अभियान ने कम से कम दो AI विक्रेताओं को प्रभावित किया, अन्य संगठनों के बीच। खतरे वाले अभिनेता समूह ने एक AI आपूर्तिकर्ता के आंतरिक रिपॉजिटरी का हिस्सा चुरा लिया और उसे डार्क वेब फ़ोरम पर बिक्री के लिए रखा।

APT41 ने Gemini का उपयोग करके अपनी बुनियादी ढाँचा और सिस्टम के बारे में जानकारी प्राप्त करने के लिए एक अन्य प्रकार का हमला करने का प्रयास किया। प्रयास असफल रहा, लेकिन विचार स्वयं काफी अनोखा था।

इसके अलावा, शोधकर्ताओं ने विभिन्न AI समाधान में बार‑बार गंभीर कमजोरियों की रिपोर्ट की है, जिसमें Microsoft 365 Copilot में CVE-2025-32711 (जिसे EchoLeak भी कहा जाता है), Cursor IDE में CVE-2025-54135 (जिसे CurXecute भी कहा जाता है), Model Context Protocol में CVE-2025-53109, Amazon Q Developer VS Code एक्सटेंशन में CVE-2025-8217, और Langflow AI में CVE-2025-34291 शामिल हैं। अंतिम दो को wild में शोषित होते देखा गया।

पुराने बचाव, नए खतरे

जैसा कि अच्छी तरह ज्ञात है, AI समाधान के विभिन्न प्रकार होते हैं: क्लाउड‑आधारित और स्थानीय। मेरा मानना है कि AI समुदाय के लिए यह समझना महत्वपूर्ण है कि AI समाधान में कम से कम वही सुरक्षा समस्याएँ होती हैं जो अन्य डेस्कटॉप और क्लाउड‑आधारित अनुप्रयोगों में होती हैं — या यहाँ तक कि अधिक। 

पहला स्पष्ट खतरा वह है जब मालवेयर को वैध स्थानीय AI टूल के रूप में वितरित किया जाता है — हमलावर अक्सर GitHub जैसे विश्वसनीय स्रोतों का उपयोग करते हैं। 

एक और समान उदाहरण है दुर्भावनापूर्ण AI सहायक एक्सटेंशन जो उपयोगकर्ता की गतिविधि को निष्क्रिय रूप से मॉनिटर करने के लिए डिज़ाइन किए गए हैं, जो नियमित ब्राउज़िंग के दौरान देखे गए URL और AI‑जनित चैट सामग्री के अंश एकत्र करते हैं।

अधिकांश मामलों में, यदि एक हमलावर उपयोगकर्ता के खोज इतिहास तक पहुँच प्राप्त कर लेता है, तो वह निजी जीवन और विभिन्न कार्य प्रक्रियाओं के बारे में जानकारी प्राप्त कर सकता है। इस प्रकार, यह उपयोगकर्ता और कंपनियों दोनों के लिए खतरा बनता है।

एक और प्रकार है वह तकनीक जिसे AI टोकन हाइजैकिंग कहा जाता है — समझौता किए गए API कुंजियाँ, सत्र टोकन, और उपकरण उन अभिनेताओं का लक्ष्य होते हैं जो उस पहुँच को बेचते हैं या इन चोरी किए गए रहस्यों का उपयोग अपने हमलों में करते हैं, उदाहरण के लिए, छिपे कार्यों को निष्पादित करने के लिए। हमले का दायरा उस डेटा और अनुमतियों पर निर्भर करता है जो पहले से ही पीड़ित के सत्र में उपलब्ध हैं। 

AI के लिए एक और लोकप्रिय तकनीक जिसे मैं उल्लेख करना चाहूँगा वह प्रॉम्प्ट इंजेक्शन है, जिसमें दुर्भावनापूर्ण इनपुट (प्रॉम्प्ट) डालकर सिस्टम से अनपेक्षित या संवेदनशील जानकारी निकाली जाती है, जो डेवलपर ने इरादा नहीं किया था।

संवेदनशील डेटा तक अनियंत्रित पहुँच डेटा उल्लंघन के जोखिम को बढ़ा देती है। दूसरे शब्दों में, AI एकल प्रवेश बिंदु बन जाता है — अक्सर उन्नत विशेषाधिकारों के साथ — जिससे हमलावरों का ध्यान अधिक आकर्षित होता है।

सुरक्षित रहने के उपाय

साइबर सुरक्षा के संदर्भ में, कुछ बुनियादी सिद्धांत विशिष्ट तकनीकों से भी अधिक महत्वपूर्ण हो सकते हैं। पहला, AI पर न्यूनतम विशेषाधिकार लागू करें। दूसरा, बाहरी सामग्री पर कभी भरोसा न करें। और आख़िर में, मानव को प्रक्रिया में रखें और मॉडल को अकेले यह तय करने न दें कि किसे पहुँच मिलनी चाहिए। मैं दृढ़ता से सलाह देता हूँ कि आप अपने AI समाधान के सभीबिंदुआपके AI समाधान के लिए स्थापित हों।