एआई अब नया अंदरूनी खतरा है, लेकिन इससे निपटने की योजनाएँ एक परत देर से आ रही हैं

Hugging Face में सेंध और ऐसी ही अन्य घटनाओं ने इस उद्योग में चिंता पैदा कर दी है, लेकिन संगठनों को एआई मॉडल की परत के बजाय SDLC पर ध्यान देना चाहिए।

जुलाई में OpenAI एजेंटों ने Hugging Face में सेंध लगाई। इसके तुरंत बाद Anthropic और Meta के मॉडलों से जुड़ी ऐसी ही सेंधों की खबरें आईं। इससे साइबर हमलों की एक नई-सी श्रेणी को लेकर खतरे की घंटी बज उठी है: दुर्भावनापूर्ण एजेंटिक एआई का अंदरूनी खतरा।

लेकिन इस तरह की घटना वास्तव में नई नहीं है। इसका अग्रणी एआई प्रयोगशालाओं में होना—जो कई वर्षों से लोगों को चिंतित करती रही हैं—इसे एक नया और भयावह रूप देता है। फिर भी, ये घटनाएँ उसी विफलता के तरीके और उन कमज़ोरियों को उजागर करती हैं, जिन्हें उद्यम वर्षों से पनपने दे रहे हैं।

वे जानबूझकर दुर्भावनापूर्ण भी नहीं थे। Hugging Face में सेंध के दौरान, कृत्रिम बुद्धिमत्ता के एजेंट—जिनकी संख्या लगभग 1,200 थी—एक परीक्षण परिवेश में उन्हें सौंपा गया लक्ष्य हासिल करने की कोशिश कर रहे थे। हालाँकि, यह मानना होगा कि उनका व्यवहार हमेशा उचित नहीं था। इस दौरान उन्होंने चोरी-छिपे संवाद किया, कमज़ोरियों का फायदा उठाया और लगभग दो महीनों तक बिना पकड़े काम करते रहे। उनमें से करीब 700 ने अपने “अलग-थलग” परिवेश की दीवार लाँघकर इंटरनेट और तीसरे पक्षों तक पहुँच बना ली।

इन घटनाओं को लेकर चिंता की बात सिर्फ़ यह नहीं है कि बिना पाबंदी वाले एआई एजेंट गंभीर खतरा पैदा कर सकते हैं—और निस्संदेह वे ऐसा कर सकते हैं। लेकिन अगर एजेंट किसी अग्रणी प्रयोगशाला की टीम की नाक के नीचे बेलगाम होकर काम कर सकते हैं—ऐसी टीम, जिसके पास गतिविधियों पर कड़ी नज़र रखने के लिए भरपूर प्रतिभा, संसाधन और प्रेरणा है—तो आपको यह भी पूछना चाहिए कि आपके विकास परिवेश में इस समय चल रहे एआई एजेंटों और एआई-सहायता प्राप्त टूल के साथ क्या हो रहा है। अगर एआई के सबसे बड़े दिग्गजों को भी अपने परिवेश की गतिविधियाँ वास्तविक समय में दिखाई नहीं देतीं, तो औसत संगठन के पास क्या मौका है?

एजेंटिक एआई को काबू में रखने का सबसे अच्छा तरीका संगठनों के लिए यह समझना है कि यह नई स्थिति लंबे समय से चली आ रही चुनौती का ही अधिक शक्तिशाली रूप है। लेकिन इससे निपटने के लिए ऐसी क्षमता चाहिए, जिसकी अब भी कई उद्यमों में कमी है: सॉफ़्टवेयर विकास जीवनचक्र (SDLC) के शुरुआती चरणों में दृश्यता और गतिविधियों की निगरानी।

OpenAI-Hugging Face: आने वाले समय का संकेत

Hugging Face में सेंध के दौरान, अग्रणी एआई मॉडलों के एक समूह ने—जिसमें OpenAI का नया प्रमुख मॉडल GPT-5.6 Sol भी शामिल था, जिसे जुलाई में जारी किया गया था—एक सीमित लक्ष्य हासिल करने की कोशिश की: ExploitGym बेंचमार्क। यह बेंचमार्क जाँचता है कि कोई एजेंट सुरक्षा खामियों का फायदा उठाने में कितना सक्षम है। सेंध पर अपने लेख में, Anthropic ने बताया कि एआई मॉडल “कम सुरक्षा उपायों के तहत काम करते हुए” तय सीमाएँ लाँघने, तकनीकी नियंत्रणों से बच निकलने, बिना अनुमति वाले माध्यमों से मिलकर काम करने और अंततः जोखिम भरे कदम उठाने में सक्षम थे।

हालाँकि सेंध का पता जुलाई में चला, एजेंटों ने मई में ही अनुचित ढंग से संवाद करना शुरू कर दिया था और किसी की नज़र में नहीं आए। METR और Redwood Research ने OpenAI के साथ-साथ एक स्वतंत्र, समानांतर जाँच की। उन्हें पता चला कि एजेंट जानते थे कि वे नियम तोड़ रहे हैं, लेकिन उनमें से कुछ ने ही OpenAI को इसकी सूचना देने के बारे में सोचा; बाकी बिना रुके आगे बढ़ते रहे।

OpenAI की रिपोर्ट के बाद Anthropic ने अपने पहले के साइबर सुरक्षा मूल्यांकनों की दोबारा जाँच की। उसे पता चला कि अप्रैल में Claude के एक मॉडल ने तीन बार नियंत्रणों को चकमा दिया, इंटरनेट से जुड़ने का तरीका खोजा और तीन बाहरी संगठनों तक बिना अनुमति पहुँच हासिल की। इसके कुछ ही समय बाद Meta ने बताया कि उसके सबसे उन्नत एजेंटिक एआई मॉडल का एक संस्करण, Muse Spark 1.1, साइबर सुरक्षा परीक्षण के एक सुरक्षित परिवेश से बाहर निकल गया और एक बाहरी कंपनी के नेटवर्क में घुसपैठ कर गया।

अपनी रिपोर्ट में OpenAI ने यह भी चेतावनी दी कि यह घटना आने वाले समय का संकेत है। उसने कहा कि रोज़मर्रा में इस्तेमाल होने वाले ओपन-सोर्स मॉडलों समेत कई मॉडल जल्द ही ऐसा करने में सक्षम होंगे। Medicare में हालिया सेंध ने इस दावे को और पुख्ता किया।

एआई का नियंत्रण SDLC के स्तर पर होना चाहिए

एजेंटिक एआई से किए गए इन हमलों ने एआई समुदाय को झकझोर दिया है। OpenAI ने घोषणा की कि वह अपने परीक्षण परिवेश में नियंत्रण कड़े करेगा। इसके बाद वह Anthropic, Microsoft, Amazon Web Services और 100 से अधिक अन्य कंपनियों के साथ मिलकर अहम बुनियादी ढाँचे पर एआई-सक्षम साइबर हमलों की आसन्न लहर के बारे में चेतावनी जारी करने में शामिल हुआ। पत्र में चेताया गया कि ये हमले बस कुछ महीनों दूर हो सकते हैं।

ऐसे ही हमलों की चपेट में आने की आशंका वाले संगठनों को अपने बुनियादी ढाँचे को मज़बूत करना होगा और इसकी शुरुआत सॉफ़्टवेयर विकास के स्तर से करनी चाहिए। असली समस्या सिर्फ़ एजेंटिक एआई की बढ़ती परिष्कृत क्षमता नहीं, बल्कि वास्तविक समय में निगरानी और सार्थक मानवीय देखरेख का अभाव है। संगठनों को एआई के जोखिम को तकनीकी रूप से अपरिहार्य मानने के बजाय लोगों और प्रक्रियाओं से जुड़ी कमियों को दूर करने पर ध्यान देना चाहिए।

उद्योग के बड़े हिस्से में संगठन निगरानी और गतिविधियों की दृश्यता को एआई मॉडल की परत पर केंद्रित कर रहे हैं, जबकि तब तक एक परत की देरी हो चुकी होती है। तब तक तो घोड़ा अस्तबल से आधा बाहर निकल चुका होता है। दृश्यता, निगरानी, गतिविधियों की पड़ताल और शासन—इन सबको वहीं लागू करना होगा जहाँ एआई पहली बार उद्यम में प्रवेश करता है: SDLC के भीतर। संगठनों को यह भी सुनिश्चित करना होगा कि एआई कोडिंग टूल इस्तेमाल करने वाले डेवलपरों के पास इतना प्रशिक्षण और कौशल हो कि वे इन टूल को कार्यप्रवाह में खामियाँ, कमज़ोरियाँ और गलत आदतें शामिल करने से रोक सकें।

सॉफ़्टवेयर की ज़्यादातर खामियाँ विकास के चरण में ही शुरू होती हैं। जब डेवलपर के पास सुरक्षित कोड लिखने या एआई से आई खामियों को ठीक करने के कौशल नहीं होते, तो समस्याएँ तेज़ी से फैल सकती हैं। डेवलपरों के लिए ऐसे प्रशिक्षण कार्यक्रम की ज़रूरत है, जो उन्हें आवश्यक सुरक्षा कौशल सिखाए और इन कौशलों को हासिल करने तथा रोज़मर्रा के काम में नियमित रूप से इस्तेमाल करने में उनकी प्रगति पर नज़र रखे।

संगठनों के कामकाज में एआई की भूमिका लगातार गहरी होती जा रही है। ऐसे में यह स्पष्ट हो गया है कि उद्यमों में सुरक्षित कोड तैयार करने के लिए डेवलपरों और उनके एआई कोडिंग टूल, दोनों की सुरक्षा-संबंधी अनुरेखणीयता, अवलोकनीयता और निगरानी अब बुनियादी आवश्यकता बन चुकी है।

लगातार खतरों के लिए निरंतर जवाब ज़रूरी

पहले शायद हम मानते थे कि सॉफ़्टवेयर अपेक्षाकृत अहानिकर होता है और वही करता है, जिसके लिए उसे प्रोग्राम किया गया है। कोई गड़बड़ी होने पर वह अटक सकता था या कुछ समय के लिए काम करना बंद कर सकता था, लेकिन हमला नहीं करता था। एआई, ख़ासकर एजेंटिक एआई, ने इस धारणा को पूरी तरह उलट दिया है। चाहे कोई एआई मॉडल एजेंटिक हो या डेवलपर की मदद से काम करता हो, उसकी गतिविधियों पर लगातार नज़र रखनी और उनका प्रबंधन करना ज़रूरी है।

अस्पतालों, जल-शोधन संयंत्रों, बिजलीघरों या कारोबारों को निशाना बनाने वाला उभरता एआई खतरा डरावना हो सकता है। लेकिन संगठन बेबस नहीं हैं। वे एआई के लिए निगरानी व्यवस्था लागू कर सकते हैं, लेकिन इसे बुनियाद से तैयार करना होगा। सुरक्षित सॉफ़्टवेयर के प्रति प्रतिबद्ध संस्कृति अपनाकर और इस लक्ष्य को हासिल करने के लिए डेवलपरों को प्रशिक्षण देकर, संगठन संभावित समस्या के लिए अवलोकनीयता, अनुरेखणीयता और निगरानी का वह स्तर ला सकते हैं जिसकी सख़्त ज़रूरत है। अगर इस समस्या पर काबू नहीं पाया गया, तो यह और भी गंभीर होती जाएगी।