एआई उद्योग हमारा भरोसा चाहता है, लेकिन पहले उसे बेहतर नियंत्रण व्यवस्था चाहिए

सुरक्षा के मामले में, कुछ गलत हो जाने के बाद हमें यह पता लगाने का मौका नहीं मिलता कि हमारे नियंत्रण काम करते हैं या नहीं। हम उनकी जाँच करते हैं। उन्हें परखते हैं। हम मानकर चलते हैं कि आखिरकार कोई उस कमजोरी को ढूँढ़ ही लेगा, जिस पर हमारी नज़र नहीं गई।

सुरक्षा की यह बुनियादी सीख है।

तो फिर अत्याधुनिक एआई के लिए अलग मानक क्यों होना चाहिए?

जैसे-जैसे एआई प्रणालियाँ अधिक स्वायत्त हो रही हैं और वास्तविक दुनिया की प्रणालियों तक उनकी पहुँच बढ़ रही है, हम कुछ ऐसा देख रहे हैं जिससे साइबर सुरक्षा के बचाव पक्ष में समय बिताने वाले हर व्यक्ति को चिंतित होना चाहिए: क्षमताएँ, नियंत्रण से तेज़ी से आगे बढ़ रही हैं।

और तेज़ी, कमज़ोर सुरक्षा का बहाना नहीं है। बल्कि यही वजह है कि हमें और मज़बूत सुरक्षा चाहिए।

गैर-लाभकारी संस्था Guidelight AI के हालिया आकलन में Anthropic, Google, Meta, OpenAI और xAI की एआई नियंत्रण-व्यवस्थाओं से जुड़े सार्वजनिक रूप से उपलब्ध साक्ष्यों की समीक्षा की गई। कुल मिलाकर किसी को भी C+ से बेहतर ग्रेड नहीं मिला।

इसका मतलब यह नहीं कि ये कंपनियाँ लापरवाह हैं। न ही इसका मतलब यह है कि बंद दरवाज़ों के पीछे अतिरिक्त नियंत्रण लागू नहीं हैं।

लेकिन सुरक्षा अनुमान के भरोसे नहीं चलती। अगर हमसे लगातार शक्तिशाली होती प्रणालियों पर भरोसा करने को कहा जा रहा है, तो हमें इस बात के प्रमाण की अपेक्षा करनी चाहिए कि उनके आसपास की नियंत्रण-व्यवस्थाएँ भी उसी कसौटी पर खरी उतर सकती हैं, जिस पर हम किसी भी अन्य क्षेत्र में उन्हें परखना चाहेंगे।

नाकामियों को दिलचस्प कहानियों की तरह देखना बंद करें

जब कोई एआई एजेंट अप्रत्याशित ढंग से व्यवहार करता है, उसे अनचाही पहुँच मिल जाती है या वह किसी कमज़ोरी को उजागर करता है, तो कहानी का ज़ोर आम तौर पर इस बात पर रहता है कि तकनीक ने क्या किया।

यह दिलचस्प है।

लेकिन यह सबसे अहम सवाल नहीं है।

सुरक्षा विशेषज्ञ जानना चाहेगा: क्या गतिविधि का रिकॉर्ड रखा गया? क्या किसी ने उसे होते हुए देखा? क्या ख़तरनाक कार्रवाइयों पर रोक थी? क्या कोई इस प्रणाली को रोक सकता था? क्या उसे अलग-थलग करने की कोई योजना थी, और क्या किसी ने उसकी जाँच की थी?

ये सवाल सिर्फ़ एआई से जुड़े नहीं हैं। साइबर सुरक्षा में हम बरसों से यही सवाल पूछते आए हैं।

फिर भी, उभरती हुई अत्याधुनिक एआई नियंत्रण-व्यवस्था में रोकथाम और सीमित रखने के उपाय अब भी कमज़ोर कड़ियाँ नज़र आते हैं। कार्रवाइयों पर रोक, सर्किट ब्रेकर और आपातकालीन नियंत्रण से जुड़े सार्वजनिक साक्ष्य अब भी सीमित हैं।

यह घटना की नवीनता से ज़्यादा मायने रखना चाहिए। जब कुछ विफल होता है, तो मैं जानना चाहता हूँ कि क्या विफल हुआ, किस चीज़ ने उसे और बिगड़ने से रोका और उसके बाद क्या बदला।

पारदर्शिता उपयोगी है। उससे सीखना और भी बेहतर है।

एआई सुरक्षा की असली समस्या है रफ़्तार

मुझे नहीं लगता कि निकट भविष्य का सबसे बड़ा ख़तरा यह है कि एआई अचानक साइबर हमले की कोई बिल्कुल नई श्रेणी गढ़ लेगा। इससे बड़ी समस्या कहीं ज़्यादा व्यावहारिक है। एआई उन हमलों को बहुत तेज़ी से अंजाम देना संभव बना सकता है, जिन्हें हम पहले से समझते हैं।

जिस शोध में पहले घंटों लगते थे, वह मिनटों में किया जा सकता है। हमले की तकनीकों को पहले से कहीं तेज़ी से एक साथ जोड़ा जा सकता है। कमज़ोरियों की पहचान करके उन पर कार्रवाई तब तक की जा सकती है, जब तक इंसान-केंद्रित सुरक्षा प्रक्रिया अपनी पहली आपातकालीन सूचना तक न पहुँची हो।

यह समस्या है, क्योंकि आज की सुरक्षा बुनियादी व्यवस्था का बड़ा हिस्सा अब भी यह मानकर चलता है कि जवाब देने के लिए समय मिलेगा।

कभी-कभी समय नहीं मिलेगा।

अगर हमला तेज़ी से आगे बढ़े, तो टिकट, बैठकों, मंज़ूरियों और हाथ से ऊपर भेजे जाने वाले मामलों पर टिकी जवाबी प्रक्रिया किसी के तीसरे चरण तक पहुँचने से पहले ही अप्रासंगिक हो सकती है।

और यही वह जगह है जहाँ एआई उद्योग को कुछ काम करना है।

अगर अत्याधुनिक एआई पर काम करने वाली प्रयोगशालाएँ चाहती हैं कि उद्यम एआई के दौर के लिए निगरानी, कमज़ोरियों के प्रबंधन, संरचना और घटना-प्रतिक्रिया पर नए सिरे से विचार करें, तो उन्हें यह भी दिखाना चाहिए कि उन्होंने खुद भी ऐसा किया है।

“हम पर भरोसा करें”—यह नियंत्रण का ढाँचा नहीं है

मैंने अपना करियर सुरक्षा-परीक्षण के क्षेत्र में बिताया है और एक सिद्धांत आज भी पूरी तरह सही साबित होता है: इरादे सुरक्षा का प्रमाण नहीं होते। प्रमाण ही सुरक्षा साबित करते हैं।

• आप जाँच करते हैं।
• आप निगरानी करते हैं।
• आप चीज़ों को तोड़ने की कोशिश करते हैं।

आप पता लगाते हैं कि जब नियंत्रण-व्यवस्थाएँ वास्तु-आरेख में किए गए वादे के मुताबिक काम नहीं करतीं, तो क्या होता है। और आप यह सुनिश्चित करते हैं कि ज़रूरत पड़ने पर किसी के पास प्रणाली को रोकने का अधिकार हो। अत्याधुनिक एआई पर भी यही मानक लागू होना चाहिए।

इसका मतलब है नियंत्रण-व्यवस्थाओं की प्रतिकूल परिस्थितियों में जाँच करना, उनके काम करने के मापने योग्य प्रमाण जुटाना और कुछ गलत होने पर प्रणालियों को बंद करने का स्पष्ट अधिकार तय करना।

इसका मतलब नियंत्रण में रखने के तरीकों पर नए सिरे से विचार करना भी है।

अत्याधुनिक एआई पर काम करने वाली प्रयोगशालाएँ किसी एआई एजेंट के तय सीमाओं से बाहर जाकर काम करने के बाद उसे काबू में रखने के उपाय तात्कालिक रूप से नहीं गढ़ सकतीं। जैसे-जैसे वे अधिक सक्षम मॉडल को प्रशिक्षित और परखती हैं, उन्हें उन कार्रवाइयों की ज़िम्मेदारी लेनी चाहिए जिन्हें ये प्रणालियाँ अंजाम दे सकती हैं। इसके लिए कठोर प्रतिकूल परीक्षण, पहले से अधिकृत सुरक्षा उपाय, एजेंट के अधिकार की स्पष्ट सीमाएँ और किसी विफलता के फैलने से पहले हस्तक्षेप करने या प्रणाली को बंद करने के कारगर तरीके ज़रूरी हैं।

मानवीय विवेक अब भी मायने रखता है। लेकिन इन प्रणालियों को विकसित करने वाली प्रयोगशालाओं को सीमाएँ तय करनी होंगी, यह परखना होगा कि वे कारगर हैं या नहीं, और जब वे कारगर न हों तो जवाबदेही लेनी होगी।

उनकी जिम्मेदारी केवल यह दिखाना नहीं है कि कोई एजेंट क्या कर सकता है। उन्हें यह दिखाना है कि एजेंट सुरक्षित ढंग से काम कर सकता है, उसके व्यवहार को नियंत्रित किया जा सकता है और नई क्षमताएँ दुनिया को कम नहीं, बल्कि अधिक सुरक्षित बनाती हैं।

विश्वास अर्जित करना पड़ता है

मैं यह नहीं कह रहा कि AI नवाचार की रफ्तार बेहद धीमी कर दी जाए। मेरा कहना है कि सुरक्षा को भी उसके साथ कदम मिलाकर चलना होगा। अगर हम AI को अधिक सक्षम बनाने में भारी संसाधन लगा रहे हैं, तो उसे हमलों से बचाने योग्य बनाने के लिए भी उतनी ही तत्परता दिखानी होगी।

लेकिन जब अग्रणी प्रयोगशालाएँ साइबर क्षमताओं वाले नए AI मॉडलों के प्रशिक्षण और परीक्षण की रफ्तार बढ़ाती हैं, तो उन्हें सुरक्षा विशेषज्ञों को भी ध्यान में रखना होगा। सबसे पहले, उनकी मदद करके ताकि वे खतरों का अधिक तेजी से पता लगा सकें और उनका जवाब दे सकें। इससे भी अहम, उन प्रणालियों को खुद खतरा बनने से रोककर। इस जिम्मेदारी के लिए बाहरी जाँच-पड़ताल स्वीकार करना भी ज़रूरी है।

स्वतंत्र समीक्षा ऐसी चीज़ नहीं बननी चाहिए जिसे कंपनियाँ केवल तभी अपनाएँ, जब वह उनकी मनचाही कहानी का समर्थन करती हो। अगर अग्रणी AI प्रणालियाँ खतरे के परिदृश्य को बदलने लायक शक्तिशाली हैं, तो उन पर लागू नियंत्रण भी इतने मज़बूत होने चाहिए कि वे सार्थक स्वतंत्र परीक्षण पर खरे उतरें।

AI उद्योग चाहता है कि हम उस पर भरोसा करें।

साइबर सुरक्षा के क्षेत्र में काम करने वाले व्यक्ति के तौर पर, मैं भरोसा करने को तैयार हूँ। लेकिन पहले, मुझे नियंत्रण दिखाइए।