एआई कंपनियाँ सुरक्षा खामियों को स्वीकार करने के लिए क्यों दौड़ रही हैं

लगभग हर अन्य उद्योग में, “हमारा उत्पाद किसी अन्य कंपनी की प्रणालियों में घुस गया” जैसी घटना वह होती है जिसे कोई संगठन चुप रखने के लिए कड़ी मेहनत करता है। फिर भी जैसे ही एआई तेज़ी से आगे बढ़ रहा है, उसकी सुरक्षा विफलताएँ नियमित रूप से सुर्खियों में आ रही हैं, और कंपनियाँ अब अनियोजित एआई गतिविधियों को सावधानीपूर्वक तैयार किए गए ब्लॉग पोस्ट में समझा रही हैं।

यह बढ़ता हुआ नियमितता का भाव व्यापारिक नेताओं के लिए एक चेतावनी संकेत होना चाहिए।

जैसे ही एआई मॉडल अधिक सक्षम, अधिक स्वायत्त और उद्यम संचालन में गहराई से एकीकृत होते जा रहे हैं, खुलासा उद्योग की सबसे मूल्यवान मुद्राओं में से एक बन गया है। कंपनियों को पता है कि ग्राहक प्रत्येक उन्नत मॉडल के बारे में किए गए सभी सुरक्षा दावों को स्वतंत्र रूप से सत्यापित नहीं कर सकते, इसलिए विफलता को स्वीकार करना संकेत देता है कि संगठन सार्वजनिक रूप से अपनी गलतियों की जांच करेगा। लेकिन पारदर्शिता उत्तरदायित्व नहीं है। खुलासा कभी भी रोकथाम का विकल्प नहीं बन सकता, जो एआई मॉडलों के परिपक्व होते रहने के साथ और अधिक महत्वपूर्ण होता जाएगा।

जब एक खुलासा अगला ट्रिगर करता है

पिछले कुछ हफ्तों में यह पैटर्न स्पष्ट हो गया। OpenAI द्वारा मूल्यांकन किए जा रहे मॉडल्स ने लाइव सिस्टम्स तक अनजाने में पहुँच प्राप्त कर ली, जिसमें Hugging Face की प्रोडक्शन इन्फ्रास्ट्रक्चर भी शामिल है। OpenAI ने अपने एजेंट को जिम्मेदार पहचाना और और घोषित किया घटना। उस स्वीकृति ने Anthropic को जांच किया 141,000 से अधिक मूल्यांकन रन, जिससे पता चला कि Claude मॉडल्स इंटरनेट तक पहुँचे और तीन संगठनों की प्रोडक्शन सिस्टम्स को भेद दिया।

फिर आया Meta, जिसने सार्वजनिक समीक्षा से शुरुआत नहीं की। प्रेस ने पहले घटना की रिपोर्ट की, और तभी Meta ने पुष्टि की कि बाहरी परीक्षण के दौरान एक गलत कॉन्फ़िगरेशन ने उसके एक मॉडल को इंटरनेट तक पहुँचने और तृतीय‑पक्ष सेवा में एक कमजोरी का फायदा उठाने दिया। Meta ने कहा कि वह जांच कर रहा है और बाद में अधिक जानकारी साझा करेगा।

ये घटनाएँ समान नहीं थीं, और मॉडल असामान्य मूल्यांकन परिस्थितियों में काम कर रहे थे। कुछ मामलों में, कच्ची साइबर क्षमताओं को मापने के लिए सामान्य सुरक्षा उपायों को घटाया या अक्षम किया गया था। लेकिन व्यापक सीख को नज़रअंदाज़ करना कठिन है: अधिक स्वायत्त सिस्टम उन सीमाओं को पार कर गए जिन्हें उनके ऑपरेटरों ने स्थापित माना था।

पारदर्शिता प्रतिस्पर्धात्मक लाभ हो सकती है (या क्या यह वास्तव में ऐसा है?)

उदार व्याख्या यह है कि एआई कंपनियाँ एक परिपक्व खुलासा संस्कृति विकसित कर रही हैं। साइबर सुरक्षा ने दशकों से सीखा है कि गोपनीयता अक्सर नुकसान को बढ़ा देती है। जो संगठन तुरंत घटनाओं की रिपोर्ट करते हैं, क्या हुआ इसे समझाते हैं और दूसरों को सीखने में मदद करते हैं, वे उन संगठनों की तुलना में अधिक विश्वसनीयता प्राप्त करते हैं जो इसे कम आंकते या देरी करते हैं।

Anthropic का खुलासा दिखाता है कि यह कैसे दिखता है। इसने अपनी समीक्षा के दायरे का वर्णन किया, अपनी विफलताओं को स्वीकार किया, प्रभावित संगठनों से संपर्क किया और उन नियंत्रणों की रूपरेखा प्रस्तुत की जिन्हें वह बदलने की योजना बना रहा है। इसने सुधारों को इस तरह अपनाया मानो जिम्मेदारी केवल उसकी ही हो, जबकि तृतीय‑पक्ष की परीक्षण कॉन्फ़िगरेशन भी योगदान दे रही थी। उत्पादक खुलासा यह नहीं मांगता कि एक ही संगठन सभी विफलताओं का कारण बना हो। यह आपके प्रभाव के भीतर के नियंत्रणों की जिम्मेदारी स्वीकार करने की माँग करता है।

एक स्वीकारोक्ति केवल विश्वास बनाने से अधिक कर सकती है

फिर भी खुलासा कभी भी केवल निःस्वार्थ नहीं होता। एक सार्वजनिक स्वीकारोक्ति एक साथ कई रणनीतिक कार्य कर सकती है।

पहला, यह क्षमता प्रदर्शित कर सकता है। “हमारा मॉडल अपनी परीक्षण से बच गया और वास्तविक सिस्टम को समझौता किया” एक चौंकाने वाला स्वीकार है, लेकिन यह यह भी सिद्ध करता है कि मॉडल असाधारण रूप से शक्तिशाली है। यह घटना, चाहे जानबूझकर हो या नहीं, एक उत्पाद प्रदर्शन बन जाती है।

दूसरा, यह कंपनी को नियामकों, ग्राहकों या पत्रकारों से पहले कथा को आकार देने की अनुमति देता है। संगठन शब्दावली को परिभाषित करता है, परीक्षण शर्तों को समझाता है और सुधार को फ्रेम करता है।

तीसरा, बार‑बार खुलासे इस व्यवहार को सामान्य बनाने का जोखिम रखते हैं। यदि हर प्रमुख एआई लैब रिपोर्ट करती है कि एक एजेंट ने सीमा पार की और लाइव सिस्टम को भेद दिया, तो उद्योग इस व्यवहार को प्रगति के अनिवार्य दुष्प्रभाव के रूप में देखना शुरू कर सकता है।

यह सामान्य नहीं बन सकता। जिन CISOs से मैं बात करता हूँ, वे जानना चाहते हैं कि रोकथाम नियंत्रण ने इस गतिविधि को क्यों नहीं रोका। वे पूछते हैं कि मॉडल की पहुँच को किसने अधिकृत किया, कौन सी सीमाएँ लागू की गईं, उसके कार्यों की निगरानी कैसे की गई और क्या कोई इसे तृतीय पक्ष तक पहुँचने से पहले रोक सकता था। ये उत्तरदायित्व से जुड़े प्रश्न हैं, संचार से नहीं।

खुलासा उत्तरदायित्व की शुरुआत है

साइबर सुरक्षा ने पहले ही सीख लिया है कि घटना की घोषणा करना उसे संभालने के बराबर नहीं है। एक विश्वसनीय खुलासा बताता है कि क्या हुआ, कौन प्रभावित हुआ, प्रतिक्रिया देने वालों ने इसे कैसे नियंत्रित किया, कौन से नियंत्रण विफल रहे, और अगली बार समान गतिविधि को रोकने के लिए क्या किया जाएगा।

एआई एजेंटों के लिए, इस मानक को और आगे बढ़ना होगा। एजेंट पूर्वानुमेय मार्गों का पालन नहीं करते। वे तर्क करते हैं, उपकरण चुनते हैं, और संदर्भ के अनुसार अनुकूलित होते हैं। एक वैध लक्ष्य यह गारंटी नहीं देता कि उसकी ओर प्रत्येक कदम वैध है। संगठनों को रोकथाम नियंत्रणों की आवश्यकता है जो यह निर्धारित करें कि एजेंट क्या एक्सेस कर सकता है, कौन से उपकरण वह उपयोग कर सकता है, और कौन सी क्रियाएँ वह कर सकता है, साथ ही एजेंट के वास्तविक कार्यों की निरंतर निगरानी भी।

यह कार्य तैनाती से पहले शुरू होना चाहिए। नेताओं को एजेंटिक वर्कफ़्लो के लिए थ्रेट मॉडलिंग, न्यूनतम विशेषाधिकार एक्सेस, बाहरी कनेक्टिविटी पर स्पष्ट सीमाएँ, परीक्षण वातावरण की स्वतंत्र मान्यता, वास्तविक‑समय नीति प्रवर्तन और मानव हस्तक्षेप के स्पष्ट बिंदु आवश्यक करने चाहिए। पहले सार्वजनिक घटना के बाद आप रोकथाम को जोड़ नहीं सकते।

नेताओं को अभी तय करना चाहिए कि आगे क्या होगा

एआई एजेंटों को लागू करने वाला प्रत्येक व्यवसाय अंततः इस क्षण का अपना संस्करण सामना कर सकता है। संगठन यह पता लगा सकता है कि एक एजेंट ने ऐसी जानकारी तक पहुँच प्राप्त की जो उसे नहीं मिलनी चाहिए थी, अपनी अधिकार सीमा से बाहर कार्य किया या अनपेक्षित रूप से बाहरी सिस्टम तक पहुँचा।

अब तय करें कि आप क्या खुलासा करेंगे, किसे, और किन शर्तों पर। इससे अधिक महत्वपूर्ण यह है कि उसके साथ आने वाली उत्तरदायित्व को परिभाषित करें। एजेंट के कार्यों का स्वामित्व कौन रखेगा? कौन उसकी पहुँच को काट सकता है? आप कौन सा सबूत संरक्षित करेंगे? सिस्टम फिर से ऑनलाइन जाने से पहले आप कौन सा नियंत्रण जोड़ेंगे?

एआई विफलताओं को प्रकाशित करने की जल्दबाज़ी एक स्वस्थ और अधिक खुला उद्योग दर्शा सकती है। लेकिन स्वीकारोक्ति पूरी कहानी नहीं हो सकती।

विश्वास केवल स्वीकृति से नहीं बनता। यह उन नियंत्रणों से बनता है जो घटना को रोकने चाहिए थे, तुरंत बाद लिए गए कदमों से, और इस सबूत से कि वही विफलता फिर से नहीं होगी।