एंटरप्राइज़ में AI पर नियंत्रण-व्यवस्थाएँ, अत्याधुनिक AI से भी अधिक अहम हो सकती हैं

AI की अत्याधुनिक सीमाओं की बात छोड़िए। ग्राहक एंटरप्राइज़ से पहले से इस्तेमाल हो रहे AI पर अधिक नियंत्रण-व्यवस्थाएँ लागू करने की माँग कर रहे हैं, और PCI DSS का अनुभव इसके लिए एक उपयोगी मॉडल देता है।

AI के लिए नियामकीय नरमी का दौर खत्म हो चुका है। हालिया खुलासों के बाद अत्याधुनिक AI के विकास की गति धीमी करने और नियंत्रण अनिवार्य करने पर चर्चा शुरू हुई है। जिन कुछ बातों पर सहमति है, उनमें से एक यह है कि नियंत्रण मॉडल के बाहर होने चाहिए और उनका स्वतंत्र सत्यापन किया जाना चाहिए।

आगे क्या होगा, इस पर बहस जारी है, लेकिन नियामक कदम उठा रहे हैं। यूरोपीय संघ का AI अधिनियम खरीदारों की देयता सहित सुरक्षा संबंधी दायित्वों को चरणबद्ध तरीके से लागू कर रहा है। अमेरिका में, NIST का AI जोखिम प्रबंधन ढाँचा उचित सावधानी के मानक के रूप में अपनाया जा रहा है। दुनिया भर में, LLM अनुप्रयोगों के लिए OWASP के शीर्ष 10 सुरक्षा समीक्षाओं में एक आम संदर्भ बन गए हैं, और खरीद संबंधी दस्तावेज़ों में ISO/IEC 42001 प्रमाणन का उल्लेख दिखाई देने लगा है।

इसका मतलब है कि जवाबदेही सिर्फ़ मॉडल विकसित करने वालों की नहीं है। पहले से जारी मॉडलों का इस्तेमाल करने वाले एंटरप्राइज़ पर भी सुरक्षा संबंधी दायित्व और जोखिम आते हैं, विशेषकर उच्च-जोखिम वाले उपयोग के मामलों में। ग्राहक की सुरक्षा प्रश्नावली या प्रस्ताव अनुरोध (RFP) के जवाब में गलत उत्तर देने से B2B सौदा अटक सकता है।

PCI DSS राह दिखाता है

सौभाग्य से, हम ऐसा पहले भी देख चुके हैं। बीस साल पहले, वेब अनुप्रयोगों की सुरक्षा मुख्यतः समय-समय पर होने वाली कोड जाँच, स्थैतिक स्कैन और डेवलपरों के अनुशासन पर निर्भर थी। फिर PCI DSS की आवश्यकता 6.6 ने—जो 2006 में जारी हुई और 2008 से लागू की गई—यह अनिवार्य किया कि कार्डधारकों का डेटा संभालने वाले संगठन या तो सभी अनुप्रयोग कोड में कमज़ोरियों की जाँच करें या स्वचालित तकनीकी नियंत्रण स्थापित करें। बाद में कोड की जाँच वाला विकल्प हटा दिया गया और तकनीकी नियंत्रण अनिवार्य कर दिए गए।

लेकिन PCI DSS की शुरुआत कानून के रूप में नहीं हुई थी। इसकी शुरुआत एक संविदात्मक मानक के रूप में हुई, जिसने बाज़ार को बदल दिया—संभवतः कानून से भी तेज़ी से, क्योंकि अनुबंध सरकारी क़ानूनों की तुलना में जल्दी आगे बढ़ते हैं।

इसी तरह, अब संगठन तैनात AI पर नियंत्रण-व्यवस्थाएँ लागू करने का दबाव महसूस कर रहे हैं—नियामकों से नहीं, बल्कि ग्राहकों और साझेदारों से; यह दबाव सुरक्षा प्रश्नावलियों, RFP की शर्तों और बीमा पॉलिसी की आवश्यकताओं के ज़रिए आ रहा है।

परिचालन समस्या सुलझाएँ, अनुपालन अपने आप आएगा

इस दबाव से निपटना मुश्किल हो सकता है, क्योंकि AI का शासन सिर्फ़ नीतियों का सवाल नहीं है। इसके लिए लगातार तकनीकी प्रमाण देना भी ज़रूरी है।

जिन कई एंटरप्राइज़ से मैं बात करता हूँ, वे उत्पादन परिवेश में आधा दर्जन या उससे अधिक मॉडल चला रहे हैं। वे अक्सर इन मॉडलों को आपस में जोड़ते हैं या उनका संयोजन करते हैं, ताकि एक मॉडल का आउटपुट दूसरे के लिए इनपुट बने। ऐसी स्थिति में किसी एक नीति को पूरे सिस्टम में लागू किए जाने का प्रमाण देने की कल्पना कीजिए—जैसे मॉडल के आउटपुट में व्यक्तिगत पहचान योग्य जानकारी (PII) आने से रोकना। अलग-अलग विन्यास वाले कई मॉडलों की मैन्युअल जाँच में डेवलपरों का बहुत समय लगेगा। इसके अलावा, अधिकांश संगठनों को बिना अनुमति और उच्च-जोखिम वाले AI के इस्तेमाल से जूझना पड़ता है; उदाहरण के लिए, कर्मचारियों का संवेदनशील डेटा उपभोक्ता AI टूल में डालना या SaaS प्रदाताओं का चुपचाप नई AI सुविधाएँ चालू कर देना। फिर भी, पूरी देयता एंटरप्राइज़ पर ही आती है।

ऐसी चुनौतीपूर्ण परिस्थितियों में, ज़रूरत को एक सरल काम में समेटा जा सकता है: यह दिखाना कि आप मॉडल के इनपुट और आउटपुट पर लगातार पाबंदियाँ लगा सकते हैं और सत्यापन के लिए इस गतिविधि का रिकॉर्ड रख सकते हैं। जब अनुप्रयोग मॉडल को कॉल करते हैं, एजेंट टूल इस्तेमाल करते हैं और मॉडल कार्रवाई करते हैं या वर्कफ़्लो शुरू करते हैं, तब जिस चीज़ पर नियंत्रण रखना ज़रूरी है, वह कार्रवाई है—टूल कॉल, API अनुरोध या वर्कफ़्लो शुरू करने की प्रक्रिया।

सुरक्षा को अनुमान-पथ पर ले जाएँ

यही कार्रवाई वह प्रवर्तन-बिंदु है, जिसे अनुप्रयोग सुरक्षा विशेषज्ञ 20 वर्षों से अनुप्रयोग ट्रैफ़िक के लिए विकसित करते आए हैं। खासकर जब अनुमान साझा अवसंरचना से होकर गुज़रता है, तो यह अनुमान-पथ विभिन्न मॉडलों और यहाँ तक कि बिना अनुमति वाले AI के इस्तेमाल पर भी नियंत्रण रखने का आदर्श बिंदु बन जाता है। AI अनुमान ट्रैफ़िक को किसी भी अन्य महत्वपूर्ण ऐप गतिविधि की तरह भेजा, जाँचा, प्रमाणित और नियंत्रित किया जाना चाहिए—यह देखते हुए कि ट्रैफ़िक कहाँ से आ रहा है और क्या करने की कोशिश कर रहा है। मैन्युअल जाँच के उलट, अनुमान ट्रैफ़िक का शासन बड़े पैमाने पर लागू किया जा सकेगा।

शुरुआत कैसे करें

नियमों की दिशा को देखते हुए, संगठनों को अभी तीन काम शुरू करने चाहिए:

1. SaaS API और होस्ट किए गए एंडपॉइंट से लेकर शैडो AI तक, अपनी देयता के दायरे का नक्शा बनाएँ।
2. सुरक्षा नीति और उसके प्रवर्तन को मॉडलों से अलग करें और उन्हें अनुमान-पथ पर लागू करें।
3. सुनिश्चित करें कि ऑडिट ट्रेल मॉडल और एजेंट के नियंत्रण से बाहर तैयार हों, क्योंकि यह देखा गया है कि वे अपनी ही कार्रवाइयों के रिकॉर्ड बदलने की कोशिश करते हैं।

पर्याप्त निगरानी और प्रवर्तन किसे माना जाएगा, यह अभी तय हो रहा है। लेकिन आपकी एंटरप्राइज़ परिचालन और सुरक्षा टीमों को पता है कि वास्तव में क्या लागू किया जा सकता है, किसी नियंत्रण की कीमत विलंबता और जटिलता के रूप में कितनी पड़ती है, और नेक इरादे वाला कोई नियम कहाँ गलत नतीजा दे सकता है। उन्हें अभी से शामिल करें। AI के इस्तेमाल से जुड़े सुरक्षा जोखिम और दायित्व वास्तविक हैं, और इसमें कोई संदेह नहीं कि आपके ग्राहक और अधिकारी आज उनके सामने मौजूद जोखिमों की अधिक परवाह करते हैं, बजाय कल के अत्याधुनिक मॉडल से पैदा होने वाले खतरों के।