विचार नेता
क्यों विफल होता है एआई गवर्नेंस

मुख्य बिंदुशासन को ऐसे कोड के रूप में वितरित किया जाना चाहिए जो उत्पादन की सुरक्षा के लिए बिल्ड को…
और देखें
- शासन को ऐसे कोड के रूप में वितरित किया जाना चाहिए जो उत्पादन की सुरक्षा के लिए बिल्ड को विफल कर सके।
- अर्न्स्ट एंड यंग के अनुसार, केवल 10% कंपनियां AI प्रणालियों के ऑडिट के लिए पूरी तरह से तैयार हैं।
- सिस्टम द्वारा स्वचालित रूप से उत्पन्न साक्ष्य, ऑडिट के लिए दस्तावेज़ीकरण से अधिक मजबूत होते हैं।
समस्या यह नहीं है कि संगठनों के पास एआई नीतियां नहीं हैं। यह है कि वे नीतियां वास्तव में कुछ नहीं करती हैं।
सुव्यवस्थित पीडीएफ और तैनात मॉडल के बीच कहीं न कहीं मूल इरादा गायब हो जाता है। टीमें मौके के हिसाब से रास्ते निकालती हैं। अपवाद जमा होते हैं। गवर्नेंस एक प्रणाली से एक वार्ता में बदल जाता है — और नियंत्रित उद्योगों में जैसे स्वास्थ्य सेवा और जीवन विज्ञान, यह अंतर केवल शर्मनाक नहीं है। यह एक परिचालन जोखिम है।
समाधान अधिक दस्तावेज नहीं है। यह गवर्नेंस को सॉफ्टवेयर की तरह मानना है।
गवर्नेंस गैप पहले से ही मापनीय है
एआई अपनाने में तेजी से वृद्धि हुई है जबकि गवर्नेंस बुनियादी ढांचा इस गति से नहीं बढ़ा है। सितंबर 2025 के एक अध्ययन में अर्न्स्ट एंड यंग ने पाया कि केवल 10% कंपनियां एआई प्रणालियों का ऑडिट करने के लिए पूरी तरह से तैयार हैं। इसी समय, नए पोनेमन शोध में पाया गया कि 92% संगठनों का कहना है कि जनरेटिव एआई ने कर्मचारियों के लिए जानकारी तक पहुंच और साझा करने के तरीके को बदल दिया है, लेकिन केवल 18% ने पूरी तरह से एआई गवर्नेंस को अंदरूनी जोखिम कार्यक्रमों में एकीकृत किया है।
पैटर्न सुसंगत है: एआई पहले से ही दैनिक कार्य में निहित है। निगरानी अभी भी इस रफ्तार को पकड़ने की कोशिश कर रही है। और जितना अधिक गवर्नेंस दस्तावेज़ के रूप में रहता है, उतना ही बदतर यह अंतर होता जाता है।
गवर्नेंस जो अमल में आती है
विचार देखने में सरल है: यदि गवर्नेंस की कोई शर्त सॉफ्टवेयर बिल्ड को विफल नहीं कर सकती, तो वह उत्पादन परिवेश की रक्षा नहीं कर सकती।
वास्तविक गवर्नेंस में इनपुट, आउटपुट, प्रवर्तन बिंदु और पर्यवेक्षणीय परिणाम होते हैं। यह निरंतर चलता रहता है — त्रैमासिक नहीं। और महत्वपूर्ण रूप से, यह साक्ष्य का उत्पादन करता है काम करने के परिणामस्वरूप, बाद में जोड़े गए एक अलग अनुपालन अनुष्ठान के रूप में नहीं।
संचालन मॉडल इस प्रकार दिखता है:
नीति → नियंत्रण → साक्ष्य → मीट्रिक
नीतियां इरादा परिभाषित करती हैं। नियंत्रण व्यवहार को लागू करते हैं। साक्ष्य निष्पादन सिद्ध करता है। मीट्रिक परिणामों को मान्य करते हैं। यह एक नई अवधारणा नहीं है — यह वही तर्क है जिसका उपयोग परिपक्व सुरक्षा और अनुपालन प्रणालियों द्वारा पहले से ही किया जाता है। परिवर्तन एआई पर उसी तर्क को लागू करना है।
नियंत्रण सुझाव नहीं हैं। साक्ष्य दस्तावेज नहीं है। और यदि किसी नियंत्रण का साक्ष्य उत्पन्न करने के लिए हाथ से काम करना पड़ता है, तो यह एक नियंत्रण नहीं है। यह एक आशा है।
जोखिम स्तर, न कि जोखिम रंगमंच
प्रत्येक एआई प्रणाली को समान जांच की आवश्यकता नहीं होती है। एक निम्न-जोखिम वाले आंतरिक उपकरण के साथ एक नैदानिक निर्णय-समर्थन मॉडल के रूप में समान कठोरता से व्यवहार करना यह है कि संगठन या तो रुक जाते हैं या अनावश्यक रूप से खुद को उजागर करते हैं।
एनआईएसटी एआई जोखिम प्रबंधन फ्रेमवर्क, 2023 में जारी, जोखिम के बारे में सोचने के लिए एक मूलभूत संरचना प्रदान करता है: चार कार्यों में एआई जोखिम को मैप करना — Govern, Map, Measure और Manage। एक कार्यात्मक उद्यम गवर्नेंस मॉडल इस तर्क पर व्यावहारिक जोखिम स्तरों के साथ निर्माण करता है:
| स्तर | दायरा | नियंत्रण |
| न्यूनतम | आंतरिक उपकरण, कोई संवेदनशील डेटा नहीं | पंजीकरण, हल्की जांच |
| सीमित | उपयोगकर्ता-सामने, मध्यम जोखिम | दस्तावेजीकरण, प्रॉम्प्ट समीक्षा, सुरक्षा परीक्षण |
| उच्च | नियंत्रित या उच्च-प्रभाव वाले निर्णय | आधिकारिक जोखिम मूल्यांकन, ऑडिट लॉगिंग, सख्त परिवर्तन नियंत्रण |
| निषिद्ध | अस्वीकार्य उपयोग के मामले | डिजाइन और तैनाती में अवरुद्ध |
यह इंजीनियरिंग टीमों को कुछ देता है जो उन्हें अक्सर गवर्नेंस प्रक्रियाओं से नहीं मिलता है: स्पष्टता। न कि “हमें क्या करना चाहिए?” बल्कि “यह कौन सा स्तर है, और इसका क्या मतलब है?”
अच्छा गवर्नेंस अस्पष्टता को दूर करता है। महान गवर्नेंस बहस को दूर करता है।
नीति-कोड: सलाहकार से कार्यान्वित करने योग्य
दस्तावेजों में लिखी गई नीतियां सलाहकार हैं। पाइपलाइनों में एन्कोड की गई नीतियां लागू करने योग्य हैं।
बुनियादी ढांचे की तरह जिसे तैनाती से पहले सत्यापित किया जाता है, एआई प्रणालियों को स्वचालित जांच द्वारा नियंत्रित किया जा सकता है जो सत्यापित करता है कि क्या एक उपयोग का मामला पंजीकृत है, क्या आवश्यक दस्तावेज मौजूद हैं, क्या मूल्यांकन परिणाम निर्धारित सीमाओं को पूरा करते हैं, और क्या संवेदनशील डेटा तक पहुंच न्यूनतम विशेषाधिकार का पालन करती है। ये जांच सीआई/सीडी में चलती हैं। ये किसी समिति का इंतजार नहीं करतीं। ये किसी की याददाश्त या सद्भावना पर निर्भर नहीं होतीं।
ओपन पॉलिसी एजेंट — क्लाउड नेटिव कंप्यूटिंग फाउंडेशन में Graduated दर्जा प्राप्त एक परियोजना — सटीक रूप से प्रदर्शित करता है कि नियमों को संस्करण, समीक्षा और इंजीनियरिंग पारिस्थितिकी तंत्र में सुसंगत रूप से लागू कैसे किया जा सकता है। पैटर्न को समझा जाता है। अंतर यह है कि एआई टीमें इसे लागू नहीं कर रही हैं।
सबसे सुरक्षित एआई प्रणाली वह नहीं है जिसकी नीतियां सबसे अच्छी हैं। यह वह है जो तकनीकी रूप से उन्हें तोड़ने में असमर्थ है।
एलएलएम-विशिष्ट नियंत्रण: जहां यह दिलचस्प हो जाता है
जनरेटिव एआई एक जोखिम श्रेणी की शुरुआत करता है जिसके लिए पारंपरिक गवर्नेंस फ्रेमवर्क नहीं बनाए गए थे — प्रॉम्प्ट इंजेक्शन, आउटपुट मैनिपुलेशन, टूल दुरुपयोग। ये किनारे के मामले नहीं हैं। वे एलएलएम के कामकाज के संरचनात्मक गुण हैं, और जैसा कि Unite.AI के एजेंटिक एआई गवर्नेंस कवरेज ने उल्लेख किया है, गवर्नेंस गैप और भी स्पष्ट हो जाता है क्योंकि एआई प्रणालियां प्रश्नों का उत्तर देने से लेकर कार्रवाई करने तक जाती हैं।
जेनएआई प्रणालियों की प्रभावी गवर्नेंस के लिए एलएलएम के व्यवहार को ध्यान में रखकर विशेष रूप से बनाए गए नियंत्रण आवश्यक हैं: प्रणाली निर्देशों और उपयोगकर्ता इनपुट के बीच सख्त पृथक्करण, नियंत्रित टूल पहुंच और अनुमत सूची, आउटपुट को निष्पादन से पहले सत्यापन, डेटा को अनधिकृत रूप से बाहर ले जाने के विरुद्ध सुरक्षा उपाय, और विफलता को नियंत्रित ढंग से संभालने के लिए सुरक्षित डिफ़ॉल्ट सेटिंग्स।
ये नियंत्रण सीधे एलएलएम अनुप्रयोगों के लिए OWASP टॉप 10 में दर्ज भेद्यता श्रेणियों से मेल खाते हैं। इस समुदाय-संचालित ढांचे में अब 18 देशों के 600 से अधिक विशेषज्ञ योगदान दे रहे हैं। एलएलएम गवर्नेंस में मॉडल क्या जानता है, इससे अधिक अहम यह है कि प्रणाली उसे क्या करने देती है।
साक्ष्य बुनियादी ढांचा है, न कि कागजी कार्रवाई
लेखा परीक्षक इरादे पर विश्वास नहीं करते हैं। वे रिकॉर्ड पर विश्वास करते हैं।
एक प्रणाली में जहां गवर्नेंस वास्तव में अमल में आती है, साक्ष्य स्वचालित रूप से उत्पन्न होता है: मॉडल कार्ड जो इच्छित उपयोग और सीमाओं का वर्णन करते हैं, डेटा दस्तावेज जो प्रोवेनेंस को कवर करते हैं, मूल्यांकन रिपोर्ट जो प्रदर्शन और ज्ञात जोखिम दिखाती हैं, लॉग जो निर्णय और परिवर्तनों को पकड़ते हैं। ये कलाकृतियां लेखा परीक्षा के लिए नहीं हैं। वे इसलिए हैं क्योंकि प्रणाली को कार्य करने के लिए उनकी जरूरत है।
सबसे मजबूत लेखा परीक्षा स्थिति तब होती है जब किसी के मांगने से पहले ही साक्ष्य मौजूद हो। यह सैद्धांतिक नहीं है — नियामक पहले से ही इस दिशा में बढ़ रहे हैं। जैसा कि साक्ष्य से समर्थित एआई गवर्नेंस के हालिया विश्लेषण में कहा गया है, नियामक जल्द ही जो प्रश्न पूछेंगे वे केवल यह नहीं होंगे कि “क्या आपने इसे रखा?” लेकिन “क्या आप साबित कर सकते हैं कि क्या हुआ, किस नीति के तहत, किस डेटा का उपयोग करके, और किसके अधिकार के साथ?”
वास्तविक तर्क: गवर्नेंस त्वरणक
स्थायी मिथक यह है कि गवर्नेंस और गति विरोध में हैं। अभ्यास में, खराब रूप से डिज़ाइन की गई गवर्नेंस टीमों को धीमा कर देती है। अच्छी तरह से डिज़ाइन की गई गवर्नेंस घर्षण को दूर करती है।
जब नियंत्रण मानकीकृत होते हैं, जांच स्वचालित होती है, और अपेक्षाएं कोड में निर्धारित होती हैं, तो टीमें वार्ता बंद कर देती हैं और निर्माण शुरू कर देती हैं। रिलीज़ अधिक अनुमानित हो जाते हैं। निर्णयों को अब विशेषज्ञों के एक छोटे समूह से नायकत्व की आवश्यकता नहीं होती है जिन्होंने नीति दस्तावेजों को याद रखा है।
गवर्नेंस तब बढ़ती है जब यह बुनियादी ढांचा होता है। यह तब नहीं बढ़ता जब यह भावना होती है।
लक्ष्य कभी भी नियंत्रण के लिए अपने आप में नहीं था। यह अराजकता के बिना गति है – और संगठन जो इसे सही तरीके से प्राप्त कर रहे हैं वे वे नहीं हैं जिनके पास सबसे व्यापक पीडीएफ है। वे वे हैं जिन्होंने सही व्यवहार को सबसे आसान मार्ग बनाया है।












