नैतिकता
2027 में एआई शासन: जवाबदेही कार्यप्रवाह का हिस्सा बनेगी

मुख्य बिंदुजवाबदेही के लिए किसी ऐसे व्यक्ति का नाम लेना आवश्यक है जिसके पास किसी AI परिनियोजन को…
और देखें
- जवाबदेही के लिए किसी ऐसे व्यक्ति का नाम लेना आवश्यक है जिसके पास किसी AI परिनियोजन को रोकने या बदलने का वास्तविक अधिकार हो।
- अपीलों को लोगों को छूटे हुए तथ्य प्रस्तुत करने और ऐसे समीक्षक तक पहुँचने की सुविधा देनी चाहिए जो परिणामों को उलट सके।
- जब मॉडल, डेटा या प्रभावित आबादी में महत्वपूर्ण परिवर्तन हो, तो प्रभाव आकलनों की पुनः समीक्षा की जानी चाहिए।
किसी व्यक्ति को ऐसा स्वचालित निर्णय मिलता है जिसका उसे कोई तुक समझ नहीं आता। वह समीक्षा का अनुरोध करता है। संगठन के भीतर कहीं एक नीति में जवाबदेही तय करने वाले कार्यकारी का नाम दिया गया है—लेकिन सहायता टीम को ऐसा कोई व्यक्ति नहीं मिलता जिसे नतीजा बदलने का अधिकार हो। कागज़ पर शासन व्यवस्था मौजूद है। वह व्यक्ति अब भी असहाय है।
2027 में इस अंतर का बचाव करना और मुश्किल हो जाएगा। जैसे-जैसे एआई रोज़मर्रा के कामकाज का हिस्सा बनेगा, जवाबदेही ऐसी चीज़ बननी होगी जिसका इस्तेमाल कोई संगठन तब कर सके, जब विवादित निर्णय अब भी किसी के जीवन को प्रभावित कर रहा हो।
NIST का एआई जोखिम प्रबंधन ढाँचा और OECD के 2026 के उचित सावधानी संबंधी दिशानिर्देश पहले से ही संगठनात्मक आधार प्रदान करते हैं। मेरी अपेक्षा है कि 2027 में खरीदार परिचालन कार्यप्रवाहों में इन तरीकों को अपनाए जाने के प्रमाण माँगेंगे। आगे दिए गए पूर्वानुमान संगठनात्मक जवाबदेही से जुड़े हैं; इनका आशय यह वादा करना नहीं है कि कोई खास जाँच-सूची हर एआई प्रणाली को निष्पक्ष बना सकती है।
1. जवाबदेही के अभिलेख में उस व्यक्ति का नाम होगा जो नतीजा बदल सकता है
एआई शासन के संगठनात्मक चार्ट में सबसे अहम नाम उस व्यक्ति का है जो रुकने को कह सकता है। 2027 में अधिक संगठन ऐसी भूमिकाओं का ब्योरा देंगे जिनमें किसी तैनाती को निलंबित करने या बदलने का वास्तविक अधिकार होगा। इससे स्वामित्व का अर्थ बदल जाता है: ज़िम्मेदारी निर्णय लेने का अधिकार बन जाती है—और उसके साथ उस परियोजना पर असर डालने की शक्ति भी आती है जिसे कोई और जारी रखने के लिए उत्सुक हो सकता है।
अधिकार के बिना ज़िम्मेदारी केवल नाममात्र का स्वामी पैदा करती है। शासन का प्रभारी व्यक्ति सूची का रखरखाव कर सकता है, जबकि उत्पाद टीम मॉडल बदलती है, आपूर्तिकर्ता सेवा बदलता है और परिचालन टीम निर्णय की सीमा बदलती है। ज़रूरी नहीं कि परिणामी प्रणाली के प्रभावों पर किसी एक व्यक्ति का नियंत्रण हो।
NIST ढाँचे का शासन कार्य भूमिकाओं को संगठनात्मक जोखिम प्रबंधन से जोड़ता है। NIST की कार्य-पुस्तिका ऐसे व्यावहारिक कदम सुझाती है जिन्हें संगठन अपनी ज़रूरत के अनुसार अपना सकते हैं। ये स्वैच्छिक संसाधन हैं; इनके अपनाने से यह साबित नहीं होता कि संगठन इन्हें पहले से प्रभावी ढंग से लागू कर रहे हैं।
मुझे जिस बदलाव की उम्मीद है, वह अधिकारों की अधिक स्पष्ट शृंखला है: किसी उपयोग-परिदृश्य को कौन मंज़ूरी दे सकता है, उसका दायरा कौन सीमित कर सकता है और प्रमाण बदलने पर उसे कौन रोक सकता है। अलग-अलग निर्णय अलग-अलग भूमिकाओं के ज़िम्मे हो सकते हैं। अहम यह है कि सामान्य व्यावसायिक दबाव के बावजूद यह अधिकार कायम रहे और इसका इस्तेमाल लिखित मानक के आधार पर हो। ज़िम्मेदारियों का ऐसा सुव्यवस्थित चार्ट, जिसका कोई इस्तेमाल न करे, इस अनुमानित बदलाव का प्रमाण नहीं होगा।
2027 में किन बातों पर नज़र रखें
प्रकाशित निलंबन मानदंड, शासन संबंधी वास्तविक निर्णयों के अभिलेख और उत्पाद के राजस्व के लिए ज़िम्मेदार व्यक्ति से आगे तक जाने वाली मामले को उच्च स्तर पर भेजने की प्रक्रियाएँ देखें। जवाबदेह कार्यकारी का नाम तो बताने वाली, लेकिन यह न समझाने वाली नीति कि वह कार्यकारी क्या बदल सकता है, परिचालन के किसी वास्तविक उदाहरण के मुकाबले कमज़ोर प्रमाण होगी।
व्यवसायों के लिए इसका क्या अर्थ है
तैनाती का विस्तार करने से पहले निर्णय लेने के अधिकार तय करें। खरीदारों को पूछना चाहिए कि अपवादों को मंज़ूरी कौन दे सकता है और क्या जोखिम प्रबंधन विभाग आपूर्तिकर्ता की सहमति के बिना कार्यप्रवाह रोक सकता है। संस्थापक उत्पाद और सेवा समझौते में इन ज़िम्मेदारियों को स्पष्ट करके बड़ी कंपनियों की समीक्षा प्रक्रिया तेज़ कर सकते हैं।
2. अपील की सुविधा उत्पाद की एक क्षमता बनेगी
कोई स्पष्टीकरण किसी व्यक्ति को बता सकता है कि निर्णय क्यों लिया गया, फिर भी उसे उसे सुधारने में असमर्थ छोड़ सकता है। मेरी अपेक्षा है कि 2027 में उद्यमों के लिए बने उत्पाद आपत्ति दर्ज करने की प्रक्रिया को अधिक व्यावहारिक बनाएँगे—मूल प्रमाण सुरक्षित रखेंगे और समीक्षक के निर्णय का अभिलेख बनाएँगे। इस सुविधा की असली कसौटी यह होगी कि व्यक्ति के यह कहने के बाद क्या होता है कि प्रणाली से कोई अहम बात छूट गई है।
स्पष्टीकरण और अपील अलग-अलग समस्याएँ हल करते हैं। स्पष्टीकरण व्यक्ति को बताता है कि कथित तौर पर क्या हुआ। अपील उसे ऐसे नतीजे को बदलवाने का रास्ता देती है जो गलत, अधूरा या उसकी परिस्थितियों के लिहाज़ से अनुपयुक्त हो सकता है। सामान्य सहायता फ़ॉर्म दोनों में से किसी ज़रूरत को पूरा नहीं कर सकता, अगर समीक्षक मूल निर्णय का पुनर्निर्माण न कर सके।
OECD के दिशानिर्देश उचित सावधानी को प्रभावों और प्रतिक्रियाओं से जुड़ी एक सतत प्रक्रिया मानते हैं। इससे सुधारात्मक कार्रवाई नैतिकता के साथ-साथ व्यावसायिक उत्पाद-रचना का भी एक उपयोगी सवाल बन जाती है। मेरा पूर्वानुमान है कि कुछ विक्रेता इसे बार-बार अपनाई जा सकने वाली कार्यप्रक्रिया में बदल देंगे, बजाय इसके कि हर ग्राहक को इसका अपना तरीका गढ़ने के लिए छोड़ दें।
मुश्किल यह होगी कि समीक्षक स्वतंत्र हो और उसे संदर्भ तक पहुँच मिले। थोड़े अलग शब्दों के साथ उसी मॉडल को फिर से चलाना आपत्ति दर्ज करने की सार्थक प्रक्रिया नहीं है। न ही प्रमाण सुरक्षित रखने के लिए संवेदनशील व्यक्तिगत जानकारी को बिना भेदभाव के लंबे समय तक रखना ज़रूरी होना चाहिए। प्रणाली में सुधार को संभव बनाने लायक निर्णय-संदर्भ होना चाहिए, साथ ही जानकारी को उचित अवधि तक रखने और उस तक पहुँच के प्रतिबंधों का भी पालन होना चाहिए।
2027 में किन बातों पर नज़र रखें
ऐसी सुविधा देखें जिससे छूटे हुए तथ्य जमा किए जा सकें, योग्य मानव समीक्षक तक पहुँचा जा सके और निर्णय का दर्ज किया हुआ नतीजा मिल सके। अपील बटन का मौजूद होना नहीं, बल्कि निर्णय पलटने की दर और सुधार में लगने वाला समय अधिक अहम संकेत होंगे। जिन अनुरोधों पर कार्रवाई न हो, वे इस पूर्वानुमान के व्यावहारिक महत्व को कमज़ोर करेंगे।
व्यवसायों के लिए इसका क्या अर्थ है
विवादित फैसलों को संभालने वाले लोगों के लिए बजट रखें। किसी आपूर्तिकर्ता की स्वचालन से होने वाली बचत का आकलन करते समय समीक्षा के काम के बोझ और सुधार की लागत को भी ध्यान में रखना चाहिए। उत्पाद टीमों को अपील प्रक्रिया के अनुरूप साक्ष्य दर्ज करने और उन तक पहुँच के अधिकार तय करने चाहिए, क्योंकि बाद में फैसलों का पुनर्निर्माण करना महँगा या असंभव हो सकता है।
3. प्रणाली में महत्वपूर्ण बदलावों के बाद प्रभाव आकलन होंगे
आंतरिक मसौदे तैयार करने वाला सहायक, उत्पाद से जुड़े कई ऐसे फैसलों के चलते ग्राहक-जाँच का साधन बन सकता है जो देखने में मामूली लगते हैं। उपयोग का उद्देश्य बदल जाने के बावजूद, उसे शुरू करने की मंज़ूरी का रिकॉर्ड मौजूद रह सकता है। 2027 में, शासन-व्यवस्था से जुड़े अधिक कार्यक्रम मॉडलों, डेटा और प्रभावित आबादी में हुए महत्वपूर्ण बदलावों की फिर से समीक्षा करेंगे और मंज़ूरी को निरंतर निभाई जाने वाली ज़िम्मेदारी मानेंगे।
आंतरिक पत्राचार के मसौदे तैयार करने के लिए मंज़ूर की गई प्रणाली तब महत्वपूर्ण असर डाल सकती है, जब उसका आउटपुट यह तय करने लगे कि किन ग्राहकों को प्रस्ताव मिलेगा। मॉडल शायद न बदला हो, लेकिन समाज में उसकी भूमिका बदल गई है। इसके उलट, आपूर्तिकर्ता का अपडेट व्यवहार बदल सकता है, जबकि ग्राहकों के सामने आने वाली कार्यप्रणाली बिल्कुल वैसी ही दिखे।
ISO/IEC 42001 में संगठनों के AI प्रबंधन का उल्लेख है, और ISO की 42001 और प्रभाव आकलन पर चर्चा प्रबंधन के तरीकों को प्रभावों के मूल्यांकन से जोड़ती है। इनमें से कोई भी यह गारंटी नहीं देता कि प्रबंधन-प्रणाली का प्रमाणपत्र हर आउटपुट की सटीकता या हर उपयोग की स्वीकार्यता सुनिश्चित करता है।
व्यावहारिक चुनौती यह तय करना है कि समीक्षा कितनी होनी चाहिए। वर्तनी की गलती सुधारने पर पूरा आकलन दोहराने से प्रक्रिया पर अनावश्यक बोझ पड़ेगा; वहीं, प्रभावित लोगों के नए समूह को नज़रअंदाज़ करने से इसका उद्देश्य ही कमज़ोर होगा। संगठनों को यह स्पष्ट और तर्कसंगत ढंग से बताना होगा कि कौन-से बदलाव जोखिम को बदलते हैं और कौन-से नहीं।
2027 में किन बातों पर नज़र रखें
पुनर्मूल्यांकन शुरू करने के स्पष्ट कारणों और ऐसे उदाहरणों पर ध्यान दें, जिनमें समीक्षा के बाद किसी प्रणाली के उपयोग की शर्तें सीमित की गई हों। केवल संस्करणों का रिकॉर्ड पर्याप्त नहीं होगा। इस बात के प्रमाण कि संगठन किसी महत्वपूर्ण बदलाव से पहले और बाद के वास्तविक प्रभावों की तुलना करते हैं, इस अनुमान को काफ़ी मज़बूती देंगे।
व्यवसायों के लिए इसका क्या मतलब है
आपूर्तिकर्ताओं के साथ अनुबंधों में बदलाव की सूचना देने और मूल्यांकन करने के अधिकार शामिल करें। संगठन के भीतर, मॉडलों की सूची को उन प्रणालियों से जोड़ें जो तैनाती में बदलावों का प्रबंधन करती हैं। उद्देश्य यह है कि महत्वपूर्ण बदलावों की पहचान कार्रवाई करने के लिए पर्याप्त समय रहते हो जाए, लेकिन रखरखाव की हर नियमित गतिविधि को निदेशक मंडल के स्तर का फैसला न बनाना पड़े।
4. शासन-व्यवस्था के प्रमाणपत्रों के साथ उनके दावों का दायरा भी सीमित होगा
किसी प्रमाणपत्र से मिलने वाला भरोसा उपलब्ध साक्ष्यों के औचित्य से भी आगे बढ़ सकता है। व्यावसायिक स्तर पर मुश्किल सवाल यह है कि प्रमाणपत्र असल में किन बातों को कवर करता है। 2027 में, आश्वासन और खरीद से जुड़े दस्तावेज़ किसी संगठन की प्रबंधन-प्रथाओं और किसी खास तैनाती के व्यवहार के बीच अंतर को अधिक स्पष्ट करेंगे। इस स्पष्टता से आश्वासन अधिक उपयोगी होगा, भले ही बिक्री के दावे कम व्यापक हो जाएँ।
शासन-व्यवस्था से जुड़ा कोई प्रमाणन जितना लोकप्रिय होता है, उसे सुरक्षा की सर्वमान्य मुहर मान लेने का प्रलोभन उतना ही बढ़ता है। लेकिन अलग-अलग आश्वासन प्रक्रियाएँ अलग-अलग सवालों के जवाब देती हैं। प्रबंधन प्रक्रियाओं का ऑडिट यह साबित नहीं कर सकता कि मॉडल उस आबादी के लिए भरोसेमंद ढंग से काम करता है, जिसका मूल्यांकनकर्ता ने कभी परीक्षण ही नहीं किया।
ISO/IEC 42006 AI प्रबंधन प्रणालियों का ऑडिट और प्रमाणन करने वाली संस्थाओं के लिए आवश्यकताएँ तय करता है। यह प्रमाणन की गुणवत्ता के लिए प्रासंगिक है। इससे ISO/IEC 42001 उत्पाद के प्रदर्शन का मानदंड नहीं बन जाता। आपूर्तिकर्ताओं द्वारा बिक्री प्रक्रिया में आश्वासन संबंधी प्रमाण-पत्रों का इस्तेमाल किए जाने के साथ यह अंतर व्यावसायिक रूप से और महत्वपूर्ण हो जाएगा।
इस अनुमान पर मेरा भरोसा कम है, क्योंकि प्रोत्साहन सावधानीपूर्वक सीमाएँ बताने के बजाय व्यापक आश्वासन देने के पक्ष में हो सकते हैं। फिर भी, समझदार खरीदारों के पास संगठन-स्तरीय आश्वासन और उपयोग-विशिष्ट साक्ष्य, दोनों माँगने का कारण है: अगर प्रमाणित आपूर्तिकर्ता का उत्पाद उनके कार्यप्रवाह में विफल होता है, तो उसके नतीजे उन्हें भुगतने पड़ेंगे। अच्छे आश्वासन से बाकी अनसुलझे सवाल स्पष्ट होने चाहिए, न कि यह संकेत मिलना चाहिए कि कोई सवाल बचा ही नहीं है।
2027 में किन बातों पर नज़र रखें
प्रमाणित संस्था, दायरे, अपवादों और वैधता-अवधि का स्पष्ट उल्लेख देखें, साथ ही अलग से किए गए अनुप्रयोग-परीक्षण भी। ऐसे दावे कि कोई प्रमाणपत्र साबित करता है कि AI प्रणाली पक्षपात से मुक्त है या हर जगह नियमों का पालन करती है, यहाँ किए गए अनुमान की दिशा के विपरीत होंगे।
व्यवसायों के लिए इसका क्या मतलब है
जाँच-पड़ताल में प्रमाणन को एक उपयोगी आधार मानें, फिर वास्तविक तैनाती का मूल्यांकन करें। आपूर्तिकर्ताओं को स्पष्ट रूप से बताने के लिए तैयार रहना चाहिए कि उनका आश्वासन किन बातों को कवर करता है। खरीदारों को पूछना चाहिए कि कौन-से अनसुलझे जोखिम अब भी उनकी ज़िम्मेदारी हैं और उन्हें स्वीकार करना किन साक्ष्यों के आधार पर उचित होगा।
असुविधाजनक नतीजे के सामने भी शासन-व्यवस्था कायम रहनी चाहिए
जवाबदेही तब साफ़ दिखाई देती है, जब संगठन के पास उससे बचने का कोई कारण हो: आकर्षक शुरुआत, सुधार की भारी लागत या मुनाफ़े वाला ऐसा उपयोग जिसे सीमित करना पड़े। 2027 में शासन-व्यवस्था के सबसे मज़बूत उदाहरण दिखाएँगे कि ऐसे फैसले कैसे लिए गए—और क्या प्रभावित लोगों को अपनी बात रखने का सार्थक अवसर मिला।












