एआई की मूल बातें
जिम्मेदार AI क्या है? सिद्धांत, जोखिम और शासन
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
जिम्मेदार AI वह अभ्यास है जिसमें AI को इस प्रकार शासित किया जाता है कि उसका डिजाइन, विकास, तैनाती और उपयोग मानव अधिकारों, सुरक्षा, कानून, संगठनात्मक मूल्यों और प्रभावित लोगों की आवश्यकताओं के साथ संरेखित रहे। यह व्यापक सिद्धांतों को जीवनचक्र में उत्तरदायी निर्णयों और साक्ष्य में बदल देता है।
कोई एकल सार्वभौमिक चेकलिस्ट नहीं है। एक भर्ती मॉडल, चिकित्सा उपकरण, रचनात्मक सहायक, और फैक्ट्री सेंसर को विभिन्न नियंत्रणों की आवश्यकता होती है। एक विश्वसनीय कार्यक्रम संदर्भ और प्रभाव से शुरू होता है, फिर जोखिम को मानचित्रित, माप, प्रबंधित और निगरानी करता है।
मुख्य बिंदु
- जिम्मेदार मालिकों को सौंपें और निर्माण से पहले यह निर्धारित करें कि कब AI का उपयोग अनुचित है।
- संदर्भ में वैधता, विश्वसनीयता, सुरक्षा, गोपनीयता, पारदर्शिता, और हानिकारक पक्षपात का मूल्यांकन करें।
- डेटा, मॉडल, निर्णय, सीमाएँ, मानव निगरानी, और परिवर्तन इतिहास का दस्तावेजीकरण करें।
- प्रभावित लोगों को सार्थक सूचना, सुधार या अपील के मार्ग, और नुकसान होने पर उपाय प्रदान करें।
सिद्धांतों को परिचालन परिभाषाओं की आवश्यकता है
न्यायता का अर्थ समान त्रुटि दरें, समान अवसर, व्यक्तिगत स्थिरता, या लाभों का सार्थक वितरण हो सकता है। पारदर्शिता के लिए उपयोगकर्ता सूचना, तकनीकी दस्तावेजीकरण, ऑडिट पहुंच, या निर्णय की व्याख्या की आवश्यकता हो सकती है। ये लक्ष्य टकरा सकते हैं।
प्रत्येक सिद्धांत को एक आवश्यकता, मापदंड, मालिक, सीमा, और प्रतिक्रिया में बदलें। व्याख्यात्मक AI कुछ पारदर्शिता लक्ष्यों का समर्थन करता है लेकिन डेटा शासन को बदल नहीं सकता या यह सिद्ध नहीं कर सकता कि प्रणाली न्यायसंगत है।
पूरे जीवनचक्र का शासन करें
विकास से पहले, उद्देश्य, प्रभावित समूह, विकल्प, अपेक्षित लाभ, संभावित नुकसान, और कानूनी प्रतिबंधों का दस्तावेजीकरण करें। विकास के दौरान, डेटा अधिकार और गुणवत्ता, मॉडल चयन, परीक्षण, सुरक्षा, और मानव कारकों को ट्रेस करें। लॉन्च से पहले, स्पष्ट मानदंडों के विरुद्ध साक्ष्य की आवश्यकता रखें।
लॉन्च के बाद, प्रदर्शन, शिकायतें, विचलन, दुरुपयोग, और अनपेक्षित उपयोग की निगरानी करें। संस्करण नियंत्रण और घटना प्रतिक्रिया जिम्मेदार AI को AIOps और सामान्य संगठनात्मक जोखिम प्रबंधन से जोड़ते हैं।
मानव निगरानी वास्तविक होनी चाहिए
यदि किसी व्यक्ति के पास समय, विशेषज्ञता, अधिकार, संदर्भ, या विकल्प नहीं है तो वह सार्थक निगरानी प्रदान नहीं कर सकता। निर्धारित करें कौन से निर्णय स्वचालित हैं, कौन से को मंजूरी की आवश्यकता है, और कब प्रणाली को परहेज करना या बढ़ाना चाहिए।
ऑटोमेशन पक्षपात, उलटने की दर, कार्यभार, और क्या प्रभावित लोग परिणाम को चुनौती दे सकते हैं, को मापें। एक औपचारिक मानव-इन-द-लूप निर्णय को वैध बना सकता है बिना उसे सुधारे।
मानक, कानून, और निरंतर सुधार
NIST AI RMF और OECD AI सिद्धांतों जैसे ढाँचे प्रथाओं को व्यवस्थित करते हैं, जबकि कानून विशिष्ट अधिकारक्षेत्रों में बाध्यकारी कर्तव्य बनाते हैं। अनुपालन एक न्यूनतम स्तर है, यह प्रमाण नहीं कि प्रणाली हर जगह स्वीकार्य परिणाम उत्पन्न करती है।
स्वतंत्र समीक्षा, रेड-टीमिंग, प्रभाव मूल्यांकन, ऑडिट, और सार्वजनिक रिपोर्टिंग जोखिम के अनुरूप होने पर साक्ष्य को मजबूत कर सकते हैं। कार्यक्रम को साइबर सुरक्षा, गोपनीयता, पहुँचयोग्यता, सुरक्षा, खरीद, और डोमेन विशेषज्ञता से जोड़ें, न कि एक अलग AI समिति बनाकर।
संगठनात्मक भूमिकाएँ और निर्णय अधिकार
शासन निकाय जोखिम की सहनशीलता और प्रतिबंधित उपयोग निर्धारित करता है। एक व्यवसाय मालिक परिणाम के लिए उत्तरदायी है; उत्पाद और इंजीनियरिंग टीमें नियंत्रण लागू करती हैं; डेटा स्ट्यूर्ड अधिकारों और गुणवत्ता का प्रबंधन करते हैं; सुरक्षा, गोपनीयता, कानूनी, पहुँचयोग्यता, सुरक्षा, और डोमेन विशेषज्ञ स्वतंत्र चुनौती प्रदान करते हैं। खरीद को विक्रेता साक्ष्य और अनुबंध शर्तों का मूल्यांकन करना चाहिए।
निर्धारित करें कि विकास, पायलट, उत्पादन, दायरे का विस्तार, और सेवानिवृत्ति की मंजूरी कौन दे सकता है। उच्च-जोखिम निर्णय केवल लॉन्च के लिए पुरस्कृत टीम द्वारा स्वीकृत नहीं होने चाहिए। एक एस्केलेशन मार्ग को राजस्व, समय‑सारणी, सुरक्षा, और अधिकारों के बीच के संघर्ष को रिकॉर्ड किए गए तर्क के साथ हल करना चाहिए।
एक सिस्टम रजिस्ट्री मालिक, उद्देश्य, मॉडल, डेटा, विक्रेता, प्रभावित समूह, तैनाती, प्रभाव स्तर, मूल्यांकन, घटनाएँ, और समीक्षा तिथियों को दर्ज करती है। शैडो AI का शासन नहीं किया जा सकता, इसलिए प्रतिबंध पर केवल निर्भर रहने के बजाय कम‑जोखिम प्रयोगों के लिए स्वीकृत उपकरण और हल्का इनपुट प्रदान करें।
जोखिम मूल्यांकन और आश्वासन
एक प्रभाव मूल्यांकन हितधारकों, लाभों, खतरों, गंभीरता, संभाव्यता, एक्सपोजर, उलटने की क्षमता, और मौजूदा नियंत्रणों को मानचित्रित करता है। इसे निर्णय से प्रभावित गैर‑उपयोगकर्ताओं और प्रणालियों में संचयी प्रभावों की जांच करनी चाहिए। विकल्पों में गैर‑AI विधि, संकीर्ण फीचर, या न तैनात करना शामिल है।
आश्वासन साक्ष्य में डेटा ऑडिट, मॉडल वैधता, सुरक्षा परीक्षण, रेड‑टीमिंग, मानव‑कारक अध्ययन, पहुँचयोग्यता समीक्षा, उपसमूह विश्लेषण, दस्तावेजीकरण, और बाहरी ऑडिट शामिल हो सकते हैं। साक्ष्य को दावे के साथ मेल खाना चाहिए: एक शुद्धता बेंचमार्क गोपनीयता स्थापित नहीं कर सकता, और एक न्यायता मापदंड कानूनीता स्थापित नहीं कर सकता।
स्वीकृति सीमाएँ और शेष‑जोखिम स्वीकृति का उपयोग करें। उपयोगकर्ता और ऑपरेटर दस्तावेजीकरण में ज्ञात सीमाएँ और उपयोग की शर्तें दर्ज करें। जब साक्ष्य अपर्याप्त हो, तो जनसंख्या, भौगोलिक क्षेत्र, स्वायत्तता, या उद्देश्य को सीमित करें और व्यापक लॉन्च के बजाय मॉनिटर किए गए पायलट के माध्यम से डेटा एकत्र करें।
निगरानी, घटनाएँ, और उपाय
इनपुट वितरण, आउटपुट गुणवत्ता, कैलिब्रेशन, ओवरराइड, शिकायतें, उपसमूह परिणाम, सुरक्षा संकेत, और डाउनस्ट्रीम निर्णयों की निगरानी करें। एक मॉडल सांख्यिकीय रूप से स्थिर रह सकता है जबकि संगठनात्मक उपयोग में बदलाव आता है—उदाहरण के लिए, एक सलाहकार स्कोर कठोर बहिष्कार बन जाता है। संचालनात्मक ऑडिट को प्रथा के साथ-साथ टेलीमेट्री की भी जांच करनी चाहिए।
एक AI घटना प्रक्रिया को कर्मचारियों, उपयोगकर्ताओं, प्रभावित लोगों, शोधकर्ताओं, और विक्रेताओं से इनपुट का समर्थन करना चाहिए। त्वरित नुकसान को प्राथमिकता दें, संस्करण और साक्ष्य संरक्षित रखें, प्रणाली को नियंत्रित करें, जिम्मेदार पक्षों को सूचित करें, जहाँ संभव हो निर्णय सुधारें, और प्रोत्साहन, डेटा, डिजाइन, और संचालन में मूल कारणों की जांच करें।
उपाय में व्याख्या, सुधार, मानव पुनर्विचार, पहुँच या धन की पुनर्स्थापना, हटाना, मुआवजा, और नीति परिवर्तन शामिल हो सकते हैं। सीखों को रजिस्ट्री, परीक्षण सेट, नियंत्रण, खरीद, प्रशिक्षण, और जोखिम मानदंडों को अपडेट करना चाहिए। एक जिम्मेदार कार्यक्रम विफलता के बाद कैसे बदलता है, यह प्रदर्शित करता है।
जीवनचक्र में जिम्मेदार AI को लागू करना
व्यापक सिद्धांतों को एक नामित उपयोग केस के लिए आवश्यकताओं में बदलें। उद्देश्य, उपयोगकर्ता, प्रभावित लोग, डेटा, मॉडल, निर्णय, लाभ, संभावित नुकसान, कानूनी संदर्भ, और विकल्पों का दस्तावेजीकरण करें। खरीद या विकास से पहले जोखिम वर्गीकृत करें ताकि उच्च‑प्रभाव प्रणाली को अधिक साक्ष्य, समीक्षा, पारदर्शिता, मानव अधिकार, और निगरानी मिले। एक सामान्य नैतिकता बयान उत्तरदायी मालिक और स्वीकृति मानदंडों का विकल्प नहीं हो सकता।
विकास के दौरान, उत्पत्ति और अनुमतियों को स्थापित करें, डेटा गुणवत्ता और प्रतिनिधित्व का परीक्षण करें, बेसलाइन की तुलना करें, और वैधता, मजबूती, गोपनीयता, सुरक्षा, पहुँचयोग्यता, और उपसमूह व्यवहार का मूल्यांकन करें। मॉडल और प्रणाली की सीमाओं को दर्ज करें, केवल बेंचमार्क स्कोर नहीं। स्वतंत्र समीक्षक प्रमुख दावों को पुनः उत्पन्न कर सकें और जहाँ मानव निर्णय लेबल, सीमा, अपवाद, और एस्केलेशन में प्रवेश करता है, उसकी जांच कर सकें।
परिनियोजन के बाद, इनपुट और परिणाम में विचलन, शिकायतें, ओवरराइड, घटनाएँ, और वास्तविक‑विश्व नुकसान की निगरानी करें। जब विक्रेता, मॉडल, डेटा, नीति, उपयोगकर्ता, या संचालन स्थितियाँ बदलती हैं तो पुनः मूल्यांकन करें। जहाँ निर्णय लोगों को प्रभावित करते हैं, अपील और सुधार प्रदान करें, जोखिम के अनुपात में ट्रेसबिलिटी बनाए रखें, और सेवानिवृत्ति तथा डेटा हटाने को परिभाषित करें। जिम्मेदार AI एक सतत प्रबंधन प्रणाली है जो शासन को इंजीनियरिंग साक्ष्य और संचालनात्मक निर्णयों से जोड़ती है—लॉन्च से पहले एक बार की चेकलिस्ट नहीं।
खरीद को आंतरिक विकास जितनी ही कठोरता चाहिए। विक्रेताओं को इरादे वाले उपयोग, प्रशिक्षण और मूल्यांकन साक्ष्य, डेटा हैंडलिंग, सुरक्षा, अपडेट प्रथाएँ, उप‑ठेकेदार, घटना सूचना, और निकास विकल्प प्रकट करने की आवश्यकता रखें। अनुबंध भाषा खरीदार के संदर्भ में परीक्षण को प्रतिस्थापित नहीं कर सकती। तैनात और प्रयोगात्मक प्रणालियों, उनके मालिकों, निर्भरताओं, और समीक्षा तिथियों का इन्वेंट्री बनाए रखें ताकि शैडो AI और चुपचाप बदलते होस्टेड मॉडल शासन प्रक्रिया को बायपास न कर सकें।
शासन परिणामों की रिपोर्ट नेतृत्व और प्रभावित हितधारकों को दें: अनसुलझे उच्च जोखिम, घटनाएँ, देर से हुई समीक्षाएँ, दोहराई गई शिकायतें, और बंद किए गए परिनियोजन पूर्ण चेकलिस्टों की संख्या से अधिक महत्वपूर्ण हैं। समीक्षकों को अनुमोदन के दबाव से बचाएँ और उन्हें साक्ष्य की मांग, दायरे को सीमित करने, या नियंत्रण अकार्यक्षम होने पर उपयोग रोकने का अधिकार दें।
व्यावहारिक कार्यान्वयन चेकलिस्ट
धारणा को सीमित, परीक्षण योग्य कार्यप्रवाह में बदलें: शासन → मानचित्रण → मापन → प्रबंधन → निगरानी → उपाय। एक उत्तरदायी मालिक का नाम रखें, डेटा और निर्भरताओं का दस्तावेजीकरण करें, एक सरल बेसलाइन स्थापित करें, स्वीकृति और रोक मानदंड निर्धारित करें, प्रतिनिधि विफलताओं का परीक्षण करें, और दायरा बढ़ाने से पहले निगरानी, रोलबैक, और समीक्षा को परिभाषित करें। संस्करण और धारणाएँ दर्ज करें ताकि दूसरी टीम परिणाम को पुनः उत्पन्न कर सके और समझ सके कि क्या बदला।
लॉन्च से पहले, उन लोगों के साथ दस्तावेजीकृत तैयारी समीक्षा चलाएँ जो प्रणाली बनाते, संचालित करते, सुरक्षित करते और उससे प्रभावित होते हैं। सामान्य मामलों, सीमा स्थितियों, निर्भरता विफलताओं, और दुरुपयोग का परीक्षण करें; साक्ष्य और अनसुलझे जोखिम संरक्षित रखें। निर्धारित करें कि रिलीज़, सीमा परिवर्तन, आउटपुट ओवरराइड, या संचालन रोकने की मंजूरी कौन दे सकता है। वास्तविक डेटा आने पर निर्णय का पुनः मूल्यांकन करें, क्योंकि तकनीकी रूप से सफल पायलट व्यापक पैमाने पर विश्वसनीय प्रदर्शन की गारंटी नहीं देता।
- संदर्भ: उद्देश्य, लोग, और संभावित प्रभाव।
- साक्ष्य: परीक्षण, दस्तावेजीकरण, और समीक्षा।
- जवाबदेही: मालिक, निगरानी, अपील, और उपाय।
अक्सर पूछे जाने वाले प्रश्न
AI प्रणाली के लिए कौन जिम्मेदार है?
जिम्मेदारी नेताओं, उत्पाद मालिकों, डेटा और मॉडल टीमों, विक्रेताओं, ऑपरेटरों, समीक्षकों, और परिनियोजकों में वितरित होती है। शासन को सभी को जिम्मेदार कहने के बजाय विशिष्ट निर्णय अधिकार सौंपने चाहिए।
क्या मॉडल कार्ड पर्याप्त है?
नहीं। दस्तावेजीकरण मूल्यवान साक्ष्य है, लेकिन जिम्मेदार परिनियोजन को जोखिम निर्णय, परीक्षण, नियंत्रण, निगरानी, उपयोगकर्ता प्रक्रियाएँ, और उपाय भी आवश्यक हैं।
प्राथमिक संदर्भ
