2023 में एआई ऑडिट कैसे करें

एआई ऑडिट एआई सिस्टम का मूल्यांकन करने के लिए संदर्भित करता है ताकि यह सुनिश्चित किया जा सके कि वे पूर्वाग्रह या भेदभाव के बिना अपेक्षित रूप से काम करें और नैतिक और कानूनी मानकों के साथ संरेखित हों। पिछले दशक में, एआई ने असाधारण वृद्धि का अनुभव किया है। परिणामस्वरूप, एआई से संबंधित जोखिम संगठनों के लिए चिंता का विषय बन गए हैं। जैसा कि एलोन मस्क ने कहा:

“एआई एक दुर्लभ मामला है जहां मुझे लगता है कि हमें नियमन में सक्रिय होने की आवश्यकता है, प्रतिक्रिया के बजाय।”

संगठनों को एआई के साथ काम करने वाले कर्मचारियों के लिए शासन, जोखिम मूल्यांकन और नियंत्रण रणनीतियों को विकसित करना चाहिए। एआई की जवाबदेही उच्च दांव वाले निर्णय लेने में महत्वपूर्ण हो जाती है, जैसे कि एक क्षेत्र में पुलिस तैनात करना और दूसरे में नहीं, उम्मीदवारों को नियुक्त करना और अस्वीकार करना।

इस लेख में एआई ऑडिट, एआई ऑडिट के लिए फ्रेमवर्क और नियम, और एआई अनुप्रयोगों के लिए एक चेकलिस्ट का अवलोकन प्रस्तुत किया जाएगा।

विचार करने योग्य कारक

• अनुपालन: एआई सिस्टम के अनुपालन से संबंधित जोखिम मूल्यांकन, कानूनी, नियामक, नैतिक और सामाजिक विचारों के साथ।
• प्रौद्योगिकी: तकनीकी क्षमताओं से संबंधित जोखिम मूल्यांकन, जिसमें मशीन लर्निंग, सुरक्षा मानक और मॉडल प्रदर्शन शामिल हैं।

एआई सिस्टम के ऑडिट के लिए चुनौतियाँ

• पूर्वाग्रह: एआई सिस्टम डेटा में पूर्वाग्रह को बढ़ा सकते हैं और अनुचित निर्णय ले सकते हैं। इस समस्या को पहचानते हुए, स्टैनफोर्ड विश्वविद्यालय में एक अनुसंधान संस्थान, ह्यूमन सेंट्रेड एआई (एचएआई), ने एक $71,000 इनोवेशन चैलेंज लॉन्च किया बेहतर एआई ऑडिट डिजाइन करने के लिए। इस चुनौती का उद्देश्य एआई सिस्टम में भेदभाव को रोकना था।
• जटिलता: एआई सिस्टम, विशेष रूप से जो गहरे शिक्षण का उपयोग करते हैं, जटिल होते हैं और व्याख्या करने में कमी होती है।

एआई ऑडिट के लिए मौजूदा नियम और फ्रेमवर्क

नियम और फ्रेमवर्क एआई के ऑडिट के लिए उत्तर की दिशा में काम करते हैं। कुछ महत्वपूर्ण ऑडिट फ्रेमवर्क और नियम नीचे चर्चा किए गए हैं।

ऑडिट फ्रेमवर्क

1. सीओबीआईटी फ्रेमवर्क (कंट्रोल ऑब्जेक्टिव्स फॉर इंफॉर्मेशन एंड रिलेटेड टेक्नोलॉजी): यह फ्रेमवर्क आईटी शासन और प्रबंधन के लिए है।
2. आईआईए का एआई ऑडिट फ्रेमवर्क (इन्स्टीट्यूट ऑफ इंटरनल ऑडिटर्स): यह एआई फ्रेमवर्क एआई सिस्टम के डिजाइन, विकास और कार्य का मूल्यांकन करने और संगठन के उद्देश्यों के साथ उनके संरेखण का मूल्यांकन करने के लिए है। आईआईए के एआई ऑडिट फ्रेमवर्क के तीन मुख्य घटक हैं रणनीति, शासन और मानव कारक। इसके सात तत्व हैं जो निम्नलिखित हैं:

• साइबर रिजिलिएंस
• एआई क्षमताएं
• डेटा गुणवत्ता
• डेटा आर्किटेक्चर और इन्फ्रास्ट्रक्चर
• प्रदर्शन को मापना
• नैतिकता
• ब्लैक बॉक्स

3. सीओएसओ ईआरएम फ्रेमवर्क: यह फ्रेमवर्क एआई सिस्टम के लिए जोखिमों का मूल्यांकन करने के लिए एक फ्रेम ऑफ रेफरेंस प्रदान करता है। इसके पांच घटक हैं जो आंतरिक ऑडिट के लिए हैं:

• आंतरिक वातावरण: यह सुनिश्चित करना कि संगठन का शासन और प्रबंधन एआई जोखिमों का प्रबंधन कर रहा है
• उद्देश्य निर्धारण: हितधारकों के साथ मिलकर जोखिम रणनीति बनाना
• इवेंट पहचान: एआई सिस्टम में जोखिमों की पहचान करना, जैसे कि अनियंत्रित पूर्वाग्रह, डेटा उल्लंघन
• जोखिम मूल्यांकन: जोखिम का प्रभाव क्या होगा?
• जोखिम प्रतिक्रिया: जोखिम स्थितियों का जवाब कैसे दिया जाएगा, जैसे कि उप-आदर्श डेटा गुणवत्ता?

नियम

जनरल डेटा प्रोटेक्शन रेगुलेशन (जीडीपीआर) एक कानून है जो यूरोपीय संघ में संगठनों पर व्यक्तिगत डेटा का उपयोग करने के लिए दायित्व रखता है। इसके सात सिद्धांत हैं:

• कानूनी, न्यायसंगतता और पारदर्शिता: व्यक्तिगत डेटा प्रसंस्करण को कानून के अनुसार होना चाहिए
• उद्देश्य सीमा: डेटा का उपयोग केवल एक विशिष्ट उद्देश्य के लिए किया जाना चाहिए
• डेटा कमी: व्यक्तिगत डेटा पर्याप्त और सीमित होना चाहिए
• सटीकता: डेटा सटीक और अद्यतित होना चाहिए
• भंडारण सीमा: व्यक्तिगत डेटा को अधिक समय तक नहीं रखा जाना चाहिए
• अखंडता और गोपनीयता: व्यक्तिगत डेटा को सुरक्षित रूप से प्रसंस्कृत किया जाना चाहिए
• जिम्मेदारी: नियंत्रक को डेटा को जिम्मेदारी से प्रसंस्कृत करना चाहिए, अनुपालन का पालन करते हुए

अन्य नियमों में सीसीपीए और पीआईपीडीए शामिल हैं।

एआई ऑडिट के लिए चेकलिस्ट

डेटा स्रोत

डेटा स्रोतों की पहचान करना और उनकी जांच करना एआई सिस्टम के ऑडिट में प्राथमिक विचार है। ऑडिटर डेटा गुणवत्ता की जांच करते हैं और यह देखते हैं कि क्या कंपनी डेटा का उपयोग कर सकती है।

क्रॉस वैलिडेशन

यह सुनिश्चित करना कि मॉडल को उचित रूप से क्रॉस-वैलिडेट किया गया है, ऑडिटरों के लिए एक चेकलिस्ट है। सत्यापन डेटा का उपयोग प्रशिक्षण के लिए नहीं किया जाना चाहिए, और सत्यापन तकनीकों को मॉडल की सामान्यीकरण सुनिश्चित करनी चाहिए।

सुरक्षित होस्टिंग

कुछ मामलों में, एआई सिस्टम व्यक्तिगत डेटा का उपयोग करते हैं। यह महत्वपूर्ण है कि होस्टिंग या क्लाउड सेवाएं सूचना सुरक्षा आवश्यकताओं को पूरा करती हैं, जैसे कि ओडब्ल्यूएएसपी (ओपन वेब एप्लिकेशन सुरक्षा परियोजना) दिशानिर्देश।

व्याख्या योग्य एआई

व्याख्या योग्य एआई एआई सिस्टम द्वारा किए गए निर्णयों और उन्हें प्रभावित करने वाले कारकों की व्याख्या और समझ करने के लिए संदर्भित करता है। ऑडिटर यह जांचते हैं कि मॉडल पर्याप्त रूप से व्याख्या योग्य हैं या नहीं, जैसे कि एलआईएमई और एसएचएपी जैसी तकनीकों का उपयोग करके।

मॉडल आउटपुट

न्यायसंगतता मॉडल आउटपुट में ऑडिटरों द्वारा सुनिश्चित की जाने वाली पहली बात है। मॉडल आउटपुट लिंग, जाति या धर्म जैसे परिवर्तनीय होने पर भी सुसंगत रहना चाहिए। इसके अलावा, उपयुक्त स्कोरिंग विधि का उपयोग करके भविष्यवाणियों की गुणवत्ता का भी मूल्यांकन किया जाता है।

सामाजिक प्रतिक्रिया

एआई ऑडिट एक निरंतर प्रक्रिया है। एक बार तैनात होने के बाद, ऑडिटरों को एआई सिस्टम के सामाजिक प्रभाव को देखना चाहिए। एआई सिस्टम और जोखिम रणनीति को प्रतिक्रिया, उपयोग, परिणाम और प्रभाव के आधार पर संशोधित और ऑडिट किया जाना चाहिए, चाहे वह सकारात्मक या नकारात्मक हो।

एआई पाइपलाइन और अनुप्रयोगों के ऑडिट करने वाली कंपनियां

एआई के ऑडिट करने वाली पांच प्रमुख कंपनियां निम्नलिखित हैं:

• डेलॉइट: डेलॉइट दुनिया की सबसे बड़ी पेशेवर सेवा फर्म है और ऑडिट, कर और वित्तीय सलाहकार सेवाएं प्रदान करती है। डेलॉइट आरपीए, एआई और विश्लेषण का उपयोग अपने एआई सिस्टम के जोखिम मूल्यांकन में संगठनों की मदद करने के लिए करता है।
• पीडब्ल्यूसी: पीडब्ल्यूसी राजस्व द्वारा दूसरी सबसे बड़ी पेशेवर सेवा नेटवर्क है। उन्होंने संगठनों को जवाबदेही, विश्वसनीयता और पारदर्शिता सुनिश्चित करने में मदद करने के लिए ऑडिट विधियों को विकसित किया है।
• ईवाई: 2022 में, ईवाई ने एआई-सक्षम तकनीक प्लेटफ़ॉर्म में $1 बिलियन का निवेश करने की घोषणा की ताकि उच्च गुणवत्ता वाली ऑडिट सेवाएं प्रदान की जा सकें। एआई-ड्रिवन फर्म एआई सिस्टम के ऑडिट के लिए अच्छी तरह से सूचित हैं।
• केपीएमजी: केपीएमजी चौथी सबसे बड़ी लेखा सेवा प्रदान करने वाली फर्म है। केपीएमजी एआई शासन, जोखिम मूल्यांकन और नियंत्रण में अनुकूलित सेवाएं प्रदान करता है।
• ग्रांट थॉर्नटन: वे ग्राहकों को एआई तैनाती और एआई नैतिकता और नियमों के अनुपालन से संबंधित जोखिमों का प्रबंधन करने में मदद करते हैं।

एआई सिस्टम के ऑडिट के लाभ

• जोखिम प्रबंधन: ऑडिट एआई सिस्टम से जुड़े जोखिमों को रोकता है या कम करता है।
• पारदर्शिता: ऑडिट यह सुनिश्चित करता है कि एआई अनुप्रयोग पूर्वाग्रह और भेदभाव से मुक्त हैं।
• अनुपालन: एआई अनुप्रयोगों का ऑडिट करने से यह सुनिश्चित होता है कि प्रणाली कानूनी और नियामक अनुपालन का पालन करती है।

एआई ऑडिट: भविष्य में क्या है

संगठनों, नियामक प्राधिकरणों और ऑडिटरों को एआई प्रगति के साथ संपर्क में रहना चाहिए, इसके संभावित खतरों को समझना चाहिए और नियमित रूप से नियमों, फ्रेमवर्क और रणनीतियों की समीक्षा करनी चाहिए ताकि यह सुनिश्चित किया जा सके कि एआई का न्यायसंगत, जोखिम-मुक्त और नैतिक उपयोग किया जाए।

2021 में, यूनेस्को के 193 सदस्य देशों ने एआई की नैतिकता पर एक वैश्विक समझौते को अपनाया। एआई एक निरंतर विकसित होता इकोसिस्टम है।

अधिक एआई संबंधित सामग्री चाहते हैं? यूनाइट.एआई पर जाएं。