2023 में एआई ऑडिट कैसे करें

एआई ऑडिट एआई सिस्टम का मूल्यांकन करने के लिए संदर्भित करता है ताकि यह सुनिश्चित किया जा सके कि वे पूर्वानुमान के अनुसार काम करते हैं बिना पक्षपात या भेदभाव के और नैतिक और कानूनी मानकों के अनुरूप हैं। एआई ने पिछले दशक में अभूतपूर्व वृद्धि का अनुभव किया है। परिणामस्वरूप, एआई से संबंधित जोखिम संगठनों के लिए चिंता का विषय बन गए हैं। जैसा कि एलोन मस्क ने कहा:

“एआई एक दुर्लभ मामला है जहां मुझे लगता है कि हमें विनियमन में सक्रिय होने की आवश्यकता है न कि प्रतिक्रिया में।”

संगठनों को एआई के साथ काम करने वाले कर्मचारियों के लिए शासन, जोखिम मूल्यांकन और नियंत्रण रणनीतियों का विकास करना होगा। एआई लेखांकन निर्णय लेने में महत्वपूर्ण हो जाता है जहां दांव उच्च होते हैं जैसे कि एक क्षेत्र में पुलिस तैनात करना और दूसरे में नहीं, उम्मीदवारों को नियुक्त करना और अस्वीकार करना।
इस लेख में एआई ऑडिट, एआई ऑडिट के लिए फ्रेमवर्क और विनियमन, और एआई अनुप्रयोगों के लिए एक चेकलिस्ट का अवलोकन प्रस्तुत किया जाएगा।

विचार करने योग्य कारक

• अनुपालन: एआई सिस्टम के अनुपालन से संबंधित जोखिम मूल्यांकन कानूनी, नियामक, नैतिक और सामाजिक विचारों के साथ。
• प्रौद्योगिकी: तकनीकी क्षमताओं से संबंधित जोखिम मूल्यांकन, जिसमें मशीन लर्निंग, सुरक्षा मानक और मॉडल प्रदर्शन शामिल हैं।

एआई सिस्टम को ऑडिट करने में चुनौतियां

• पक्षपात: एआई सिस्टम डेटा में मौजूद पक्षपात को बढ़ा सकते हैं और अनुचित निर्णय ले सकते हैं। इस समस्या को पहचानते हुए, स्टैनफोर्ड विश्वविद्यालय में एक अनुसंधान संस्थान, ह्यूमन सेंट्रेड एआई (एचएआई), ने एक $71,000 इनोवेशन चैलेंज लॉन्च किया बेहतर एआई ऑडिट डिजाइन करने के लिए। इस चुनौती का उद्देश्य एआई सिस्टम में भेदभाव को रोकना था।
• जटिलता: एआई सिस्टम, विशेष रूप से गहरे शिक्षण का उपयोग करने वाले, जटिल हैं और व्याख्या की कमी है।

एआई ऑडिट के लिए मौजूदा विनियमन और फ्रेमवर्क

विनियमन और फ्रेमवर्क एआई को ऑडिट करने के लिए उत्तर की ओर इशारा करते हैं। कुछ महत्वपूर्ण ऑडिट फ्रेमवर्क और विनियमन नीचे चर्चा की जा रही है।

ऑडिट फ्रेमवर्क

1. सीओबीआईटी फ्रेमवर्क (कंट्रोल ऑब्जेक्टिव्स फॉर इंफॉर्मेशन एंड रिलेटेड टेक्नोलॉजी): यह फ्रेमवर्क आईटी शासन और प्रबंधन के लिए है।
2. आईआईए (इन्स्टीट्यूट ऑफ इंटरनल ऑडिटर्स) का एआई ऑडिट फ्रेमवर्क: यह एआई फ्रेमवर्क एआई सिस्टम के डिजाइन, विकास और कार्य का मूल्यांकन करने और संगठन के उद्देश्यों के साथ इसके संरेखण का मूल्यांकन करने के लिए है। आईआईए के एआई ऑडिट फ्रेमवर्क के तीन मुख्य घटक हैं रणनीति, शासन और मानव कारक। इसके सात तत्व हैं:

• साइबर रेसिलिएंस
• एआई क्षमताएं
• डेटा गुणवत्ता
• डेटा आर्किटेक्चर और इन्फ्रास्ट्रक्चर
• प्रदर्शन को मापना
• नैतिकता
• ब्लैक बॉक्स

3. सीओएसओ ईआरएम फ्रेमवर्क: यह फ्रेमवर्क संगठन में एआई सिस्टम के लिए जोखिम का मूल्यांकन करने के लिए एक फ्रेम ऑफ रेफरेंस प्रदान करता है। इसके पांच घटक हैं आंतरिक ऑडिट के लिए:

• आंतरिक वातावरण: यह सुनिश्चित करना कि संगठन का शासन और प्रबंधन एआई जोखिमों का प्रबंधन कर रहा है
• उद्देश्य निर्धारण: जोखिम रणनीति बनाने के लिए हितधारकों के साथ सहयोग करना
• इवेंट पहचान: एआई सिस्टम में जोखिमों की पहचान करना, जैसे कि अनुचित पक्षपात, डेटा उल्लंघन
• जोखिम मूल्यांकन: जोखिम का क्या प्रभाव होगा?
• जोखिम प्रतिक्रिया: जोखिम स्थितियों पर कैसे प्रतिक्रिया दी जाएगी, जैसे कि उप-आदर्श डेटा गुणवत्ता?

विनियमन

जनरल डेटा प्रोटेक्शन रेगुलेशन (जीडीपीआर) एक कानून है जो यूरोपीय संघ के नियमन में संगठनों पर व्यक्तिगत डेटा का उपयोग करने के लिए दायित्व रखता है। इसके सात सिद्धांत हैं:

• कानूनी, न्यायसंगत और पारदर्शी: व्यक्तिगत डेटा प्रसंस्करण को कानून के अनुसार होना चाहिए
• उद्देश्य सीमा: केवल एक विशिष्ट उद्देश्य के लिए डेटा का उपयोग करना
• डेटा कमी: व्यक्तिगत डेटा पर्याप्त और सीमित होना चाहिए
• सटीकता: डेटा सटीक और अद्यतित होना चाहिए
• भंडारण सीमा: अब और आवश्यक नहीं होने पर व्यक्तिगत डेटा को संग्रहीत न करें
• अखंडता और गोपनीयता: व्यक्तिगत डेटा को सुरक्षित रूप से संसाधित किया जाना चाहिए
• जिम्मेदारी: नियंत्रक को डेटा को जिम्मेदारी से संसाधित करना चाहिए और अनुपालन का पालन करना चाहिए

अन्य विनियमन में सीसीपीए और पीआईपीडीए शामिल हैं।

एआई ऑडिट के लिए चेकलिस्ट

डेटा स्रोत

एआई सिस्टम को ऑडिट करने में प्राथमिक विचार डेटा स्रोतों की पहचान और जांच करना है। ऑडिटर डेटा गुणवत्ता की जांच करते हैं और क्या कंपनी डेटा का उपयोग कर सकती है।

क्रॉस वैलिडेशन

यह सुनिश्चित करना कि मॉडल को उचित रूप से क्रॉस-वैलिडेट किया गया है, ऑडिटर की चेकलिस्ट में से एक है। सत्यापन डेटा का उपयोग प्रशिक्षण के लिए नहीं किया जाना चाहिए, और सत्यापन तकनीकों को मॉडल की सामान्यीकरण सुनिश्चित करनी चाहिए।

सुरक्षित होस्टिंग

कुछ मामलों में, एआई सिस्टम व्यक्तिगत डेटा का उपयोग करते हैं। यह मूल्यांकन करना महत्वपूर्ण है कि होस्टिंग या क्लाउड सेवाएं जानकारी सुरक्षा आवश्यकताओं को पूरा करती हैं, जैसे कि ओडब्ल्यूएएसपी (ओपन वेब एप्लिकेशन सुरक्षा परियोजना) दिशानिर्देश।

व्याख्या योग्य एआई

व्याख्या योग्य एआई एआई सिस्टम द्वारा किए गए निर्णयों और उन्हें प्रभावित करने वाले कारकों की व्याख्या और समझ को संदर्भित करता है। ऑडिटर जांचते हैं कि क्या मॉडल पर्याप्त रूप से व्याख्या योग्य हैं जैसे कि लाइम और शाप जैसी तकनीकों का उपयोग करके।

मॉडल आउटपुट

न्यायसंगतता ऑडिटर द्वारा मॉडल आउटपुट में पहली बात सुनिश्चित की जाती है। मॉडल आउटपुट को लिंग, जाति या धर्म जैसे परिवर्तनीयों को बदलने पर स्थिर रहना चाहिए। इसके अलावा, स्कोरिंग विधि का उपयोग करके भविष्यवाणी की गुणवत्ता का मूल्यांकन किया जाता है।

सामाजिक प्रतिक्रिया

एआई ऑडिट एक निरंतर प्रक्रिया है। एक बार तैनात होने के बाद, ऑडिटर को एआई सिस्टम के सामाजिक प्रभाव को देखना चाहिए। एआई सिस्टम और जोखिम रणनीति को प्रतिक्रिया, उपयोग, परिणाम और प्रभाव के आधार पर संशोधित और ऑडिट किया जाना चाहिए, चाहे वह सकारात्मक या नकारात्मक हो।

एआई पाइपलाइन और अनुप्रयोगों को ऑडिट करने वाली कंपनियां

एआई ऑडिट करने वाली पांच प्रमुख कंपनियां हैं:

• डेलॉइट: डेलॉइट दुनिया की सबसे बड़ी पेशेवर सेवा फर्म है और यह ऑडिट, कर और वित्तीय सलाहकार सेवाएं प्रदान करती है। डेलॉइट आरपीए, एआई और विश्लेषण का उपयोग संगठनों को उनके एआई सिस्टम के जोखिम मूल्यांकन में मदद करने के लिए करता है।
• पीडब्ल्यूसी: पीडब्ल्यूसी राजस्व द्वारा दूसरी सबसे बड़ी पेशेवर सेवा नेटवर्क है। उन्होंने संगठनों को अपने एआई सिस्टम के लिए जवाबदेही, विश्वसनीयता और पारदर्शिता सुनिश्चित करने में मदद करने के लिए ऑडिट विधियों का विकास किया है।
• ईवाई: 2022 में, ईवाई ने एक एआई-संचालित प्रौद्योगिकी प्लेटफ़ॉर्म में $1 बिलियन का निवेश करने की घोषणा की ताकि उच्च गुणवत्ता वाली ऑडिट सेवाएं प्रदान की जा सकें। एआई-संचालित फर्म एआई सिस्टम को ऑडिट करने के लिए अच्छी तरह से सूचित हैं।
• केपीएमजी: केपीएमजी चौथी सबसे बड़ी लेखा सेवा प्रदान करने वाली फर्म है। केपीएमजी एआई शासन, जोखिम मूल्यांकन और नियंत्रण में अनुकूलित सेवाएं प्रदान करता है।
• ग्रांट थॉर्नटन: वे ग्राहकों को एआई तैनाती और एआई नैतिकता और विनियमन के साथ अनुपालन से संबंधित जोखिमों को प्रबंधित करने में मदद करते हैं।

एआई सिस्टम को ऑडिट करने के लाभ

• जोखिम प्रबंधन: ऑडिट एआई सिस्टम से जुड़े जोखिमों को रोकता है या कम करता है।
• पारदर्शिता: ऑडिट यह सुनिश्चित करता है कि एआई अनुप्रयोग पक्षपात और भेदभाव से मुक्त हैं।
• अनुपालन: एआई अनुप्रयोगों को ऑडिट करने का अर्थ है कि प्रणाली कानूनी और नियामक अनुपालन का पालन करती है।

एआई ऑडिट: भविष्य में क्या होगा

संगठन, नियामक प्राधिकरण और ऑडिटर को एआई प्रगति के साथ संपर्क में रहना चाहिए, इसके संभावित खतरों को समझना चाहिए और नियमित रूप से विनियमन, फ्रेमवर्क और रणनीतियों की समीक्षा करनी चाहिए ताकि यह सुनिश्चित किया जा सके कि एआई का उपयोग न्यायसंगत, जोखिम मुक्त और नैतिक है।

2021 में, यूनेस्को के 193 सदस्य देशों ने एआई की नैतिकता पर एक वैश्विक समझौते को अपनाया। एआई एक निरंतर विकसित होता इकोसिस्टम है।

एआई से संबंधित अधिक सामग्री चाहते हैं? unite.ai पर जाएं।