जब एआई का ‘ज्ञान’ 50 साल पुराना हो: जिस अनुपालन जोखिम को आप नजरअंदाज नहीं कर सकते

एआई द्वारा गलत अंतर्दृष्टि का मुद्दा एक तत्काल चुनौती है क्योंकि उद्यम अपने उपयोग में उत्पन्न उपकरणों का उपयोग बढ़ाते हैं। एआई अपनाने के बारे में व्यापक उत्साह के बावजूद, आलोचना का एक मजबूत प्रवाह भी है। महत्वपूर्ण टिप्पणीकार अक्सर एआई के आउटपुट में स्पष्ट रूप से यादृच्छिक, अप्रत्याशित अशुद्धियों की ओर इशारा करते हैं, जो इसके मूल्य को कम करते हैं – और स्वास्थ्य सेवा और परिवहन जैसे क्षेत्रों में वास्तविक नुकसान पहुंचा सकते हैं, जहां गलत आउटपुट सैद्धांतिक रूप से गलत नुस्खे से लेकर ट्रेनों के टकराव के पाठ्यक्रम तक सब कुछ ले जा सकते हैं।

अक्सर, इन अशुद्धियों को एआई ‘हॉलुसिनेशन‘ के रूप में रखा गया है – ऐसे मामले जिनमें एआई एक ‘सर्वोत्तम अनुमान’ उत्तर उत्पन्न करता है, जो एक ‘वास्तविक’ उत्तर के रूप में同 एक ही आत्मविश्वास के साथ प्रस्तुत किया जाता है, बजाय इसके कि यह उपयोगकर्ता को अपने ज्ञान या क्षमता में एक अंतराल के बारे में सूचित करता है। हॉलुसिनेशन को पहली नज़र में मुश्किल से पहचाना जा सकता है – लेकिन एक शांत, समान रूप से गंभीर समस्या है जो इसका पता लगाने में और भी कठिन है।

डेटा गुणवत्ता ऋण: एआई का एचिलीज़ हील

जब एआई सिस्टम पुराने, अधूरे या अशुद्ध डेटा से डेटा लेते हैं, तो गलत आउटपुट होते हैं लेकिन तुरंत पहचानने योग्य नहीं होते हैं। उदाहरण के लिए, आप एआई से एक चिकित्सा स्थिति के लक्षणों की पहचान करने के लिए कह सकते हैं और 50 साल पुराने शोध पत्र के आधार पर उत्तर प्राप्त कर सकते हैं, न कि वर्तमान अनुसंधान के आधार पर। परिणाम स्पष्ट रूप से गलत नहीं दिखाई देगा – लेकिन यह प्रारंभिक वेनर ऑफ प्लॉसिबिलिटी वास्तविक जोखिम पेश करता है दोनों रोगी के लिए और स्वास्थ्य सेवा प्रदाता के लिए।

यही बात अन्य उद्योगों पर भी लागू होती है – यदि एआई मॉडल को खिलाया जाने वाला डेटा पुराना, अपूर्ण या आंशिक जानकारी शामिल करता है, तो गलत आउटपुट का उच्च जोखिम है। और जैसे ही अधिक कंपनियां व्यवसाय-महत्वपूर्ण प्रक्रियाओं में एआई को एकीकृत करती हैं, खराब शासित डेटा से गलत निष्कर्ष निकालने का जोखिम बढ़ जाता है।

नियामक के लिए सटीकता

यह न केवल दैनिक संचालन के लिए एक समस्या है – यह एक महत्वपूर्ण अनुपालन चुनौती भी है। नियामक आवश्यकताएं एआई के बारे में चिंताओं को संबोधित करने के लिए तेजी से विकसित हो रही हैं। उदाहरण के लिए, एआई पर कई प्रारंभिक नियामक कार्रवाइयां हुई हैं; विशेष रूप से जब इटली ने अस्थायी रूप से चैटजीपीटी पर प्रतिबंध लगा दिया गोपनीयता चिंताओं पर, और ईयू डेटा संरक्षण बोर्ड ने चैटजीपीटी के खिलाफ संभावित प्रवर्तन कार्रवाइयों के लिए एक समर्पित कार्य बल लॉन्च किया।

नियामक परिवर्तनों में से सबसे प्रभावशाली परिवर्तन ईयू एआई अधिनियम का पारित होना है, जो एआई के लिए दुनिया का पहला व्यापक कानूनी ढांचा है। अधिनियम एआई प्रणालियों के जोखिम स्तर के आधार पर दायित्वों को निर्धारित करता है, ‘अस्वीकार्य जोखिम’ प्रणालियों से लेकर ‘उच्च जोखिम’ प्रणालियों तक, जो पारदर्शिता, डेटा गुणवत्ता, शासन और मानव पर्यवेक्षण के आसपास सख्त आवश्यकताओं का सामना करती हैं।

ईयू एआई अधिनियम का महत्व इसके महत्वाकांक्षी दायरे में नहीं है, बल्कि महत्वपूर्ण रूप से यह पूर्व EXAMPLE है जो यह स्थापित करता है कि नियामक एआई को बाध्यकारी और प्रवर्तनीय नियमों के अधीन करेंगे और संगठनों को यह सुनिश्चित करना होगा कि अनुपालन और पारदर्शिता एआई के उपयोग के बारे में एक एकीकृत हिस्सा है, न कि एक पश्चात की बात।

ईयू एआई अधिनियम का एक व्यापक दायरा है, जिसका एआई विकास के एक बड़े हिस्से पर प्रभाव पड़ सकता है। इसके केंद्र में एआई को सुरक्षित बनाना है, जबकि मौलिक अधिकारों और मूल्यों का सम्मान करना है। इस नए सिद्धांतवादी पारिस्थितिकी तंत्र के भीतर एआई अशुद्धताओं के संभावित स्रोतों का निदान शामिल है, जिनमें मॉडल को खिलाने वाले डेटा और डेटासेट, मॉडल की अस्पष्टता और पहुंच, और सिस्टम डिजाइन और उपयोग शामिल हैं। एआई समाधान इनमें से तीनों का एक निर्माण है – इनमें से किसी एक में समस्याएं नकारात्मक परिणाम पैदा कर सकती हैं। न केवल यह, बल्कि एआई के डिजाइन, मॉडल विकास, तैनाती और संचालन के लिए उपयोग किया जाने वाला डेटा व्यावसायिक रिकॉर्ड होने की संभावना है जो स्वयं विभिन्न अनुपालन आवश्यकताओं के अधीन हैं।

दूसरे शब्दों में, एआई के आसपास का नियामक वातावरण अधिक सख्त होता जा रहा है – और यह उतना ही सच है जितना कि डेटा आउटपुट के लिए डेटा इनपुट के लिए है, भले ही बाद वाला अधिक हेडलाइन प्राप्त करता है।

पांच कदम एआई को अनुपालन, वर्तमान, प्रासंगिक डेटा खिलाने के लिए

इस दोहरी चुनौती का समाधान करने के लिए – अनुपालन डेटा हैंडलिंग और उच्च गुणवत्ता वाले इनपुट को सुनिश्चित करना जो उच्च गुणवत्ता वाले आउटपुट को सक्षम बनाता है – व्यवसायों को प्रशिक्षण और अनुमान डेटा पर नियंत्रण की आवश्यकता है। दुर्भाग्य से, यह कुछ ऐसा है जिस पर कई उद्यम अभी भी कमी महसूस करते हैं।

कम से कम, संगठनों को अपने व्यापक अनुपालन और शासन कार्यक्रमों को एआई पहलों पर लागू करना चाहिए। उन्हें एआई मॉडल को खिलाने वाले डेटा के बारे में उचित रिकॉर्ड कैप्चर और बनाए रखने की आवश्यकता है, साथ ही साथ मॉडल और सिस्टम के डिजाइन के बारे में भी, साथ ही एआई के माध्यम से उत्पन्न निर्णय और सामग्री के बारे में भी।

हालांकि, यह भी महत्वपूर्ण होता जा रहा है कि संगठन एक कदम आगे बढ़ें और सुनिश्चित करें कि उन्हें एआई तैनाती के लिए संभावित रूप से उपयोग किए जाने वाले सभी डेटा पर पूरा नियंत्रण है। इसके लिए एक उच्च गुणवत्ता वाली डेटा प्रबंधन और संग्रहण रणनीति की आवश्यकता है, जो यह सुनिश्चित करती है कि सभी प्रासंगिक डेटा बुद्धिमानी से एकत्र किया जाता है, साफ किया जाता है, संग्रहीत किया जाता है, वर्गीकृत किया जाता है और हकदार किया जाता है। इसे प्राप्त करने के लिए, संगठनों को चार मुख्य कदमों पर विचार करने की आवश्यकता है:

1. डेटा वंशावली और उत्पत्ति

इसमें डेटा के स्रोत, इसकी उत्पत्ति, स्वामित्व और इसके जीवन चक्र के दौरान मेटाडेटा (यदि अनुमत हो) में किसी भी परिवर्तन का रिकॉर्ड रखना शामिल है। इसमें समृद्ध मेटाडेटा और उन सभी अंतर्निहित दस्तावेजों या कलाकृतियों को बनाए रखना भी शामिल है जिससे यह प्राप्त होता है।

2. डेटा प्रामाणिकता

इसके लिए डेटा के लिए एक स्पष्ट श्रृंखला की हिफाजत करना आवश्यक है, अपने मूल रूप में वस्तुओं को संग्रहीत करना और प्राप्त वस्तुओं को हैश करना ताकि यह प्रदर्शित किया जा सके कि डेटा परिवर्तित नहीं हुआ है। इसके अलावा, संगठनों को प्रत्येक वस्तु के लिए एक पूर्ण ऑडिट इतिहास और सभी क्रियाओं और घटनाओं के लिए बनाए रखना होगा जो किसी भी परिवर्तन के संबंध में।

3. डेटा वर्गीकरण

डेटा के एक सेट या प्रकार की प्रकृति का निर्धारण करना महत्वपूर्ण है। संगठनों को संरचित डेटा, अर्ध-संरचित डेटा और संरचित डेटा सेटों को शासित करने में सक्षम होना चाहिए। प्रत्येक वर्ग को एक अद्वितीय योजना देने से संगठन विविध डेटा सेटों का प्रबंधन कर सकते हैं बिना एक आकार-फिट-ऑल फिक्स्ड ऑन्टोलॉजी के – डेटा को अनावश्यक रूप से मैनिपुलेट करने से बचने के लिए इसे एक लचीले डेटा संरचना में मजबूर करने से।

4. डेटा सामान्यीकरण

मेटाडेटा के सामान्य परिभाषाओं और प्रारूपों का निर्धारण करना विश्लेषण और एआई समाधानों में उपयोग के लिए महत्वपूर्ण है। स्पष्ट रूप से परिभाषित स्कीमा एक महत्वपूर्ण तत्व है, साथ ही साथ डेटा को स्थिर, सामान्य दृश्यों में बदलने या मैप करने के लिए उपकरण हैं जो संबंधित डेटा को बनाए रखने के लिए।

5. डेटा हकदारी

उद्यमों को उपयोगकर्ता या सिस्टम प्रोफाइल के आधार पर वस्तु या क्षेत्र स्तर पर विस्तृत हकदारी नियंत्रण की आवश्यकता है, जिसमें प्रतिबंधित या सीमित पहुंच शामिल है जो उन लोगों के लिए है जो इसका उपयोग करने के हकदार नहीं हैं।

इन महत्वपूर्ण तत्वों के साथ, व्यवसाय एआई मॉडल को दी जाने वाली डेटा की गुणवत्ता और अनुपालन सुनिश्चित करने के लिए सबसे अच्छी स्थिति में होंगे। एआई उद्योगों में सुधार और कुशलता लाने के लिए तैयार है – लेकिन इसके लिए एक मजबूत डेटा फाउंडेशन आवश्यक है।