जब एआई का ‘ज्ञान’ 50 साल पुराना होता है: अनुपालन जोखिम जिसे आप नजरअंदाज नहीं कर सकते

एआई द्वारा गलत जानकारी प्रदान करने का मुद्दा एक तात्कालिक चुनौती है क्योंकि उद्यम अपने उपयोग में वृद्धि कर रहे हैं जनरेटिव टूल्स का। एआई अपनाने के बारे में व्यापक उत्साह के बावजूद, आलोचना का एक मजबूत प्रवाह भी है। महत्वपूर्ण टिप्पणीकार अक्सर एआई के आउटपुट में स्पष्ट रूप से यादृच्छिक, अप्रत्याशित अशुद्धताओं की ओर इशारा करते हैं, जो इसके मूल्य को कम करते हैं – और यहां तक कि स्वास्थ्य सेवा और परिवहन जैसे क्षेत्रों में मानवों को वास्तविक नुकसान पहुंचा सकते हैं, जहां गलत आउटपुट सैद्धांतिक रूप से गलत नुस्खे से लेकर ट्रेनों की टक्कर तक सब कुछ का कारण बन सकता है।

अक्सर, इन अशुद्धताओं को एआई ‘हॉलुसिनेशन’ के लिए जिम्मेदार ठहराया जाता है – ऐसे मामले जिनमें एआई एक ‘सबसे अच्छा अनुमान’ उत्तर उत्पन्न करता है, जो एक ‘वास्तविक’ उत्तर के समान विश्वास के साथ प्रस्तुत किया जाता है, बजाय इसके कि यह उपयोगकर्ता को अपने ज्ञान या क्षमता में अंतराल की सूचना दे। हॉलुसिनेशन को पहली नज़र में पहचानना मुश्किल हो सकता है – लेकिन एक और समस्या है जो समान रूप से गंभीर है और इसका पता लगाना और भी कठिन है।

डेटा गुणवत्ता ऋण: एआई का एचिलीज़ हील

जब एआई सिस्टम पुराने, अधूरे या अशुद्ध डेटा से डेटा निकालते हैं, तो गलत आउटपुट होते हैं लेकिन वे तुरंत पहचानने योग्य नहीं होते हैं। उदाहरण के लिए, आप एक एआई से एक चिकित्सा स्थिति के लक्षणों की पहचान करने के लिए कह सकते हैं और 50 साल पुराने शोध पत्र के आधार पर उत्तर प्राप्त कर सकते हैं, न कि वर्तमान अनुसंधान के आधार पर। परिणाम स्पष्ट रूप से गलत नहीं दिखाई देगा, लेकिन यह प्रारंभिक विश्वसनीयता की परत वास्तविक जोखिम पेश करती है दोनों रोगी और स्वास्थ्य सेवा प्रदाता के लिए।

यही बात अन्य उद्योगों पर भी लागू होती है – यदि एआई मॉडल को दी जाने वाली जानकारी में पुरानी, अपूर्ण या आंशिक जानकारी शामिल है, तो गलत आउटपुट का जोखिम बहुत अधिक है। और जैसे ही अधिक कंपनियां व्यवसाय-महत्वपूर्ण प्रक्रियाओं में एआई को एकीकृत करती हैं, खराब प्रबंधित डेटा से गलत निष्कर्ष निकालने का जोखिम बढ़ जाता है।

नियामक के लिए सटीकता

यह केवल दैनिक संचालन के लिए एक समस्या नहीं है – यह एक महत्वपूर्ण अनुपालन चुनौती भी है। एआई के बारे में चिंताओं को दूर करने के लिए नियामक आवश्यकताएं तेजी से विकसित हो रही हैं। उदाहरण के लिए, एआई पर कई प्रारंभिक नियामक कार्रवाइयां हुई हैं; विशेष रूप से, जब इटली ने गोपनीयता चिंताओं पर चैटजीपीटी पर अस्थायी रूप से प्रतिबंध लगा दिया, और ईयू डेटा संरक्षण बोर्ड ने संभावित प्रवर्तन कार्रवाइयों के समन्वय के लिए एक समर्पित कार्य बल लॉन्च किया चैटजीपीटी के खिलाफ।

नियामक परिवर्तनों में से एक सबसे महत्वपूर्ण है ईयू एआई एक्ट का पारित होना, जो एआई के लिए दुनिया का पहला व्यापक कानूनी ढांचा है। यह अधिनियम जोखिम स्तर के आधार पर एआई प्रणालियों के लिए दायित्वों को निर्धारित करता है, ‘अस्वीकार्य जोखिम’ प्रणालियों से लेकर ‘उच्च जोखिम’ प्रणालियों तक, जो पारदर्शिता, डेटा गुणवत्ता, शासन और मानव पर्यवेक्षण के आसपास सख्त आवश्यकताओं का सामना करती हैं।

ईयू एआई अधिनियम का महत्व इसके महत्वाकांक्षी दायरे में नहीं है, बल्कि यह पूर्ववर्ती है जो यह स्थापित करता है। नियामक स्पष्ट कर रहे हैं कि एआई बाध्यकारी और प्रवर्तनीय नियमों के अधीन होगा, और संगठनों को यह सुनिश्चित करना होगा कि एआई का उपयोग और कहां और कैसे इसका उपयोग किया जा रहा है, इसके चारों ओर अनुपालन और पारदर्शिता एआई अपनाने के लिए एक एकीकृत हिस्सा है, न कि एक बाद की बात।

अधिनियम का दायरा व्यापक है, जिसमें एआई विकास के एक बड़े हिस्से पर प्रभाव डालने की क्षमता है। इसके केंद्र में एआई को सुरक्षित बनाना है, जबकि मौलिक अधिकारों और मूल्यों का सम्मान करना है। इस नए सिद्धांतवादी पारिस्थितिकी तंत्र के भीतर, एआई मॉडलों को खिलाने वाले डेटा और डेटासेट सहित संभावित स्रोतों का निदान किया जाता है, साथ ही मॉडल की अस्पष्टता और पहुंच, और सिस्टम डिजाइन और उपयोग। एआई समाधान इन तीनों का निर्माण है – इनमें से किसी भी समस्या का नकारात्मक परिणाम हो सकता है। न केवल यह, बल्कि एआई के डिजाइन, मॉडल विकास, तैनाती और संचालन में उपयोग किए जाने वाले डेटा व्यावसायिक रिकॉर्ड होने की संभावना है जो स्वयं विभिन्न अनुपालन आवश्यकताओं के अधीन हैं।

दूसरे शब्दों में, एआई के आसपास का नियामक वातावरण तेजी से सख्त होता जा रहा है – और यह उतना ही सच है डेटा इनपुट के लिए जितना कि यह डेटा आउटपुट के लिए है, हालांकि बाद वाला अधिक हेडलाइन प्राप्त करता है।

एआई को अनुपालन, वर्तमान, प्रासंगिक डेटा खिलाने के 5 कदम

इस दोहरे चुनौती का समाधान करने के लिए – अनुपालन डेटा हैंडलिंग और उच्च गुणवत्ता वाले इनपुट को सुनिश्चित करना जो उच्च गुणवत्ता वाले आउटपुट को सक्षम बनाता है – व्यवसायों को प्रशिक्षण और अनुमान डेटा पर नियंत्रण की आवश्यकता है। दुर्भाग्य से, यह कुछ ऐसा है जिसे कई उद्यम अभी भी缺 हैं।

कम से कम, संगठनों को अपने व्यापक अनुपालन और शासन कार्यक्रमों को एआई पहलों पर लागू करना चाहिए। उन्हें एआई मॉडल को खिलाने वाले डेटा पर उपयुक्त रिकॉर्ड को कब्जे में लेने और बनाए रखने की आवश्यकता है, साथ ही मॉडल और प्रणालियों के डिजाइन, साथ ही एआई के माध्यम से उत्पन्न निर्णय और सामग्री के बारे में भी।

हालांकि, यह भी महत्वपूर्ण हो रहा है कि संगठन एक कदम आगे बढ़ें और यह सुनिश्चित करें कि उनके पास एआई तैनाती के लिए संभावित रूप से उपयोग किए जाने वाले सभी डेटा पर पूर्ण नियंत्रण है, चाहे वह प्रारंभिक प्रशिक्षण के लिए हो या ‘लाइव’ काम के लिए। इसके लिए एक उच्च गुणवत्ता वाली डेटा प्रबंधन और भंडारण रणनीति की आवश्यकता है, जो यह सुनिश्चित करती है कि सभी प्रासंगिक डेटा बुद्धिमानी से एकत्र किया जाता है, साफ किया जाता है, संग्रहीत किया जाता है, वर्गीकृत किया जाता है और हकदार है। इसे प्राप्त करने के लिए, संगठनों को चार कुंजी कदमों पर विचार करने की आवश्यकता है:

1. डेटा वंशावली और उत्पत्ति

यह डेटा के स्रोत, मूल, स्वामित्व और जीवन चक्र के दौरान मेटाडेटा (यदि अनुमति दी जाती है) में परिवर्तनों का रिकॉर्ड रखना शामिल है। यह मेटाडेटा को समृद्ध बनाने और डेटा से व्युत्पन्न सभी अंतर्निहित दस्तावेजों या कलाकृतियों को बनाए रखने का भी अर्थ है।

2. डेटा प्रामाणिकता

इसके लिए डेटा के लिए स्पष्ट स्वामित्व श्रृंखला को बनाए रखना, संग्रहीत वस्तुओं को उनके मूल रूप में संग्रहीत करना और प्राप्त वस्तुओं को हैश करना शामिल है ताकि यह प्रदर्शित किया जा सके कि डेटा अपरिवर्तित रहता है। इसके अलावा, संगठनों को प्रत्येक वस्तु के लिए एक पूर्ण ऑडिट इतिहास बनाए रखना चाहिए, और प्रत्येक वस्तु के संबंध में किसी भी परिवर्तन और घटनाओं के लिए।

3. डेटा वर्गीकरण

डेटा के एक सेट या प्रकार की प्रकृति का निर्धारण करना महत्वपूर्ण है। संगठनों को संरचित डेटा, अर्ध-संरचित डेटा और संरचित डेटा सेटों को शासित करने में सक्षम होना चाहिए। प्रत्येक वर्ग को एक अद्वितीय स्कीमा देना संगठनों को विविध डेटा सेटों को प्रबंधित करने की अनुमति दे सकता है बिना एक आकार-फिट-सभी तय ओंटोलॉजी के साथ – डेटा को अनावश्यक रूप से मैनिपुलेट करने से बचने के लिए इसे एक लचीले डेटा संरचना में मजबूर करने के लिए।

4. डेटा सामान्यीकरण

मेटाडेटा की सामान्य परिभाषाएं और प्रारूप स्थापित करना विश्लेषण और एआई समाधानों के लिए महत्वपूर्ण है। स्पष्ट रूप से परिभाषित स्कीमा एक महत्वपूर्ण तत्व हैं, साथ ही डेटा को सुसंगत और सामान्य दृश्य बनाए रखने के लिए परिवर्तित या मैप करने में सक्षम उपकरण।

5. डेटा हकदारी

उद्यमों को विशिष्ट हकदारी नियंत्रण की आवश्यकता है, जिसमें वस्तु या क्षेत्र स्तर पर उपयोगकर्ता या प्रणाली प्रोफाइल के आधार पर। इसका अर्थ है कि उपयोगकर्ताओं और प्रणालियों को हकदार होने वाले डेटा तक पहुंच प्रदान की जाती है, जबकि उन लोगों के लिए पहुंच को प्रतिबंधित या सीमित किया जाता है जो नहीं हैं।

इन महत्वपूर्ण तत्वों के साथ, व्यवसाय एआई मॉडल को प्रदान किए गए डेटा की गुणवत्ता और अनुपालन सुनिश्चित करने के लिए सबसे अच्छी स्थिति में होंगे। एआई उद्योगों भर में सुधार और दक्षता लाएगा – लेकिन इसके लिए होने के लिए, एक मजबूत डेटा आधार आवश्यक है।