एआई ट्रस्ट गैप को पाटना

एआई अपनी अपनाने के एक महत्वपूर्ण मोड़ पर पहुंच गया है। व्यवसाय एआई को अपना रहे हैं, जो कि इसके वादे से प्रेरित है कि यह परिचालन कुशलता में कई गुना सुधार कर सकता है।

एक हालिया स्लैक सर्वेक्षण में पाया गया कि एआई अपनाने में तेजी आ रही है, जिसमें कार्यस्थलों में एआई का उपयोग 24% की हालिया वृद्धि हुई है और 96% सर्वेक्षण किए गए कार्यकारियों का मानना है कि “यह उनके व्यवसाय के संचालन में एआई को एकीकृत करने के लिए जरूरी है।”

हालांकि, एआई की उपयोगिता और इसके संभावित प्रतिकूल प्रभावों के बारे में बढ़ती चिंता के बीच एक विभाजन है। केवल 7% डेस्क वर्कर्स मानते हैं कि एआई से उत्पन्न आउटपुट उनकी काम से संबंधित कार्यों में मदद करने के लिए पर्याप्त विश्वसनीय हैं।

यह अंतर कार्यकारियों के एआई एकीकरण के प्रति उत्साह और कर्मचारियों की संदेह के बीच तीव्र विपरीत में स्पष्ट है, जो कि ऐसे कारकों से संबंधित है:

• पूर्वाग्रह और न्यायसंगतता: एआई प्रणाली मौजूदा पूर्वाग्रहों को बढ़ावा दे सकती हैं या حتى उन्हें बढ़ा सकती हैं, जिससे अन्यायपूर्ण परिणाम हो सकते हैं।
• गोपनीयता और सुरक्षा: कर्मचारी चिंतित हैं कि उनके व्यक्तिगत डेटा को एआई प्रणालियों द्वारा कैसे एकत्र किया जाता है, संग्रहीत किया जाता है, और उपयोग किया जाता है।
• अपारदर्शी निर्णय लेना: एआई प्रणालियां अक्सर “ब्लैक बॉक्स” के रूप में काम करती हैं, जो मानवों के लिए समझना या समझाना मुश्किल होता है।
• स्वचालन चिंता: एक व्यापक डर है कि एआई मानव नौकरियों को प्रतिस्थापित करेगा, जिससे बेरोजगारी और आर्थिक अस्थिरता हो सकती है।

विश्वास बनाने में विधायी भूमिका

इन बहुस्तरीय विश्वास मुद्दों को संबोधित करने के लिए, विधायी उपायों को एक आवश्यक कदम के रूप में देखा जा रहा है। विधायी उपाय एआई विकास और तैनाती को नियंत्रित करने में एक महत्वपूर्ण भूमिका निभा सकते हैं, जिससे विश्वास बढ़ सकता है। प्रमुख विधायी दृष्टिकोण में शामिल हैं:

• डेटा संरक्षण और गोपनीयता कानून: डेटा संरक्षण कानूनों को लागू करना सुनिश्चित करता है कि एआई प्रणालियां व्यक्तिगत डेटा को जिम्मेदारी से संभालती हैं। नियम जैसे कि यूरोपीय संघ में सामान्य डेटा संरक्षण नियम (जीडीपीआर) एक मानक के रूप में काम करते हैं, जो पारदर्शिता, डेटा कम से कमकरण, और उपयोगकर्ता सहमति को अनिवार्य करते हैं। विशेष रूप से, जीडीपीआर का अनुच्छेद 22 स्वचालित निर्णय लेने के संभावित प्रतिकूल प्रभावों से डेटा विषयों की रक्षा करता है। हाल के यूरोपीय संघ के न्यायालय के फैसले एक व्यक्ति के अधिकारों की पुष्टि करते हैं कि उन्हें स्वचालित निर्णय लेने के अधीन नहीं किया जाना चाहिए। जर्मन निवासी को एक स्वचालित क्रेडिट निर्णय प्रणाली के आधार पर एक बैंक ऋण से इनकार करने के मामले में, स्कुफा होल्डिंग एजी में, न्यायालय ने फैसला सुनाया कि अनुच्छेद 22 संगठनों को एआई प्रौद्योगिकियों के उपयोग से संबंधित गोपनीयता अधिकारों की रक्षा के लिए उपायों को लागू करने की आवश्यकता है।
• एआई नियम: यूरोपीय संघ ने एआई अधिनियम (ईयू एआईए) को अनुमोदित किया है, जो जोखिम स्तर के आधार पर एआई प्रणालियों के उपयोग को नियंत्रित करने का उद्देश्य रखता है। अधिनियम में उच्च जोखिम वाली एआई प्रणालियों के लिए अनिवार्य आवश्यकताएं शामिल हैं, जिनमें डेटा गुणवत्ता, प्रलेखन, पारदर्शिता और मानव पर्यवेक्षण शामिल हैं। एआई नियमों का एक प्रमुख लाभ यह है कि यह एआई प्रणालियों की पारदर्शिता और समझने योग्यता को बढ़ावा देता है। इसके अलावा, ईयू एआईए खातों के लिए एक स्पष्ट जवाबदेही ढांचा स्थापित करता है, जो यह सुनिश्चित करता है कि एआई प्रणालियों के विकासकर्ता, संचालक और यहां तक कि उपयोगकर्ता भी अपने कार्यों और एआई तैनाती के परिणामों के लिए जिम्मेदार हैं। इसमें नुकसान के मामले में निवारण के तंत्र भी शामिल हैं। जब व्यक्तियों और संगठनों को उनके कार्यों के लिए जवाबदेह ठहराया जाता है, तो यह विश्वास बढ़ाता है कि एआई प्रणालियों का जिम्मेदारी से प्रबंधन किया जा रहा है।

विश्वसनीय एआई की संस्कृति को बढ़ावा देने के लिए मानक पहल

कंपनियों को नए कानूनों के क्रियान्वित होने की प्रतीक्षा नहीं करनी चाहिए ताकि यह निर्धारित किया जा सके कि उनकी प्रक्रियाएं नैतिक और विश्वसनीय दिशानिर्देशों के भीतर हैं। एआई नियमन विश्वसनीय एआई प्रशासन और सर्वोत्तम प्रथाओं को लागू करने के लिए संगठनों को सशक्त बनाने वाली उभरती एआई मानक पहलों के साथ काम करता है, जो एआई प्रणालियों के पूरे जीवन चक्र में फैला हुआ है, जिसमें डिजाइन, कार्यान्वयन, तैनाती और अंततः निष्कासन शामिल है।

संयुक्त राज्य अमेरिका में राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (एनआईएसटी) ने एआई जोखिम प्रबंधन ढांचा विकसित किया है ताकि संगठनों को एआई से संबंधित जोखिमों को प्रबंधित करने में मदद मिल सके। ढांचा चार मूल कार्यों के आसपास संरचित है:

• एआई प्रणाली और इसके संदर्भ को समझना, जिसमें एआई प्रणाली के उद्देश्य, हितधारकों और संभावित प्रभावों को परिभाषित करना शामिल है।
• एआई प्रणाली से जुड़े जोखिमों को मात्रा में व्यक्त करना, जिसमें तकनीकी और गैर-तकनीकी पहलुओं को शामिल किया जाता है। इसमें प्रणाली के प्रदर्शन, विश्वसनीयता और संभावित पूर्वाग्रहों का मूल्यांकन शामिल है।

• पहचाने गए जोखिमों को कम करने के लिए रणनीतियों को लागू करना, जिसमें एआई प्रणाली को स्वीकार्य जोखिम स्तरों के भीतर संचालित करने के लिए नीतियों, प्रक्रियाओं और नियंत्रणों का विकास शामिल है।
• एआई प्रणाली और इसके जोखिम प्रबंधन प्रक्रियाओं की देखरेख के लिए शासन संरचना और जवाबदेही तंत्र स्थापित करना, जिसमें जोखिम प्रबंधन रणनीति की नियमित समीक्षा और अद्यतन शामिल है।

जनरेटिव एआई प्रौद्योगिकियों में प्रगति के जवाब में, एनआईएसटी ने आर्टिफ़िशियल इंटेलिजेंस रिस्क मैनेजमेंट फ्रेमवर्क: जनरेटिव आर्टिफ़िशियल इंटेलिजेंस प्रोफ़ाइल प्रकाशित किया है, जो फाउंडेशनल मॉडल्स से जुड़े विशिष्ट जोखिमों को कम करने के लिए मार्गदर्शन प्रदान करता है। ऐसे उपायों में दुर्भावनापूर्ण उपयोगों (जैसे कि भ्रामक जानकारी, अपमानजनक सामग्री, घृणा भाषण) से सुरक्षा शामिल है, और एआई के नैतिक अनुप्रयोगों पर ध्यान केंद्रित किया जाता है जो न्याय, गोपनीयता, सूचना सुरक्षा, बौद्धिक संपदा और स्थिरता जैसे मानव मूल्यों पर केंद्रित होते हैं।

इसके अलावा, अंतर्राष्ट्रीय मानकीकरण संगठन (आईएसओ) और अंतर्राष्ट्रीय विद्युत तकनीकी आयोग (आईईसी) ने संयुक्त रूप से आईएसओ/आईईसी 23894 विकसित किया है, जो एआई जोखिम प्रबंधन के लिए एक व्यापक मानक है। यह मानक एआई जीवन चक्र में जोखिमों की पहचान और प्रबंधन के लिए एक व्यवस्थित दृष्टिकोण प्रदान करता है, जिसमें जोखिम पहचान, जोखिम गंभीरता का मूल्यांकन, जोखिम को कम करने या避 करने के लिए उपचार, और निरंतर निगरानी और समीक्षा शामिल है।

एआई और सार्वजनिक विश्वास का भविष्य

आगे देखते हुए, एआई और सार्वजनिक विश्वास का भविष्य संभवतः कई महत्वपूर्ण कारकों पर निर्भर करेगा जिन्हें सभी संगठनों को अपनाना चाहिए:

• संभावित अनुपालन मुद्दों की पहचान करने के लिए एक व्यापक जोखिम मूल्यांकन करना। अपने एआई प्रणालियों में नैतिक प्रभाव और संभावित पूर्वाग्रहों का मूल्यांकन करें।
• कानूनी, अनुपालन, आईटी और डेटा विज्ञान पेशेवरों सहित एक क्रॉस-फंक्शनल टीम की स्थापना करना। यह टीम नियामक परिवर्तनों की निगरानी करने और यह सुनिश्चित करने के लिए जिम्मेदार होनी चाहिए कि आपकी एआई प्रणालियां नए नियमों का पालन करती हैं।
• एआई पहलों के प्रबंधन के लिए नीतियों, प्रक्रियाओं और भूमिकाओं सहित एक शासन संरचना को लागू करना। एआई संचालन और निर्णय लेने की प्रक्रियाओं में पारदर्शिता सुनिश्चित करें।
• नियमित आंतरिक लेखा परीक्षा करना ताकि यह सुनिश्चित किया जा सके कि एआई नियमों का पालन किया जा रहा है। एआई प्रणाली के प्रदर्शन और नियामक मानकों के अनुपालन की निगरानी के लिए निगरानी उपकरणों का उपयोग करें।
• कर्मचारियों को एआई नैतिकता, नियामक आवश्यकताओं और सर्वोत्तम प्रथाओं के बारे में शिक्षित करना। एआई नियमों और अनुपालन रणनीतियों में परिवर्तनों के बारे में कर्मचारियों को सूचित रखने के लिए नियमित प्रशिक्षण सत्र प्रदान करें।
• एआई विकास प्रक्रियाओं, डेटा उपयोग और निर्णय मानदंडों के विस्तृत रिकॉर्ड बनाए रखना। यदि आवश्यक हो तो नियामकों को प्रस्तुत करने के लिए रिपोर्ट तैयार करने के लिए तैयार रहें।
• नियामक निकायों के साथ संबंध बनाना और सार्वजनिक परामर्श में भाग लेना। प्रस्तावित नियमों पर प्रतिक्रिया प्रदान करें और जब आवश्यक हो तो स्पष्टीकरण मांगें।

विश्वसनीय एआई प्राप्त करने के लिए एआई को संदर्भित करना

अंततः, विश्वसनीय एआई डेटा की अखंडता पर निर्भर करता है। जनरेटिव एआई की बड़े डेटा सेट पर निर्भरता इसके आउटपुट की सटीकता और विश्वसनीयता के बराबर नहीं है; यदि कुछ भी है, तो यह मानकों के विपरीत है। रिट्रीवल ऑगमेंटेड जेनरेशन (आरएजी) एक नवीन तकनीक है जो “स्थिर एलएलएम को संदर्भ-विशिष्ट डेटा के साथ जोड़ती है और इसे एक अत्यधिक जानकार सहायक के रूप में सोचा जा सकता है जो प्रश्न संदर्भ को एक व्यापक ज्ञान आधार से विशिष्ट डेटा से मेल खाता है”। आरएजी संगठनों को संदर्भ-विशिष्ट अनुप्रयोगों को वितरित करने में सक्षम बनाता है जो गोपनीयता, सुरक्षा, सटीकता और विश्वसनीयता की अपेक्षाओं का पालन करते हैं। आरएजी ज्ञान आधार या दस्तावेज़ भंडार से प्रासंगिक जानकारी पुनर्प्राप्त करके उत्पन्न प्रतिक्रियाओं की सटीकता में सुधार करता है। यह मॉडल को सटीक और अद्यतन जानकारी पर आधारित उत्पन्न करने में सक्षम बनाता है।

आरएजी संगठनों को उच्च सटीकता, संदर्भ-जागरूक और अनुकूलनीय एआई अनुप्रयोगों को बनाने में सक्षम बनाता है जो निर्णय लेने में सुधार करते हैं, ग्राहक अनुभवों को बढ़ाते हैं, संचालन को सुव्यवस्थित करते हैं और महत्वपूर्ण प्रतिस्पर्धी लाभ प्राप्त करते हैं।

एआई विश्वास अंतर को पाटने में पारदर्शिता, जवाबदेही और एआई का नैतिक उपयोग सुनिश्चित करना शामिल है। जबकि इन मानकों को बनाए रखने के लिए कोई एकल उत्तर नहीं है, व्यवसायों के पास रणनीतियां और उपकरण हैं जिनका उपयोग वे कर सकते हैं। मजबूत डेटा गोपनीयता उपायों को लागू करना और नियामक मानकों का पालन करना उपयोगकर्ता विश्वास बनाता है। एआई प्रणालियों में पूर्वाग्रह और असंगतताओं के लिए नियमित रूप से लेखा परीक्षा करना न्यायसंगतता सुनिश्चित करता है। बड़े भाषा मॉडल (एलएलएम) को उद्देश्य-निर्मित एआई के साथ बढ़ाना स्वामित्व वाले ज्ञान आधारों और डेटा स्रोतों को एकीकृत करके विश्वास प्रदान करता है। एआई की क्षमताओं और सीमाओं के बारे में हितधारकों के साथ जुड़ना भी विश्वास और स्वीकृति को बढ़ावा देता है।

विश्वसनीय एआई प्राप्त करना आसान नहीं है, लेकिन यह हमारे भविष्य के लिए एक महत्वपूर्ण प्रतिबद्धता है।