नवरीना सिंह, क्रेडो एआई के सीईओ और संस्थापक – साक्षात्कार श्रृंखला

नवरीना सिंह क्रेडो एआई की सीईओ और संस्थापक हैं, जो एक कंपनी है जो पहले व्यापक एआई गवर्नेंस SaaS प्लेटफ़ॉर्म को डिज़ाइन कर रही है जो कंपनियों और व्यक्तियों को विश्वसनीय और नैतिक एआई को बेहतर ढंग से समझने और वितरित करने में सक्षम बनाती है, नए नियमों और नीतियों से आगे रहती है और एक एआई रिकॉर्ड बनाती है जो संगठन भर में ऑडिट करने योग्य और पारदर्शी है।

कंपनी ने चुपचाप काम करते हुए प्रभावशाली ग्राहक आधार बनाया, जिसमें दुनिया के बड़े सरकारी ठेकेदार और वित्तीय सेवा कंपनियां तथा अन्य Fortune 100 ब्रांड शामिल हैं।

आप भारत के एक छोटे से शहर में पली-बढ़ी, जहां आपका परिवार मध्यम वर्ग से था, आपने इंजीनियरिंग और एआई के क्षेत्र में कैसे आकर्षण महसूस किया?

मैं एक मध्यम वर्ग के परिवार से आती हूं; मेरे पिता चार दशकों तक सैन्य में थे और मेरी मां एक शिक्षक थीं जो फैशन डिज़ाइनर बन गईं। मुझे बचपन से ही जिज्ञासा और वैज्ञानिक खोजों के प्रति प्रेम को प्रोत्साहित किया गया था और मुझे एक सुरक्षित स्थान दिया गया था जहां मैं “क्या होगा” की खोज कर सकती थी।

जब मैं भारत में पल रही थी, तब महिलाओं को पुरुषों की तुलना में इतने अवसर नहीं मिले थे। समाज द्वारा स्वीकार्य होने के आधार पर लड़कियों के लिए पहले से ही बहुत सारे निर्णय लिए जा चुके थे। एक अच्छा जीवन प्रदान करने के लिए शिक्षा के माध्यम से ही परिवार को आगे बढ़ाया जा सकता था।

हाई स्कूल से स्नातक करने के बाद, मेरे पास अपना पहला कंप्यूटर था जो मेरे लिए दुनिया की खिड़की थी। मैं हार्डवेयर में बहुत रुचि रखती थी और ऑनलाइन सीखने में घंटों बिताती थी कि मदरबोर्ड को कैसे अलग किया जाए, रोबोटिक्स एप्लिकेशन बनाने के लिए, कोडिंग सीखने के लिए, अपने घर में बिजली को फिर से करने के लिए (हे!) और बहुत कुछ। इंजीनियरिंग मेरे लिए एक सुरक्षित स्थान बन गया जहां मैं प्रयोग कर सकती थी, अन्वेषण कर सकती थी, निर्माण कर सकती थी और अपने आविष्कारों के माध्यम से एक दुनिया का अनुभव कर सकती थी जिसमें मैं हिस्सा लेना चाहती थी। मुझे यह देखकर प्रेरित किया गया था कि प्रौद्योगिकी परिवर्तन लाने के लिए एक शक्तिशाली उपकरण हो सकती है, विशेष रूप से महिलाओं के लिए।

बचपन में मेरे संसाधन सीमित थे, लेकिन संभावनाएं नहीं। मैंने हमेशा सपना देखा था कि मैं संयुक्त राज्य अमेरिका में जाऊं ताकि प्रौद्योगिकी में एक मजबूत आधार बना सकूं और मानवता की सबसे बड़ी चुनौतियों का समाधान कर सकूं। मैं 2001 में विस्कॉन्सिन-मैडिसन विश्वविद्यालय में अपनी इंजीनियरिंग यात्रा जारी रखने आई थी।

लगभग दो दशकों के इंजीनियरिंग में, मुझे कई फ्रंटियर प्रौद्योगिकियों पर काम करने का अवसर मिला, मोबाइल से लेकर ऑगमेंटेड रियलिटी तक।

2011 में, मैंने क्वालकॉम (QCOM ) में नई उभरती व्यवसायों को बनाने के लिए आर्टिफिशियल इंटेलिजेंस का अन्वेषण करना शुरू किया। मैंने माइक्रोसॉफ्ट (MSFT ) और क्वालकॉम में भाषण, दृष्टि और एनएलपी में एआई और मशीन लर्निंग पर आधारित व्यवसाय और अनुप्रयोगों को विकसित करने में समय बिताया। जैसा कि मैंने एआई और मशीन लर्निंग के बारे में अधिक जाना, यह स्पष्ट हो गया कि यह फ्रंटियर प्रौद्योगिकी हमारे जीवन को कल्पना से परे बदल देगी।

एंटरप्राइज़ स्तर पर AI बनाने से मुझे समझ आया कि अनियंत्रित रहने पर यह तकनीक लोगों और समुदायों का अहित कर सकती है। नेताओं के रूप में हमें अपने द्वारा बनाई जाने वाली तकनीक की पूरी जिम्मेदारी लेनी चाहिए। हमें मानवता के लिए इसके लाभ बढ़ाने और जोखिम कम करने के लिए सक्रिय रहना चाहिए। आखिरकार, ‘हम जो बनाते हैं, वह हमें भी गढ़ता है।’ जिम्मेदारी से निर्माण करना महत्वपूर्ण है; इसी ने मेरे करियर के अगले चरण, AI गवर्नेंस के निर्माण, को प्रेरित किया।

आपने एआई गवर्नेंस के बारे में कब से सोचा?

क्वालकॉम में नवाचार के प्रमुख के रूप में, हम एआई के माध्यम से लाने वाली संभावनाओं का अन्वेषण कर रहे थे। हमारा प्रारंभिक काम आपूर्ति श्रृंखला में सहयोगी रोबोटों पर केंद्रित था। यह मेरा पहला अनुभव था एआई के “वास्तविक” जोखिमों के साथ, विशेष रूप से भौतिक सुरक्षा के संबंध में जो इन रोबोटिक प्रणालियों के साथ काम कर रहे थे।

इस दौरान, हमने सोल मैशीन जैसे स्टार्टअप के साथ काफी समय बिताया, जो नए उपयोग के मामलों को सीखने और उन्हें तेजी से करने के लिए उन्हें भागीदार बनाने के तरीकों की खोज कर रहे थे। सोल मैशीन ने अपने बेबी अवतार, “बेबी एक्स” का एक नया संस्करण जारी किया था। इस न्यूरल नेट पावर्ड बेबी को देखना, जो सक्रिय रूप से दुनिया के चारों ओर से सीख रहा था, मुझे रोक दिया और एआई प्रौद्योगिकी के अनपेक्षित परिणामों पर प्रतिबिंबित किया। मेरी बेटी जिया उसी समय पैदा हुई थी, और हमने उसे सोल मैशीन बेबी “एक्स” के बाद बेबी “जेड” नाम दिया था। मैंने इसके बारे में बहुत कुछ बात की है, जिसमें 2019 के Women In Product मुख्य भाषण भी शामिल है।

बेबी एक्स और बेबी जेड की सीखने की यात्रा आश्चर्यजनक रूप से समान थी! जैसा कि जिया बड़ी हो रही थी, हम उसे शुरुआती शब्दावली और सीखने के लिए उपकरण प्रदान कर रहे थे। समय के साथ, उसने दुनिया को समझना शुरू किया और खुद ही चीजों को एक साथ रखा। बेबी एक्स, न्यूरल नेट बेबी, दृष्टि सेंसर और भाषण मान्यता के माध्यम से भी सीख रहा था, और जल्द ही मानव दुनिया की गहरी समझ विकसित कर रहा था।

इन शुरुआती एआई क्षणों ने मुझे यह स्पष्ट कर दिया कि यह प्रौद्योगिकी के आसपास प्रभावी गार्डरेल लगाने और सुनिश्चित करने के लिए महत्वपूर्ण था कि यह मानवता की सेवा में तैनात है।

क्रेडो एआई की उत्पत्ति की कहानी क्या है?

क्वालकॉम के बाद, मुझे माइक्रोसॉफ्ट में एआई प्रौद्योगिकियों के व्यावसायीकरण का नेतृत्व करने के लिए पहले व्यवसाय विकास समूह और बाद में उत्पाद समूह में भर्ती किया गया था। अपने कार्यकाल के दौरान, मुझे विभिन्न एआई प्रौद्योगिकियों पर काम करने का अवसर मिला, जिनमें से कुछ में कॉन्वर्सेशनल एआई, अनुबंध बुद्धिमत्ता, दृश्य निरीक्षण और भाषण संचालित उत्पाद खोज शामिल थीं।

हालांकि, क्वालकॉम में एआई गवर्नेंस का बीज बोने के बाद, मैं एआई प्रौद्योगिकियों के विकास में बढ़ती “पर्यवेक्षण घाटे” को देखती रही। एक उत्पाद नेता के रूप में, मैं डेटा विज्ञान और इंजीनियरिंग टीम के साथ काम कर रही थी, और हम उच्च प्रदर्शन वाले एआई अनुप्रयोगों को बनाने और बाजार में तेजी से तैनात करने के लिए प्रेरित थे।

हम अनुपालन और गवर्नेंस को ऐसा प्रवेश-जांच चरण मानते थे जो नवाचार की गति धीमी करता है। लेकिन तकनीकी पेशेवरों और जोखिम, अनुपालन तथा ऑडिट से जुड़े निगरानी पेशेवरों के बीच गवर्नेंस की खाई को लेकर मेरी बढ़ती चिंताओं ने मुझे AI गवर्नेंस लागू करने की चुनौतियों की और पड़ताल करने के लिए प्रेरित किया।

एआई गवर्नेंस के बारे में सभी अनुत्तरित प्रश्नों ने मुझे उत्तर खोजने के लिए प्रेरित किया। इसलिए, मैंने एक गैर-लाभकारी संगठन मेराट (मार्केटप्लेस फॉर एथिकल एंड रिस्पॉन्सिबल एआई टूल्स) की स्थापना की, जिसका उद्देश्य जिम्मेदार एआई के विकास पर ध्यान केंद्रित करने वाले स्टार्टअप और ग्लोबल 2000 के लिए एक पारिस्थितिकी तंत्र बनाना था।

मेराट में प्रारंभिक प्रयोग के माध्यम से, यह स्पष्ट हो गया कि एआई और एमएल अनुप्रयोगों के लिए व्यापक गवर्नेंस को सशक्त बनाने वाले बहु-हितधारक उपकरण प्रदान करने वाले स्टार्टअप नहीं थे – जब तक कि क्रेडो एआई नहीं आया। यह अंतर मेरे लिए एआई को जानबूझकर मार्गदर्शन देने के मिशन को पूरा करने का अवसर था। मेरा अनुमान यह था कि एआई क्रांति का अगला मोर्चा गवर्नेंस द्वारा निर्देशित किया जाएगा। गवर्नेंस को अपनाने वाले उद्यम भरोसेमंद ब्रांडों के रूप में अग्रणी बनेंगे।

प्रसिद्ध AI विशेषज्ञ एंड्रू एनजी द्वारा स्थापित इनक्यूबेटर AI Fund ने मुझसे संपर्क किया। वह AI की ऑडिट-योग्यता और गवर्नेंस के उन्हीं विषयों पर काम कर रहा था जिन पर मैं पिछले दशक से गहराई से विचार कर रही थी।

क्रेडो एआई को 28 फरवरी, 2020 को एआई फंड से वित्त पोषण के साथ शामिल किया गया था।

क्रेडो का अर्थ है “एक सेट ऑफ वैल्यूज जो आपके कार्यों को मार्गदर्शन करती है।” क्रेडो एआई के साथ, हमारा दृष्टिकोण उद्यमों को उच्चतम नैतिक मानकों के साथ एआई बनाने में सक्षम बनाना है।

एक पिछले साक्षात्कार में, आपने चर्चा की कि भविष्य में ब्रांडों को केवल एआई का निर्माण और तैनाती पर भरोसा नहीं किया जाएगा, बल्कि एआई को मानवता की सेवा में तैनात करने के लिए यह कैसे स्केल करता है। क्या आप इस पर विस्तार से बता सकती हैं?

आर्टिफिशियल इंटेलिजेंस इस शताब्दी की खेल बदलने वाली प्रौद्योगिकियों में से एक है और अर्थव्यवस्था और समाज के लिए परिवर्तनकारी अवसर प्रदान करती है। यह 2030 तक वैश्विक अर्थव्यवस्था में लगभग 16 ट्रिलियन डॉलर का योगदान देने के लिए ट्रैक पर है।

हालांकि, पिछले कुछ वर्षों में एआई के प्रमुख खतरों (और नहीं, यह रोबोट ओवरलॉर्ड नहीं है!) पर प्रकाश डाला गया है जो पहले से ही यहां हैं। उदाहरण के लिए, न्यूनतम पुनरावृत्ति (एक अपराधी व्यवहार में वापसी के लिए अनुकूलन) के लिए अनुकूलित न्यायिक अल्गोरिदम पूर्वाग्रह पेश कर सकते हैं और जिन लोगों को परोल मिलनी चाहिए उन्हें इनकार कर सकते हैं।

सामाजिक अल्गोरिदम जो संलग्नता के लिए अनुकूलित हैं एक राष्ट्र को विभाजित कर सकते हैं।

अनुचित अल्गोरिदम आपको नौकरी या विश्वविद्यालय में प्रवेश से इनकार करने का कारण बन सकते हैं।

जितनी अधिक स्वायत्तता हम अपने उपकरणों को देते हैं, उतना ही अधिक अनपेक्षित परिणामों का दायरा बढ़ जाता है। असाधारण पैमाने पर असाधारण प्रभाव पैदा होता है, लेकिन हमेशा वह प्रभाव नहीं होता जो हमें लगता है (मैं क्रेडो एआई मैनिफेस्टो में इसके बारे में लिखती हूं)।

मैं भविष्यवाणी करती हूं कि एआई गवर्नेंस में निवेश करने वाले उद्यम, जो उन्हें जिम्मेदारी से एआई बनाने और डेटा के नैतिक उपयोग की प्रतिबद्धता करने में सक्षम बनाता है, वे हितधारकों – ग्राहकों, उपभोक्ताओं, निवेशकों, कर्मचारियों और अन्य लोगों के बीच विश्वास पैदा करने में सक्षम होंगे।

क्रेडो एआई कंपनियों को कैसे जवाबदेह रखता है?

जवाबदेही का अर्थ है अपने कार्यों के लिए जिम्मेदारी स्वीकार करना। एआई विकास और तैनाती के संदर्भ में, इसका अर्थ है कि उद्यमों को न केवल यह तय करना होगा कि “अच्छा” क्या दिखता है, बल्कि उन लक्ष्यों पर कार्रवाई करने के लिए जानबूझकर कदम उठाने होंगे और परिणामों के लिए जिम्मेदारी स्वीकार करनी होगी।

Credo AI उद्यमों की नैतिक और जिम्मेदार AI पहलों में एक मार्गदर्शक की भूमिका निभाना चाहता है, ताकि वे उपयोगकर्ताओं, कर्मचारियों, नियामकों, ऑडिटरों, निवेशकों, अधिकारियों और अन्य हितधारकों के प्रति जवाबदेह रहें। इसलिए Credo AI ने बड़े पैमाने पर नैतिक और जिम्मेदार AI उपलब्ध कराने के लिए वास्तविक समय में काम करने वाला, संदर्भ-आधारित, व्यापक और निरंतर समाधान विकसित किया है।

एआई में विश्वास और जवाबदेही बनाना एक गतिशील प्रक्रिया है। संगठनों को उद्यम मूल्यों पर संरेखित करना होगा, उन मूल्यों को संगठित करना होगा, उन्हें अपनी संगठनात्मक बुनियादी ढांचे में निर्मित करना होगा, प्रभाव का अवलोकन करना होगा और विविध आवाजों के साथ प्रतिक्रिया प्रदान करना होगा। क्रेडो एआई यह जवाबदेही एक व्यापक और वास्तविक समय के समाधान के माध्यम से संभव बनाता है जो एआई तैनाती के लिए अनुपालन और जोखिम को मापता है।

क्रेडो एआई गवर्नेंस समाधान का उपयोग करके, उद्यम:

• अपने एआई उपयोग के मामलों और मॉडलों के लिए गवर्नेंस आवश्यकताओं पर संरेखित कर सकते हैं, जिसमें अनुकूलन योग्य नीति पैक और मॉडल मूल्यांकन मेट्रिक्स चुनने के लिए निर्णय समर्थन उपकरण शामिल हैं।
• उन लक्ष्यों के खिलाफ डेटा और एमएल मॉडल का मूल्यांकन और प्रश्न कर सकते हैं।
• मॉडल विकास और तैनाती के प्रत्येक चरण में तकनीकी विशिष्टताओं को व्यवसाय के लिए कार्रवाई योग्य जोखिम प्रभाव में विश्लेषण कर सकते हैं, ताकि आप गवर्नेंस समस्याओं को पकड़ सकें और उन्हें बड़ी समस्याओं में बदलने से पहले ठीक कर सकें।

क्रेडो एआई मॉडल के निर्माण में लिए गए निर्णयों के मूल को रिकॉर्ड करके साक्ष्य प्रदान करता है। यह साक्ष्य एक रिकॉर्ड होगा जो उद्यम के हितधारकों के साथ साझा किया जाएगा और ऑडिटर के साथ बाहरी रूप से जो एआई के इरादों में विश्वास बनाता है।

यह साक्ष्य अनपेक्षित परिणामों का पूर्वानुमान लगाने और उन्हें रोकने तथा एआई मॉडल की प्रभावशीलता और विश्वसनीयता का मूल्यांकन करने के तरीके को मानक बनाने में मदद करेगा।

हम एआई गवर्नेंस को संभव बनाने के लिए व्यापक मूल्यांकन और आश्वासन के बहुत शुरुआती चरण में हैं, और हम अधिक उद्यमों के साथ काम करने के लिए उत्साहित हैं ताकि जवाबदेही को बढ़ावा दिया जा सके।

क्रेडो एआई कंपनियों को एआई गवर्नेंस को एक बाद के विचार के रूप में देखने से कैसे दूर ले जाता है?

आज की दुनिया में, यह स्पष्ट नहीं है कि वास्तव में “जिम्मेदार”, “नैतिक” और “विश्वसनीय” एआई क्या है, और उद्यम यह कैसे प्रदान कर सकते हैं। हम उद्यमों के लिए इस प्रमुख प्रश्न को पुनः फ्रेम करने में मदद करते हैं, क्रेडो एआई सास प्लेटफ़ॉर्म का उपयोग करके “नैतिकता के अर्थशास्त्र” को प्रदर्शित करने के लिए।

क्रेडो एआई के साथ, उद्यम न केवल न्यायसंगत, अनुपालन और ऑडिट करने योग्य एआई प्रदान कर सकते हैं, बल्कि वे ग्राहक विश्वास भी बना सकते हैं।

ग्राहक विश्वास बनाने से एक कंपनी का ग्राहक आधार बढ़ सकता है और अधिक बिक्री अनलॉक हो सकती है। उदाहरण के लिए, कंपनियां नैतिक एआई का उपयोग करके अपने ग्राहक सेवा चैटबॉट में सर्वोत्तम संभव ग्राहक अनुभव प्रदान कर सकती हैं, या एआई का उपयोग करके उपयोगकर्ता गतिविधि को समझने और उन्हें अतिरिक्त सामग्री या उत्पादों का सुझाव देने के लिए जिम्मेदारी से एआई का उपयोग कर सकती हैं। बेहद संतुष्ट ग्राहक फिर अपने दोस्तों और परिवार के साथ अपने अनुभव को साझा करके सर्वोत्तम विज्ञापन प्रदान करते हैं।

इसके अलावा, तकनीकी और निगरानी कार्यों के बीच सहयोग से उद्यम तेजी से अनुपालन हासिल कर सकते हैं, सूचित जोखिम प्रबंधन कर सकते हैं और ब्रांड तथा नियामकीय जोखिम घटाकर लागत बचा सकते हैं। हम तकनीकी मेट्रिक्स और ठोस व्यावसायिक परिणामों के बीच पुल बनाकर संगठनों को नैतिक AI तैनात करने में मदद करते हैं। नैतिक AI का समर्थन करना केवल ‘नियामकीय अनुपालन’ का बॉक्स टिक करने से कहीं अधिक है। इससे अधिक न्यायसंगत दुनिया में योगदान के अतिरिक्त भी लाभ मिल सकते हैं, हालांकि ऐसा योगदान अपने आप में मूल्यवान है।

जब एक कंपनी उच्च नैतिक मानकों को बनाए रखती है, तो यह वास्तविक व्यावसायिक परिणामों की उम्मीद कर सकती है, जैसे कि बढ़ी हुई राजस्व। दृष्टिकोण को एक अमूर्त “नरम” अवधारणा से एक वस्तुनिष्ठ व्यावसायिक निर्णय में बदलना हमारे लिए एआई गवर्नेंस को कंपनी के आर्थिक और सामाजिक संचालन के महत्वपूर्ण हिस्से के रूप में स्थापित करने का एक प्रमुख तरीका रहा है।

हाल ही में, बिडेन प्रशासन ने राष्ट्रीय कृत्रिम बुद्धिमत्ता सलाहकार समिति बनाई। आपके विचार में, इसके एआई व्यवसायों के लिए क्या परिणाम हैं?

सरकारें वैश्विक स्तर पर एआई को विनियमित करने के लिए पूरी ताकत से काम कर रही हैं, और उद्यमों को तैयार रहने की आवश्यकता है। बिडेन प्रशासन द्वारा राष्ट्रीय एआई सलाहकार समिति का सावधानी से निर्माण और व्हाइट हाउस ओएसटीपी में निवेश एआई प्रणालियों को नियंत्रित करने वाले अधिकार के बिल के आसपास चर्चाओं में कार्रवाई लाने के लिए एक अच्छा पहला कदम है। हालांकि, जिम्मेदार एआई का क्या अर्थ है और हमारे देश और अर्थव्यवस्था के लिए इसका क्या मतलब है, इसे महसूस करने के लिए अभी बहुत काम करने की आवश्यकता है।

मेरा मानना है कि 2022 जिम्मेदार AI पर कार्रवाई का वर्ष होगा। यह अपने AI नैतिक ढांचे को लागू या मजबूत करने वाले उद्यमों के लिए जागने का आह्वान है। अब कंपनियों को मौजूदा ढांचे में कमियों का आकलन करना चाहिए। जिनके पास कोई दृष्टिकोण नहीं है, उन्हें भरोसेमंद AI का मजबूत ढांचा लागू करना चाहिए, ताकि वे AI के युग में सफल नेतृत्व के लिए तैयार हों।

हम अधिक कठोर और नरम विनियमन की उम्मीद कर सकते हैं। व्हाइट हाउस की कार्रवाई के अलावा, सीनेट के अल्गोरिदमिक जवाबदेही अधिनियम के मसौदे, फेडरल ट्रेड कमीशन (एफटीसी) द्वारा एआई पूर्वाग्रह के बारे में मार्गदर्शन, और अधिक से अधिक गति है।

यदि हम भविष्य में तेजी से आगे बढ़ते हैं, तो पांच साल में एआई नैतिकता और एआई गवर्नेंस कितनी महत्वपूर्ण होगी?

हम एआई गवर्नेंस के शुरुआती चरण में हैं। एआई गवर्नेंस कितना महत्वपूर्ण है, इसके लिए यहां कुछ भविष्यवाणियां दी गई हैं:

• नैतिक एआई गवर्नेंस एक शीर्ष संगठनात्मक प्राथमिकता बन जाएगी

उद्यम एआई का लाभ उठाने और अपने व्यवसाय में निवेश करना जारी रखते हैं। आईडीसी ने 2022 में एआई पर 340 बिलियन डॉलर का खर्च अनुमानित किया है। गवर्नेंस के बिना, उद्यम एआई में निवेश करने से हिचकिचाएंगे क्योंकि पूर्वाग्रह, सुरक्षा, सटीकता और इन प्रणालियों की अनुपालन के बारे में चिंताओं के कारण।

बिना विश्वास के, उपभोक्ता एआई-आधारित उत्पादों या डेटा साझा करने के लिए तैयार नहीं होंगे जो इन प्रणालियों का निर्माण करते हैं। अगले पांच वर्षों में, नैतिक एआई गवर्नेंस एक बोर्डरूम प्राथमिकता और एक महत्वपूर्ण मीट्रिक बन जाएगी जिसे कंपनियों को अपने हितधारकों के भरोसे का निर्माण करने के लिए प्रकट करना और रिपोर्ट करना होगा।

• नए सामाजिक-तकनीकी नौकरी श्रेणियां उद्यमों के भीतर उभरेंगी

हम पहले से ही नैतिकता के आगे उद्यमों को देख रहे हैं जो अपने विकास को भविष्य के लिए तैयार करने के लिए महत्वपूर्ण रूप से निवेश कर रहे हैं ताकि वे न्यायसंगत, अनुपालन और ऑडिट करने योग्य एआई अनुप्रयोगों का निर्माण कर सकें।

एआई के बढ़ते नियामक परिदृश्य और बड़े पैमाने पर जवाबदेही संरचनाओं को लागू करने के बारे में जानने के लिए उद्यमों को तेजी से आगे बढ़ने की आवश्यकता है। जैसा कि एथिकल एआई कार्यान्वयन का क्षेत्र विकसित होता है, एक नई सामाजिक-तकनीकी नौकरी श्रेणी उत्पन्न हो सकती है जो इन बातचीत को सुगम बनाने और इस क्षेत्र की जिम्मेदारी संभालने में मदद करेगी। कर्मचारी वर्ग का यह नया हिस्सा तकनीकी और निगरानी कार्यों के बीच मध्यस्थ बनकर साझा मानक और लक्ष्य विकसित करने में सहायता कर सकता है।

• नई एआई संचालित अनुभव सख्त गवर्नेंस की मांग करेंगे

कृत्रिम बुद्धिमत्ता के अपेक्षित और अनपेक्षित परिणामों का प्रबंधन, विशेष रूप से मेटावर्स और वेब 3 दुनिया में प्रवेश करते समय, महत्वपूर्ण है। एआई के जोखिम वास्तविक दुनिया में मौजूद हैं और आभासी दुनिया में, लेकिन बाद में उन्हें और बढ़ा दिया जाता है।

मेटावर्स में एआई पर्यवेक्षण के बिना गोता लगाने से उद्यम अपने ग्राहकों को चुनौतियों जैसे पहचान की चोरी और धोखाधड़ी के लिए जोखिम में डालते हैं। यह महत्वपूर्ण है कि एआई और गवर्नेंस मुद्दों को वास्तविक दुनिया में हल किया जाए ताकि मेटावर्स में उपभोक्ताओं को सुरक्षित रखा जा सके।

• नैतिक एआई गवर्नेंस में नए पारिस्थितिकी तंत्र उभरेंगे

दुनिया यह समझने के लिए जाग गई है कि एआई गवर्नेंस जिम्मेदार एआई को वास्तविक बनाने के लिए बुनियादी निर्माण खंड का प्रतिनिधित्व करती है। अगले कुछ वर्षों में, हम एक प्रतिस्पर्धी और गतिशील बाजार देखेंगे जो सेवा प्रदाताओं को उपकरण, सेवाएं, शिक्षा और अन्य क्षमताएं प्रदान करने के लिए उभरेंगे जो इस विशाल आवश्यकता का समर्थन करेंगे।

इसके अलावा, हम मौजूदा एमएलओपीएस और जीआरसी प्लेटफार्मों के समेकन और पूरकता को देखेंगे ताकि एआई के लिए गवर्नेंस और मूल्यांकन क्षमताएं लाई जा सकें।

क्या आपको क्रेडो एआई के बारे में और कुछ साझा करना है?

नैतिक एआई गवर्नेंस एक ऐसा निवेश है जो भविष्य के लिए तैयार करता है और जिसे न करने का जोखिम आप नहीं उठा सकते, और आज इसे शुरू करने का सबसे अच्छा दिन है।

विस्तृत साक्षात्कार के लिए धन्यवाद और एआई गवर्नेंस और नैतिकता के बारे में अपने सभी अंतर्दृष्टि साझा करने के लिए, पाठक जो अधिक जानना चाहते हैं उन्हें क्रेडो एआई पर जाना चाहिए।