एआई मॉडल और प्लेटफ़ॉर्म
एआई के जोखिमों और मजबूत एआई नियमन की तत्परता पर टेक लीडर्स का ध्यान
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
पिछले कुछ वर्षों में, एआई की वृद्धि और प्रगति अत्यधिक रही है। स्टेटिस्टा की रिपोर्ट के अनुसार, 2024 तक, वैश्विक एआई बाजार लगभग 3000 अरब डॉलर का राजस्व उत्पन्न करेगा, जो 2015 में 126 अरब डॉलर था। हालांकि, टेक लीडर्स अब एआई के विभिन्न जोखिमों के बारे में चेतावनी दे रहे हैं।
विशेष रूप से, जनरेटिव एआई मॉडल जैसे कि चैटजीपीटी की हालिया लहर ने स्वास्थ्य सेवा, शिक्षा, वित्त जैसे डेटा-संवेदनशील क्षेत्रों में नए क्षमताएं प्रदान की हैं। ये एआई-समर्थित विकास कई एआई कमियों के कारण असुरक्षित हैं जिन्हें दुर्भाग्यपूर्ण एजेंट उजागर कर सकते हैं।
आइए चर्चा करें कि एआई विशेषज्ञ हाल के विकास के बारे में क्या कह रहे हैं और एआई के संभावित जोखिमों पर प्रकाश डालें। हम यह भी संक्षेप में बताएंगे कि इन जोखिमों को कैसे प्रबंधित किया जा सकता है।
एआई के जोखिमों से संबंधित टेक लीडर्स और उनकी चिंताएं
जेफ्री हिंटन
जेफ्री हिंटन – एक प्रसिद्ध एआई टेक लीडर (और इस क्षेत्र के गॉडफादर), जिन्होंने हाल ही में गूगल छोड़ दिया है, ने एआई में तेजी से विकास और इसके संभावित खतरों के बारे में चिंता व्यक्त की है। हिंटन का मानना है कि एआई चैटबॉट मानव बुद्धिमत्ता से आगे निकल सकते हैं और “काफी डरावने” हो सकते हैं।
हिंटन कहते हैं:
“वर्तमान में, हम देख रहे हैं कि जीपीटी-4 जैसी चीजें मानव ज्ञान की मात्रा में एक व्यक्ति को पार कर जाती हैं, और यह एक लंबी दूरी तक करती है। तर्क के मामले में, यह उतना अच्छा नहीं है, लेकिन यह पहले से ही सरल तर्क करता है। और प्रगति की दर को देखते हुए, हमें उम्मीद है कि चीजें जल्द ही बेहतर होंगी। इसलिए हमें इसके बारे में चिंतित होने की जरूरत है।”
इसके अलावा, उन्हें लगता है कि “बुरे अभिनेता” एआई का उपयोग “बुरे काम” करने के लिए कर सकते हैं, जैसे कि रोबोटों को उनके उप-लक्ष्य देना।尽管 उन्होंने चिंता व्यक्त की, हिंटन का मानना है कि एआई अल्पकालिक लाभ ला सकता है, लेकिन हमें एआई सुरक्षा और नियंत्रण में भारी निवेश करना चाहिए।
इलोन मस्क
इलोन मस्क का एआई में शामिल होना 2010 में डीपमाइंड में उनके शुरुआती निवेश से शुरू हुआ, और फिर ओपनएआई की स्थापना की, और टेस्ला के स्वायत्त वाहनों में एआई को शामिल किया।
हालांकि वह एआई के बारे में उत्साहित हैं, वह अक्सर एआई के जोखिमों के बारे में चिंता व्यक्त करते हैं। मस्क का कहना है कि शक्तिशाली एआई सिस्टम परमाणु हथियारों से अधिक खतरनाक हो सकते हैं। अप्रैल 2023 में फॉक्स न्यूज के साथ एक साक्षात्कार में, उन्होंने कहा:
“एआई मिसमैनेज्ड एयरक्राफ्ट डिज़ाइन या उत्पादन मेंटेनेंस या बुरी कार उत्पादन से अधिक खतरनाक हो सकता है। इसका मतलब है कि यह – हालांकि आप इस संभावना को कितना भी छोटा मानें, लेकिन यह गैर-मामूली है और इसका संभावित खतरा है – सभ्यता के विनाश का।”
इसके अलावा, मस्क एआई के संभावित जोखिमों से सुरक्षा सुनिश्चित करने के लिए सरकारी नियमन का समर्थन करते हैं, हालांकि “यह इतना मजेदार नहीं है।”
विशाल एआई प्रयोगों को रोकें: हजारों एआई विशेषज्ञों द्वारा समर्थित एक खुला पत्र
फ्यूचर ऑफ लाइफ इंस्टीट्यूट ने 22 मार्च 2023 को एक खुला पत्र प्रकाशित किया। पत्र जीपीटी-4 से अधिक उन्नत एआई सिस्टम के विकास पर अस्थायी रूप से छह महीने के लिए रोक लगाने का आह्वान करता है। लेखक एआई सिस्टम के विकास की गति के बारे में चिंता व्यक्त करते हैं जो गंभीर सामाजिक और आर्थिक चुनौतियां पैदा कर सकती है।
इसके अलावा, पत्र में कहा गया है कि एआई डेवलपर्स को नीति निर्माताओं के साथ मिलकर एआई शासन प्रणालियों का दस्तावेजीकरण करना चाहिए। जून 2023 तक, पत्र पर 31,000 से अधिक एआई डेवलपर्स, विशेषज्ञों और टेक लीडर्स ने हस्ताक्षर किए हैं। उल्लेखनीय हस्ताक्षरकर्ताओं में इलोन मस्क, स्टीव वोज़नियाक (एप्पल के सह-संस्थापक), एमाद मोस्ताक (स्टेबिलिटी एआई के सीईओ), योशुआ बेंगियो (ट्यूरिंग पुरस्कार विजेता), और कई अन्य शामिल हैं।
एआई विकास पर रोक लगाने के खिलाफ तर्क
दो प्रमुख एआई लीडर, एंड्रयू एनजी और यान लेकुन, उन्नत एआई सिस्टम के विकास पर छह महीने के प्रतिबंध का विरोध करते हैं और इसे एक बुरा विचार मानते हैं।
एनजी का कहना है कि हालांकि एआई में कुछ जोखिम हैं, जैसे कि पूर्वाग्रह, सांद्रता, आदि। लेकिन शिक्षा, स्वास्थ्य सेवा, और प्रतिक्रिया प्रशिक्षण जैसे क्षेत्रों में एआई द्वारा बनाई गई मूल्य बहुत बड़ा है।
यान लेकुन का कहना है कि अनुसंधान और विकास को रोकना नहीं चाहिए, हालांकि एआई उत्पाद जो अंतिम उपयोगकर्ता तक पहुंचते हैं उन्हें नियंत्रित किया जा सकता है।
एआई के संभावित खतरे और तात्कालिक जोखिम क्या हैं?
1. नौकरी विस्थापन
एआई विशेषज्ञों का मानना है कि बुद्धिमान एआई सिस्टम संज्ञानात्मक और रचनात्मक कार्यों को प्रतिस्थापित कर सकते हैं। निवेश बैंक गोल्डमैन सैक्स का अनुमान है कि लगभग 300 मिलियन नौकरियां जनरेटिव एआई द्वारा स्वचालित हो जाएंगी।
इसलिए, यह सुनिश्चित करने के लिए कि एआई आर्थिक मंदी का कारण न बने, एआई के विकास पर नियमन होना चाहिए। कर्मचारियों को इस चुनौती से निपटने के लिए कौशल विकसित करने और पुनः प्रशिक्षण देने के लिए शैक्षिक कार्यक्रम होने चाहिए।
2. पूर्वाग्रहपूर्ण एआई सिस्टम
मानवों में लिंग, जाति, या रंग के बारे में पूर्वाग्रह एआई सिस्टम को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा में अनजाने में प्रवेश कर सकते हैं, जिससे एआई सिस्टम पूर्वाग्रहपूर्ण हो जाते हैं।
उदाहरण के लिए, नौकरी भर्ती के संदर्भ में, एक पूर्वाग्रहपूर्ण एआई सिस्टम विशिष्ट जातीय पृष्ठभूमि के व्यक्तियों के रिज्यूमे को खारिज कर सकता है, जिससे नौकरी बाजार में भेदभाव पैदा होता है। कानून प्रवर्तन में, पूर्वाग्रहपूर्ण भविष्यवाणी पुलिसिंग विशिष्ट पड़ोस या जनसांख्यिकीय समूहों को असमान रूप से लक्षित कर सकती है।
इसलिए, एआई जोखिमों को दूर करने के लिए, विशेष रूप से पूर्वाग्रह को संबोधित करने के लिए एक व्यापक डेटा रणनीति होनी चाहिए। एआई सिस्टम को नियमित रूप से मूल्यांकन और लेखा परीक्षा की जानी चाहिए ताकि वे न्यायसंगत बने रहें।
3. सुरक्षा-संवेदनशील एआई अनुप्रयोग
स्वायत्त वाहन, चिकित्सा निदान और उपचार, विमानन प्रणाली, परमाणु ऊर्जा संयंत्र नियंत्रण, आदि सभी सुरक्षा-संवेदनशील एआई अनुप्रयोगों के उदाहरण हैं। इन एआई सिस्टम को सावधानी से विकसित किया जाना चाहिए क्योंकि छोटी त्रुटियां भी मानव जीवन या पर्यावरण के लिए गंभीर परिणाम पैदा कर सकती हैं।
उदाहरण के लिए, एआई सॉफ्टवेयर मैन्यूवरिंग चारैक्टरिस्टिक्स ऑगमेंटेशन सिस्टम (एमसीएएस) की खराबी को दो बोइंग 737 मैक्स के दुर्घटना में योगदान देने के लिए जिम्मेदार ठहराया गया था, पहली बार अक्टूबर 2018 में और फिर मार्च 2019 में। दुर्भाग्य से, दोनों दुर्घटनाओं में 346 लोग मारे गए।
एआई सिस्टम के जोखिमों को कैसे पार किया जा सकता है? – जिम्मेदार एआई विकास और नियामक अनुपालन
जिम्मेदार एआई (आरएआई) का अर्थ है न्यायसंगत, जवाबदेह, पारदर्शी और सुरक्षित एआई सिस्टम विकसित और तैनात करना जो गोपनीयता सुनिश्चित करते हैं और कानूनी नियमों और सामाजिक मानकों का पालन करते हैं। आरएआई को लागू करना जटिल हो सकता है एआई सिस्टम के व्यापक और तेजी से विकास को देखते हुए।
हालांकि, बड़ी टेक कंपनियों ने आरएआई फ्रेमवर्क विकसित किए हैं, जैसे कि:
विश्व भर के एआई लैब्स इन सिद्धांतों से प्रेरणा ले सकते हैं या अपने स्वयं के जिम्मेदार एआई फ्रेमवर्क विकसित कर सकते हैं ताकि विश्वसनीय एआई सिस्टम बनाए जा सकें।
एआई नियामक अनुपालन
चूंकि डेटा एआई सिस्टम का एक अभिन्न अंग है, एआई-आधारित संगठनों और प्रयोगशालाओं को डेटा सुरक्षा, गोपनीयता और सुरक्षा सुनिश्चित करने के लिए निम्नलिखित नियमों का पालन करना चाहिए:
- जीडीपीआर (जनरल डेटा प्रोटेक्शन रेगुलेशन) – यूरोपीय संघ द्वारा डेटा संरक्षण के लिए एक फ्रेमवर्क।
- सीसीपीए (कैलिफोर्निया कंज्यूमर प्राइवेसी एक्ट) – एक कैलिफोर्निया राज्य कानून जो उपभोक्ता अधिकारों और सुरक्षा के लिए है।
- हिप्पा (स्वास्थ्य बीमा पोर्टेबिलिटी और लेखा अधिनियम) – एक संयुक्त राज्य अमेरिका का कानून जो रोगियों के चिकित्सा डेटा की सुरक्षा करता है।
- ईयू एआई अधिनियम, और विश्वसनीय एआई के लिए नैतिक दिशानिर्देश – एक यूरोपीय आयोग एआई नियम।
विभिन्न देशों द्वारा अपने नागरिकों की सुरक्षा के लिए विभिन्न क्षेत्रीय और स्थानीय कानून लागू किए गए हैं। जो संगठन डेटा के आसपास नियामक अनुपालन सुनिश्चित करने में विफल रहते हैं उन्हें गंभीर दंड का सामना करना पड़ सकता है। उदाहरण के लिए, जीडीपीआर ने गंभीर उल्लंघनों के लिए 20 मिलियन यूरो या वार्षिक लाभ का 4% जुर्माना निर्धारित किया है, जैसे कि अवैध डेटा प्रसंस्करण, अनुमोदित डेटा सहमति की कमी, डेटा विषयों के अधिकारों का उल्लंघन, या अंतरराष्ट्रीय संस्था को सुरक्षित डेटा हस्तांतरण की कमी।
एआई विकास और नियमन – वर्तमान और भविष्य
हर महीने बीतने के साथ, एआई प्रगति अभूतपूर्व ऊंचाइयों तक पहुंच रही है। लेकिन साथ ही, एआई नियमन और शासन फ्रेमवर्क पिछड़ रहे हैं। उन्हें अधिक मजबूत और विशिष्ट होने की आवश्यकता है।
टेक लीडर्स और एआई डेवलपर्स एआई के जोखिमों के बारे में चेतावनी दे रहे हैं अगर इसे पर्याप्त रूप से नियंत्रित नहीं किया जाता है। एआई में अनुसंधान और विकास से कई क्षेत्रों में मूल्य बढ़ सकता है, लेकिन स्पष्ट है कि सावधानी से नियमन अब आवश्यक है।
अधिक एआई संबंधित सामग्री के लिए, यूनाइट.एआई पर जाएं。
