विचार नेता
चैटजीपीटी के संभावित जोखिमों पर चिंताएं बढ़ रही हैं, लेकिन क्या एआई पर रोक लगाना अच्छा कदम है?
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
जबकि एलोन मस्क और अन्य वैश्विक तकनीकी नेताओं ने चैटजीपीटी की रिलीज़ के बाद एआई में विराम का आह्वान किया है, कुछ आलोचकों का मानना है कि विकास में रोक लगाना उत्तर नहीं है। एआई के प्रचारक एंड्रू पेरी, इंटेलिजेंट ऑटोमेशन कंपनी एबीबीवाई का मानना है कि ब्रेक लेना ट्यूब में टूथपेस्ट वापस डालने जैसा है। यहां, वह हमें बताते हैं कि क्यों…
एआई अनुप्रयोग व्यापक हैं, जो लगभग हमारे जीवन के हर पहलू को प्रभावित करते हैं। जबकि प्रशंसनीय, अब ब्रेक लगाना असंभव हो सकता है।
निश्चित रूप से चिंताएं हैं जो बढ़ती नियामक पर्यवेक्षण के लिए कहती हैं ताकि इसके संभावित हानिकारक प्रभावों को नियंत्रित किया जा सके।
हाल ही में, इतालवी डेटा संरक्षण प्राधिकरण ने चैटजीपीटी के उपयोग को अस्थायी रूप से राष्ट्रीय स्तर पर अवरुद्ध कर दिया क्योंकि मॉडल को प्रशिक्षित करने के लिए व्यक्तिगत डेटा के संग्रह और प्रसंस्करण से संबंधित गोपनीयता चिंताओं के कारण, साथ ही साथ बच्चों को उनकी उम्र और जागरूकता के लिए “पूरी तरह से अनुचित” प्रतिक्रियाओं के लिए सुरक्षा उपायों की कमी के कारण।
यूरोपीय उपभोक्ता संगठन (बीईयूसी) यूरोपीय संघ से बड़े पैमाने पर भाषा मॉडल के संभावित हानिकारक प्रभावों की जांच करने का आग्रह कर रहा है क्योंकि “चैटजीपीटी और समान चैटबॉट्स के बारे में चिंताएं बढ़ रही हैं कि वे लोगों को कैसे धोखा दे सकते हैं और मैनिपुलेट कर सकते हैं। इन एआई प्रणालियों को अधिक सार्वजनिक जांच की आवश्यकता है, और सार्वजनिक अधिकारियों को उनके ऊपर नियंत्रण हासिल करना चाहिए।”
संयुक्त राज्य अमेरिका में, सेंटर फॉर एआई एंड डिजिटल पॉलिसी ने फेडरल ट्रेड कमीशन के साथ एक शिकायत दर्ज की है कि चैटजीपीटी संघीय व्यापार आयोग अधिनियम (एफटीसी अधिनियम) (15 यूएससी 45) की धारा 5 का उल्लंघन करता है। शिकायत का आधार यह है कि चैटजीपीटी कथित तौर पर एआई प्रणालियों के लिए एफटीसी द्वारा निर्धारित मार्गदर्शन को पारदर्शिता और व्याख्या के लिए पूरा नहीं करता है। चैटजीपीटी के कई ज्ञात जोखिमों का उल्लेख किया गया था, जिनमें गोपनीयता अधिकारों का उल्लंघन, हानिकारक सामग्री का उत्पादन और भ्रामक सूचना का प्रसार शामिल है।
चैटजीपीटी जैसे बड़े पैमाने पर भाषा मॉडल की उपयोगिता के बावजूद, शोध से पता चलता है कि इसका अंधेरा पक्ष है। यह गलत उत्तर प्रदान करने के लिए सिद्ध हुआ है, क्योंकि अंतर्निहित चैटजीपीटी मॉडल गहरे शिक्षण अल्गोरिदम पर आधारित है जो इंटरनेट से बड़े प्रशिक्षण डेटा सेट का लाभ उठाते हैं। अन्य चैटबॉट्स के विपरीत, चैटजीपीटी गहरे शिक्षण तकनीकों पर आधारित भाषा मॉडल का उपयोग करता है जो मानव वार्ता के समान पाठ उत्पन्न करता है, और प्लेटफ़ॉर्म “एक उत्तर पर पहुंचने के लिए अनुमानों की एक श्रृंखला बनाता है, जो इसे पूरी तरह से सच्चे उत्तर की तरह गलत उत्तरों का तर्क देने का कारण है।”
इसके अलावा, चैटजीपीटी लिंग, जाति, और अल्पसंख्यक समूहों के खिलाफ भेदभावपूर्ण उत्तरों को बढ़ावा देने के लिए सिद्ध हुआ है, जो कि कंपनी कम करने की कोशिश कर रही है। चैटजीपीटी अनजाने उपयोगकर्ताओं को खतरे में डालने और उनकी गोपनीयता को खतरे में डालने और उन्हें स्कैम हमलों के लिए खुला छोड़ने के लिए एक बोनान्जा हो सकता है।
इन चिंताओं ने यूरोपीय संसद को एक टिप्पणी प्रकाशित करने के लिए प्रेरित किया है जो मौजूदा प्रावधानों को और मजबूत करने की आवश्यकता को रेखांकित करता है ड्राफ्ट यूरोपीय संघ के कृत्रिम बुद्धिमत्ता अधिनियम (एआईए) के, जो अभी भी अनुमोदन की प्रतीक्षा में है। टिप्पणी में कहा गया है कि प्रस्तावित नियमन का मसौदा संकीर्ण एआई अनुप्रयोगों पर केंद्रित है, जिसमें नौकरी के चयन, क्रेडिट योग्यता, रोजगार, कानून प्रवर्तन और सामाजिक सेवाओं के लिए पात्रता जैसे विशिष्ट श्रेणियों के उच्च जोखिम वाले एआई प्रणालियों के रूप में जाने जाने वाले विशिष्ट श्रेणियों शामिल हैं। हालांकि, यूरोपीय संघ के एआईए नियमन का मसौदा सामान्य उद्देश्य वाले एआई को कवर नहीं करता है, जैसे कि बड़े पैमाने पर भाषा मॉडल जो अधिक उन्नत संज्ञानात्मक क्षमताएं प्रदान करते हैं और जो “व्यापक श्रेणी के बुद्धिमान कार्य” कर सकते हैं। सामान्य उद्देश्य वाले एआई प्रणालियों की एक अलग, उच्च जोखिम वाली श्रेणी को शामिल करने के लिए मसौदे नियमन के दायरे को विस्तारित करने के लिए आह्वान किया जा रहा है, जिसमें डेवलपर्स को बाजार में रखने से पहले ऐसी प्रणालियों के लिए सख्ती से पूर्व-निरीक्षण परीक्षण करना आवश्यक होगा और संभावित अप्रत्याशित हानिकारक आउटपुट के लिए उनके प्रदर्शन की निरंतर निगरानी करना आवश्यक होगा।
एक विशेष रूप से उपयोगी अनुसंधान इस अंतर को उजागर करता है कि यूरोपीय संघ के एआईए नियमन “मुख्य रूप से पारंपरिक एआई मॉडल पर केंद्रित है, और आज हम जिन नए पीढ़ी के जन्म का गवाह हो रहे हैं।”
यह चार रणनीतियों की सिफारिश करता है जिन पर नियामकों को विचार करना चाहिए।
- ऐसी प्रणालियों के विकासकर्ताओं को अपनी जोखिम प्रबंधन प्रक्रियाओं की प्रभावशीलता की नियमित रूप से रिपोर्ट करने की आवश्यकता है ताकि हानिकारक आउटपुट को कम किया जा सके।
- बड़े पैमाने पर भाषा मॉडल का उपयोग करने वाले व्यवसायों को अपने ग्राहकों को यह बताने के लिए बाध्य किया जाना चाहिए कि सामग्री एआई द्वारा उत्पन्न की गई थी।
- विकासकर्ताओं को एक औपचारिक प्रक्रिया का पालन करना चाहिए, जो जोखिम प्रबंधन ढांचे के हिस्से के रूप में है, जो संभावित रूप से अप्रत्याशित हानिकारक परिणामों के खिलाफ सुरक्षा के लिए डिज़ाइन किया गया है।
- विकासकर्ताओं पर जोखिम को “जड़ से” कम करने के लिए बाध्य किया जाना चाहिए, जिसमें “प्रशिक्षण डेटा सेट में गलत प्रतिनिधित्व के लिए प्रो-एक्टिव ऑडिट” करना शामिल है।
एक कारक जो विघटनकारी प्रौद्योगिकियों से जुड़े जोखिमों को बढ़ावा देता है, वह है नवाचारों द्वारा पहले मूवर का लाभ हासिल करने के लिए “शिप पहले और बाद में ठीक करें” व्यवसाय मॉडल को अपनाने की ड्राइव। जबकि ओपनएआई चैटजीपीटी के संभावित जोखिमों के बारे में पारदर्शी है, उन्होंने इसे व्यापक व्यावसायिक उपयोग के लिए जारी किया है और “खरीदार सावधान” के साथ उपयोगकर्ताओं पर जोखिमों को तौलने और स्वीकार करने का भार डाल दिया है। यह दृष्टिकोण व्यापक प्रभाव वाली संवादी एआई प्रणालियों के लिए अस्थिर हो सकता है। नियामकों को ऐसी विघटनकारी प्रौद्योगिकी के साथ निपटने के लिए प्रवर्तन उपायों के साथ प्रवर्तित नियमन को प्राथमिकता देनी चाहिए।
कृत्रिम बुद्धिमत्ता पहले से ही लगभग हमारे जीवन के हर पहलू में प्रवेश कर चुकी है, जिसका अर्थ है कि एआई विकास पर रोक लगाने से कई अप्रत्याशित बाधाएं और परिणाम हो सकते हैं। अचानक ब्रेक लगाने के बजाय, उद्योग और विधायी खिलाड़ियों को मानव-केंद्रित मूल्यों जैसे पारदर्शिता, जवाबदेही और निष्पक्षता पर आधारित कार्रवाई करने वाले नियमन को लागू करने के लिए साझेदारी करनी चाहिए। मौजूदा कानूनों जैसे एआईए का हवाला देकर, निजी और सार्वजनिक क्षेत्रों के नेता व्यापक, वैश्विक मानक नीतियों को डिज़ाइन कर सकते हैं जो दुर्भाग्यपूर्ण उपयोगों को रोकेंगे और प्रतिकूल परिणामों को कम करेंगे, जिससे कृत्रिम बुद्धिमत्ता मानव अनुभवों में सुधार के दायरे में रहेगी।
