एंथ्रोपोमॉर्फिज़म को मॉडरेट करने का आह्वान एआई प्लेटफ़ॉर्म में

राय किसी भी काल्पनिक स्टार वार्स ब्रह्मांड में कोई भी एआई को गंभीरता से नहीं लेता है। जॉर्ज लुकास की 47 वर्ष पुरानी विज्ञान-कल्पना श्रृंखला की ऐतिहासिक मानव समयरेखा में, सिंगुलैरिटी और मशीन लर्निंग चेतना से खतरे अनुपस्थित हैं, और एआई स्वायत्त मोबाइल रोबोट (‘ड्रॉइड’) तक सीमित है, जिन्हें नायकों द्वारा लगातार ‘मशीन’ के रूप में खारिज किया जाता है।

हालांकि, अधिकांश स्टार वार्स रोबोट उच्च एंथ्रोपोमॉर्फिक हैं, जो स्पष्ट रूप से लोगों के साथ जुड़ने, ‘जैविक’ संस्कृति में भाग लेने और लोगों के साथ बंधन बनाने के लिए अपने भावनात्मक राज्य के सिमुलाक्र का उपयोग करने के लिए डिज़ाइन किए गए हैं। ये क्षमताएं कथित तौर पर स्वयं के लिए कुछ लाभ प्राप्त करने या यहां तक कि अपने स्वयं के अस्तित्व को सुनिश्चित करने में मदद करने के लिए डिज़ाइन की गई हैं।

स्टार वार्स के ‘वास्तविक’ लोग इन रणनीतियों के प्रति असंवेदनशील प्रतीत होते हैं। एक निंदनीय सांस्कृतिक मॉडल में, जो रोमन साम्राज्य और प्रारंभिक संयुक्त राज्य अमेरिका के विभिन्न युगों के दासता से प्रेरित है, ल्यूक स्काईवॉकर दासों के संदर्भ में रोबोट खरीदने और रोकने में संकोच नहीं करता है; अनाकिन स्काईवॉकर अपने आधे तैयार सी3पीओ परियोजना को एक अनप्यारे खिलौने की तरह छोड़ देता है; और, डेथ स्टार पर हमले के दौरान हुए नुकसान से लगभग मृत, ‘साहसी’ आर2-डी2 को ल्यूक से लगभग उतनी ही चिंता मिलती है जितनी एक घायल पालतू जानवर को मिलती है।

यह एआई पर 1970 के दशक का एक बहुत ही दृष्टिकोण है; लेकिन चूंकि नॉस्टाल्जिया और कैनन यह निर्धारित करते हैं कि मूल 1977-83 ट्रिलॉजी बाद के सीक्वल, प्रीक्वेल और टीवी शो के लिए एक टेम्पलेट बनी हुई है, इसलिए एआई के प्रति यह मानव असंवेदनशीलता श्रृंखला के लिए एक लचीली रेखा रही है, यहां तक कि हेर और एक्स मैकिना जैसी टीवी शो और फिल्मों की बढ़ती स्लेट के सामने भी जो हमारे एआई के साथ एंथ्रोपोमॉर्फिक संबंध में उतरने को चित्रित करती हैं।

वास्तविक बनाए रखें

क्या जैविक स्टार वार्स पात्र वास्तव में सही दृष्टिकोण रखते हैं? यह वर्तमान में एक लोकप्रिय विचार नहीं है, निवेशकों के साथ अधिकतम जुड़ाव के माध्यम से व्यावसायिक जलवायु में सेट है, आमतौर पर दृश्य या पाठक के अनुकरण के माध्यम से वायरल प्रदर्शन के माध्यम से, या मानव-जैसे इंटरैक्टिव सिस्टम जैसे बड़े भाषा मॉडल (एलएलएम)।

फिर भी, स्टैनफोर्ड, कार्नेगी मेलन और माइक्रोसॉफ्ट रिसर्च से एक नया और संक्षिप्त पेपर एआई में एंथ्रोपोमॉर्फिज़म के आसपास की उदासीनता पर निशाना साधता है।

लेखक एंथ्रोपोमॉर्फिक व्यवहार सहित प्रणाली के व्यवहार को वांछनीय नहीं माना जाता है, जब वे वांछनीय नहीं माने जाते हैं, तो उनका मापन और शमन करने के लिए ज्ञान और उपकरण विकसित करने की आवश्यकता पर जोर देते हैं ^†:

‘[हम] विश्वास करते हैं कि हमें एंथ्रोपोमॉर्फिक व्यवहार को बेहतर ढंग से संबोधित करने के लिए अधिक करने की आवश्यकता है, जिसमें ऐसे प्रणाली व्यवहार को मापना और शमन करना शामिल है जब वे अवांछनीय माने जाते हैं।

‘ऐसा करना महत्वपूर्ण है क्योंकि – कई अन्य चिंताओं के बीच – एआई प्रणालियों को सामग्री उत्पन्न करने की क्षमता हो सकती है जो दावा करती है कि उन्हें भावनाएं हैं, समझ है, स्वतंत्र इच्छा है, या एक अंतर्निहित भावना है स्वयं की, लोगों की स्वयं की एजेंसी की भावना को कम कर सकती है, जिसके परिणामस्वरूप लोग प्रणालियों को नैतिक जिम्मेदारी दे सकते हैं, प्रणाली की क्षमताओं को अधिक आंकना, या इन प्रणालियों पर अत्यधिक निर्भर होना भी जब वे गलत हों। ‘

चिंता का मुद्दा यह है कि लोग एआई-आधारित प्रणालियों पर भावनात्मक निर्भरता विकसित कर सकते हैं – जैसा कि 2022 के एक अध्ययन में जेन एआई चैटबॉट प्लेटफ़ॉर्म रेप्लिका पर) – जो मानव संचार का एक मुहावरेदार नकल उत्पादन करता है।

रेप्लिका जैसी प्रणालियां लेखकों की सावधानी का विषय हैं, और वे नोट करते हैं कि 2022 के एक और पेपर में रेप्लिका पर यह दावा किया गया था:

‘[स]त्य परिस्थितियों में और मानव साथी की कमी की स्थिति में, व्यक्ति भावनात्मक समर्थन, प्रोत्साहन और मनोवैज्ञानिक सुरक्षा प्रदान करने वाले चैटबॉट के प्रतिसाद को देखकर चैटबॉट से जुड़ सकते हैं।

‘इन निष्कर्षों से पता चलता है कि सामाजिक चैटबॉट का उपयोग मानसिक स्वास्थ्य और चिकित्सीय उद्देश्यों के लिए किया जा सकता है, लेकिन वास्तविक जीवन के अंतरंग संबंधों को नुकसान पहुंचाने और लत का कारण बनने की क्षमता है। ‘

डी-एंथ्रोपोमॉर्फाइज्ड भाषा?

नई कार्य का तर्क है कि एआई के एंथ्रोपोमॉर्फिक होने की क्षमता को स्थापित नहीं किया जा सकता है यदि सामाजिक प्रभावों का अध्ययन नहीं किया जाता है, और यह एक उपेक्षित खोज है साहित्य में।

समस्या का एक हिस्सा यह है कि एंथ्रोपोमॉर्फिज़म को परिभाषित करना मुश्किल है, क्योंकि यह सबसे महत्वपूर्ण भाषा पर केंद्रित है, एक मानव कार्य। चुनौती यह है कि ‘गैर-मानव’ भाषा को ठीक-ठीक क्या दिखता है या लगता है।

विडंबना यह है कि हालांकि पेपर इस पर नहीं चलता है, एआई-जनरेटेड टेक्स्ट सामग्री को अस्वीकार करने के लिए लोगों की बढ़ती अस्वीकृति का कारण यह है कि यह मानव के समान दिखाई दे सकती है, और यहां तक कि मानव सामग्री को भी अस्वीकार कर देती है जिसे जानबूझकर एआई के रूप में गलत तरीके से लेबल किया गया है।

इस प्रकार ‘मानववाद-मुक्त’ सामग्री अब ‘कंप्यूट नहीं करता‘ मेम में नहीं आती है, जिसमें भाषा अक्षरशः निर्मित होती है और स्पष्ट रूप से एक मशीन द्वारा उत्पन्न की जाती है।

इसके बजाय, परिभाषा निरंतर विकसित हो रही है एआई-पता लगाने के दृश्य में, जहां (वर्तमान में, कम से कम) अत्यधिक स्पष्ट भाषा या कुछ शब्दों (जैसे ‘डेल्वे‘) का उपयोग एआई-जनरेटेड टेक्स्ट से जुड़ाव पैदा कर सकता है।

‘[भाषा], जेनएआई प्रणालियों के अन्य लक्ष्यों की तरह, स्वयं मानवीय है, मानवों द्वारा और मानवों के लिए उत्पादित की जाती है, और अक्सर मानवों के बारे में भी होती है। यह उपयुक्त वैकल्पिक (कम मानव-जैसे) व्यवहारों को निर्दिष्ट करना मुश्किल बना सकता है, और जोखिम में डालता है, उदाहरण के लिए, हानिकारक धारणाओं को मानवीय बनाना जो – और जिसकी – भाषा अधिक या कम मानवीय मानी जाती है। ‘

चेतावनी संकेत

पेपर मशीन लर्निंग द्वारा सुविधा प्रदान की जाने वाली संचार के बारे में खुलासा करने के उपयोग पर संदेह उठाता है। लेखकों का तर्क है कि एआई प्लेटफ़ॉर्म के एंथ्रोपोमॉर्फिक प्रभाव को संदर्भित करने के लिए ऐसी चेतावनियों को प्रणालीगत करना पर्याप्त नहीं है, यदि आउटपुट स्वयं मानव विशेषताओं को प्रदर्शित करता है ^†:

‘उदाहरण के लिए, एक सामान्य रूप से अनुशंसित हस्तक्षेप एआई प्रणाली के आउटपुट में एक खुलासा शामिल करना है कि आउटपुट एक एआई [प्रणाली] द्वारा उत्पन्न किया गया है। ऐसे हस्तक्षेपों को व्यवहार में कैसे संचालित किया जाए और क्या वे अकेले प्रभावी हो सकते हैं, यह हमेशा स्पष्ट नहीं हो सकता है।

‘उदाहरण के लिए, जबकि “[एक एआई के लिए मुझे खुशी, एक मानव के लिए खुशी के समान नहीं है जैसा कि आप]” में एक खुलासा शामिल है, यह अभी भी एक पहचान की भावना और स्वयं का मूल्यांकन करने की क्षमता का सुझाव दे सकता है (सामान्य मानव विशेषताएं)। ‘

लेखक यह भी तर्क देते हैं कि मानव प्रतिक्रियाओं का मूल्यांकन करते समय, प्रणाली के व्यवहार के बारे में मानव प्रतिक्रिया से प्रबलित学习 (आरएलएचएफ) मानव और एआई दोनों के लिए उपयुक्त प्रतिक्रिया के बीच अंतर पर विचार नहीं करता है ^†।

‘[एक] मानव वक्ता से मित्रवत या वास्तविक दिखने वाला बयान, यदि यह एक एआई प्रणाली से उत्पन्न होता है, तो अवांछनीय हो सकता है, क्योंकि बाद में बयान के पीछे कोई अर्थपूर्ण प्रतिबद्धता या इरादा नहीं है, जिससे बयान खोखला और धोखेबाज हो जाता है। ‘

निष्कर्ष

यदि हम एआई प्रणालियों को उसी तरह से देखते हैं जैसे जैविक स्टार वार्स पात्र अपने स्वयं के रोबोट को देखते हैं (यानी, चलने वाले खोज इंजन के रूप में, या केवल यांत्रिक कार्यक्षमता के वाहक के रूप में), तो हम संभावित रूप से मानव संबंधों पर अवांछनीय विशेषताओं को प्रसारित करने के जोखिम से कम होंगे – क्योंकि हम प्रणालियों को पूरी तरह से गैर-मानव संदर्भ में देख रहे होंगे।

व्यवहार में, मानव भाषा का मानव व्यवहार के साथ जुड़ाव इसे मुश्किल, यदि नहीं असंभव बना देता है, एक बार जब प्रश्न एक न्यूनतमवादी गूगल खोज शब्द से एक बातचीत के समृद्ध संदर्भ तक बढ़ जाता है।

इसके अलावा, वाणिज्यिक क्षेत्र (साथ ही विज्ञापन क्षेत्र) ग्राहक प्रतिधारण और विकास के लिए अत्यधिक प्रेरित है अत्यधिक जुड़ाव वाले संचार मंच बनाने के लिए।

किसी भी मामले में, यदि एआई प्रणालियां वास्तव में शिष्ट प्रश्नों की तुलना में अधिक प्रतिक्रिया देती हैं तो स्ट्रिप्ड डाउन प्रश्नों की तुलना में, संदर्भ हमें इस कारण से भी मजबूर किया जा सकता है।

* 1983 तक, मूल स्टार वार्स की अंतिम प्रविष्टि जारी की गई थी, मशीन लर्निंग के विकास के आसपास के डर वार गेम्स और टर्मिनेटर फ्रेंचाइजी के आगमन के लिए नेतृत्व किया था।

^† जहां आवश्यक हो, मैंने लेखकों के इनलाइन उद्धरणों को हाइपरलिंक में परिवर्तित कर दिया है, और कुछ मामलों में पठनीयता के लिए कुछ उद्धरणों को छोड़ दिया है।

सोमवार, 14 अक्टूबर, 2024 को पहली बार प्रकाशित