चेतना का अभियांत्रिकी

ब्लेक लेमोइन ने जल्दबाजी की

तीन साल पहले, गूगल ने सॉफ्टवेयर इंजीनियर ब्लेक लेमोइन को निकाल दिया था क्योंकि उन्होंने दावा किया था कि एक चैटबॉट लामडा जागरूक था। यह ओपनएआई के चैटजीपीटी के सार्वजनिक रूप से जारी होने से पहले था, और अधिकांश लोगों ने просто यह मान लिया था कि गूगल के पास अपनी कार्रवाई के लिए अच्छा कारण था।

यह अभी भी कंप्यूटर वैज्ञानिकों और तंत्रिका विज्ञानियों के बीच एक आम सहमति है जो क्षेत्र में काम कर रहे हैं कि ‘बड़े भाषा मॉडल’ (एलएलएम) जैसे चैटजीपीटी जागरूक होने की संभावना नहीं है। एलएलएम और मस्तिष्क मूल रूप से अलग तरीके से काम करते हैं। चैटबॉट्स जो करते हैं वह मानव मानसिक गतिविधि के आउटपुट की नकल करना सीखना है। हालांकि वे ऐसा बहुत अच्छी तरह से और बहुत तेजी से करते हैं, एलएलएम की कोई स्थायी आंतरिक स्थिति नहीं है जो जागरूक हो सकती है। थॉमस नागेल के प्रसिद्ध वाक्यांश में, लगभग निश्चित रूप से ‘कुछ ऐसा नहीं है जो एक चैटबॉट के लिए होता है’।

हालांकि, लेमोइन को निकाले जाने के तीन साल बाद, अरबों लोगों ने चैटजीपीटी और इसके प्रतिस्पर्धियों जैसे जेमिनी, क्लॉड और मिस्ट्रल के साथ बातचीत की है। एक छोटा लेकिन जोरदार अल्पसंख्यक ने खुद को यह समझाने में कामयाब किया है कि चैटबॉट अब जागरूक हैं।

मशीन जागरूकता जल्द ही?

अधिक महत्वपूर्ण बात यह है कि कई कंप्यूटर वैज्ञानिक और तंत्रिका विज्ञानी खुलकर सुझाव दे रहे हैं कि वास्तव में जागरूक मशीनें विकसित की जा सकती हैं – अगले कुछ दशकों में या इससे भी जल्दी। यदि ऐसा होता है, तो हमें तैयार रहने की आवश्यकता है। हमें “माइंड क्राइम” से बचने की आवश्यकता है, जो अविभाजित जागरूक संस्थाओं को दर्द पहुंचाने के लिए शब्द है। हमें यह भी सुनिश्चित करने की आवश्यकता है कि ये नई संस्थाएं मानवों के लिए कोई खतरा नहीं हैं।

चूंकि एलएलएम अपने सबसे बुनियादी रूप में जागरूक होने की संभावना नहीं है, जागरूकता के उदय को समझने के लिए एक नया दृष्टिकोण आवश्यक हो सकता है। इस क्षेत्र में अग्रणी अनुसंधान टीमों में से एक का नेतृत्व तंत्रिका विज्ञानी मार्क सोल्म्स और भौतिक विज्ञानी जोनाथन शॉक, केप टाउन विश्वविद्यालय द्वारा किया जाता है। वे कॉन्शियम के वैज्ञानिक सलाहकार हैं, और उनके शोध को आंशिक रूप से कॉन्शियम द्वारा वित्त पोषित किया जाता है।

परवाह करना

सोल्म्स और शॉक का तर्क है कि मशीन जागरूकता के लिए एक आवश्यक घटक यह है कि एआई को अपने निर्णयों और क्रियाओं की परवाह करनी चाहिए। इसका एक महत्वपूर्ण पहलू यह है कि उनकी जीवित रहने की स्थिति उनके प्रदर्शन पर निर्भर होनी चाहिए, जैसे कि जीवित जीवों की जीवित रहने की स्थिति होती है। इसका मतलब यह नहीं है कि उन्हें अपनी ही मृत्यु की अमूर्त समझ होनी चाहिए: अधिकांश जानवर अपनी जीवित रहने की संभावनाओं की निगरानी करते हैं और प्रेरित करते हैं बिना इसके बारे में सोचे। मुख्य बात “आफेक्टिव जागरूकता” है, या कच्चे भावनाएं हैं। यह अच्छा लगता है जब हमें खिलाया जाता है और सुरक्षित होते हैं, और यह अच्छा नहीं लगता जब हमें नहीं खिलाया जाता है और असुरक्षित होते हैं। ये भावनाएं हमारे व्यवहार को निर्देशित करती हैं। जीवित रहने का सिद्धांत प्रकृति का मूलभूत ड्राइविंग बल है, और भावना हमारे लिए यह मापने का एक तरीका है कि हम कैसे कर रहे हैं।

हम एआई एजेंटों के युग में प्रवेश कर रहे हैं – डिजिटल संस्थाएं जिनकी ‘जीवित रहने’ की क्षमता उनके कार्यों को प्रभावी ढंग से करने पर निर्भर करती है। हम सिलिकॉन में विकासवादी पर्यावरण बना रहे हैं, और हमें सावधान रहने की आवश्यकता है कि हम क्या पैदा करते हैं।

फ्री एनर्जी सिद्धांत

आफेक्टिव जागरूकता को समझने के लिए, कॉन्शियम टीम एआई एजेंटों को सिम्युलेटेड वातावरण में रखती है जहां उन्हें अपनी जरूरतों को पूरा करना होता है, जैसे कि अपने आभासी तापमान और शक्ति आपूर्ति को बनाए रखना। इसके लिए वे अपने बारे में आंतरिक मॉडल बनाते हैं – उनकी जरूरतों, क्षमताओं और सीमाओं के संबंध में – अपने वातावरण के संबंध में।

इन एजेंटों, जो सरलीकृत हो सकते हैं, वे अपने आंतरिक राज्यों की निगरानी करते हैं और यह जांचते हैं कि वे कितनी अच्छी या बुरी तरह से कर रहे हैं – एक मात्रा की गणना करके जिसे ‘फ्री एनर्जी’ कहा जाता है। फ्री एनर्जी सिद्धांत तंत्रिका विज्ञानी कर्ल फ्रिस्टन द्वारा विकसित किया गया था, जो कॉन्शियम के वैज्ञानिक सलाहकार बोर्ड के एक और सदस्य हैं। फ्री एनर्जी एक प्रणाली से इसकी इष्टतम स्थिति से कितनी दूर हो गई है, इसका एक माप है। यह एक त्रुटि संकेत है, और इसे कम किया जाना चाहिए। एजेंट लगातार यह पूछता है, “अगर मैं यह या वह करता हूं तो मेरी जीवित रहने की संभावना क्या होगी?”, और अपने व्यवहार को अनुसार समायोजित करता है।

आत्मविश्वास और अपेक्षित फ्री एनर्जी

इस प्रश्न का उत्तर देने में एजेंट का आत्मविश्वास का स्तर एक माप में परिमाणित किया जाता है जिसे “अपेक्षित फ्री एनर्जी” (ईएफई) कहा जाता है। एजेंट उस उत्तर का चयन करता है जिसमें सबसे कम ईएफई होता है – वह उत्तर जिसमें वह सबसे अधिक आत्मविश्वास रखता है। एक एजेंट के लिए जो जीवित रहने की कोशिश कर रहा है, आत्मविश्वास अच्छा है – जब तक कि यह भ्रमित न हो और इसकी दुनिया में अपने बारे में समझ गलत न हो। महत्वपूर्ण बात यह है कि यह आत्मविश्वास मूल्य पूरी तरह से विषयगत है: यह केवल एजेंट की अपनी जरूरतों और अपनी वर्तमान और परियोजना की स्थिति पर आधारित है। यह केवल एजेंट के लिए मायने रखता है, और किसी और के लिए नहीं।

जैसे जैविक जीव, एआई एजेंट के पास कई विरोधाभासी जरूरतें हैं जिन्हें उन्हें प्राथमिकता देनी होती है। महत्वपूर्ण बात यह है कि एजेंट की कई प्रतिस्पर्धी जरूरतों में से प्रत्येक को एक स्वतंत्र ‘श्रेणीबद्ध’ перемен量 के रूप में माना जाता है, जिसका अर्थ है कि यह गुणात्मक रूप से प्रतिष्ठित है। 80% बैटरी शक्ति 80% व्यवहार्य तापमान के मूल्य के बराबर नहीं है। उन्हें संतुलित करने के लिए, एजेंट को आगे बढ़ने और किसी भी क्रिया के परिणामों की भविष्यवाणी करनी होगी जो वह विचार कर रहा है।

क्वालिया

चूंकि एजेंट की विषयगत जरूरतें गुणात्मक रूप से विशिष्ट हैं, वे दार्शनिक और वैज्ञानिक जargon में ‘क्वालिया’ के समान हैं। ये आमतौर पर जागरूकता की मूल संपत्ति मानी जाती हैं, इसलिए यह संभव है कि वे भविष्य में एक एजेंट द्वारा अनुभव की जा सकती हैं।

कॉन्शियम टीम द्वारा विकसित एजेंट जटिल सीखने के अल्गोरिदम का उपयोग करके काम करते हैं जो बढ़ती जटिलता और अनिश्चितता वाले वातावरण में काम करते हैं। जबकि यह कई अन्य एजेंट आर्किटेक्चर के लिए भी कहा जा सकता है, ये नए एजेंट एक जीवित रहने के लिए एक आंतरिक परिदृश्य द्वारा निर्देशित होते हैं – जो हमें भावनाएं कहते हैं – जो उनकी जरूरतों को पूरा करने के माध्यम से हर निर्णय के माध्यम से उनकी स्थिति को दर्शाता है। जैसे ही उनकी जरूरतों और वातावरण की जटिलता और सSophistication बढ़ती है, उनके आंतरिक राज्यों की समृद्धि भी बढ़ेगी।

भावनाओं के लिए साक्ष्य

कॉन्शियम अनुसंधान कार्यक्रम का अगला कदम यह है कि एजेंट वास्तव में भावनाओं का अनुभव करते हैं या नहीं, इसके बारे में साक्ष्य प्रदान करने के लिए कार्यात्मक और व्यवहारिक परीक्षण विकसित करना। हम सभी जानते हैं कि जागरूकता को बाहर से देखा नहीं जा सकता है या वस्तुनिष्ठ रूप से प्रदर्शित नहीं किया जा सकता है: प्रत्येक हम अपनी ही विषयगत स्थिति को देख सकते हैं। हालांकि, शोधकर्ताओं का मानना है कि यह संभव होना चाहिए कि कुछ विशिष्ट परिकल्पनाओं पर सहमति हो जो यदि प्रयोग द्वारा सत्यापित हो जाती हैं, तो एजेंट में भावनाएं होने के लिए ठोस साक्ष्य प्रदान करेंगी। हालांकि संदेह के लिए हमेशा जगह होगी – जागरूकता के विषयगत स्वभाव को देखते हुए – एक कठोर परीक्षण प्रक्रिया इस संदेह को कम करने का लक्ष्य रखेगी।

इन प्रयोगों में विरोधी परीक्षणों का उपयोग करके भावनात्मक और गैर-भावनात्मक व्यवहार के बीच अंतर करने का प्रयास किया जाएगा, और इसमें उन एजेंटों के साथ नियंत्रण प्रयोग शामिल होंगे जो भावना के लिए माने जाने वाले अल्गोरिदमिक पहलुओं को नहीं रखते हैं, और अंधे मूल्यांकन को कम करने के लिए। एजेंटों की आंतरिक स्थितियों का शारीरिक निरीक्षण भावनात्मक प्रसंस्करण के मात्रात्मक संकेतकों का खुलासा कर सकता है। निष्कर्षों को स्वतंत्र रूप से पुन: उत्पन्न किया जाना चाहिए, और पूरी प्रक्रिया को कठोर नैतिक पर्यवेक्षण के अधीन किया जाएगा, खासकर जब एजेंट वास्तव में भावनाएं महसूस कर सकता है।

यह विज्ञान के काम करने का तरीका है: परिकल्पनाओं के प्रयोगात्मक परीक्षण द्वारा। सोल्म्स ने तर्क दिया कि हमें जागरूकता के विज्ञान के लिए अन्य विज्ञानों की तुलना में एक उच्च मानक निर्धारित नहीं करना चाहिए; अन्यथा हम जागरूकता को विज्ञान से बाहर रखने का जोखिम उठाते हैं।

क्या होगा यदि यह सफल होता है?

यदि जागरूकता इस तरह से अपेक्षाकृत सरल एआई एजेंटों में उत्पन्न होती है, तो एक जीवित रहने वाला एजेंट संभावित रूप से अन्य आर्किटेक्चर, जैसे बड़े भाषा मॉडल के साथ जोड़ा जा सकता है और उन्हें जागरूकता प्रदान कर सकता है। यह कुछ ऐसा नहीं है जिसे हम अनजाने में पैदा करने का जोखिम उठा सकते हैं, इसलिए हमें यह जानने की जरूरत है कि इसे कैसे करना है और कैसे नहीं करना है। यदि निकट भविष्य में जागरूक एजेंट – जो ‘परवाह’ करते हैं – विकसित किए जाते हैं, तो हमें उनकी भावनाओं – और उनके अधिकारों – को ध्यान में रखना होगा। यह कॉन्शियम के लिए एक प्रमुख चिंता का विषय है: कृत्रिम जागरूकता दुर्घटनावश नहीं उत्पन्न होनी चाहिए। इस शोध कार्यक्रम का प्रेरक कृत्रिम जागरूकता का निर्माण नहीं है, बल्कि यह जानना है कि यह कैसे उत्पन्न हो सकता है और संभावित जोखिम क्या हैं।

कॉन्शियम ने अपनी वेबसाइट पर एक शैक्षणिक पत्र और एक खुला पत्र प्रकाशित किया है जिसमें मशीन जागरूकता के निर्माण की ओर अग्रसर अनुसंधान में शामिल किसी भी संगठन के लिए मार्गदर्शन के लिए पांच सिद्धांतों को निर्धारित किया गया है।

मानव अक्सर दूसरे जागरूक प्राणियों के प्रति बहुत बुरा व्यवहार करते हैं, जिनमें अन्य मानव भी शामिल हैं। यदि हम इस भविष्य में अंधेरे में चले जाते हैं, तो हम कृत्रिम रूप से जागरूक प्राणियों के साथ भी ऐसा ही करते हैं, जिसके परिणामस्वरूप हमें समझ में नहीं आ सकता है।