हम अब एआई को संरेखित नहीं कर रहे हैं। हम सभ्यताओं को संरेखित कर रहे हैं

कई वर्षों से, कृत्रिम बुद्धिमत्ता (एआई) में मुख्य प्रश्न यह था कि एआई मॉडलों को मानव मूल्यों के साथ कैसे संरेखित किया जाए। शोधकर्ताओं ने सुरक्षा नियमों, नैतिक सिद्धांतों और नियंत्रण तंत्र को परिभाषित करने का प्रयास किया जो एआई निर्णयों को मार्गदर्शन करें। इस काम ने महत्वपूर्ण प्रगति हासिल की। लेकिन अब, जब ये एआई प्रणाली अधिक सक्षम और व्यापक होती जा रही हैं, तो संरेखण का फोकस बदलना शुरू हो रहा है। जो एकल मॉडल को एकल निर्देश सेट के साथ संरेखित करने की चुनौती के रूप में शुरू हुआ था, अब वैश्विक स्तर पर इन प्रणालियों का उपयोग करने वाली पूरी सभ्यताओं को संरेखित करने की बहुत बड़ी चुनौती बन गया है। एआई अब केवल एक उपकरण नहीं है। यह एक वातावरण में विकसित हो रहा है जहां समाज काम करते हैं, संवाद करते हैं, बातचीत करते हैं और प्रतिस्पर्धा करते हैं। इसके परिणामस्वरूप, संरेखण अब तकनीकी समस्या नहीं रह जाती। यह एक सभ्यतागत समस्या बन गया है। इस लेख में, मैं बताता हूं कि संरेखण अब क्यों केवल मॉडलों के बारे में नहीं है और हमें सभ्यताओं के बजाय मशीनों के बारे में सोचना क्यों शुरू करना चाहिए। मैं यह भी चर्चा करता हूं कि यह परिवर्तन हमारी जिम्मेदारियों को कैसे प्रभावित करता है और इसका वैश्विक सहयोग के लिए क्या अर्थ है।

एआई वास्तव में किसके मूल्यों का प्रतिनिधित्व करता है?

अगर आप एआई से एक संवेदनशील ऐतिहासिक घटना के बारे में पूछें, तो उसका उत्तर यह निर्भर करेगा कि उसने कौन से डेटा का अध्ययन किया है। अगर वह डेटा मुख्य रूप से पश्चिमी इंटरनेट से आता है, तो उत्तर में पश्चिमी पूर्वाग्रह होगा। यह व्यक्तिवाद, खुले भाषण और लोकतांत्रिक आदर्शों को प्राथमिकता देगा। ये कई लोगों के लिए अच्छे मूल्य हैं। लेकिन वे दुनिया में एकमात्र मूल्य नहीं हैं।

सिंगापुर में एक उपयोगकर्ता, रियाद में एक उपयोगकर्ता, और सैन फ्रांसिस्को में एक उपयोगकर्ता के पास “उपयोगी” और “हानिकारक” की अलग-अलग परिभाषाएं हैं। कुछ संस्कृतियों में, सामाजिक सामंजस्य बोलने की पूर्ण स्वतंत्रता से अधिक महत्वपूर्ण है। अन्य में, पदानुक्रम के प्रति सम्मान विकृति से अधिक महत्वपूर्ण है।

जब एक सिलिकॉन वैली कंपनी “मानव प्रतिक्रिया से प्रबलित सीखने” (आरएलएचएफ) का उपयोग करती है, तो वे एआई के उत्तरों को रेट करने के लिए मानवों को नियुक्त करते हैं। लेकिन वे मानव कौन हैं? उनके विश्वास क्या हैं? अगर वे मॉडल को अमेरिकी मानकों के साथ संरेखित करते हैं, तो वे अनजाने में एक अमेरिकी सांस्कृतिक निर्यात बना रहे हैं। वे एक डिजिटल राजनयिक बना रहे हैं जो दुनिया के बाकी हिस्सों पर एक विशिष्ट सभ्यता के नियमों को लागू करता है।

प्रतिक्रिया लूप का उदय

चुनौती यह नहीं है कि एआई एक संस्कृति के विश्वासों को प्रतिबिंबित करता है। यह उन विश्वासों को कैसे बदल सकता है। आधुनिक एआई प्रणालियों में व्यक्तियों, संगठनों और यहां तक कि राष्ट्रों के व्यवहार को आकार देने की क्षमता है। वे प्रभावित कर सकते हैं कि हम कैसे सोचते हैं, कैसे काम करते हैं, कैसे विश्वास करते हैं और कैसे प्रतिस्पर्धा करते हैं। यह एआई प्रणालियों और मानव समाजों के बीच प्रतिक्रिया लूप बनाता है; हम एआई को प्रशिक्षित करते हैं और एआई हमारी सोच और कार्यों को आकार देता है। ये लूप एआई अधिक व्यापक होने के साथ मजबूत हो रहे हैं। इस प्रतिक्रिया लूप को देखने के लिए, यहां दो उदाहरण हैं:

• बड़े पैमाने पर एआई तैनाती सामाजिक व्यवहार को बदलती है, और सामाजिक व्यवहार नए सिस्टम को प्रशिक्षित करने वाले डेटा को बदलता है। उदाहरण के लिए, एक अनुशंसा एल्गोरिदम यह决定 कर सकता है कि लोग क्या देखते हैं, पढ़ते हैं और मानते हैं। उत्पादकता उपकरण टीमों को कैसे सहयोग करने और छात्रों को कैसे सीखने के लिए आकार देते हैं। ये व्यवहार में बदलाव डेटा पैटर्न को बदलते हैं जैसे कि अलग-अलग देखने की आदतें, कार्यस्थल संचार पैटर्न या लेखन शैली। जब यह डेटा भविष्य के प्रशिक्षण डेटासेट में प्रवाहित होता है, तो मॉडल अपने अनुमानों और आउटपुट को बदल देते हैं। मानव व्यवहार मॉडल को आकार देता है, और मॉडल, बदले में, मानव व्यवहार को आकार देता है।
• स्वचालित निर्णय उपकरण सार्वजनिक नीति को प्रभावित करते हैं, और सार्वजनिक नीति भविष्य के मॉडल प्रशिक्षण को प्रभावित करती है। उदाहरण के लिए, कई सरकारें अब संसाधनों को आवंटित करने के लिए एआई का उपयोग करती हैं जैसे कि यह पहचानना कि कौन से पड़ोस स्वास्थ्य देखभाल समर्थन की अधिक आवश्यकता है या कौन से क्षेत्र उच्च अपराध जोखिम देख सकते हैं। जब नीति निर्माता इन सिफारिशों पर कार्रवाई करते हैं, तो उन निर्णयों के परिणाम बाद में नए डेटासेट का हिस्सा बन जाते हैं। समय के साथ, एआई द्वारा आकार दी गई नीति निर्णय अगली पीढ़ी के एआई मॉडलों को आकार देने लगते हैं।

एक बार जब आप इस प्रतिक्रिया लूप को पहचान लेते हैं, तो यह स्पष्ट हो जाता है कि एआई धीरे-धीरे सभ्यताओं को आकार देने और संरेखित करने लगा है। इसके परिणामस्वरूप, राष्ट्र यह पूछना शुरू कर रहे हैं: वे अपनी सभ्यताओं और संस्थानों में एआई को एकीकृत करते समय अपने मूल्यों की रक्षा कैसे कर सकते हैं?

संप्रभु एआई का उदय

इस संरेखण चुनौती ने दुनिया भर की सरकारों से महत्वपूर्ण प्रतिक्रिया प्राप्त की है। राष्ट्रों ने महसूस किया है कि आयातित एआई पर निर्भर रहना उनकी संप्रभुता के लिए जोखिम है। वे अपने नागरिकों को एक ब्लैक बॉक्स द्वारा शिक्षित, सूचित और सलाह दिए जाने का जोखिम नहीं उठा सकते हैं जो एक विदेशी की तरह सोचता है।

इस महसूस के परिणामस्वरूप “संप्रभु एआई” का उदय हुआ है। फ्रांस “भारी निवेश” कर रहा है ताकि वह मॉडल बना सके जो फ्रेंच बोलते हैं और फ्रेंच कानून और संस्कृति को समझते हैं। भारत “स्वदेशी एआई मॉडल” बना रहा है ताकि उनके सांस्कृतिक मूल्यों को सुनिश्चित किया जा सके। संयुक्त अरब अमीरात और चीन अपने स्वयं के राष्ट्रीय दृष्टिकोण के साथ संरेखित एआई मॉडल बना रहे हैं।

यह नया हथियारों की दौड़ है। यह एक कथा नियंत्रण के लिए दौड़ है। एक सभ्यता जिसके पास अपना एआई नहीं होगा, अंततः अपनी स्मृति खो देगी। अगर आपके बच्चे एक मशीन से प्रश्न पूछते हैं, और मशीन दूसरी संस्कृति के तर्क के साथ उत्तर देती है, तो आपकी संस्कृति धीरे-धीरे क्षय होने लगती है। यह महसूस, हालांकि, विभिन्न डिजिटल ब्लॉकों के गठन की ओर ले जा सकता है। हम एक पश्चिमी एआई, एक चीनी एआई, एक भारतीय एआई और इसी तरह की प्रणालियों के साथ समाप्त हो सकते हैं। ये प्रणालियां विभिन्न तथ्यों और नैतिक दिशानिर्देशों के साथ काम करेंगी। ये विकास यह स्पष्ट करते हैं कि अगर हम एक एकल, वास्तव में संरेखित एआई मॉडल बनाना चाहते हैं, तो हमें पहले सभ्यताओं को संरेखित करने का तरीका खोजना होगा।

एक राजनयिक एआई की आवश्यकता

पारंपरिक संरेखण यह मानता है कि एक मॉडल को सावधानी से प्रशिक्षण, प्रॉम्प्टिंग और गार्डरेल द्वारा संरेखित किया जा सकता है। यह सोच शुरुआती एआई सुरक्षा अनुसंधान के तकनीकी दृष्टिकोण से आती है। लेकिन यहां तक कि पूर्ण मॉडल-स्तर का संरेखण भी सभ्यताओं को संरेखित करने की चुनौतियों का समाधान नहीं कर सकता। संरेखण तब स्थिर नहीं रह सकता जब समाज विपरीत दिशाओं में खींचते हैं। अगर देश, कंपनियां और समुदायों के विरोधाभासी लक्ष्य हैं, तो वे एआई प्रणालियों को उन संघर्षों को प्रतिबिंबित करने के लिए धक्का देंगे। ये सीमाएं दिखाती हैं कि संरेखण केवल एक तकनीकी समस्या नहीं है। यह एक शासन, सांस्कृतिक और समन्वय समस्या है। और इन समस्याओं के लिए केवल विशेषज्ञों या डेवलपर्स की आवश्यकता नहीं है। इसमें पूरी सभ्यताएं शामिल हैं।

तो हम आगे कैसे बढ़ते हैं? अगर हम सार्वभौमिक संरेखण की असंभावना स्वीकार करते हैं, तो हमें अपनी रणनीति बदलनी होगी। हमें तकनीकी समस्या के लिए एक तकनीकी समाधान की तलाश बंद करनी होगी। हमें राजनयिकों की तरह सोचना शुरू करना होगा। हमें “संप्रभु संरेखण” के लिए प्रोटोकॉल बनाने होंगे। हमें यह पता लगाना होगा कि एआई कैसे एक समाज के विश्वासों और मूल्यों का सम्मान कर सकता है बिना अन्य संस्कृतियों के विश्वासों को थोपे। दूसरे शब्दों में, हमें अपने एल्गोरिदम के लिए एक डिजिटल संयुक्त राष्ट्र की आवश्यकता है।

इसके लिए पारदर्शिता की आवश्यकता है। वर्तमान में, हम वास्तव में नहीं जानते कि एक तंत्रिका नेटवर्क की गहरी परतों में कौन से मूल्य छिपे हैं। हम केवल आउटपुट देखते हैं। सभ्यताओं को संरेखित करने के लिए, हमें प्रत्येक मॉडल के “संविधान” के बारे में स्पष्ट होना होगा। एक मॉडल को अपने पूर्वाग्रह की घोषणा करनी चाहिए। यह कहने में सक्षम होना चाहिए, “मैं इस डेटा पर प्रशिक्षित है, इन सुरक्षा नियमों के साथ, इन मूल्यों को प्राथमिकता देते हुए।” केवल जब पूर्वाग्रह दिखाई दे तब हम प्रणाली पर विश्वास कर सकते हैं। एक उपयोगकर्ता को दृष्टिकोणों के बीच स्विच करने में सक्षम होना चाहिए। आपको एक प्रश्न पूछने और देखने में सक्षम होना चाहिए कि एक “पश्चिमी” मॉडल कैसे उत्तर देता है बनाम एक “पूर्वी” मॉडल कैसे उत्तर देता है। यह एआई को समझने के लिए एक उपकरण बना देगा, न कि एक उपदेश देने वाला उपकरण।

नीचे की रेखा

हमने टर्मिनेटर के बारे में बहुत समय चिंता की है। असली जोखिम यह नहीं है कि एक रोबोट हमें नष्ट कर देगा। असली जोखिम यह है कि एक रोबोट हमें यह भूलने पर मजबूर कर देगा कि हम कौन हैं। संरेखण एक कोड नहीं है जिसे हम एक बार लिखकर भूल सकते हैं। यह एआई मॉडल के साथ हमारे विश्वासों और मूल्यों के साथ संरेखित रखने के लिए निरंतर बातचीत है। यह एक राजनीतिक कार्य है। जब हम इस बुद्धिमत्ता युग के इस अगले चरण में प्रवेश करते हैं, तो हमें स्क्रीन के परे देखना होगा। हमें यह विचार करना होगा कि एआई हमारे इतिहास, हमारी सीमाओं और हमारे विश्वासों को कैसे व्याख्या करता है। हम उन दिमागों का निर्माण कर रहे हैं जो हमें दुनिया चलाने में मदद करेंगे। हमें यह सुनिश्चित करना होगा कि वे दिमाग सभ्यताओं के बीच के अंतरों का सम्मान करते हैं।