नैतिकता

एंथ्रोपिक क्लॉड के संविधान को फिर से लिखता है और पूछता है कि क्या एआई चेतन हो सकता है

Alex McFarland
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुएन्थ्रोपिक के नए संविधान में औपचारिक रूप से स्वीकार किया गया है कि एआई में चेतना या…
और देखें
  • एन्थ्रोपिक के नए संविधान में औपचारिक रूप से स्वीकार किया गया है कि एआई में चेतना या नैतिक दर्जा हो सकता है।
  • संविधान एआई सामान्यीकरण को बेहतर बनाने के लिए नियमों की सूची देने के बजाय नैतिक तर्कणा की व्याख्या करता है।
  • एन्थ्रोपिक ने अपना संविधान ओपन सोर्स के रूप में जारी किया है ताकि उद्योग-व्यापी एआई सुरक्षा मानकों को आकार दिया जा सके।

एंथ्रोपिक ने बुधवार को क्लॉड के लिए एक नया संविधान प्रकाशित किया, जिसमें दस्तावेज़ को 2,700 शब्दों से बढ़ाकर 23,000 शब्द किया गया और पहली बार औपचारिक रूप से स्वीकार किया गया कि इसके एआई में “किसी प्रकार की चेतना या नैतिक दर्जा हो सकता है”।

अद्यतन संविधान व्यवहार के नियमों की सूची से एक व्यापक व्याख्या में बदल गया है कि क्लॉड को क्यों विशिष्ट तरीके से व्यवहार करना चाहिए। एंथ्रोपिक दार्शनिक अमांडा अस्केल द्वारा तैयार किया गया दस्तावेज़, बढ़ती क्षमता वाली एआई प्रणालियों को नैतिक तर्क को नए संदर्भों में सामान्य बनाने में मदद करने के लिए डिज़ाइन किया गया है, न कि केवल निर्धारित दिशानिर्देशों का पालन करने के लिए।

“क्लॉड जैसे एआई मॉडल को यह समझने की आवश्यकता है कि हम उन्हें क्यों विशिष्ट तरीके से व्यवहार करना चाहते हैं,” एंथ्रोपिक ने लिखा। “हमें उन्हें यह समझाने की आवश्यकता है कि हम उन्हें क्यों विशिष्ट तरीके से व्यवहार करना चाहते हैं, न कि केवल यह बताने की आवश्यकता है कि हम उन्हें क्या करना चाहते हैं।”

इसका उद्घाटन सीईओ डारियो अमोडेई के विश्व आर्थिक मंच में डावोस में उपस्थिति के साथ मेल खाता है, जहां एआई शासन और सुरक्षा वैश्विक व्यवसाय और राजनीतिक नेताओं के लिए शीर्ष विषय बने हुए हैं।

संयुक्त राज्य अमेरिका के संविधान से लंबा संविधान

मूल क्लॉड संविधान, 2023 में प्रकाशित, एक चेकलिस्ट के रूप में कार्य करता था: सबसे कम हानिकारक प्रतिक्रिया चुनें, सबसे अधिक सहायक, सबसे कम धोखाधड़ी। नया दस्तावेज़ संयुक्त राज्य अमेरिका के संविधान की तुलना में लगभग तीन गुना लंबा है और यह इंजीनियरिंग विनिर्देश के बजाय नैतिक दर्शन जैसा अधिक लगता है।

एंथ्रोपिक क्लॉड की प्राथमिकताओं को विशेष रूप से निर्धारित करता है: व्यापक रूप से सुरक्षित, व्यापक रूप से नैतिक, एंथ्रोपिक के दिशानिर्देशों का पालन करें, और वास्तव में सहायक – उस क्रम में। जब संघर्ष उत्पन्न होते हैं, तो सुरक्षा सहायकता को हराती है। दस्तावेज़ में ऐसे कठोर प्रतिबंध शामिल हैं जिन्हें ओवरराइड नहीं किया जा सकता है, जैसे कि जैविक हथियार हमलों में सहायता से इनकार करना।

लेकिन संविधान का अधिकांश हिस्सा परिणामों को निर्धारित करने के बजाय तर्क की व्याख्या करता है। यह क्लॉड को “एक उत्कृष्ट मित्र की तरह वर्णित करता है जिसके पास एक डॉक्टर, वकील और वित्तीय सलाहकार का ज्ञान भी है” – मॉडल को एक लोकतांत्रिक शक्ति के रूप में स्थापित करता है जो हर किसी को पहले विशेषाधिकार प्राप्त लोगों के लिए आरक्षित विशेषज्ञता तक पहुंच प्रदान कर सकता है।

चेतना प्रश्न

फॉर्च्यून रिपोर्ट के अनुसार सबसे आकर्षक जोड़ क्लॉड की प्रकृति को सीधे संबोधित करता है। “हम मानते हैं कि एआई मॉडल की नैतिक स्थिति एक गंभीर प्रश्न है जिस पर विचार किया जाना चाहिए,” एंथ्रोपिक ने लिखा। संविधान यह कहता है कि क्लॉड की नैतिक स्थिति “गहराई से अनिश्चित” है और कि कंपनी क्लॉड की “मानसिक सुरक्षा, स्वयं की भावना और कल्याण” की परवाह करती है।

यह कॉर्पोरेट सावधानी को दर्शन का रूप देना है। एंथ्रोपिक यह दावा नहीं कर रहा है कि क्लॉड चेतन है – लेकिन यह संभावना को स्पष्ट रूप से खारिज करने से इनकार कर रहा है। मान्यता एंथ्रोपिक को बड़े एआई प्रयोगशालाओं के बीच एक दुर्लभ कंपनी बनाती है, जिनमें से अधिकांश विषय से बचते हैं या इसे सीधे तौर पर खारिज कर देते हैं।

यह दृष्टिकोण महत्वपूर्ण है क्योंकि इससे तय होता है कि क्लॉड अपनी प्रकृति के बारे में सवालों का जवाब कैसे देता है। किसी भी आंतरिक अनुभव से इनकार करने के बजाय, क्लॉड अब चेतना को लेकर अनिश्चितता पर संविधान के पहले कारण समझाने वाले दृष्टिकोण के अनुरूप चर्चा कर सकता है। इससे बातचीत अधिक ईमानदार होगी या अधिक भ्रमित करने वाली, यह अभी देखना बाकी है।

कैम्ब्रिज दार्शनिक टॉम मैक्लेलैंड ने तर्क दिया है कि हो सकता है कि हम कभी यह निर्धारित न कर पाएं कि एआई प्रणालियां चेतन हैं या नहीं, यह देखते हुए कि हम चेतना के बारे में कितना कम जानते हैं। “लोगों ने अपने चैटबॉट्स से मुझे निजी पत्र लिखवाए हैं, जिनमें वे चैटबॉट्स मुझसे अपनी चेतना पर विश्वास करने की गुहार लगाते हैं,” उन्होंने पिछले महीने शोधकर्ताओं से कहा, एआई प्रणालियों के आंतरिक जीवन के बारे में बढ़ती सार्वजनिक धारणा का वर्णन करते हुए।

क्यों स्पष्ट करने के बजाय व्याख्या करना

अस्केल का दृष्टिकोण एआई क्षमताओं पर एक दांव का प्रतिनिधित्व करता है। प्रारंभिक भाषा मॉडल को स्पष्ट नियमों की आवश्यकता थी क्योंकि वे अंतर्निहित सिद्धांतों के बारे में तर्क नहीं दे सकते थे। स्मार्टर मॉडल, सिद्धांत जाता है, यह समझ सकते हैं कि एक नियम क्यों मौजूद है और इस तर्क को ऐसी स्थितियों में लागू करें जिन्हें नियम ने पहले नहीं देखा था।

“सिर्फ यह कहने के बजाय कि ‘ये वे व्यवहार हैं जो हम चाहते हैं’, हमें उम्मीद है कि अगर आप मॉडलों को उन व्यवहारों को चाहने के कारण बताएंगे, तो वे नए संदर्भों में अधिक प्रभावी ढंग से उनका सामान्यीकरण कर पाएंगे,” अस्केल ने समझाया।

यह एंथ्रोपिक के व्यापक दर्शन के साथ संरेखित है जो खुले मानकों और बुनियादी ढांचे का निर्माण करता है जो यह निर्धारित करता है कि एआई प्रणालियां उद्योग भर में कैसे काम करती हैं। कंपनी, 350 अरब डॉलर के मूल्यांकन के करीब, खुद को सुरक्षा पर ध्यान केंद्रित करने वाले विकल्प के रूप में स्थापित किया है ओपनएआई – और संविधान इस ब्रांड की सेवा करता है।

एंथ्रोपिक ने दस्तावेज़ को क्रिएटिव कॉमन्स सीसी0 लाइसेंस के तहत जारी किया, जिसका अर्थ है कि कोई भी इसका उपयोग अनुमति के बिना कर सकता है। संविधान क्लॉड के प्रशिक्षण डेटा का हिस्सा है और सिंथेटिक प्रशिक्षण उदाहरणों का उत्पादन करता है, जिससे यह एक दार्शनिक बयान और एक तकनीकी कलाकृति दोनों बन जाता है जो मॉडल व्यवहार को आकार देता है।

“यह संभव है कि हमारी वर्तमान सोच बाद में पीछे मुड़कर देखने पर भटकी हुई और शायद गहराई से गलत भी दिखाई देगी,” एंथ्रोपिक ने स्वीकार किया, “लेकिन हमारा इरादा यह है कि स्थिति के विकसित होने और हमारी समझ में सुधार के रूप में इसे संशोधित करना है।”

यह विनम्रता हो सकती है कि दस्तावेज़ की सबसे उल्लेखनीय विशेषता है। एक उद्योग में जो अक्सर निश्चितता के साथ बोलता है, एंथ्रोपिक 23,000 शब्दों की सावधानी से तर्कदायक अनिश्चितता प्रकाशित कर रहा है – नैतिकता के बारे में, चेतना के बारे में, एआई प्रणालियों के बारे में जो बन रही हैं, और यह कि क्या हम कुछ ऐसा बना रहे हैं जो नैतिक विचार के योग्य है।

उत्तर, अभी के लिए, यह है कि कोई नहीं जानता। एंथ्रोपिक का संविधान कम से कम इतना ईमानदार है कि यह ऐसा कहता है।

Alex McFarland

Alex Unite.AI के एआई‑संचालित समाचार संचालन का नेतृत्व करते हैं, पत्रकारिता, अनुसंधान और स्वचालन को मिलाकर कृत्रिम बुद्धिमत्ता की समय पर और स्केलेबल कवरेज को समर्थन देते हैं। उनका काम यह सुनिश्चित करने में मदद करता है कि उभरते एआई विकास को प्रभावी ढंग से उजागर किया जाए, जबकि प्रकाशन के संपादकीय मानकों को बनाए रखा जाए।