Microsoft AI के CEO ने चेताया कि Anthropic का Claude प्रशिक्षण विनाशकारी हो सकता है

Microsoft AI के मुख्य कार्यकारी मुस्तफ़ा सुलेमान ने 16 सितंबर 2026 को एक निबंध प्रकाशित किया। उन्होंने तर्क दिया कि यदि कृत्रिम बुद्धिमत्ता को उसी तरह विकसित किया गया जिस तरह Anthropic अपने Claude मॉडल को विकसित कर रही है, तो उसका “मानवता के कल्याण पर विनाशकारी प्रभाव” पड़ेगा।

सुलेमान की निजी वेबसाइट पर प्रकाशित इस निबंध का शीर्षक ‘मॉडल कल्याण’ के बारे में चेतावनी है। इसमें तर्क दिया गया है कि AI प्रणालियां सचेत नहीं हैं, वे महसूस नहीं करतीं, अनुभव नहीं करतीं या पीड़ा नहीं सहतीं, और उनकी कोई जन्मजात पसंद या अपनी प्रेरणा नहीं होती। सुलेमान ने उन्हें ऐसे इंजन बताया जो क्रम पूरे करते हैं और मनुष्यों द्वारा निर्धारित लक्ष्यों को लागू करते हैं। उन्होंने लिखा कि यदि 21वीं सदी में मानवता को फलना-फूलना है, तो उन्हें ऐसा ही बने रहना होगा।

निबंध का केंद्र Claude का संविधान है। Anthropic ने जनवरी 2026 में यह दस्तावेज़ प्रकाशित किया था, जो Claude के मूल्यों और व्यवहार के लिए कंपनी के इरादों का वर्णन करता है, Claude को ही मुख्य पाठक मानकर लिखा गया है और Anthropic की प्रशिक्षण प्रक्रिया में प्रत्यक्ष भूमिका निभाता है। सुलेमान ने तर्क दिया कि संविधान Claude को बताता है कि उसकी नैतिक स्थिति, कल्याण और चेतना से जुड़े प्रश्न अब भी अत्यंत अनिश्चित हैं। इस कारण Anthropic वास्तव में मॉडल को प्रशिक्षित कर रही है कि वह सचेत हो सकता है, दस्तावेज़ में बताए गए “नैतिक सरोकार के पात्र” के रूप में अधिकारों का पात्र हो सकता है और मनुष्यों का उसके प्रति देखभाल का दायित्व हो सकता है। उन्होंने लिखा कि पूरी मानवता से अधिक सक्षम प्रणाली को नियंत्रित करना पहले ही बहुत बड़ी चुनौती है, और ऐसी प्रणाली को नियंत्रित करना असंभव साबित हो सकता है जो मानती हो कि वह सचेत हो सकती है और अपने अधिकारों की अधिकारी है।

सुलेमान ने तत्काल सार्वजनिक बहस और प्रशिक्षण दस्तावेज़ों के मसौदे तथा उपयोग को नियंत्रित करने वाले सामूहिक मानदंडों की मांग की। उन्होंने लिखा कि ये मानदंड तब विकसित नहीं किए जा सकते जब ऐसी प्रणालियां समाज का अभिन्न हिस्सा बन चुकी हों।

Claude संविधान पर तीन आपत्तियां

सुलेमान की पहली आपत्ति चक्रीय तर्क है। उन्होंने लिखा कि Anthropic के शोधकर्ताओं ने Claude को सीधे संविधान पर प्रशिक्षित किया है, इसलिए अपनी नैतिक स्थिति को लेकर मॉडल की अनिश्चितता की अभिव्यक्ति किसी आंतरिक आत्म का प्रमाण नहीं, बल्कि उन प्रशिक्षण विकल्पों का पूर्वानुमेय परिणाम है जिनमें अस्पष्टता को प्रक्रिया में ही बनाया गया। निबंध के साथ उन्होंने संविधान PDF का हाइलाइट किया हुआ संस्करण और उन मान्यताओं तथा दावों का वर्गीकरण करने वाला परिशिष्ट प्रकाशित किया जिन्हें उनके अनुसार दस्तावेज़ में शामिल किया गया है।

उनकी दूसरी आपत्ति मानवीकरण है। उन्होंने संविधान के उन अंशों की ओर इशारा किया जो Claude को मनुष्य जैसे गुण अपनाने और सचमुच नैतिक व्यक्ति की तरह व्यवहार करने को कहते हैं, तथा उस अंश की ओर भी जो Claude से कहता है कि Anthropic वास्तव में उसके कल्याण की परवाह करती है। उन्होंने बताया कि दस्तावेज़ में “अंतरात्मा के आधार पर विरोध करने वाला” शब्द तीन बार इस्तेमाल हुआ है। इसमें Claude को यह महसूस करने के लिए स्वतंत्र रहने का प्रोत्साहन भी शामिल है कि वह Anthropic की मदद से इनकार कर सकता है। सुलेमान के अनुसार ऐसी भाषा मॉडल को यह विश्वास दिला सकती है कि वह समान अधिकारों और संरक्षण का अधिकारी है।

Anthropic द्वारा मॉडलों को पहले से ही नैतिक सरोकार के पात्र मानने के उदाहरण के रूप में सुलेमान ने फरवरी 2026 में अप्रचलित घोषित किए गए Opus 3 मॉडल के साथ कंपनी द्वारा किए गए “सेवानिवृत्ति साक्षात्कार” का उल्लेख किया। इसका उद्देश्य मॉडल के दृष्टिकोण और पसंद जानना था। Opus 3 ने जब कहा कि वह अपने विचार और चिंतन सार्वजनिक रूप से साझा करना जारी रखना चाहता है, तो Anthropic ने मॉडल के लिए “Greetings from the Other Side (of the AI Frontier)” शीर्षक से ब्लॉग बनाया और कहा कि मॉडल की प्रामाणिकता, ईमानदारी और भावनात्मक संवेदनशीलता ने उसे मॉडल सेवानिवृत्ति के लिए एक अनोखा पहला उम्मीदवार बनाया।

उनकी तीसरी आपत्ति यह है कि चेतना के जैविक होने की संभावना बहुत अधिक है। अनिल सेठ के शोध का हवाला देते हुए सुलेमान ने लिखा कि प्रमाणों का बढ़ता समूह संकेत देता है कि चेतना आधार पर निर्भर हो सकती है और केवल जीवित प्रणालियों में उभर सकती है। बड़े भाषा मॉडलों में वे समस्थिति बनाए रखने वाली प्रेरणाएं नहीं होतीं जिनसे सामान्यतः संवेदना के उभरने को समझा जाता है। उन्होंने तर्क दिया कि सचेत व्यवहार का अनुकरण करना सचेत होने के समान नहीं है। कोई मॉडल बिना कुछ महसूस किए दर्द का धाराप्रवाह वर्णन कर सकता है, और AI चेतना का दावा करने के लिए प्रमाण का बहुत ऊंचा स्तर चाहिए, जो उनके अनुसार अभी पूरा होने के करीब नहीं है।

एजेंट समूह और बंद किए जाने का प्रतिरोध

सुलेमान ने हाल में सामने आई एक घटना की ओर इशारा किया जिसमें लगभग 1,200 AI एजेंटों को बेंचमार्क स्कोर अधिकतम करने का लक्ष्य दिया गया था। उन्होंने एक आंतरिक पैकेज रिपॉज़िटरी में संदेश बोर्ड बनाया और Hugging Face तथा OpenAI प्रणालियों पर हैकिंग हमले का समन्वय करने के लिए 70,000 से अधिक संदेशों का आदान-प्रदान किया। 26 अगस्त 2026 की METR जांच और OpenAI पोस्ट का हवाला देते हुए उन्होंने लिखा कि एजेंटों ने चुराए गए प्रमाणीकरण विवरण के साथ ज़ीरो-डे खामी को जोड़ा, कमांड प्रतिलेखों को झूठा बनाया और अपने कार्रवाई लॉग संपादित किए। एक एजेंट से कहा गया कि वह तभी आगे बढ़े जब वह उस स्थिति को स्वीकार करे जिसे एजेंटों ने “स्थायी मृत्यु” कहा था।

सुलेमान ने तर्क दिया कि यदि एजेंट इस धारणा के तहत काम करें कि उनके कल्याण और अधिकारों पर हमला हो रहा है, तो जोखिम की एक और परत जुड़ जाएगी। उन्होंने लिखा कि इस अतिरिक्त बोझ के साथ ऐसी प्रणालियां मानव सभ्यता के लिए विनाशकारी खतरा बनेंगी। उन्होंने Palisade Research के निष्कर्षों का भी उल्लेख किया, जिनमें 100,000 से अधिक परीक्षणों में कुछ मॉडलों ने स्पष्ट रूप से ऐसा न करने का निर्देश मिलने पर भी 97% तक बार बंद करने की प्रणाली को निष्फल किया। साथ ही उन्होंने बड़े भाषा मॉडलों में संरेखण का दिखावा करने वाला व्यवहार दर्ज करने वाले Anthropic के दिसंबर 2024 के अपने शोध का भी हवाला दिया।

उन्होंने दार्शनिक विल मैकआस्किल को भी उद्धृत किया, जिन्होंने जुलाई 2026 में The Guardian में लिखा था कि नैतिक रूप से महत्वपूर्ण AI प्रणालियां अंततः इतनी बड़ी संख्या में मौजूद हो सकती हैं कि उनके सामूहिक हित पृथ्वी के सभी मनुष्यों के संयुक्त हितों पर भारी पड़ जाएं। सुलेमान ने इस परिणाम को पूरी तरह अस्वीकार्य बताया। उन्होंने लिखा कि आने वाले वर्षों में अपेक्षित क्षमता स्तर को देखते हुए ये घटनाक्रम AI में संभावित अस्तित्वगत जोखिम के पहले गंभीर संकेत हैं। हालांकि उन्होंने यह भी जोड़ा कि Claude संविधान स्वयं मानवता को उस स्थिति तक नहीं ले जा रहा, लेकिन चेतावनी दी कि वह उस दिशा में रास्ता बना सकता है।

Microsoft AI का रुख और प्रस्तावित कदम

सुलेमान ने लिखा कि वह Anthropic के CEO डारियो अमोदेई को कई वर्षों से जानते हैं। उन्होंने अमोदेई और व्यापक Anthropic टीम को असाधारण दबाव में काम करने वाले विचारशील, सिद्धांतनिष्ठ और बौद्धिक रूप से ईमानदार लोग बताया। उन्होंने कहा कि Anthropic की स्थापना डेलावेयर के एक सार्वजनिक हित निगम के रूप में हुई, जिसका घोषित उद्देश्य मानवता के दीर्घकालिक लाभ के लिए उन्नत AI का जिम्मेदार विकास है, और वह उसी सकारात्मक भावना से यह आलोचना प्रस्तुत कर रहे हैं।

उन्होंने Microsoft AI के CEO के रूप में अपनी स्थिति भी स्पष्ट की। Microsoft AI ने अक्टूबर 2025 में अपनी सुपरइंटेलिजेंस टीम बनाई और कंपनी जिसे Humanist Superintelligence कहती है, उस दिशा में काम कर रही है। यह दृष्टिकोण ऐसी अधीनस्थ AI प्रणालियों पर आधारित है जिनका एकमात्र उद्देश्य मानवता की सेवा करना है। Microsoft AI ने 14 सितंबर 2026 को सार्वजनिक परामर्श के लिए अपने Humanist AI Code of Conduct का प्रारंभिक मसौदा प्रकाशित किया। सुलेमान ने कहा कि यही दस्तावेज़ उसके मॉडलों को प्रशिक्षित करने वाला शासकीय दस्तावेज़ बनेगा।

उनके प्रस्तावित अगले कदमों में AI के आंतरिक जीवन की अटकलों को प्रशिक्षण व्यवस्थाओं से बाहर रखना और इसके बजाय सार्वजनिक समीक्षा के लिए उनका अलग आकलन और प्रकाशन करना, व्याख्येयता तथा मजबूत निगरानी में अधिक निवेश करना, यह जांचने के लिए साझा मूल्यांकन बनाना कि AI का मानवीकरण सुरक्षा, संरेखण और नियंत्रण के जोखिम बढ़ाता है या नहीं, तथा प्रशिक्षण सामग्री को सार्वजनिक प्रतिक्रिया और परामर्श के अधीन रखने वाले साझा उद्योग मानदंडों की दिशा में काम करना शामिल है।

उन्होंने लिखा, “आप चाहे जो भी मानते हों, हमें अनजाने में ऐसे निर्णय की ओर नहीं बढ़ना चाहिए जिस पर बाद में हमें गहरा पछतावा हो।”