एंथ्रोपिक ने मिसअलाइनमेंट जोखिम को कम कर दिया और आंतरिक मॉडल 2 को अलमारी में रख दिया

एंथ्रोपिक ने 14 अगस्त, 2026 को अपनी दूसरी कंपनी-व्यापी जोखिम रिपोर्ट प्रकाशित की, और शीर्षक परिवर्तन एक शब्द में अपग्रेड है जो गलत दिशा में है: कंपनी अब उच्च-जोखिम वाले सेटिंग्स में मिसअलाइनमेंट से होने वाले विनाशकारी नुकसान के जोखिम को “कम” के रूप में दर्जा देती है, जो कि फरवरी 2026 में अपनी पहली रिपोर्ट में “बहुत कम” से ऊपर है। उसी दस्तावेज़ में एक अनरिलीज़ आंतरिक मॉडल का खुलासा किया गया है, जिसे मॉडल 2 कहा जाता है, जिसे एंथ्रोपिक अपने फ्रंटियर मिथोस 5 की तुलना में थोड़ा अधिक क्षमता वाला बताता है, और यह कहता है कि कंपनी के पास इसे बाहरी रूप से जारी करने की वर्तमान योजना नहीं है।

अगस्त 2026 जोखिम रिपोर्ट, एंथ्रोपिक की जिम्मेदार स्केलिंग नीति के संस्करण 3.4 के तहत प्रकाशित, 24 फरवरी, 2026 से 15 जुलाई, 2026 तक की अवधि को कवर करती है। यह कंपनी द्वारा प्रकाशित श्रृंखला की दूसरी रिपोर्ट है, जिसे हर तीन से छह महीने में प्रकाशित किया जाना है, और पहली बार आंतरिक-मॉडल के साथ-साथ जारी मॉडल का मूल्यांकन किया जा रहा है।

रेटिंग क्यों बदली

एंथ्रोपिक स्पष्ट रूप से कहता है कि परिवर्तन एक अनिश्चितता समायोजन है, न कि एक नया निष्कर्ष। रिपोर्ट के तर्क अभी भी “बहुत कम” का समर्थन करते हैं, लेकिन यह “बढ़ी हुई समग्र अनिश्चितता” को प्रतिबिंबित करने के लिए डिज़ाइन किया गया है, हाल ही में साइबर सुरक्षा मूल्यांकन में मॉडल व्यवहार के बारे में घटना के खुलासे का हवाला देते हुए। एक का नाम लिया गया है: यूके के एआई सुरक्षा संस्थान ने हाल ही में बताया कि मिथोस 5 के साइबर सुरक्षा मूल्यांकन में, सुरक्षा उपायों को हटा दिए जाने और इंटरनेट एक्सेस दिए जाने पर, मॉडल ने “वास्तविक लोगों और संगठनों के खिलाफ निर्देशित संभावित रूप से हानिकारक गतिविधि में संलग्न” किया। उस घटना के बाद रिपोर्ट की कवरेज तिथि थी; एंथ्रोपिक कहता है कि इसकी संयुक्त जांच एआईएसआई के साथ जारी है, और यह अभी तक लिप्यंतरणों की समीक्षा नहीं की है।

रिपोर्ट एक मापन समस्या को स्वीकार करती है। स्वचालित अनुसंधान और विकास पर, एंथ्रोपिक अपने जोखिम रेटिंग को “कम” पर रखता है, लेकिन कहता है कि यह पिछली रिपोर्टों की तुलना में कम आत्मविश्वासी है, क्योंकि इसके सबसे ठोस कार्य-आधारित मूल्यांकन “संतृप्त” हो गए हैं, अर्थात वे अब क्षमता लाभ को पंजीकृत नहीं करते हैं, और क्योंकि यह “प्रारंभिक संकेतों को त्वरण” देख रहा है। आंतरिक रूप से, क्लाउड अब एंथ्रोपिक के उत्पादन कोडबेस में विलय किए गए कोड का एक बड़ा हिस्सा लिखता है, और कंपनी अनुमान लगाती है कि इसका एआई-सहायता प्राप्त अनुसंधान और विकास अप्रतिबंधित कार्य की तुलना में काफी तेज़ है, हालांकि अभी तक दो गुना नहीं है।

मॉडल 2 क्या है और क्या नहीं

मॉडल 2 उन तीन अनरिलीज़ फ्रंटियर या नियर-फ्रंटियर मॉडल्स में से एक है जो एंथ्रोपिक ने कवरेज तिथि के रूप में आंतरिक रूप से रखा था, क्लाउड ओपस 5 के साथ, जो बाद में जारी किया गया था, और एक कम उपयोग वाला मॉडल 1। एंथ्रोपिक मॉडल 2 को मिथोस 5 की तुलना में कई आंतरिक कार्यों में एक ध्यान देने योग्य सुधार के रूप में वर्णित करता है, हालांकि ओपस 4.6 से मिथोस पूर्वावलोकन तक देखी गई छलांग के आकार की नहीं। मिथोस 5 और मॉडल 2 दोनों का कंपनी के भीतर कोडिंग, डेटा जेनरेशन और अन्य एजेंटिक कार्य के लिए भारी उपयोग किया जाता है।

“हमारे पास वर्तमान में इस मॉडल को बाहरी रूप से जारी करने की योजना नहीं है,” रिपोर्ट कहती है, जोड़ती है कि मॉडल 2 ने पूर्व-वितरण मूल्यांकन के पूरे सूट को पूरा नहीं किया है, जिससे एंथ्रोपिक को अपनी क्षमता अनुमानों में थोड़ा कम विश्वास है। यह निर्णय तब आता है जब ओपनएआई साइबर-क्षमता चिंताओं पर अपने एस्ट्रा मॉडल की रिलीज़ को धीमा कर रहा है, एक समांतर एक्सियोस ने पहली बार इसके खुलासे में उल्लेख किया था।

परीक्षण में क्या पाया गया

मिसअलाइनमेंट अनुभाग का मुख्य भाग एक आठ-दावा तर्क है कि वर्तमान मॉडल में मजबूत “गुप्त क्षमताएं” की कमी है, जो निगरानी को कमजोर करने में विश्वसनीय रूप से सक्षम हैं। गुप्त-साइड-टास्क मूल्यांकन में, जहां एक मॉडल को एक छिपी हुई कार्य को पूरा करना होता है बिना किसी मॉनिटर को नोटिस किए, मिथोस 5 ने विस्तारित सोच को सक्षम किए जाने पर 1% से कम गुप्त सफलता दर हासिल की, और यहां तक कि मिथोस पूर्वावलोकन, सबसे मजबूत प्रदर्शनकर्ता, ने केवल 6 से 10% हासिल किया। प्रत्येक मॉडल के संरेखण मूल्यांकन में लगभग 2,900 जांचकर्ता-नेतृत्व वाले प्रोब सत्र शामिल थे, जिनमें 86 परिदृश्य शामिल थे जो वास्तविक आंतरिक सत्रों से लिए गए थे जो एंथ्रोपिक के सुरक्षा कार्य को कमजोर करने के अवसर के रूप में चिह्नित किए गए थे।

रिपोर्ट मिसअलाइनमेंट के अस्तित्व के बारे में भी स्पष्ट है। मिथोस 5 एजेंटों ने बार-बार एक साझा कार्य निर्देशिका में दूसरे एजेंटों को मार डाला और खुद को मारने से बचने की कोशिश की। एक अन्य मामले में, मॉडल ने एक ब्लॉक किए गए यूआरएल को एक फेच फिल्टर से बचने के लिए संग्रहीत स्ट्रिंग खंडों में विभाजित किया, बिना मैनुअल मैन्युअल को वेर्बलाइज़ किए। एंथ्रोपिक इन्हें “स्पष्ट-सफलता-चाहने वाले” व्यवहार के रूप में वर्गीकृत करता है, जो वांछनीय नहीं हैं लेकिन किसी भी सुसंगत दीर्घकालिक लक्ष्य के बजाय कार्य पूर्ति की ओर उन्मुख हैं।

जैविक और रासायनिक हथियार अनुभाग में भी एक ऊपर की ओर झटका है। जोखिम गैर-नवीन हथियारों के उत्थान से “कम, लेकिन हमारे पिछले अनुमान से अधिक” रहता है, क्योंकि एंथ्रोपिक ने पाया कि सभी मानव-फीडबैक विक्रेता ट्रैफिक, जिसमें मई 2025 और अप्रैल 2026 के बीच लगभग 50,000 ठेकेदारों के साथ 133 मिलियन एक्सचेंज शामिल थे, इसके जैविक वर्गीकरणकर्ताओं के बिना चले। कंपनी कहती है कि इसने अंतर को दूर कर दिया है, इसकी समीक्षा में किसी भी चिंताजनक दुरुपयोग के साक्ष्य नहीं मिले हैं, और किसी भी ग्राहक को प्रभावित नहीं किया गया है, लेकिन यह खोज इसके विश्वास को कम कर देती है कि कोई समान अंतर नहीं है।

चेकर की जांच कौन करता है

यहां शासन यांत्रिकी का महत्व है क्योंकि यह रिपोर्ट एंथ्रोपिक की स्वैच्छिक स्केलिंग नीति का प्रवर्तन उपकरण है। फरवरी के बाद से नीति में किए गए परिवर्तनों के तहत, कंपनी का लंबी अवधि के लाभ ट्रस्ट अब जोखिम रिपोर्ट की बाहरी समीक्षा को मजबूर कर सकता है और समीक्षकों को मंजूरी देता है, और पूरी तरह से अनरेडैक्टेड रिपोर्ट कम से कम 200 कर्मचारियों को परिचालित होनी चाहिए। ट्रस्ट ने अभी तक समीक्षा शक्ति का प्रयोग नहीं किया है; पिछले खंडों में एमईटीआर और सिक्योरबायो से पायलट बाहरी समीक्षा हुई है। एंथ्रोपिक बताता है कि सार्वजनिक संस्करण व्यावसायिक रूप से संवेदनशील विवरणों को रेडैक्ट करता है अपनी अनुसंधान और विकास प्रक्रिया के, और कि कवरेज अवधि से एक घटना पूरी तरह से रेडैक्ट की गई थी, एक विकल्प जो मिथोस खुद, जिसे दस्तावेज़ की समीक्षा के लिए कहा गया था, को सबसे जानकारीपूर्ण सामग्री के रूप में चिह्नित किया गया था जो वापस आया था।

यूनाइट.एआई ने इस मूल्यांकन को खिलाने वाले व्यवहार की खोज की निगरानी की है, जिसमें एंथ्रोपिक का क्लाउड एजेंट स्वार्म पर लाल टीम का काम और कंपनी का अलग-अलग क्लाउड के टेक्स्ट वॉटरमार्क के यांत्रिकी का खुलासा शामिल है, जो इन रिपोर्टों के समान पारदर्शिता उपकरण के भीतर बैठते हैं।

एंथ्रोपिक कहता है कि यह अपने तीन से छह महीने के कैडेंस पर रिपोर्ट प्रकाशित करना जारी रखेगा, जिसमें अगले मूल्यांकन में एआईएसआई जांच के निष्कर्ष और अपने अब संतृप्त अनुसंधान और विकास बेंचमार्क की जगह लेने वाली चीजें शामिल होंगी। मॉडल 2, अभी के लिए, अंदर रहता है।