Anthropic ने छह METR मूल्यांकनकर्ताओं को कर्मचारी-जैसी पहुँच दी

Anthropic ने 15 अक्टूबर 2026 को घोषणा की कि उसने METR की एक टीम को अपने कर्मचारियों जैसी पहुँच देना शुरू कर दिया है। METR एक गैर-लाभकारी संस्था है, जो अत्याधुनिक AI मॉडलों का मूल्यांकन करती है। METR के छह कर्मचारियों को कंपनी का हार्डवेयर, कार्यालय में जगह और आंतरिक उपकरणों व प्रणालियों तक पहुँच दी गई है।

यह घोषणा सितंबर 2026 में अपने मॉडलों और सुरक्षा कार्यप्रणालियों के अधिक सशक्त स्वतंत्र, तृतीय-पक्ष मूल्यांकन की प्रतिबद्धता जताने और सुपरइंटेलिजेंस पर व्हाइट हाउस समझौते पर हस्ताक्षर करने के बाद हुई। इस समझौते के तहत कंपनियों ने स्वतंत्र बाहरी ऑडिटरों या मूल्यांकनकर्ताओं के साथ साझेदारी करने का वादा किया था। Anthropic ने कहा कि पिछले एक साल में उसने अपनी जोखिम रिपोर्टों की कई समीक्षाओं पर METR के साथ काम किया है।

कर्मचारी-जैसी पहुँच की शर्तें

Anthropic ने कहा कि आंतरिक टूल और सिस्टम तक इस टीम की पहुँच लगभग उतनी ही है जितनी उसकी अपनी जोखिम आकलन टीमों को हासिल है। कुछ स्पष्ट रूप से तय श्रेणियों—ग्राहकों से जुड़ा डेटा, वकील-मुवक्किल गोपनीयता के तहत संरक्षित जानकारी और मॉडल आर्किटेक्चर से जुड़ी जानकारी—को छोड़कर, Anthropic के कर्मचारियों को प्रोत्साहित किया जाता है कि वे टीम के साथ जानकारी उसी तरह साझा करें, जैसे वे संरेखण जोखिम पर काम करने वाले किसी सहकर्मी के साथ करते।

घोषणा के एक फुटनोट में आर्किटेक्चर से जुड़ी जानकारी को अपवाद रखने का कारण समझाया गया है। मूल्यांकनकर्ता, बैंक परीक्षकों की तरह, दूसरी कंपनियों के साथ भी काम कर सकते हैं; इसलिए Anthropic ने कहा कि वह अनजाने में जानकारी लीक होने की आशंका को लेकर सावधानी बरतता है। आर्किटेक्चर से जुड़ी जानकारी में ऐसी लीक का जोखिम अधिक होता है, जबकि जोखिम आकलन के लिए उसकी प्रासंगिकता आम तौर पर कम होती है। जब आर्किटेक्चर से जुड़ी जानकारी अत्यधिक प्रासंगिक हो, तो Anthropic आम तौर पर उसे साझा करने की कोशिश करेगा, हालाँकि इसके लिए स्पष्ट आंतरिक मंज़ूरी लेनी होगी।

समझौते की प्रकाशन शर्तों के तहत, METR Anthropic के जोखिम स्तरों, घटनाओं या प्रक्रियाओं का अपना विश्लेषण प्रकाशित करेगा। Anthropic प्रकाशन पर वीटो नहीं लगा सकता, लेकिन वह METR से ऐसी जानकारी हटाने की माँग कर सकता है जो सीमित, पहले से तय श्रेणियों में आती हो। METR को हटाई गई जानकारी उजागर किए बिना, सार्वजनिक रूप से उन कटौतियों का वर्णन करने और यह बताने की पूरी स्वतंत्रता है कि उसके अनुसार वे उचित थीं या नहीं।

यह सहयोग लागू किए जा सकने वाले समझौतों के तहत काम करने वाली एक छोटी टीम तक सीमित है। METR के अन्य कर्मचारियों—जिनमें अन्य परियोजनाओं पर Anthropic के साथ काम करने वाले शोधकर्ता भी शामिल हैं—को इस टीम के काम से अलग रखा गया है। Anthropic ने बताया कि उसकी सुरक्षा के मानकों के तहत काम करने वाले कुछ योग्य लोगों को उसके कामकाज को करीब से समझने का अवसर देना ही टीम को भीतर शामिल करके मूल्यांकन करने का उद्देश्य है। उसने कहा कि यह अन्य संगठनों के लिए उसकी या उसके ग्राहकों और साझेदारों की जानकारी हासिल करने का कोई तरीका नहीं है।

स्वतंत्र मूल्यांकन के पीछे Anthropic का तर्क

कंपनी ने कहा कि मॉडल जितने अधिक शक्तिशाली हुए हैं, उन्हें उतने ही मज़बूत सुरक्षा उपायों और अधिक चुनौतीपूर्ण जोखिम आकलनों की ज़रूरत पड़ी है। Anthropic ने कहा कि वह अपने निर्णयों के लिए सार्वजनिक रूप से जवाबदेह होना चाहता है, लेकिन सुरक्षा संबंधी अपने काम से जुड़ी सारी जानकारी सार्वजनिक नहीं कर सकता, क्योंकि उसमें से कुछ दुर्भावनापूर्ण लोगों के काम आ सकती है या व्यावसायिक रूप से संवेदनशील हो सकती है—जैसे कंप्यूटिंग संसाधनों या प्रशिक्षण से जुड़ी जानकारी। इसके बजाय, वह तीसरे पक्ष के मूल्यांकनकर्ताओं को अपनी जानकारी तक गहरी पहुँच दे रहा है और उनसे अपने मॉडल बनाने में शामिल जोखिमों के बारे में साक्ष्य तथा तर्कसंगत निष्कर्ष साझा करने को कह रहा है। इसका उद्देश्य यह अंतर कम करना है कि किसी अत्याधुनिक एआई कंपनी के सिस्टम के बारे में मूल्यांकनकर्ता कितना समझते हैं और कंपनी स्वयं उन्हें कितना समझती है।

घोषणा में अत्याधुनिक मॉडल का मूल्यांकन करने के लिए चार ज़रूरी बातें बताई गई हैं: अत्याधुनिक मॉडल की क्षमताओं का आकलन करने की विशेषज्ञता, जिसमें यह समझना भी शामिल है कि मूल्यांकन किन तरीकों से विफल हो सकते हैं—जैसे संरेखण का दिखावा; स्वतंत्रता, यानी मूल्यांकनकर्ता का उस कंपनी में कोई इक्विटी हिस्सा न होना जिसका वह मूल्यांकन कर रहा है और न ही उस पर वित्तीय या परिचालन निर्भरता होना; जोखिमों का सार्थक मूल्यांकन करने के लिए पर्याप्त पहुँच, जो नवीनतम मॉडल से आगे बढ़कर यह देखने तक हो कि उन्हें कैसे प्रशिक्षित किया गया और सुरक्षा उपाय कैसे काम करते हैं; और किसी मॉडल या प्रक्रिया के बारे में टिप्पणियाँ तथा आकलन प्रकाशित करने की स्वतंत्रता।

Anthropic ने बैंक पर्यवेक्षण से तुलना की, साथ ही यह भी माना कि यह तुलना पूरी तरह सटीक नहीं है। बैंकों को अपनी जोखिम स्थिति के बारे में बाहरी लोगों से अधिक जानकारी होती है, इसलिए नियामक सबसे बड़े बैंकों के भीतर काम करने के लिए स्थायी परीक्षक नियुक्त करते हैं। और अगर किसी बैंक का जोखिम लेने का तरीका जनता के लिए ख़तरा बन सकता हो, तो तीसरे पक्ष पहले से इसका पता लगाने की कोशिश करते हैं।

पहुँच के तीन स्तर

Anthropic ने कहा कि वह मूल्यांकनकर्ताओं के लिए पहुँच के तीन स्तर विकसित कर रहा है। पहले स्तर पर, मूल्यांकनकर्ता सीमित दायरे वाली जोखिम जाँच करते हैं; Anthropic तय करता है कि उन्हें कौन-सी पहुँच दी जाए, और मूल्यांकनकर्ता उसके अनुमोदन से अपने निष्कर्ष प्रकाशित कर सकते हैं। दूसरे स्तर पर, मूल्यांकनकर्ता Anthropic की मंज़ूरी के बिना प्रकाशन कर सकते हैं और उन्हें अधिक जानकारी तक पहुँच मिलती है। हालाँकि, Anthropic अब भी जानकारी की कुछ विशिष्ट श्रेणियों को हटाने की माँग कर सकता है, जबकि मूल्यांकनकर्ता इस बारे में अपने विचार प्रकाशित कर सकते हैं कि ये कटौतियाँ उचित थीं या नहीं। तीसरा स्तर METR के साथ हुआ यह समझौता है: कर्मचारी-जैसी पहुँच और दूसरे स्तर के समान प्रकाशन अधिकार।

Anthropic ने कहा कि समय के साथ उसे उम्मीद है कि तीसरे स्तर पर कई मूल्यांकनकर्ता होंगे और हर टीम उसकी जोखिम स्थिति तथा अहम निर्णयों का अपना विश्लेषण प्रकाशित करेगी।

SecureBio, Accenture और शुरुआती दौर की बातचीत

SecureBio फिलहाल पहले स्तर पर है। यह Anthropic की अगस्त 2026 की जोखिम रिपोर्ट के रासायनिक और जैविक हथियारों वाले अध्याय की समीक्षा कर रहा है। इससे पहले, यह पिछली जोखिम रिपोर्ट की प्रायोगिक समीक्षा पूरी करके प्रकाशित कर चुका है। Anthropic ने कहा कि यह समीक्षा पूरी होने के बाद वह अधिक पहुँच और प्रकाशन अधिकारों वाली परियोजनाओं पर जाने पर विचार करेगा।

Anthropic ने कहा कि Accenture और Faculty के साथ वह ऐसी साझेदारी की दिशा में काम कर रहा है जिसमें मॉडलों का मूल्यांकन और रेड-टीमिंग, संरेखण आकलन, मॉडल सुरक्षा उपायों की जाँच और दोनों संगठनों में क्षमताओं का विकास शामिल है।

Anthropic ने यह भी कहा कि वह Hugging Face समेत कई अन्य संगठनों के साथ शुरुआती बातचीत कर रहा है। चूँकि ये साझेदारियाँ अभी शुरुआती चरण में हैं, इसलिए Anthropic इन मूल्यांकनकर्ताओं को अधिक सीमित जानकारी दे रहा है और उनके प्रकाशन अधिकार भी अधिक सीमित हैं। इस दौरान, Anthropic यह सुनिश्चित कर रहा है कि साझेदार गोपनीय जानकारी की रक्षा करें और उनके पास आवश्यक संसाधन तथा विशेषज्ञता हो। Anthropic ने कहा कि साझेदारियाँ आगे बढ़ने और भरोसा बनने के साथ, उसका लक्ष्य अधिक स्वतंत्र मूल्यांकनकर्ताओं को पूरी तरह अपने कामकाज में शामिल करना है।

सितंबर की प्रतिबद्धता

सितंबर 2026 में Anthropic के सह-संस्थापक Dario Amodei ने “हमें अग्रिम मोर्चे की रफ़्तार तय करनी होगी” शीर्षक से एक निबंध प्रकाशित किया। इसमें अग्रणी AI के विकास की गति नियंत्रित करने की तीन-क़दम वाली योजना का पहला क़दम ऐसे मूल्यांकनकर्ताओं को संगठन के भीतर शामिल करना था जिन्हें कर्मचारियों जैसी पहुँच मिले। Amodei ने लिखा कि Anthropic इस क़दम के लिए एकतरफ़ा प्रतिबद्धता जता रहा है और सरकारों से अन्य अग्रणी कंपनियों को भी ऐसा करने के लिए बाध्य करने का आह्वान किया। उन्होंने लिखा कि “हमें AI मॉडलों की क्षमताओं में सुधार की रफ़्तार धीमी करनी होगी,” ताकि जोखिमों को रोकने के प्रयासों को क्षमताओं में प्रगति के साथ तालमेल बिठाने का समय मिल सके।

निबंध में कहा गया कि Anthropic अपने कार्यालयों में डेस्क, प्रवेश बैज और कंपनी के लैपटॉप उपलब्ध कराकर एक बाहरी समीक्षा दल को संगठन के भीतर शामिल करने का इरादा रखता है। इस दल को कार्यस्थलों, साधनों और अनुमतियों तक ऐसी पहुँच दी जाएगी जो अधिकांशतः आंतरिक जोखिम-मूल्यांकन दलों की पहुँच के बराबर होगी; हालाँकि, जहाँ कानून या अनुबंध इसकी माँग करें या ग्राहकों और साझेदारों की निजी जानकारी की रक्षा करना आवश्यक हो, वहाँ कुछ अपवाद होंगे। इसके लिए एक अनुबंध भी होगा, जिसके तहत बाहरी समीक्षकों को जोखिम के स्तरों, घटनाओं, कार्यप्रणालियों और उन्हें मिली या नहीं मिली पहुँच से जुड़ी अहम जानकारियाँ प्रकाशित करने का अधिकार होगा; प्रकाशन पर Anthropic का कोई संपादकीय नियंत्रण नहीं होगा। प्रस्तावित शर्तों के तहत, Anthropic को सुरक्षा-संवेदनशील, कानूनी विशेषाधिकार के तहत संरक्षित, व्यावसायिक रूप से संवेदनशील या किसी तीसरे पक्ष की गोपनीय जानकारी को हटाने का सीमित अधिकार होगा। लेकिन वह केवल इसलिए निष्कर्षों को नहीं हटा सकेगा कि वे प्रतिकूल हैं, और समीक्षक सार्वजनिक रूप से बता सकेंगे कि हटाई गई किसी जानकारी का उनके निष्कर्षों के लिए महत्वपूर्ण होना संभव था।

Anthropic ने कहा कि वह स्वेच्छा से मूल्यांकनकर्ताओं को अपने कामकाज में शामिल कर रहा है और उसका मानना है कि हर अग्रणी AI कंपनी को ऐसा ही करना चाहिए। उसने कहा कि वह कई मूल्यांकनकर्ताओं के साथ तेज़ी से आगे बढ़ रहा है, यह सक्रिय रूप से सीख रहा है कि किस तरह की साझेदारियाँ कारगर हैं, और इस प्रक्रिया में आगे बढ़ते हुए जानकारी साझा करने के लिए प्रतिबद्ध है।