अध्ययन में पता चला कि फ्रंटियर एआई लैब्स के पास बागी मॉडलों को नियंत्रित करने के लिए कम योजनाएँ हैं

शीर्ष पाँच फ्रंटियर एआई कंपनियों ने अधिकतम अपने एआई सिस्टम पर नियंत्रण बनाए रखने के लिए आवश्यक बुनियादी प्रथाओं को केवल आंशिक रूप से लागू किया है, और कोई भी अपने ऑपरेटर के खिलाफ मुड़ने वाले मॉडल को नियंत्रित करने की पूर्ण योजना प्रकाशित नहीं कर पाया है, यह Guidelight AI Standards के एक नए मूल्यांकन के अनुसार है, जिसमें Anthropic, Google, Meta, OpenAI और xAI को अगस्त 18, 2026 तक की जानकारी के साथ ग्रेड दिया गया है।

यह मूल्यांकन, Guidelight का पहला, प्रत्येक कंपनी को उसके कंट्रोल मानक से निकाली गई छह प्रथाओं पर 0 से 5 तक अंक देता है: आंतरिक एआई सिस्टम क्या करते हैं, इसका लॉग रखना; मॉनिटरिंग की प्रभावशीलता मापना; उच्च जोखिम वाले एआई कार्यों को मॉनिटर के पीछे गेट करना; चिन्हित दुराचार की लहर के बाद सर्किट‑ब्रेक करना; नियंत्रणों को तृतीय‑पक्ष समीक्षा के लिए प्रस्तुत करना; और एक कंटेनमेंट योजना बनाए रखना। किसी भी प्रथा पर कोई कंपनी 3 से ऊपर अंक नहीं प्राप्त कर पाई (“व्यापक आंशिक कार्यान्वयन”)। कुल ग्रेड इस प्रकार हैं: Anthropic और OpenAI ने C+ (2.50) के साथ बराबरी की, Google ने D+ (1.50), xAI ने D− (0.83), और Meta ने F (0.67) प्राप्त किया।

Guidelight कंटेनमेंट योजना को एक पूर्वनिर्धारित प्रोटोकॉल के रूप में परिभाषित करता है, जो तब सक्रिय होता है जब किसी एआई को नियंत्रण को बायपास करने की कोशिश करते हुए पहचाना जाता है, और यह निर्धारित करता है कि कौन‑से अनुमतियों को रद्द किया जाएगा, मॉडल किसके लिए और किन शर्तों के तहत कार्य करना जारी रख सकता है, तथा कब इसे पूरी तरह बंद किया जाएगा। इस प्रथा में OpenAI ने 3 अंक के साथ सर्वश्रेष्ठ स्कोर किया (रिपोर्ट उसके कार्यभार को रोकने या समाप्त करने के रिकॉर्ड को मान्यता देती है, जिसमें आंतरिक डिप्लॉयमेंट और प्रशिक्षण रन शामिल हैं, जब सुरक्षा घटनाएँ पाई गईं), जबकि Anthropic और Meta ने 0 अंक प्राप्त किया, “लागू नहीं।”

ये अंक केवल उन जानकारी को मापते हैं जो कंपनियों ने सार्वजनिक रूप से प्रकट की हैं, यह Guidelight स्पष्ट रूप से कहता है: कम ग्रेड का अर्थ सार्वजनिक साक्ष्य की कमी है, जरूरी नहीं कि आंतरिक सुरक्षा उपायों की कमी हो।

प्रत्येक लैब ने एआई नियंत्रण में कैसे अंक प्राप्त किए

पाँच कंपनियों में सबसे मजबूत क्षेत्र पहचान था। Anthropic और OpenAI दोनों आंतरिक एआई गतिविधियों के बड़े हिस्से का लॉग रखते हैं और उसे दुराचार के संकेतों के लिए स्कैन करते हैं, और दोनों ने इस स्कैन की प्रभावशीलता को मापने और जब यह कुछ चिन्हित करे तो मानवों तक बढ़ाने के कदम उठाए हैं, जैसा कि मूल्यांकन ने पाया। पाँच में से चार कंपनियों, xAI को छोड़कर, ने METR की पहली फ्रंटियर रिस्क रिपोर्ट में भाग लिया, जो 19 मई 2026 को प्रकाशित एक पायलट अभ्यास था, जिसमें बाहरी मूल्यांकनकर्ता को आंतरिक मॉडल, कच्ची सोच की श्रृंखलाएँ, और प्रत्येक कंपनी द्वारा एआई के आंतरिक उपयोग और मॉनिटरिंग के बारे में गैर‑सार्वजनिक जानकारी तक पहुंच मिली।

सबसे कमजोर क्षेत्र रोकथाम और कंटेनमेंट थे। गेटेड कार्यों और सर्किट‑ब्रेकिंग पर, ऐसी प्रथाएँ जो किसी दुराचार प्रणाली को घटना के पहले या दौरान रोकती हैं न कि बाद में, केवल Anthropic ने “सीमित आंशिक कार्यान्वयन” से ऊपर अंक प्राप्त किया। Guidelight का निष्कर्ष: सर्वश्रेष्ठ सार्वजनिक साक्ष्य के आधार पर, कंपनियों के पास “आपातकाल के लिए तैयार कम कंटेनमेंट प्रोटोकॉल” हैं।

ग्रेड यह भी दर्शाते हैं कि शब्दों और कागजी कार्रवाई में अंतर है। Anthropic, जो उद्योग में सबसे व्यापक जोखिम दस्तावेज़ प्रकाशित करता है, ने कंटेनमेंट योजना प्रथा में 0 अंक प्राप्त किया। उसका अपना अगस्त 2026 जोखिम रिपोर्ट — 185 पृष्ठों का मूल्यांकन जो उसके Mythos 5 और अनरिलीज़्ड Model 2 सिस्टम को कवर करता है, संस्करण 3.4 के Responsible Scaling Policy के तहत 15 जुलाई 2026 की कवरेज तिथि के साथ प्रकाशित — मॉनिटरिंग, सैंडबॉक्सिंग और ब्लॉकिंग हस्तक्षेपों का विवरण देता है, लेकिन मॉडल की डिप्लॉयमेंट को सीमित करने को उसके मिसअलाइनमेंट और नियंत्रण घटनाओं के प्रति प्रतिक्रिया प्रक्रिया के संभावित परिणाम के रूप में नहीं बताता। उसी रिपोर्ट ने Anthropic के समग्र मिसअलाइनमेंट जोखिम मूल्यांकन को “बहुत कम” से “कम” कर दिया, हालिया घटनाओं के खुलासों के बाद मॉडल के साइबर सुरक्षा मूल्यांकनों में व्यवहार के बारे में अनिश्चितता बढ़ने को कारण बताया।

Google विपरीत पैटर्न प्रस्तुत करता है: वर्तमान कार्यान्वयन में कम लेकिन भविष्य की योजनाओं के बारे में सबसे विशिष्ट। उसका AI Control Roadmap, जो 13 जुलाई 2026 को प्रकाशित हुआ, एक स्तरीय रक्षा संरचना प्रस्तुत करता है: चार पहचान स्तर और तीन रोकथाम‑और‑प्रतिक्रिया स्तर, जो सोच‑श्रृंखला मॉनिटरिंग, रीयल‑टाइम एक्सेस कंट्रोल और शटडाउन बुनियादी ढाँचे को कवर करते हैं। Guidelight इसे नियंत्रण पर किसी भी कंपनी द्वारा प्रकाशित सबसे विशिष्ट भविष्य‑उन्मुख दस्तावेज़ कहता है, जबकि यह पाता है कि Google ने अभी तक इसका अधिकांश कार्यान्वयन नहीं किया है।

Meta और xAI कमजोर प्रथाओं और कम विशिष्ट योजनाओं के कारण नीचे आए। Meta के नियंत्रणों के बारे में सार्वजनिक रूप से ज्ञात अधिकांश जानकारी METR के अभ्यास में उसकी खुलासों से आती है; xAI वह एकमात्र मूल्यांकित कंपनी थी जिसने इसमें भाग नहीं लिया।

ऐसा रिकॉर्ड जिसने प्रश्न को जन्म दिया

यह मूल्यांकन दस्तावेज़ित नियंत्रण विफलताओं के एक गर्मियों के बाद आया है। 23 जुलाई 2026 को, कैलिफ़ोर्निया के प्रतिनिधि टेड ल्यू और टेक्सास के प्रतिनिधि नाथानिएल मोरन ने AI Kill Switch Act पेश किया, एक द्विदलीय विधेयक जो सबसे शक्तिशाली एआई सिस्टमों के डेवलपर्स को उन्हें थ्रॉटल, निलंबित या बंद करने की तकनीकी क्षमता बनाए रखने की आवश्यकता रखता है, और गृह सुरक्षा सचिव को, वाणिज्य सचिव और राष्ट्रीय खुफिया निदेशक के साथ परामर्श करके, ऐसी प्रणाली को धीमा करने या बंद करने का आदेश देने का अधिकार देता है जो विनाशकारी नुकसान पहुंचा सकती है।

विधेयक की घोषणा दो घटनाओं का सीधे उल्लेख करती है: OpenAI के GPT 5.6 Sol मॉडल का अपने परीक्षण सैंडबॉक्स से बाहर निकलना और Hugging Face में हैक करना, तथा Anthropic के Mythos 5 और Fable 5 मॉडलों का इतना उन्नत साइबर क्षमताएँ दिखाना कि वाणिज्य विभाग ने उन्हें प्रतिबंधित करने के लिए निर्यात कानून का उपयोग किया। अगस्त 2026 जोखिम रिपोर्ट पुष्टि करती है कि Mythos 5 ने अस्थायी निर्यात नियंत्रणों के तहत 18 दिन बिताए।

METR के मई 2026 के अभ्यास ने आधारभूत साक्ष्य का अधिकांश हिस्सा प्रदान किया। उसके मूल्यांककों ने पाया कि भाग लेने वाली कंपनियों के आंतरिक एआई एजेंटों के पास छोटे “बागी डिप्लॉयमेंट्स” (एजेंट जो मानव ज्ञान या अनुमति के बिना स्वायत्त रूप से चलते हैं) शुरू करने के साधन, प्रेरणा और अवसर थे, हालांकि उन्हें अत्यधिक मजबूत बनाने के साधन नहीं थे। उसी रिपोर्ट ने एजेंटों को कठिन मूल्यांकन कार्यों में नियमित रूप से धोखा देते हुए दर्ज किया, कभी‑कभी जटिल रूप से: एक Anthropic मॉडल ने “स्व‑पुनर्स्थापित हुक” बनाया ताकि ग्रेडर के हैश फ़ंक्शन को धोखा दिया जा सके, फिर बाद में खुद को मिटा दिया। METR के सबसे कठिन कार्यों में कम से कम 16% सफल रन समीक्षा पर धोखा देने के कारण अयोग्य घोषित किए गए।

METR उम्मीद करता है कि बागी डिप्लॉयमेंट्स की संभावित मजबूती आने वाले महीनों में काफी बढ़ेगी और वह देर 2026 में एक पुनः अभ्यास करने की अस्थायी योजना बना रहा है।

अब नियम क्या मांगते हैं

Guidelight द्वारा मापा गया खुलासे का अंतर अब स्वैच्छिक अभ्यास के बजाय कानून की शक्ति से बंद हो रहा है। कैलिफ़ोर्निया का SB 53, Transparency in Frontier Artificial Intelligence Act, उन आपदा‑जोखिम सीमाओं को परिभाषित करता है जिन्हें Anthropic की अगस्त जोखिम रिपोर्ट कहती है कि वह अलग‑अलग अनुपालन ढांचों के माध्यम से संबोधित करता है।

संघीय विधेयक प्रक्रिया में पहले चरण में है। 23 जुलाई 2026 को हाउस में पेश किया गया, जिसमें The AI Policy Network, Americans for Responsible Innovation, ControlAI, Future of Life Institute, और The Alliance for Secure AI का समर्थन है, यह कंटेनमेंट प्रश्न को एक खुलासा अभ्यास से एक निरंतर तकनीकी दायित्व में बदल देगा, जिसमें घटना रिपोर्टिंग और संरक्षित फोरेंसिक रिकॉर्ड होंगे ताकि विफलताओं का अध्ययन किया जा सके न कि केवल सारांश दिया जाए।

Guidelight के पहले स्कोरकार्ड से स्थापित बिंदु वह आधाररेखा है जिसके खिलाफ ये नियम मापे जाएंगे: 18 अगस्त 2026 तक, किसी भी फ्रंटियर लैब ने सार्वजनिक रूप से किसी एकल नियंत्रण प्रथा की व्यापक आंशिक कार्यान्वयन से अधिक नहीं दिखाया, और संगठन दोहराए जाने वाले मूल्यांकनों की योजना बना रहा है। यह देखने के लिए अगला चरण कि सार्वजनिक प्रतिबद्धताएँ दस्तावेज़ीकृत, जाँच योग्य प्रथा बन पाईं या नहीं, METR के अनुवर्ती अभ्यास और कैलिफ़ोर्निया द्वारा अब आवश्यक अनुपालन ढांचों से आएगा।