Chainguard ने सीमांत एआई की कमज़ोरियों का पता लगाने के लिए Harness पेश किया

14 अक्टूबर, 2026 को Chainguard ने Chainguard Harness पेश किया। यह पेशकश Anthropic के Claude Mythos 5.1 का उपयोग करके किसी संगठन के एप्लिकेशन के लाइव, पृथक बिल्ड में ऐसी कमज़ोरियों की तलाश करती है जिनका फायदा उठाया जा सकता है और हर सत्यापित निष्कर्ष के साथ सुझाया गया समाधान देती है। कंपनी ने उसी दिन बीटा के लिए प्रतीक्षा-सूची खोली और Anthropic के Claude Marketplace के ज़रिए इसे खरीदने की सुविधा उपलब्ध कराई।

अपनी घोषणा में Chainguard ने कहा कि प्रथम-पक्ष और ओपन-सोर्स कोड में कमज़ोरियों का पता लगाने वाले सीमांत मॉडल अब तक मुख्य रूप से उन चुनिंदा संगठनों तक ही उपलब्ध रहे हैं, जो महत्वपूर्ण बुनियादी ढाँचे के लिए रक्षात्मक साइबर सुरक्षा का काम करते हैं। कंपनी ने कहा कि Harness यह क्षमता उन संगठनों तक पहुँचाता है जिनके पास सीमांत मॉडल की पहुँच नहीं है या जिन्हें इसे स्वयं चलाने के लिए आवश्यक सुरक्षा और इंजीनियरिंग विशेषज्ञता हासिल नहीं है।

मुख्य कार्यकारी अधिकारी और सह-संस्थापक Dan Lorenc ने कंपनी की विज्ञप्ति में कहा: “जब भी हमने Harness कोड पर चलाया है, इसने गंभीर कमज़ोरियाँ खोजी हैं जिनका फायदा उठाया जा सकता है—इनमें ऐसा सॉफ़्टवेयर भी शामिल है जिसे कई बार स्कैन किया जा चुका है और ऐसा कोड भी, जो महत्वपूर्ण बुनियादी ढाँचे को चलाता है।” उन्होंने कहा कि Harness सुरक्षा टीमों को ऐसी प्रमाणित कमज़ोरियाँ और समाधान पाने का एक और विकल्प देता है जिन्हें उनके इंजीनियर लागू कर सकते हैं।

Harness कैसे काम करता है

Chainguard की घोषणा में पाँच चरणों वाली प्रक्रिया का वर्णन है। ग्राहक केवल पढ़ने की अनुमति वाले Chainguard GitHub App के ज़रिए रिपॉज़िटरी जोड़ते हैं या स्रोत कोड का संग्रह अपलोड करते हैं। Harness स्रोत कोड से एप्लिकेशन को ठीक उसी तरह बिल्ड करता है, जिस तरह वह उत्पादन में जारी किया जाएगा, और उसे एक पृथक माइक्रोवीएम में चालू करता है। इसके बाद Mythos 5.1, स्रोत कोड, git इतिहास, निर्भरताओं के स्रोत और बिल्ड कॉन्फ़िगरेशन के आधार पर काम करते हुए, चल रहे एप्लिकेशन में तर्क संबंधी खामियों, इंजेक्शन और संसाधनों की थकावट की जाँच करता है और देखता है कि लाइव एप्लिकेशन कैसे प्रतिक्रिया देता है।

नियंत्रण दो चरणों में लागू होता है। तैयारी के चरण में, एक अलग मॉडल एप्लिकेशन को बिल्ड करता है, उसकी निर्भरताएँ और टूलिंग प्राप्त करता है और उसे माइक्रोवीएम के भीतर चालू करता है; इसके बाद माइक्रोवीएम को निलंबित कर दिया जाता है। कमज़ोरियाँ खोजने के चरण में माइक्रोवीएम को Mythos 5.1 के लिए फिर से चालू किया जाता है। उसमें न तो नेटवर्क से बाहर डेटा भेजने की सुविधा होती है, न ही कोई क्रेडेंशियल; मॉडल केवल शेल और Chainguard द्वारा बिल्ड किए गए पैकेजों के साथ काम करता है। एजेंट लूप सैंडबॉक्स के बाहर चलता है, इसलिए मॉडल द्वारा जारी हर टूल कॉल और कमांड का लॉग रखा जाता है। जाँचे जा रहे कोड को अविश्वसनीय डेटा माना जाता है; कंपनी के अनुसार, इससे विश्लेषण किए जा रहे कोड में छिपे प्रॉम्प्ट इंजेक्शन से बचाव होता है।

हर एक्सप्लॉइट को एक नए माइक्रोवीएम में फिर से चलाया जाता है; जो निष्कर्ष हर बार सफलतापूर्वक दोहराया नहीं जा सकता, उसे रिपोर्ट में शामिल नहीं किया जाता। सुझाए गए हर समाधान की भी इसी तरह पुष्टि की जाती है: एक्सप्लॉइट ग्राहक के मौजूदा कोड पर सफल होना चाहिए और समाधान लागू करने के बाद विफल होना चाहिए। दी गई रिपोर्ट में एक कार्यकारी सारांश, हर निष्कर्ष की गंभीरता और प्रभाव, उसकी पुष्टि करने के चरण और ग्राहक के कोडबेस के लिए लिखा गया सुझाया गया समाधान शामिल होता है। रिपोर्ट और हर समाधान को देने से पहले Chainguard का नामित इंजीनियर उनकी समीक्षा करके मंज़ूरी देता है।

घोषणा के अनुसार, मॉडल का संचालन केवल Chainguard के कर्मचारी करते हैं और Chainguard के बाहर कोई भी उसे निर्देश नहीं दे सकता या उसका कच्चा आउटपुट नहीं देख सकता। जब Harness को ग्राहक के कोड के बजाय किसी ओपन-सोर्स निर्भरता में खामी मिलती है, तो Chainguard मूल परियोजना के अनुरक्षकों के साथ समन्वित प्रकटीकरण की प्रक्रिया संभालता है। समस्या मूल परियोजना में ठीक हो जाने के बाद, संशोधित बिल्ड Chainguard Repository के ज़रिए जारी किया जाता है। विज्ञप्ति में इस प्रकटीकरण प्रक्रिया का नाम Athena बताया गया है; यह Chainguard की समन्वित कमज़ोरी-प्रकटीकरण प्रक्रिया है।

vLLM में पहली सार्वजनिक रूप से बताई गई कमज़ोरी

यह घोषणा Harness से मिली पहली सार्वजनिक जानकारी प्रकाशित किए जाने के एक दिन बाद आई। 13 अक्टूबर, 2026 की एक शोध पोस्ट में कंपनी ने बताया कि Harness को vLLM में एक बग मिला। vLLM बड़े भाषा मॉडल को सेवाएँ देने वाला ओपन-सोर्स इंजन है। इस बग के कारण एक क्लाइंट साझा इंजन पर किसी दूसरे क्लाइंट के अनुरोध का आउटपुट ज़बरन प्राप्त कर सकता था। यह खामी allowed_token_ids नाम के अनुरोध पैरामीटर से जुड़ी थी, जो उन टोकन को सीमित करता है जिन्हें मॉडल बना सकता है। अनुरोध पूरा होने पर साझा प्रतिबंध तालिका में उसकी पंक्ति को पुराना प्रतिबंध हटाए बिना किसी और को आवंटित कर दिया जाता था, इसलिए बाद का अनुरोध पिछले क्लाइंट की सीमाएँ विरासत में पा सकता था। यह बग vLLM के v0.31.0 से पहले के संस्करणों को प्रभावित करता था।

Chainguard ने कहा कि उसने एक्सप्लॉइट को तीन में से तीन बार सफलतापूर्वक दोहराया। कंपनी ने 23 सितंबर, 2026 को vLLM के अनुरक्षकों को सुरक्षा पर पड़ने वाले प्रभाव की जानकारी दी। समाधान 2 अक्टूबर, 2026 को v0.31.0 में जारी किया गया और GHSA-6cxc-2vcg-w5qc परामर्श 6 अक्टूबर, 2026 को प्रकाशित हुआ। 28 मई, 2026 से यह बग vLLM के सार्वजनिक इश्यू ट्रैकर में एक सामान्य बग के रूप में दर्ज था। पोस्ट के अनुसार, vLLM ने इसे कम गंभीरता वाला माना और समाधान में एक पंक्ति का बदलाव तथा उससे जुड़ा एक और सुधार शामिल था।

पोस्ट के अनुसार, vLLM पर परीक्षण 10 घंटे और 48 मिनट तक चला, इसमें लगभग 115 मिलियन टोकन संसाधित किए गए और परियोजना के 30 हिस्सों की जाँच की गई। संभावित निष्कर्षों में से 37 को एक साफ़ होस्ट पर दोहराया जा सका और 13 इंजीनियरिंग समीक्षा में सही पाए गए। Chainguard ने कहा कि उसने 65 से अधिक परियोजनाओं पर Harness चलाया है और 680 से अधिक निष्कर्षों की पुष्टि की है; इनमें से कई के लिए समन्वित प्रकटीकरण की प्रक्रिया चल रही है। पोस्ट के अनुसार, Harness पर काम की शुरुआत Chainguard के Anthropic के Project Glasswing में शामिल होने से हुई।

बीटा तक पहुँच और Marketplace पर उपलब्धता

Chainguard पहले सीमित संख्या में संगठनों को पहुँच दे रहा है। Harness के उत्पाद पृष्ठ के अनुसार, यह पेशकश बीटा में है और Chainguard के Master Services and License Agreement के तहत टेक्नोलॉजी प्रीव्यू के रूप में उपलब्ध है।

Harness, Anthropic के Claude Marketplace पर सूचीबद्ध है। इस सूची में कहा गया है कि Anthropic के साथ पहले से प्रतिबद्धता रखने वाले ग्राहक, मार्केटप्लेस के खरीदारी अनुरोध मार्ग के ज़रिए उस प्रतिबद्धता का उपयोग कर सकते हैं। Chainguard की घोषणा के अनुसार, बिलिंग का प्रबंधन Anthropic करता है। इसलिए Anthropic के ग्राहक अलग से खरीद प्रक्रिया अपनाए बिना Harness जोड़ सकते हैं और अपने AI खर्च को एक जगह समेकित कर सकते हैं।

शुरुआत में Chainguard के इंजीनियर ग्राहकों की ओर से Harness चलाते हैं। वे या तो इसे उन मुक्त-स्रोत आर्टिफ़ैक्ट पर चलाते हैं जिन्हें Chainguard पहले से वितरित करता है और पैच किए गए बिल्ड Chainguard Repository के ज़रिए उपलब्ध कराते हैं, या ग्राहक के स्रोत कोड पर चलाकर सत्यापित निष्कर्षों की ऐसी रिपोर्ट देते हैं जिसकी इंजीनियर ने समीक्षा की हो। इस रिपोर्ट में निष्कर्षों की गंभीरता, प्रभाव, उन्हें दोहराने के चरण और सुझाए गए सुधार शामिल होते हैं।

Anthropic में वाणिज्यिक साइबर सुरक्षा की प्रमुख Daniela Hurtado ने घोषणा में कहा कि Mythos 5.1 जैसे मॉडल उन कमज़ोरियों का पता लगा सकते हैं जिन पर सालों से ध्यान नहीं गया है। उन्होंने यह भी कहा कि Harness मॉडल के उपयोग में अलगाव, पुनरुत्पादन और मानवीय समीक्षा की व्यवस्था करता है, ताकि हर निष्कर्ष ग्राहक तक पहुँचने से पहले सत्यापित हो जाए। संगठन Chainguard के Harness पेज के ज़रिए बीटा प्रतीक्षा-सूची में शामिल हो सकते हैं।