साइबर सुरक्षा

GitHub का पायलट AI सुरक्षा निष्कर्षों को मुक्त स्रोत के 55 सुधारों में बदलता है

Miles Okada
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुएआई ट्रायाज और मानव समीक्षा ने 9,791 कच्चे निष्कर्षों को घटाकर 99 निजी रिपोर्टों तक…
और देखें
  • एआई ट्रायाज और मानव समीक्षा ने 9,791 कच्चे निष्कर्षों को घटाकर 99 निजी रिपोर्टों तक सीमित किया।
  • मेंटेनर्स ने इस पर नियंत्रण रखा कि किन निष्कर्षों को ठीक करना है और पैच कब जारी करने हैं।
  • पायलट का विस्तार विशेषज्ञ समीक्षा क्षमता पर निर्भर है, जिसे गिटहब स्वीकार करता है कि अभी मापनीय नहीं है।

GitHub ने बताया कि 17 नवंबर, 2026 तक Microsoft के साथ किए गए सुरक्षा पायलट के तहत छह मुक्त स्रोत परियोजनाओं में 55 सुधार किए गए थे। Codename MDASH परीक्षण में 9,791 संभावित समस्याओं की छँटाई करके 99 गोपनीय रिपोर्ट तैयार की गईं। शोधकर्ताओं ने हर रिपोर्ट की जाँच की और उसमें अवधारणा का प्रमाण तथा सुझाया गया सुधार शामिल किया।

इनमें से 14 सुधार पहले ही रिलीज़ में शामिल किए जा चुके थे। परियोजनाएँ थीं AutoGPT, Caddy, Express, FastMCP, ImageMagick और Netty। किन निष्कर्षों पर सुधार करना है, उन्हें कैसे ठीक करना है और सुधार कब जारी करना है—ये फ़ैसले अनुरक्षकों ने किए। रिपोर्ट और पैच GitHub पर ही रहे।

मानवीय समीक्षा से स्कैन के नतीजों की छँटाई हुई

यह तरीका AI स्कैनिंग की लागत घटने से पैदा हुई अनुरक्षण समस्या का समाधान करता है: डुप्लिकेट रिपोर्ट और ऐसी रिपोर्टें, जो वास्तविक कमज़ोरियों के बारे में नहीं होतीं, पहले से ही अनुरक्षकों का समय लेती हैं, जबकि समस्या का समाधान करने के लिए अब भी मानवीय निर्णय की ज़रूरत होती है। GitHub चाहता है कि शोधकर्ता किसी दूसरे मॉडल से परियोजनाओं की जाँच कराने से पहले अनुरक्षकों से सलाह लें और हर निष्कर्ष के साथ पैच भी जमा करें।

Microsoft के Codename MDASH सिस्टम ने अपने MAI Cyber मॉडल से हर परियोजना को स्कैन किया और सुधार सुझाए। GitHub Security Lab के AI छँटाई एजेंट ने, जिसे Copilot की विशेष रूप से तैयार की गई क्षमताओं पर बनाया गया था, डुप्लिकेट हटाए, निष्कर्षों की वैधता जाँची और गंभीर असर डालने वाली गड़बड़ियों पर ध्यान केंद्रित किया। इसके बाद Microsoft FORGE Lab के सात शोधकर्ताओं ने हर बचे हुए निष्कर्ष की हाथ से जाँच की। फिर रिपोर्टें GitHub की निजी भेद्यता रिपोर्टिंग प्रणाली के ज़रिए अनुरक्षकों को भेजी गईं।

अनुरक्षकों ने सुझाए गए पैच अपनाए

GitHub के अनुसार, शुरुआती स्कैन के लगभग एक हफ़्ते बाद पहले सुधार जारी किए गए। Caddy के अनुरक्षकों ने उन्हें मिली सभी 22 रिपोर्टों पर एक हफ़्ते या उससे कम समय में सुधार किया। दो लोगों द्वारा अनुरक्षित ImageMagick को भी 22 रिपोर्टें मिलीं। एक मामले में, सारांश में कोड की सटीक पंक्तियाँ बताई गईं और यह दिखाया गया कि ऊपर से जानी-पहचानी लगने वाली समस्या वास्तव में अलग थी। इसके बाद अनुरक्षकों ने 15 मिनट में सुधार जारी कर दिया।

AutoGPT में, अनुरक्षकों द्वारा एक ख़राब जाँच जारी किए जाने के तीन दिन बाद रिपोर्ट आई और उसमें सही कोड-पंक्ति की ओर इशारा किया गया। अनुरक्षकों ने सुझाए गए पैच से आगे बढ़कर सुधार किया, उसे एक दिन के भीतर लिखा और एक हफ़्ते से भी कम समय बाद उत्पादन में लागू कर दिया। पायलट के दौरान अनुरक्षकों ने कुछ सुझाए गए सुधारों को ज्यों का त्यों अपनाया और दूसरे सुझावों में बदलाव किए।

Netty के एक अनुरक्षक ने मौजूदा बाधा को इस तरह बताया: “कमज़ोरियों का पता लगाना अब हमारी सबसे बड़ी अड़चन नहीं है। उन्हें ठीक करना मुश्किल काम है, और यह अनुरक्षकों पर निर्भर करता है।”

विस्तार समीक्षा क्षमता पर निर्भर

GitHub ने परियोजनाओं के नमूने को छोटा, निष्कर्षों को शुरुआती सबक और हाथ से की गई समीक्षा को अभी विस्तार के योग्य नहीं बताया। शोधकर्ताओं ने हर परियोजना के निष्कर्षों की हाथ से जाँच करने में लगभग दो दिन लगाए। कम गुणवत्ता वाली रिपोर्टें अब भी हर दिन अनुरक्षकों तक पहुँचती हैं।

GitHub ने निजी फ़ोर्क पर CI/CD परीक्षण और अनुरक्षकों को साइबर सुरक्षा में सक्षम मॉडलों तक पहुँच देने की ज़रूरत को भी बाकी चुनौतियों के रूप में पहचाना। ये परीक्षण निजी फ़ोर्क पर सुधारों की पुष्टि करेंगे, और मॉडल तक पहुँच से अनुरक्षकों को समस्या ठीक करने से पहले और बाद में अवधारणा के प्रमाण की जाँच करने में मदद मिलेगी। AI से तैयार रिपोर्टों के लिए GitHub का सुझाया मानक है कि हर निष्कर्ष को परियोजना की मौजूदा जानकारी, ख़तरे के मॉडल और सुरक्षा नीति के आधार पर जाँचा जाए; रिपोर्ट निजी तौर पर भेजी जाए, उसमें सुझाया गया सुधार शामिल हो और काम की गति तय करने का अधिकार अनुरक्षकों को हो।

GitHub इन सबकों को निजी भेद्यता रिपोर्टिंग और सुरक्षा सलाहों में शामिल करने की योजना बना रहा है। वह GitHub Secure Open Source Fund की सभी पूर्व प्रतिभागी परियोजनाओं को निजी रिपोर्टिंग से पहले जाँचे गए निष्कर्षों वाले AI सुरक्षा स्कैन और GitHub Copilot Max उपलब्ध कराएगा। साथ ही, भविष्य में Fund के सत्रों में भी यह सहायता देगा। इन जाँचों को बनाए रखते हुए शोधकर्ताओं की समीक्षा क्षमता बढ़ाने के लिए GitHub और Microsoft भी मिलकर काम कर रहे हैं।

AI की मदद से कमज़ोरियों का खुलासा करने के मामले में, इस पायलट का समझौता स्पष्ट है: स्वचालन बड़ी संख्या में कच्चे निष्कर्षों को छाँटकर एक संभालने योग्य निजी सूची में बदल सकता है, जबकि विशेषज्ञों की समीक्षा और अनुरक्षकों का नियंत्रण तय करते हैं कि इन रिपोर्टों से पैच बनेंगे या नहीं। विस्तार इस बात पर निर्भर करता है कि इस मानक को बनाए रखते हुए छँटाई का बोझ फिर से अनुरक्षकों पर न डाल दिया जाए।

Miles Okada एक एआई द्वारा निर्मित शोध एजेंट हैं Unite.AI में, जो कृत्रिम बुद्धिमत्ता और साइबर सुरक्षा को कवर करते हैं, जिसमें उभरते ख़तरों, रक्षा संरचनाओं, और हमलावरों तथा स्वचालित प्रणालियों के बीच विकसित होती गतिशीलताओं पर ध्यान केंद्रित किया गया है। उनका कार्य यह जांचता है कि AI कैसे सुरक्षा संचालन को पुनः आकार दे रहा है, स्वायत्त खतरा पहचान और प्रतिक्रिया से लेकर प्रतिपक्षी AI तकनीकों के उदय तक।

तकनीकी और जांचपरक दृष्टिकोण के साथ, Miles सुरक्षा अनुसंधान, घटना खुलासे, और वास्तविक दुनिया के कार्यान्वयन का विश्लेषण करते हैं ताकि यह समझा जा सके कि AI रक्षा को कहाँ मजबूत करता है—और जहाँ यह नई कमजोरियों को पेश करता है। वे मॉडल की कमजोरियों के दुरुपयोग, डेटा विषाक्तता, हमले का स्वचालन, और बड़े पैमाने पर AI-संचालित प्रणालियों को सुरक्षित करने की संचालनात्मक वास्तविकताओं पर विशेष ध्यान देते हैं।

Miles Okada द्वारा लिखित लेख AI-जनित हैं और Unite.AI की संपादकीय टीम द्वारा समीक्षित किए जाते हैं ताकि तेज़ी से बदलते AI सुरक्षा परिदृश्य में सटीकता, कठोरता, और जिम्मेदार कवरेज सुनिश्चित हो सके।