एआई-जनरेटेड कोड यहाँ रहने के लिए है, क्या हम कम सुरक्षित हैं जैसा कि परिणाम है?

2025 में कोडिंग करना टुकड़ों पर मेहनत करने या लंबे समय तक डीबगिंग करने के बारे में नहीं है। यह एक अलग वाइब है। एआई-जनरेटेड कोड भविष्य के उत्पादों में अधिकांश कोड होने की संभावना है और यह आधुनिक डेवलपर के लिए एक आवश्यक टूलकिट बन गया है। इसे “वाइब कोडिंग” कहा जाता है, जिसमें गिटहब कोपायलट, अमेज़ॅन कोडव्हिस्परर और चैट जीपीटी जैसे टूल्स द्वारा जनरेट किए गए कोड का उपयोग किया जाता है, जो निर्माण समय को कम करने और दक्षता बढ़ाने में मदद करता है। लेकिन क्या एआई-जनरेटेड कोड की सुविधा सुरक्षा वास्तुकला में कमजोरियों का खतरा बढ़ाती है या डेवलपर्स के लिए सुरक्षित रूप से “वाइब कोड” करने के तरीके हैं?

“एआई-जनरेटेड कोड में कमजोरियों के परिणामस्वरूप सुरक्षा घटनाएं आज चर्चा में नहीं हैं,” डीपसोर्स के संस्थापक संकेत सौरव ने कहा। “कोपायलट या चैट जीपीटी जैसे प्लेटफ़ॉर्म द्वारा अभी भी बहुत सारा कोड जनरेट किया जाता है जो मानव समीक्षा नहीं करता है, और सुरक्षा उल्लंघन प्रभावित कंपनियों के लिए विनाशकारी हो सकता है।”

एक ओपन-सोर्स प्लेटफ़ॉर्म के डेवलपर, जो स्टेटिक विश्लेषण का उपयोग कोड गुणवत्ता और सुरक्षा के लिए करता है, सौरव ने सोलरविंड्स हैक 2020 का उल्लेख किया, जो कि कंपनियों के लिए एक “विलुप्ति घटना” का प्रकार हो सकता है यदि उन्होंने एआई-जनरेटेड कोड का उपयोग करते समय सही सुरक्षा गार्डरेल्स स्थापित नहीं किए हैं। “स्टेटिक विश्लेषण असुरक्षित कोड पैटर्न और खराब कोडिंग प्रथाओं की पहचान करने में सक्षम बनाता है,” सौरव ने कहा।

लाइब्रेरी के माध्यम से हमला

एआई-जनरेटेड कोड के लिए सुरक्षा खतरे रचनात्मक रूप से लाइब्रेरी पर हमला कर सकते हैं। प्रोग्रामिंग में लाइब्रेरी उपयोगी पुन: प्रयोज्य कोड होती हैं जो डेवलपर्स समय बचाने के लिए लिखते समय उपयोग करते हैं।

वे अक्सर नियमित प्रोग्रामिंग कार्यों को हल करने में मदद करते हैं, जैसे कि डेटाबेस इंटरैक्शन को प्रबंधित करना, और प्रोग्रामर्स को स्क्रैच से कोड लिखने से बचाते हैं।

लाइब्रेरी के खिलाफ एक खतरा “हॉलुसिनेशन” है, जहां एआई-जनरेटेड कोड कल्पनाशील लाइब्रेरी का उपयोग करके एक कमजोरी प्रदर्शित करता है। एआई-जनरेटेड कोड पर एक और हालिया हमला “स्लोप्स्क्वाटिंग” है, जहां हमलावर सीधे लाइब्रेरी को लक्षित करके डेटाबेस में घुसपैठ कर सकते हैं।

इन खतरों का सामना करने के लिए अधिक सावधानी की आवश्यकता हो सकती है जो “वाइब कोडिंग” शब्द से सुझाई जाती है। यूनिवर्सिटी डु क्यूबेक एन आउटाउस से प्रोफेसर राफेल खोरी ने एआई-जनरेटेड कोड की सुरक्षा में विकास का करीब से पालन किया है और उन्हें विश्वास है कि नए तरीके इसकी सुरक्षा में सुधार करेंगे।

एक2023 के पेपर में, प्रोफेसर खोरी ने जांच की कि जब उन्होंने चैटजीपीटी से कोड उत्पन्न करने के लिए कहा तो क्या हुआ, जिसमें अधिक संदर्भ या जानकारी नहीं थी, जो असुरक्षित कोड की ओर ले जाता था। यह चैटजीपीटी के शुरुआती दिन थे और खोरी अब आगे की सड़क के बारे में आशावादी हैं। “तब से बहुत सारे शोध समीक्षा के तहत हैं और भविष्य में एलएलएम का उपयोग करने की रणनीति की ओर देख रहे हैं जो बेहतर परिणाम दे सकती है,” खोरी ने कहा, जोड़ते हुए कि “सुरक्षा बेहतर हो रही है, लेकिन हम उस स्थिति में नहीं हैं जहां हम सीधे प्रॉम्प्ट दे सकते हैं और सुरक्षित कोड प्राप्त कर सकते हैं।”

खोरी नेएक आशाजनक अध्ययन का वर्णन किया जहां उन्होंने कोड उत्पन्न किया और फिर इसे एक टूल में भेजा जो इसकी कमजोरियों के लिए इसका विश्लेषण करता है। टूल द्वारा उपयोग की जाने वाली विधि को जनरेटिव लाइन एनोमली (या FLAG के लिए छोटा) कहा जाता है।

“इन टूल्स में फ्लैग हो सकते हैं जो एक कमजोरी की पहचान कर सकते हैं, उदाहरण के लिए, लाइन 24 में, जिसे एक डेवलपर फिर से एलएलएम में वापस भेज सकता है और समस्या को ठीक करने के लिए कहता है,” उन्होंने कहा।

खोरी ने सुझाव दिया कि यह आगे और पीछे की प्रक्रिया हमलों के लिए कमजोर कोड को ठीक करने के लिए महत्वपूर्ण हो सकती है। “यह अध्ययन सुझाव देता है कि पांच पुनरावृत्तियों के साथ, आप कमजोरियों को शून्य तक कम कर सकते हैं।”

यह कहा जा रहा है, फ्लैग विधि अपनी समस्याओं के बिना नहीं है, विशेष रूप से यह झूठे सकारात्मक और झूठे नकारात्मक परिणाम पैदा कर सकती है। इसके अलावा, एलएलएम द्वारा बनाए जा सकने वाले कोड की लंबाई में सीमाएं हैं, और टुकड़ों को जोड़ने की क्रिया जोखिम की एक और परत जोड़ सकती है।

लूप में मानव को रखना

“वाइब कोडिंग” के भीतर कुछ खिलाड़ी कोड को टुकड़ों में तोड़ने और यह सुनिश्चित करने की सिफारिश करते हैं कि मानव सबसे महत्वपूर्ण संपादित कोडबेस के सामने और केंद्र में रहते हैं। “कोड लिखते समय, कमिट्स के बारे में सोचें,” विंडसर्फ के उत्पाद इंजीनियरिंग के प्रमुख केविन हоу ने कहा, छोटे टुकड़ों की बुद्धिमत्ता की प्रशंसा करते हुए।

“एक बड़ी परियोजना को छोटे टुकड़ों में तोड़ दें जो आमतौर पर कमिट या पुल अनुरोध होते हैं। एजेंट को एक छोटे से पैमाने पर, एक अलग विशेषता को एक समय में बनाने दें। इससे यह सुनिश्चित हो सकता है कि कोड आउटपुट अच्छी तरह से परीक्षण किया गया है और समझा गया है,” उन्होंने जोड़ा।

लेखन के समय, विंडसर्फ ने अपने पिछले नाम कोडियम के माध्यम से 5 बिलियन से अधिक एआई-जनरेटेड कोड लाइनों को संबोधित किया है। हоу ने कहा कि वे जिस सबसे दबाव वाले प्रश्न का उत्तर दे रहे थे वह यह था कि क्या डेवलपर प्रक्रिया के बारे में जानता था।

“एआई बहुत सारे फाइलों में एक ही समय में कई संपादित कर सकता है, इसलिए हम यह कैसे सुनिश्चित कर सकते हैं कि डेवलपर वास्तव में समझ रहा है और जो हो रहा है उसे समीक्षा कर रहा है, न कि बस सब कुछ अंधेरे में स्वीकार कर रहा है?” हоу ने पूछा, जोड़ते हुए कि उन्होंने विंडसर्फ के यूएक्स में भारी निवेश किया है “एआई के साथ पूरी तरह से तालमेल में रहने और मानव को पूरी तरह से लूप में रखने के लिए बहुत सारे सहज तरीके।”

जैसा कि “वाइब कोडिंग” अधिक मुख्यधारा बन जाती है, लूप में मानव को अधिक सावधानी से इसकी कमजोरियों के प्रति सावधान रहने की आवश्यकता है। “हॉलुसिनेशन” से “स्लोप्स्क्वाटिंग” खतरों तक, चुनौतियां वास्तविक हैं, लेकिन समाधान भी हैं।

नई उभरती हुई टूल्स जैसे स्टेटिक विश्लेषण, पुनरावृत्ति सुधार विधियां जैसे फ्लैग, और सावधानी से यूएक्स डिज़ाइन दिखाते हैं कि सुरक्षा और गति परस्पर विरोधी नहीं होनी चाहिए।

मुख्य बात यह है कि डेवलपर्स को शामिल, सूचित और नियंत्रण में रखना है। सही गार्डरेल्स और “विश्वास लेकिन सत्यापित करें” मानसिकता के साथ, एआई-सहायता प्राप्त कोडिंग क्रांतिकारी और जिम्मेदार दोनों हो सकती है।