Val Bercovici, WEKA के मुख्य AI अधिकारी – साक्षात्कार श्रृंखला

Val Bercovici, WEKA में मुख्य AI अधिकारी, एक AI और डेटा इन्फ्रास्ट्रक्चर कार्यकारी हैं जो अगली पीढ़ी की कृत्रिम बुद्धिमत्ता को आधार देने वाली तकनीकों को आगे बढ़ाने पर केंद्रित हैं। जनवरी 2025 में मुख्य AI अधिकारी के रूप में WEKA में शामिल होने के बाद से, उन्होंने AI एजेंट इन्फ्रास्ट्रक्चर बनाना, प्रशिक्षण और इन्फ़रेंस वर्कलोड को तेज़ करना, और AI कंप्यूट की अर्थव्यवस्था को सुधारने पर ध्यान दिया है। WEKA में अपनी भूमिका के साथ-साथ, Bercovici Home Dock के लिए AI सलाहकार, FermiHDI और The Hive के लिए रणनीतिक सलाहकार, और PencilDATA के चेयर हैं, जहाँ उनका काम AI, साइबर सुरक्षा, ब्लॉकचेन, क्लाउड कंप्यूटिंग और डेटा इन्फ्रास्ट्रक्चर तक फैला हुआ है। उनका करियर डेटा‑गहन AI सिस्टम को समर्थन देने के लिए उभरती तकनीकों को विकसित करने और सलाह देने पर दीर्घकालिक फोकस को दर्शाता है।

WEKA एक AI‑नेटिव डेटा इन्फ्रास्ट्रक्चर कंपनी है जो कृत्रिम बुद्धिमत्ता, मशीन लर्निंग, हाई‑परफ़ॉर्मेंस कंप्यूटिंग और अन्य तेज़ वर्कलोड की मांगों को पूरा करने के लिए सॉफ़्टवेयर‑डिफ़ाइंड प्लेटफ़ॉर्म बनाती है। WEKA डेटा प्लेटफ़ॉर्म संगठनों को एकीकृत आर्किटेक्चर प्रदान करता है जो ऑन‑प्रेमाइसेस, क्लाउड, हाइब्रिड और एज वातावरण में काम कर सकता है, जिससे स्टोरेज बाधाओं को समाप्त किया जा सके, GPU उपयोगिता में सुधार हो, और AI मॉडल प्रशिक्षण व इन्फ़रेंस तेज़ हो सके। कंपनी अपने तकनीक को उभरती इन्फ़रेंस इकोनॉमी और एजेंटिक AI के आसपास अधिकतम करती है, जहाँ इन्फ्रास्ट्रक्चर बड़े पैमाने पर उच्च‑थ्रूपुट, कम‑लेटेंसी डेटा एक्सेस प्रदान करने के साथ जटिल AI डेटा पाइपलाइन को सरल बनाता है। WEKA उद्यमों, क्लाउड प्रदाताओं, अनुसंधान संस्थानों और AI डेवलपर्स को सेवा देता है जो विश्व के सबसे प्रदर्शन‑गहन कंप्यूटिंग वातावरण चलाते हैं।

आपका करियर NetApp की शुरुआती क्लाउड रणनीति को आकार देने और Kubernetes के संस्थापक गवर्निंग बोर्ड पर सेवा करने से लेकर WEKA में AI इन्फ्रास्ट्रक्चर बनाने तक गया है। इस विकास ने AI के अगले चरण के लिए इन्फ्रास्ट्रक्चर तैयार करने के बारे में आपके सोचने के तरीके को कैसे आकार दिया?

मेरे करियर का हर युग उसी पैटर्न से परिभाषित रहा है : बाधा स्थानांतरित होती है, और उद्योग को इसे पहचानने में साल लगते हैं। शुरुआती क्लाउड और Kubernetes दिनों में, हमने देखा कि कंप्यूट लोचदार हो गया और ऑर्केस्ट्रेशन नया बोतलनेक बन गया। NetApp से निकलते समय, जहाँ मैं SolidFire अधिग्रहण के बाद CTO था, मुझे लगा कि मैं तेज़ी को समझता हूँ : उत्पादन वर्कलोड के तहत वास्तव में रैंडम फर्स्ट‑बाइट रीड के लिए कुछ मिलीसेकंड।

मैं WEKA में शामिल हुआ क्योंकि यह वास्तव में गीकी कारण था। एक आँकड़ा था : पहला अनकैश्ड रैंडम बाइट रीड 70 माइक्रोसेकंड था, जो स्टोरेज‑क्लास संख्या नहीं है। मैंने कभी माइक्रोसेकंड‑लेवल लेटेंसी की कल्पना नहीं की थी। यही वह बिंदु था : यह तकनीक मेमोरी एप्लिकेशन, DRAM‑क्लास एप्लिकेशन जैसे Redis और KV कैश, न कि केवल स्टोरेज, को सर्व कर सकती है। और ठीक उसी समय, इन्फ़रेंस ने प्रशिक्षण को पीछे छोड़ना शुरू किया क्योंकि उद्योग को इन मॉडलों को मोनेटाइज़ करना पड़ा, और एजेंट आए जिससे मेमोरी पूरे खेल बन गया।

यही लेंस मैं AI इन्फ्रास्ट्रक्चर पर लाता हूँ। हमने यह फिल्म पहले भी देखी है। क्लाउड FinOps उभरा क्योंकि कंपनियों ने बिना इकाई‑आर्थिक कठोरता के इन्फ्रास्ट्रक्चर को स्पिन‑अप किया, फिर बिल आया। AI भी उसी वक्र पर है, लेकिन तेज़ी से आगे बढ़ रहा है। जैसे‑जैसे व्यवसाय टोकन‑मैक्सिंग के खिलाफ धक्का देते हैं, API उपभोग बिलों के कारण जो नियोजित टोकन बजट से बहुत अधिक हैं, हम AI FinOps के उदय को देख रहे हैं। यह वह बिंदु है जहाँ संगठन इन्फ़रेंस को सस्ती उपयोगिता नहीं मानते, बल्कि टोकन दक्षता को वित्तीय अनुशासन के रूप में प्रबंधित करते हैं। AI FinOps टोकनोमिक्स से शुरू होता है : इन्फ़रेंस स्टैक की हर हार्डवेयर और सॉफ़्टवेयर परत को अनुकूलित करना जो प्रति टोकन इकाई लागत को प्रभावित करता है। अभी इस स्टैक में सबसे बड़ी बर्बादी महंगे GPU और नए ASIC हैं जो मेमोरी और डेटा (अर्थात ‘डिकोड’) की प्रतीक्षा में निष्क्रिय हैं, FLOPS (अर्थात ‘प्रीफ़िल’) नहीं। जो इसे ठीक करेगा, वही AI के अगले चरण का मालिक होगा।

व्हाइट हाउस ने अपने नए AI सुरक्षा फ्रेमवर्क के विवरण को गोपनीय रखा है। जब तक यह स्पष्ट नहीं हो जाता कि क्या परीक्षण किया जाएगा या क्या आवश्यक होगा, तब कंपनियां नियामक आवश्यकताओं के लिए कैसे तैयार हो सकती हैं?

कंपनियों को अंतिम चेक‑लिस्ट का इंतजार नहीं करना चाहिए। विशिष्ट परीक्षण बदलेंगे, लेकिन उनके नीचे की बाध्यता नहीं बदलती : आपको दिखाना होगा कि आपका AI मॉडल क्या किया, कौन‑सा डेटा छुआ, और वह किसी विशेष समय पर कैसे व्यवहार किया। और इंतजार अब वैश्विक स्तर पर विकल्प नहीं है। EU AI Act इस महीने लागू हुआ, और यह अधिकांश एजेंट ऑर्केस्ट्रेशन को हाई‑रिस्क वर्गीकृत करता है।

इसका मतलब है कि तैयारी का काम इन्फ्रास्ट्रक्चर का काम है। डेटा लाइनएज, ऑब्ज़रवबिलिटी, रिप्रोड्यूसिबिलिटी, और मांग पर मॉडल स्टेट को पुनः निर्मित करने की क्षमता सभी के लिए अत्यंत महत्वपूर्ण हैं। अंत में, संगठनों को आउटपुट से पहले गार्डरेल मॉडल लागू करने चाहिए, साथ में लेटेंसी और टोकन बजट के साथ सेमेंटिक डिफेंस लेयर के लिए। यदि आप अभी ये क्षमताएँ बनाते हैं, तो कोई भी फ्रेमवर्क सिर्फ फ़ॉर्मेटिंग अभ्यास बन जाता है। अंतिम नियमों का इंतजार करें, और आप उन सिस्टम में जवाबदेही जोड़ रहे होंगे जो कभी खुद को समझाने के लिए डिज़ाइन नहीं हुए थे। यह रेट्रोफ़िट हमेशा शुरू से बनाकर रखने से अधिक महँगा पड़ता है।

आख़िरकार, सुरक्षित AI बनाने का समाधान अधिक AI है, जो इष्टतम और अत्यधिक इरादतन रूप से लागू किया गया हो।

AI सुरक्षा परीक्षण कौन‑से नए इन्फ्रास्ट्रक्चर मांगें पैदा कर सकता है, और वे पारंपरिक मॉडल प्रशिक्षण या इन्फ़रेंस से कैसे अलग दिखेंगे?

प्रशिक्षण एक फ़ायरहॉज़ है। आप मॉडल के माध्यम से बड़े पैमाने पर डेटा को निरंतर, पूर्वानुमेय पैटर्न में धकेलते हैं। सुरक्षा परीक्षण इसके विपरीत है : हजारों मूल्यांकन परिदृश्य, दोहरावदार प्रोबिंग, संस्करण‑दर‑संस्करण व्यवहार तुलना, और एडवर्सेरियल रेड‑टीमिंग जो कभी समाप्त नहीं होती।

यह प्रोफ़ाइल महत्वपूर्ण है। सुरक्षा प्रशिक्षण और परीक्षण बर्स्टी, रीड‑हेवी, और तुलना‑आधारित होते हैं। यह विशाल मात्रा में मध्यवर्ती स्टेट उत्पन्न और उपभोग करता है। गार्डरेल मॉडल को स्वाभाविक रूप से विषम और परत‑बद्ध होना चाहिए, कड़े लेटेंसी बजट के भीतर लागू किया जाना चाहिए, और इस नई सुरक्षा मानदंड आयाम के साथ मूल्यांकन को बढ़ाना चाहिए। ऐसे उन्नत या साइबर‑सक्षम मॉडलों के लिए, वर्कलोड प्रोफ़ाइल एपिसोडिक नहीं, बल्कि 24/7 निरंतर रहती है। आप एक बार परीक्षण नहीं चलाते और परिणाम फ़ाइल नहीं करते। आप निरंतर एजेंट स्वॉर्म वर्कलोड चलाते हैं जो उत्पादन में कंप्यूट, मेमोरी, और डेटा बैंडविड्थ के साथ प्रतिस्पर्धा करते हैं उन महत्वपूर्ण एप्लिकेशनों के लिए जो वे संरक्षित करते हैं। गुणवत्ता और गति के बाद, अधिकांश इन्फ्रास्ट्रक्चर आज इस तीसरे सिद्धांत के लिए नहीं बना है।

इसके नीचे एक मापन समस्या भी है। अधिकांश AI बेंचमार्क आज 8,000 टोकन या उससे कम, एक प्रॉम्प्ट, एक रिस्पॉन्स पर चलते हैं। मैं मज़ाक में कहता हूँ कि वे कृत्रिम बुद्धिमत्ता के कृत्रिम बेंचमार्क हैं। मध्य‑2026 में, वास्तविक एजेंट वर्कलोड 100,000 से 400,000 टोकन के कॉन्टेक्स्ट को हजारों टर्न में चलाते हैं। यदि सुरक्षा मूल्यांकन उन खिलौना बेंचमार्क को अपनाते हैं, तो हम ऐसे सिस्टम को प्रमाणित करेंगे जो अस्तित्व में नहीं है। नियामक पहले से ही यहाँ बेहतर मसल बना रहे हैं : NIST ने एजेंट सुरक्षा मूल्यांकन टूलिंग ओपन‑सोर्स की है, और शुरुआती प्रकाशित परिणाम दिखाते हैं कि नई एजेंट‑हिजैक हमले ज्ञात बेसलाइन से कई गुना तेज़ सफल हो रहे हैं। यही वह निरंतर, एडवर्सेरियल, महँगा परीक्षण है जिसकी मैं उम्मीद करता हूँ कि सुरक्षा फ्रेमवर्क अंततः इस दिशा में converge करेंगे।

क्या संगठनों को भविष्य की अनुपालन और सुरक्षा वर्कलोड के लिए विशेष रूप से अधिक कंप्यूट और डेटा क्षमता बनानी चाहिए, या इस अनिश्चितता के लिए अधिक कुशल डिजाइन का कोई तरीका है?

अधिक GPU खरीदना और आशा करना कि उपयोगिता पकड़ लेगी, केवल पूंजी को घटती हुई हार्डवेयर में फँसा देता है।

कुशल उत्तर इन्फ्रास्ट्रक्चर है जो उत्पादन और मूल्यांकन वर्कलोड के बीच बिना अलग स्टैक के लचीला हो। यह मूल रूप से एक डेटा समस्या है। यदि आप डेटा को कुशलता से स्थानांतरित और पुनः उपयोग कर सकते हैं, वर्कलोड के बीच कॉन्टेक्स्ट को संरक्षित रख सकते हैं, और अपने एक्सेलेरेटर को वास्तविक काम में व्यस्त रख सकते हैं, तो अनुपालन एक अतिरिक्त लागत बन जाता है न कि समानांतर निर्माण। AI की अर्थव्यवस्था इस बात पर आती है कि आप प्रत्येक टोकन, बाइट, और वाट से कितना मूल्य निकालते हैं। यदि आप इसे सही करते हैं, तो आप उसी इन्फ्रास्ट्रक्चर से 3‑4× अधिक मूल्य उत्पन्न कर सकते हैं, या रैक फ़ुटप्रिंट को 75 % तक घटा सकते हैं। अनुपालन को भी वही मानक मिलना चाहिए।

वर्तमान फ्रेमवर्क रिपोर्ट करता है कि वह उन्नत बंद मॉडल पर केंद्रित है और खुले‑वज़न मॉडल को बाहर रखता है। इन दो श्रेणियों को अलग‑अलग मानने से कौन‑सी इन्फ्रास्ट्रक्चर या सुरक्षा चुनौतियाँ उत्पन्न हो सकती हैं?

यदि आप बंद मॉडल और खुले‑वज़न मॉडल को अलग‑अलग मानते हैं, तो आप दो अनुपालन फ्रेमवर्क बनाते हैं उन तकनीकों के लिए जो एक ही काम करती हैं, और उनके बीच का अंतर जोखिम का स्रोत बन जाता है।

एक खुले‑वज़न मॉडल को ऐसे वातावरण में फाइन‑ट्यून और डिप्लॉय किया जा सकता है जहाँ मूल प्रदाता की कोई दृश्यता नहीं होती। वहाँ प्रदाता को नियमन करने से कुछ नहीं होता। और यह विभाजन पहले से ही स्पष्ट है : इस साल सबसे नए बंद फ्रंटियर मॉडल पर निर्यात नियंत्रण लागू हुए, जबकि खुले‑वज़न मॉडल सीमाओं को पार करके सार्वजनिक क्षमता लीडरबोर्ड के शीर्ष पर पहुँच गए। हालांकि प्रशासन फ्रंटियर मॉडल को परिभाषित करता है, गवर्नेंस मॉडल स्वयं पर नहीं रुक सकता। आपको यह देखना होगा कि मॉडल कहाँ चल रहे हैं, कौन‑सा डेटा एक्सेस कर रहे हैं, कौन‑से प्रॉम्प्ट, रिस्पॉन्स और मेटाडेटा रखे गए हैं, उन्होंने कैसे संशोधित किया है, और क्या इन्फ्रास्ट्रक्चर वास्तव में स्केल पर गवर्न्ड AI का समर्थन कर सकता है। ISO27001 और SOC2 के नए अपडेट आवश्यक होंगे।

मेरे अनुसार उत्तर है “विश्वास करो, लेकिन सत्यापित करो”。 यदि आपका इन्फ्रास्ट्रक्चर आपको टोकन क्षमता देता है, तो आप किसी भी मॉडल के आउटपुट के शिप होने से पहले विषम गार्डरेल चला सकते हैं : घरेलू या विदेशी, खुले या बंद। वस्तुनिष्ठ सत्यापन ब्लैंकट भरोसे या ब्लैंकट अविश्वास से बेहतर है, चाहे मॉडल कहाँ से आया हो। जैसे‑जैसे खुले मॉडल proliferate होते हैं, वह सत्यापन क्षमता इन्फ्रास्ट्रक्चर लेयर में रहती है, और यही वह जगह है जहाँ उद्यम अलग दिखेंगे। नीति यह तय कर सकती है कि कौन‑से मॉडल अनुमति प्राप्त हैं। इन्फ्रास्ट्रक्चर तय करता है कि क्या वे मॉडल जिम्मेदारी और आर्थिक रूप से डिप्लॉय किए जा सकते हैं।

जैसे‑जैसे AI एजेंट अधिक स्वायत्त होते जा रहे हैं और लंबे कॉन्टेक्स्ट में काम करते हैं, यह डेटा, मेमोरी और कंप्यूट की वह मात्रा कैसे बदलती है जो संगठनों को मॉनिटरिंग और सुरक्षा के लिए आवंटित करनी पड़ती है?

एक चैटबॉट केवल एक प्रॉम्प्ट और एक रिस्पॉन्स है। एक स्वायत्त एजेंट एक चलती प्रक्रिया है। यह दर्जनों सिस्टम को छूता है, जानकारी प्राप्त करता है, मध्यवर्ती निर्णय लेता है, और घंटे‑या‑दिनों तक स्टेट जमा करता है इससे पहले कि वह कार्य समाप्त करे।

आप इसे व्यक्तिगत टोकन या रिस्पॉन्स का नमूना लेकर मॉनिटर नहीं कर सकते। आपको पूरी श्रृंखला को कैप्चर करना होगा : एजेंट ने क्या जाना, कब जाना, और उसके बाद क्या किया। हर घंटे जब एजेंट चलता है, उसकी स्टेट बढ़ती है, और साथ ही मेमोरी, डेटा मूवमेंट, और इन्फ्रास्ट्रक्चर की आवश्यकता भी बढ़ती है उसे कैप्चर और विश्लेषण करने के लिए। मॉनिटरिंग अब लॉगिंग फीचर नहीं रहकर एक प्रथम‑श्रेणी वर्कलोड बन जाता है, जिसका अपना रिसोर्स बजट होता है।

यहाँ रक्षा का मुद्दा तात्कालिक हो जाता है। AI की मेमोरी समस्या अब सुरक्षा समस्या बन रही है। एक कोडिंग एजेंट स्पिन‑अप, शिप और शट‑डाउन कर सकता है। एक साइबर‑सुरक्षा एजेंट नहीं कर सकता। उसे सुरक्षा ऑपरेशन्स सेंटर में दैनिक शिफ्ट परिवर्तन, बार‑बार मॉडल अपडेट, और जटिल मल्टी‑स्टेज अटैक कैंपेन को संभालना पड़ता है, जो पहले हफ़्तों में फैले होते थे, लेकिन अब समन्वित मशीन गति पर चलते हैं। जब AI कार्यशील मेमोरी हर कुछ मिनट में इविक्टेड और शून्य से पुनः‑गणना होती है, तो पहला घंटे में अनियमित व्यवहार का पता लगाने वाला एजेंट दूसरे घंटे में उसे याद नहीं रख पाता। हमलावरों को यह समस्या नहीं होती; उनके एजेंट लगातार कमजोरियों की पहचान और पीछा करते हैं, और टोकनोमिक्स‑ऑप्टिमाइज़्ड मशीन गति पर किल‑चेन पूरी होती है, इसलिए AI‑पावर्ड साइबर रक्षा को 24/7 स्वायत्त रूप से चलना पड़ता है। यह केवल सैद्धांतिक नहीं है। सुरक्षा विक्रेता अभी 24/7 निरंतर साइबर एजेंटों के लिए तैयार हो रहे हैं, और पहला सबक यह है कि उनकी अर्थव्यवस्था चैट वर्कलोड जैसी नहीं होती। कुछ संगठनों को उन एजेंटों को एज पर चलाना पड़ता है, ऐसे सुविधाओं में जहाँ आप इस साल GPU रैक या यहाँ तक कि चिलर भी नहीं भेज सकते। एंटरप्राइज़ AI का वास्तविक परीक्षण निरंतर कॉन्टेक्स्ट रखरखाव है, न कि बिंदु‑समय इन्फ़रेंस। यह टोकन क्षीणन का युद्ध बन जाता है, और जो स्केल पर निरंतर कॉन्टेक्स्ट मेमोरी को हल करता है, वही एंटरप्राइज़ AI में पहला क्षैतिज किलर ऐप चलाएगा : हमेशा‑ऑन ब्लू एजेंट स्वॉर्म।

आपने “कॉन्टेक्स्ट मेमोरी” के बढ़ते महत्व के बारे में बात की है, क्योंकि AI वर्कलोड साधारण चैट से निरंतर एजेंट तक बढ़ रहे हैं। क्या कॉन्टेक्स्ट मेमोरी ऑडिट, पुनरुत्पादन या AI व्यवहार की जाँच में भी महत्वपूर्ण हो सकती है?

बिल्कुल, और यह एक महत्वपूर्ण उपयोग‑केस है। वर्षों तक मेमोरी केवल प्रदर्शन की कहानी थी : आप GPU को कितनी तेज़ी से फ़ीड कर सकते हैं, कितनी कॉन्टेक्स्ट रख सकते हैं। एक बार एजेंट स्वायत्त रूप से कार्य करना शुरू करता है, वही मेमोरी साक्ष्य बन जाती है। यदि एजेंट ने दिनों तक जमा की गई कॉन्टेक्स्ट के आधार पर निर्णय लिया, तो अंतिम प्रॉम्प्ट और आउटपुट यह नहीं बताते कि उसने ऐसा क्यों किया। व्याख्या संचित स्टेट में रहती है।

तकनीकी रूप से, अधिकांश स्टेट KV कैश में रहती है, और उद्योग अभी भी इसे नष्ट‑योग्य स्क्रैच स्पेस मानता है, न कि स्थायी डेटा। यदि आप उस स्टेट को संरक्षित कर सकते हैं और कुशलता से पुनः प्राप्त कर सकते हैं, तो आप उस क्षण की सिस्टम की जानकारी को पुनः निर्मित कर सकते हैं जब उसने कार्य किया। टीमें पहले इसे डिबगिंग के लिए उपयोग करेंगी, फिर सुरक्षा मूल्यांकन के लिए, और अंततः किसी जांच में इसकी आवश्यकता होगी। कॉन्टेक्स्ट मेमोरी को फेंक देना मतलब वह एकमात्र रिकॉर्ड फेंक देना है जो बताता है कि आपका AI ऐसा क्यों किया।

क्या AI नियमन अंततः कंपनियों को मॉडल इनपुट, आउटपुट, चेकपॉइंट, डेटा लाइनएज और एजेंट गतिविधि के बारे में काफी अधिक जानकारी रखने के लिए मजबूर करेगा? इसका AI इन्फ्रास्ट्रक्चर आर्किटेक्चर पर क्या प्रभाव पड़ेगा?

दिशात्मक रूप से, हाँ। जैसे‑जैसे AI सिस्टम अधिक परिणाम‑उन्मुख होते जाएंगे, दृश्यता आवश्यकताएँ पाइपलाइन के हर चरण को कवर करने के लिए विस्तारित होंगी। आप पहले ही शुरुआती संकेत देख सकते हैं : टीमें सस्ते ऑब्जेक्ट स्टोरेज टियर में पुरानी कॉन्टेक्स्ट मेमोरी को ऑडिट उद्देश्यों के लिए रख रही हैं, इससे पहले कि कोई नियमन इसकी आवश्यकता करे।

मॉनिटरिंग को इम्युटेबिलिटी के साथ प्रमाणित करना आवश्यक है। दुर्भावनापूर्ण एजेंटों द्वारा लॉग और अन्य फॉरेंसिक आर्टिफैक्ट्स में छेड़छाड़ अब सामान्य हो गई है, जिसके लिए जटिल क्रिप्टोग्राफ़िक वेरिफ़िकेशन सिस्टम की आवश्यकता है जो केंद्रीकृत इंटेग्रिटी टार्गेट के प्रति संवेदनशील न हों। साधारण ट्रांसपैरेंसी लॉग या हैश चेन समन्वित एजेंट स्वॉर्म की मिलीभगत क्षमताओं के खिलाफ पर्याप्त नहीं हैं। अत्यधिक विकेंद्रीकृत, सार्वजनिक ब्लॉकचेन आर्किटेक्चर इस काम के लिए आदर्श हैं, जो साइबर सुरक्षा के C‑I‑A त्रिकोण के मध्य में अक्सर अनदेखा किए जाने वाले इंटेग्रिटी मूल्य को उजागर करता है।

रिटेंशन केवल बड़े पैमाने पर एक कठिन, अपरिवर्तनीय स्टोरेज समस्या नहीं है। कठिन हिस्सा यह है कि उस जानकारी को विश्वसनीय, व्यवस्थित, इंडेक्स्ड, और तेज़ी से पुनः प्राप्त करने योग्य रखना, चाहे वह नियामक, घटना प्रतिक्रिया या न्यायालय से आए समय‑सीमा के तहत हो। एक पेटाबाइट एजेंट गतिविधि जिसे आप क्वेरी नहीं कर सकते, वह दायित्व है, रिकॉर्ड नहीं। आर्किटेक्चर का बदलाव “अधिक स्टोरेज” से “ऐसा इन्फ्रास्ट्रक्चर” की ओर है जो वस्तुनिष्ठ रूप से सत्यापनीय, स्थायी, क्वेरी‑योग्य AI डेटा को कोर वर्कलोड के रूप में डिज़ाइन करता है।

कई संगठन अधिक GPU खरीदने पर ध्यान केंद्रित कर रहे हैं, लेकिन AI वर्कलोड स्केल होने और सुरक्षा आवश्यकताएँ बढ़ने के साथ कम‑स्पष्ट इन्फ्रास्ट्रक्चर बाधाएँ कहाँ उभर रही हैं?

GPU को हेडलाइन मिलती है क्योंकि यह बजट का एक महत्वपूर्ण आइटम है। लेकिन GPU और विशेष रूप से नए डिकोड‑ऑप्टिमाइज़्ड एक्सेलेरेटर (ASIC+SRAM) अक्सर वास्तविक बाधा नहीं होते। मेमोरी बैंडविड्थ, डेटा ग्रैविटी और मूवमेंट, स्टोरेज परफ़ॉर्मेंस, और नेटवर्किंग तय करते हैं कि ये एक्सेलेरेटर उत्पादक कार्य कर रहे हैं या निष्क्रिय प्रतीक्षा में।

जैसे‑जैसे AI अधिक कॉन्टेक्स्ट‑हेवी होता है, मेमोरी वॉल प्रमुख बाधा बन जाता है। आप GPU जोड़ते रह सकते हैं, लेकिन यदि वे अपने साइकल को टोकन पुनः‑गणना या सिस्टम के बीच कॉन्टेक्स्ट शफ़लिंग में बिता रहे हैं, तो आप बर्बाद काम के लिए भुगतान कर रहे हैं, बार‑बार। मेमोरी वॉल को स्केल करने का मतलब डेटा लेयर को साझा स्टोरेज की तरह व्यवहार कराना है, लेकिन वास्तविक मेमोरी गति पर प्रदर्शन देना है। यह HBM‑सन्निकट गति बार KV कैश ऑफ़लोडिंग सॉल्यूशन्स के लाभ‑केन्द्रित वेव के लिए महत्वपूर्ण है : इनमें से प्रत्येक को टोकनोमिक्स को सही ठहराने के लिए वास्तविक मेमोरी‑क्लास परफ़ॉर्मेंस देना होगा। KV कैश की रिटेंशन वैल्यू एक लागत‑केन्द्रित चर्चा है, लाभ‑केन्द्रित नहीं। यदि कैश्ड कॉन्टेक्स्ट को पढ़ना पुनः‑गणना से धीमा है, तो कैश व्यवसाय समीकरण में बेकार है। मायने यह नहीं है कि आपके पास कितने GPU हैं, बल्कि यह है कि प्रत्येक कितनी उत्पादक है। AI की अर्थव्यवस्था इस बात पर आती है कि आप प्रत्येक टोकन, बाइट, और वाट से कितना मूल्य निकालते हैं, और सुरक्षा आवश्यकताएँ इस गणित को और अधिक कठिन बना देंगी।

आगे देखते हुए, क्या आप उम्मीद करते हैं कि AI सुरक्षा और अनुपालन एक अलग इन्फ्रास्ट्रक्चर वर्कलोड बन जाएगा, जैसे साइबर सुरक्षा ने एंटरप्राइज़ तकनीक की एक समर्पित लेयर के रूप में विकास किया?

हमें AI सुरक्षा और अनुपालन को एक अलग वर्कलोड के रूप में विकसित होते देखेंगे, और साइबर सुरक्षा के समानांतर दोनों दिशाओं में असर पड़ेगा। सुरक्षा एक अलग लेयर बन गई जब उद्योग ने स्वीकार किया कि यह कभी-कभी का अभ्यास नहीं हो सकता। साइबर बीमा उद्योग ने इसे अनिवार्य बना दिया। AI सुरक्षा भी उसी अनिवार्य मार्ग पर है क्योंकि मॉडल अधिक सक्षम और अधिक स्वायत्त होते जा रहे हैं।

लेकिन हमें सुरक्षा के गलत रास्ते से सीखना चाहिए। यह एक बॉल्ट‑ऑन बन गया : एक अलग स्टैक, अलग बजट, अलग टीम जो समस्याओं को बाद में खोजती है। सुरक्षा इन्फ्रास्ट्रक्चर को वही गलती नहीं दोहरानी चाहिए। मॉनिटरिंग, मूल्यांकन, ऑडिटेबिलिटी, और इम्युटेबल रिटेंशन को AI इन्फ्रास्ट्रक्चर के भीतर ही, शुरू से ही सह‑डिज़ाइन किया जाना चाहिए।

यहाँ वह भाग है जिसे अधिकांश लोग नजरअंदाज करते हैं : सुरक्षित AI के लिए अधिक AI की आवश्यकता होती है। गार्डरेल मॉडल मुफ्त नहीं होते। उन्हें निरंतर प्रशिक्षित, फाइन‑ट्यून, और एजेंट रन‑टाइम के हर चरण में इन्फ़रेंस करना पड़ता है। टोकन लेटेंसी बजट इसे ठोस बनाते हैं : प्रत्येक रिस्पॉन्स के पास एक निश्चित विंडो होती है, और जितने टोकन आप उस विंडो में प्रोसेस कर सकते हैं, उतनी ही सत्यापन आप आउटपुट बाहर जाने से पहले कर सकते हैं। और फ्रंटियर मॉडल का वास्तविक खतरा उनका एजेंटिक अनुप्रयोग है। एजेंट उच्च‑वॉल्यूम इन्फ़रेंस लूप में चलते हैं, लंबे क्षितिज पर मॉडल को बार‑बार कॉल करते हैं। प्रत्येक लूप देखना, अभिमुखीकरण, निर्णय, कार्रवाई है, और प्रत्येक चरण टोकन जलाता है। यह AI सुरक्षा को टोकन क्षीणन के युद्ध में बदल देता है। हमलावर लाल एजेंट स्वॉर्म चलाते हैं, रक्षक नीले एजेंट स्वॉर्म, और वह पक्ष जो प्रति डॉलर और प्रति वाट अधिक टोकन उत्पन्न कर सकता है, जीतता है। टोकनोमिक्स दोनों हमले और रक्षा के महत्वपूर्ण पथ पर हैं। यह विचार‑प्रयोग इस गर्मी नहीं रहा, जब एक लाल एजेंट स्वॉर्म ने प्रमुख मॉडल रिपॉज़िटरी पर हमला किया और उद्योग को सतर्क किया, और कुछ ही दिनों में एक समर्पित सुरक्षित AI गठबंधन बना। इस बीच, वॉल्यूम लगातार बढ़ रहे हैं : उद्योग टोकन प्रोसेसिंग ट्रिलियन से क्वाड्रिलियन तक पहुंच गई है।

एक बार सुरक्षा हमेशा‑ऑन आवश्यकता बन जाती है, तो उसकी कंप्यूट, मेमोरी, और डेटा लागतें ओवरहेड नहीं रह जातीं। वे AI चलाने की मूल इकाई‑आर्थिकता का हिस्सा बन जाती हैं। जो कंपनियाँ इसे जल्दी अपनाती हैं, वे सुरक्षा को डिज़ाइन इनपुट मानेंगी। बाकी सभी इसे एक कर मानेंगे।

धन्यवाद इस शानदार साक्षात्कार के लिए, अधिक जानने के इच्छुक पाठकों को कृपया WEKA पर जाएँ।