विचार नेता
एआई सुरक्षा का विस्तार कर सकता है। लेकिन किस चीज़ का?

मुख्य बिंदुसंगठनात्मक संदर्भ के बिना अधिक डेटा संसाधित करने से खतरा पहचान स्वतः नहीं सुधरती।
और देखें
- संगठनात्मक संदर्भ के बिना अधिक डेटा संसाधित करने से खतरा पहचान स्वतः नहीं सुधरती।
- फाइन-ट्यून किए गए मॉडल फ्रंटियर मॉडल की तुलना में अधिक पूर्वानुमेय लागत पर बड़े पैमाने की जांच का समर्थन कर सकते हैं।
- स्वायत्तता जोखिम के अनुपात में होनी चाहिए और एजेंटों को बढ़ाने से पहले शासन की रचना की जानी चाहिए।
आज उद्यमों की सुरक्षा टीमों के सामने इतनी गतिविधियाँ, टेलीमेट्री और अलर्ट हैं कि उनकी मैन्युअल जाँच करना व्यावहारिक रूप से संभव नहीं है। अलग-अलग अनुमानों के मुताबिक, कुछ शोध बताते हैं कि सुरक्षा संचालन की एक औसत टीम को प्रतिदिन 4,400 से अधिक अलर्ट मिलते हैं। जैसे-जैसे संगठन विस्तार करते हैं और अधिक टूल जोड़ते हैं, और एआई की मदद से हमलों की संख्या बढ़ती है, यह आँकड़ा बढ़ना तय है। हम पहले से ही ऐसे उद्यम देख रहे हैं जिनके परिवेश में 20 लाख एंडपॉइंट हैं। इन अलर्ट की मैन्युअल जाँच करने वाली सुरक्षा टीमें ऐसे हमलावरों के सामने बराबरी की लड़ाई नहीं लड़ रही हैं, जो तेजी से एआई एजेंटों का इस्तेमाल कर रहे हैं।
रक्षकों के लिए, एआई एजेंट पूरे परिवेश में जाँच और दूसरे बार-बार किए जाने वाले काम संभालकर इस समीकरण को बदल सकते हैं। हालाँकि, अधिक डेटा संसाधित कर पाने का अर्थ अपने-आप बेहतर खतरा-पहचान या प्रतिक्रिया नहीं होता। ज़रूरत सिर्फ बड़े पैमाने की नहीं, बल्कि संदर्भ की भी है।
बड़े पैमाने पर काम करने की क्षमता का आकलन करते समय संदर्भ का महत्व
लाखों एंडपॉइंट की जाँच करने वाले एजेंट को यह समझना होगा कि वह क्या खोज रहा है, उस खास परिवेश में असामान्य व्यवहार किसे माना जाएगा और किन निष्कर्षों की आगे जाँच की जानी चाहिए। इस संदर्भ के बिना, स्वचालन से शोर बढ़ने और अप्रासंगिक या भ्रामक निष्कर्ष निकलने का जोखिम रहता है।
यह भी ध्यान रखना ज़रूरी है कि हर संगठन हर अलर्ट की जाँच के लिए अत्याधुनिक मॉडलों पर निर्भर नहीं रह पाएगा; ऐसा करना बहुत महँगा पड़ेगा।
सुरक्षा परिवेशों में बुनियादी ढाँचा, अनुप्रयोग, परिचालन संबंधी ज़रूरतें, नियामक दायित्व और जोखिम सहने की क्षमता अलग-अलग होती हैं। अनुपालन संबंधी ज़रूरतें पूरी करते हुए और परिचालन में बाधा से बचते हुए रक्षकों को अनुप्रयोग चालू रखने होते हैं।
प्रभावी ढंग से काम करने के लिए एजेंटों को संगठन का ज्ञान शामिल करना होगा, जिसमें पिछली जाँचों, स्थापित प्रक्रियाओं और अनुभवी विश्लेषकों के विवेक से मिली सीख शामिल है। इस ज्ञान का बड़ा हिस्सा ऐसा नहीं है जिसे किसी स्प्रेडशीट या दूसरे प्रारूप में डालकर एजेंट को बस दे दिया जाए; इसे अनुभवी रक्षकों को काम करते देखकर सीखना पड़ता है।
उद्यमों के लिए यहाँ बड़ा सवाल यह है कि इस संस्थागत ज्ञान को ऐसे सिस्टम में कैसे बदला जाए जो मशीन की गति से, एकसमान और संदर्भ के अनुरूप निर्णय ले सकें।
संगठन के ज्ञान को परिचालन में कैसे लागू करें
संगठनों को जाँच को दिशा देने वाले ज्ञान को दर्ज करने और लागू करने के तरीके चाहिए। इसमें पिछले मामलों पर लिए गए निर्णय, स्थापित प्रक्रियाएँ और विश्लेषकों द्वारा साक्ष्यों की व्याख्या करने का तरीका शामिल है। उद्यमों के पास प्रक्रियाओं, टूल और अनौपचारिक रूप से साझा किए जाने वाले अनुभवों के कुछ “विशिष्ट” रूप भी हो सकते हैं, जिन्हें दर्ज करना ज़रूरी है।
मॉडलों को विशिष्ट कार्यों के अनुरूप ढालना एक संभावित तरीका है। अलग-अलग उद्यमी ग्राहकों के लिए मॉडलों को फ़ाइन-ट्यून करने से बेहतर प्रदर्शन बनाए रखते हुए बड़े पैमाने पर जाँच करना और उसकी लागत का अधिक भरोसेमंद अनुमान लगाना संभव हो सकता है। बहुत बड़ी संख्या में एंडपॉइंट वाले कार्यों के लिए फ़ाइन-ट्यून किए गए ओपन-सोर्स मॉडल खास तौर पर उपयोगी हो सकते हैं।
मॉडल, वर्कफ़्लो और उद्यमी परिवेश बदलने पर संगठनों को एजेंटों के प्रदर्शन का आकलन भी करना चाहिए। जब उत्पादन संबंधी डेटा उपलब्ध न हो या पुराना पड़ गया हो, तो कृत्रिम परिवेश या डिजिटल ट्विन अलग-अलग एजेंट संस्करणों की जाँच के लिए प्रतिनिधि परिस्थितियाँ उपलब्ध करा सकते हैं।
संदर्भ उपलब्ध कराने का एकमात्र तरीका फ़ाइन-ट्यूनिंग नहीं है। पुनर्प्राप्ति, मेमोरी, वर्कफ़्लो ऑर्केस्ट्रेशन और स्पष्ट नीति-नियंत्रण इसके दूसरे विकल्प हैं। मुख्य ज़रूरत यह है कि चुना गया तरीका उस परिवेश में एजेंट के प्रदर्शन को बेहतर बनाए जहाँ उसे काम करना है।
बड़े पैमाने पर स्वायत्तता के लिए स्पष्ट सीमाएँ, निगरानी और समन्वय ज़रूरी हैं
किसी खतरे की सही पहचान करना चुनौती का बस एक हिस्सा है। एजेंटों को समझना होगा कि उन्हें कौन-से कदम उठाने की अनुमति है, कब इंसानी मंज़ूरी ज़रूरी है और वैध कारोबारी कामकाज में बाधा डालने से कैसे बचना है। यह तय करना कि एजेंट कहाँ अपने-आप कार्रवाई कर सकते हैं और कहाँ इंसानी निर्णय ज़रूरी है, भरोसे के साथ उनकी तैनाती के लिए अनिवार्य है।
बड़े पैमाने पर स्वायत्तता के लिए पैमाने की अर्थव्यवस्था भी ज़रूरी है। लाखों जाँचों के लिए अत्याधुनिक मॉडलों का इस्तेमाल करने वाली कंपनियाँ खुद को दिवालिया कर लेंगी। इसलिए, एआई मॉडल से जाँच करने का सबसे किफ़ायती तरीका खोजना बेहद ज़रूरी है—चाहे वह छोटा भाषा मॉडल (SLM) हो या मालिकाना मॉडल।
स्वायत्तता का स्तर जोखिम के अनुपात में होना चाहिए। रोज़मर्रा के, अच्छी तरह समझे गए काम अपने-आप किए जा सकते हैं, जबकि गंभीर परिणाम वाले या बाधा पैदा करने वाले कदमों के लिए इंसानी मंज़ूरी या अतिरिक्त अनुमति की ज़रूरत हो सकती है। उद्यमों की सुरक्षा टीमों के बीच समन्वय पर भी निर्भर करती है। अगर किसी जाँच में ऐसे खतरे का पता चलता है जिसके लिए फ़ायरवॉल कॉन्फ़िगरेशन बदलना ज़रूरी हो, तो मामला उस सिस्टम के लिए ज़िम्मेदार टीम तक बिना किसी रुकावट के पहुँचना चाहिए; साथ ही, सुधार के लिए उचित अनुमति और जवाबदेही भी सुनिश्चित होनी चाहिए।
इसलिए, एजेंटों की तैनाती में शासन-व्यवस्था और वर्कफ़्लो का डिज़ाइन अनिवार्य घटक हैं; इन्हें ऐसी सुरक्षा व्यवस्थाएँ नहीं माना जा सकता जिन्हें तकनीक का विस्तार करने के बाद जोड़ा जाए।
सुरक्षा में एआई की सफलता का अगला पैमाना उसके नतीजों की गुणवत्ता है
संगठनों को परिणाम-आधारित मापदंडों से एजेंटों का आकलन करना चाहिए। इनमें जाँच की सटीकता, गलत सकारात्मक और गलत नकारात्मक परिणामों की दरें, जाँच और समस्या का निवारण करने में लगने वाला समय, प्रति जाँच लागत, मामलों को आगे बढ़ाने की गुणवत्ता और प्राधिकरण नीतियों का पालन शामिल हैं।
मॉडल और कार्यप्रवाह बदलते रहते हैं, इसलिए उनका लगातार मूल्यांकन करना आवश्यक है। अलग-अलग एजेंट संस्करणों को प्रतिनिधि मामलों पर परखने और कृत्रिम परिवेशों का उपयोग करने से संगठनों को उत्पादन में अपडेट लागू करने से पहले प्रदर्शन में आई गिरावट की पहचान करने में मदद मिल सकती है।
सुरक्षा प्रमुखों को स्वचालन के लाभों और उसे लागू करने से जुड़े परिचालन जोखिमों के बीच संतुलन बनाना चाहिए। अनुप्रयोगों की उपलब्धता, अनुपालन संबंधी दायित्व, संगठन की जोखिम सहने की क्षमता और कार्यान्वयन की समय-सीमा—ये सभी तय करते हैं कि नई क्षमताएँ कितनी जल्दी अपनाई जा सकती हैं।
एआई सुरक्षा टीमों को लंबे समय से चली आ रही क्षमता की कमी दूर करने का अवसर देता है, लेकिन केवल बड़े पैमाने पर काम करना अंतिम लक्ष्य नहीं है। असली अवसर मशीन की गति को संगठन के संदर्भ, उचित अधिकार और मानवीय विवेक के साथ जोड़ने में है, ताकि एजेंट समझ सकें कि क्या महत्वपूर्ण है, सही कदम उठा सकें और ज़रूरत पड़ने पर सही लोगों को शामिल कर सकें।












