हाना-मैरी डार्ले, जियोर्डी एआई के मुख्य एआई अधिकारी – साक्षात्कार श्रृंखला

हाना-मैरी डार्ले, जियोर्डी एआई के मुख्य एआई अधिकारी, एक अनुभवी एआई और सुरक्षा नेता हैं जिन्होंने कंपनी की सह-स्थापना की ताकि वे उद्यम आईटी, जोखिम और सुरक्षा टीमों को स्पष्टता और नियंत्रण के साथ एजेंटिक एआई को अपनाने में मदद कर सकें। अमेरिकी संघीय सरकार के भीतर खुफिया संचालन का समर्थन करने के लगभग एक दशक के साथ, और इसके बाद डार्कट्रेस में वरिष्ठ नेतृत्व भूमिकाएं, वह खतरे की खुफिया, भू-राजनीतिक विश्लेषण और लागू मनोविज्ञान में गहरी विशेषज्ञता को एआई रणनीति और उत्पाद विकास में हाथों-हाथ अनुभव के साथ जोड़ती है। उनका काम स्वायत्त प्रणालियों को मानवीय इरादे के साथ संरेखित करने पर केंद्रित है, जिससे उद्यमों को एआई एजेंटों को एक ऐसे तरीके से संचालित करने में सक्षम बनाता है जो नवाचार, पर्यवेक्षण और वास्तविक दुनिया की सीमाओं के बीच संतुलन बनाए रखता है।

जियोर्डी एआई एक लंदन स्थित उद्यम सॉफ्टवेयर कंपनी है जो कॉर्पोरेट वातावरण में एम्बेडेड होने वाले एआई एजेंटों को सुरक्षित और शासित करने पर केंद्रित है। इसका प्लेटफ़ॉर्म एजेंट गतिविधि में दृश्यता प्रदान करता है, जोखिम मुद्रा की निरंतर निगरानी करता है, और संरचित शासन नियंत्रण प्रदान करता है जो संगठनों को एआई प्रणालियों को आत्मविश्वास से तैनात और स्केल करने की अनुमति देता है। एजेंटिक युग के लिए अनुकूलित दृश्यता, अनुपालन समर्थन और परिचालन पर्यवेक्षण प्रदान करके, जियोर्डी का उद्देश्य उद्यमों को स्वायत्त प्रौद्योगिकियों को एकीकृत करने के लिए आवश्यक पारदर्शिता और नियंत्रण प्रदान करना है बिना सुरक्षा या जिम्मेदारी का समझौता किए।

आप अमेरिकी संघीय खतरे की खुफिया और भू-राजनीतिक विश्लेषण में लगभग एक दशक बिता चुके हैं, बाद में डार्कट्रेस में खतरे की खोज और एआई रणनीति भूमिकाओं का नेतृत्व किया, और अब जियोर्डी एआई में एआई और उत्पाद रणनीति का नेतृत्व कर रहे हैं। सरकार और उद्यम सुरक्षा में आपके अनुभव ने जियोर्डी बनाने के आपके निर्णय को कैसे प्रभावित किया, और आप किस मूल समस्या का समाधान करने के लिए निर्धारित थे?

सरकार और उद्यम सुरक्षा दोनों में, मैंने लगातार एक ही संरचनात्मक तनाव का सामना किया। संगठन एआई में भारी निवेश कर रहे थे, लेकिन विश्वास उस निवेश के रिटर्न की अपेक्षाओं के पीछे रह गया था। चुनौती क्षमता नहीं थी। यह विश्वास था।

जैसे ही एआई प्रयोगात्मक टूलिंग से ऑपरेशनल कार्यप्रवाह में चला गया, वह अंतर और अधिक दिखाई देने लगा। एजेंट स्वायत्तता, निर्णय लेने और प्रणालियों में स्थायित्व को पारंपरिक सॉफ्टवेयर की तुलना में विभिन्न तरीकों से पेश करते हैं। व्यवसायों को यह समझने की आवश्यकता थी कि एजेंट कैसे कार्य करते हैं, वे कहां कार्य करते हैं, और उनके व्यवहार के माध्यम से जोखिम कैसे उत्पन्न होता है। जियोर्डी को उस स्पष्टता अंतर को बंद करने के लिए बनाया गया था ताकि संगठन आत्मविश्वास के साथ स्वायत्तता को अपना सकें, संकोच के बिना।

आपके विचार में, स्वायत्त या एजेंटिक एआई प्रणालियों द्वारा प्रस्तुत सबसे बड़ा गलत समझा जाने वाला जोखिम क्या है, और संदर्भ-निर्णय लेने की “श्रृंखला प्रभाव” पारंपरिक साइबर सुरक्षा एक्सपोजर मॉडल से कैसे भिन्न है?

मौन विफलताएं सबसे कम समझी जाती हैं। एक एजेंट अनुमोदित अनुमतियों और वैध पहुंच सीमाओं के भीतर कार्य कर सकता है और फिर भी परिणाम उत्पन्न कर सकता है जो इरादे से विचलित होता है।

यह एजेंटिक प्रणालियों की प्रकृति को दर्शाता है। वे संदर्भ की व्याख्या करते हैं और वास्तविक समय में निर्णय लेते हैं। निर्धारित सॉफ्टवेयर के विपरीत, व्यवहार गतिविधियों के क्रम में गतिशील रूप से आकार दिया जाता है। यह सुरक्षा मॉडल को बदल देता है। एक्सपोजर अब केवल पहुंच उल्लंघनों पर निर्भर नहीं करता है। यह निर्णयों, उपकरणों और संदर्भ के बीच समय के साथ बातचीत के माध्यम से उत्पन्न होता है।

जियोर्डी का दृष्टिकोण व्यवहारिक दृश्यता, संदर्भ जोखिम मूल्यांकन और एजेंट गतिविधियों पर गतिशील नियंत्रण पर जोर देता है। संगठन वास्तविक समय की दृश्यता की आवश्यकता के साथ ऑपरेशनल जटिलता या प्रणाली प्रदर्शन के बारे में चिंताओं को कैसे संतुलित कर सकते हैं?

उद्यमों को नियंत्रण के लिए प्रदर्शन का व्यापार नहीं करना चाहिए। हमारी वास्तुकला जानबूझकर इनलाइन प्रॉक्सी और गेटवे से बचती है, जिससे संगठनों को ऑपरेशनल रूप से जहां यह समझ में आता है वहां एजेंटों का निर्माण और संचालन करने की अनुमति मिलती है।

दृश्यता और नियंत्रण को स्वायत्तता के साथ बढ़ना चाहिए, बिना घर्षण या विलंब के। यदि शासन तंत्र कार्यप्रवाह को बाधित करते हैं, तो अपनाने में रुकावट आती है। प्रभावी सुरक्षा पारिस्थितिकी तंत्र को सुरक्षित रूप से विस्तारित करने की अनुमति देती है, न कि नवाचार को प्रतिबंधित करती है।

उद्यम ग्राहकों और जोखिम नेताओं के साथ आपके काम से, कौन से प्रकार के कार्यप्रवाह या उपयोग के मामले उच्च-जोखिम वाली गतिविधियों में एजेंटिक ड्रिफ्ट के लिए सबसे अधिक संवेदनशील होते हैं, और प्रारंभिक संकेतकों का पता कैसे लगाया जा सकता है ताकि वे पहले ही बढ़ जाएं गंभीर घटनाओं में?

जोखिम जटिलता के साथ बढ़ता है। एक एजेंट जितने अधिक स्वतंत्र निर्णय लेता है, उतना ही अधिक व्यवहारिक विचलन की संभावना होती है।

ड्रिफ्ट अक्सर टूल चेनिंग, संदर्भ पुन: उपयोग और उत्पन्न कार्यप्रवाह के माध्यम से दिखाई देता है। प्रारंभिक संकेतक अप्रत्याशित टूल इनवोकेशन, असामान्य अनुक्रम पैटर्न और डेटा आंदोलन में बदलाव शामिल हैं। इन संकेतों का पता लगाने के लिए व्यवहारिक विश्लेषण की आवश्यकता होती है, न कि अलग-अलग घटना निगरानी की।

जब एआई एजेंट कार्यों के पार संदर्भ और उपकरणों का पुन: उपयोग करते हैं, तो सुरक्षा टीमों को किन सबसे सूक्ष्म या कम अनुमानित विफलता मोड पर अधिक ध्यान देना चाहिए?

संदर्भ पुन: उपयोग कम अनुमानित रहता है। एक्सपोजर अक्सर अत्यधिक अनुमतियों से नहीं बल्कि जानकारी के स्थायित्व और कार्यों के पार प्रसार से उत्पन्न होता है।

एजेंट एक संदर्भ में डेटा तक वैध पहुंच प्राप्त कर सकते हैं और उस स्थिति को दूसरे में ले जा सकते हैं। टूल चेनिंग के साथ मिलकर, यह संवेदनशील जानकारी के अनपेक्षित प्रकटीकरण या परिवर्तन का उत्पादन कर सकता है।

बहुत से संगठन अभी भी पारंपरिक उद्यम सुरक्षा उपकरण जैसे एंडपॉइंट डिटेक्शन और रिस्पांस और एक्सटेंडेड डिटेक्शन और रिस्पांस प्लेटफ़ॉर्म पर निर्भर करते हैं। स्वायत्त एआई प्रणालियों का प्रबंधन करते समय जो बहु-चरणीय कार्य करते हैं, ये दृष्टिकोण कहां कम पड़ जाते हैं?

ईडीआर और एक्सडीआर प्लेटफ़ॉर्म अभी भी आवश्यक हैं, लेकिन वे मानव-केंद्रित खतरे के मॉडल के आसपास डिज़ाइन किए गए थे। एजेंट मानव-केंद्रित और पहचान टेलीमेट्री से परे निर्णय परतों में कार्य करते हैं।

एजेंट व्यवहार को समझने के लिए तर्क पैटर्न, टूल चयन और संदर्भ निर्णय प्रवाहों में अंतर्दृष्टि की आवश्यकता होती है। उस परत के बिना, एजेंट गतिविधि का एक बड़ा हिस्सा अपारदर्शी रहता है।

आईटी, जोखिम और सुरक्षा नेताओं के लिए जो नवाचार को सक्षम करना चाहते हैं लेकिन स्वायत्तता को नियंत्रित करना चाहते हैं, “शासित स्वायत्तता” वास्तव में क्या दिखती है?

शासित स्वायत्तता दृश्यता से शुरू होती है। संगठनों को यह समझने की आवश्यकता है कि एजेंट कहां कार्य करते हैं, वे कितनी निर्णय लेने की अधिकारिता रखते हैं, और उनकी क्षमताएं किन जोखिमों को पेश करती हैं।

शासन सबसे प्रभावी होता है जब इसे शुरू में एम्बेड किया जाता है, जो परिभाषित सीमाओं के भीतर प्रयोग की अनुमति देता है। यह नवाचार का समर्थन करता है जबकि परिणामों में विश्वास बनाए रखता है।

व्याख्यात्मकता अक्सर मॉडल आउटपुट स्तर पर चर्चा की जाती है। एजेंट द्वारा लिए गए क्रियाओं की क्रम में वास्तविक जोखिम के लिए व्याख्यात्मकता और लेखा परीक्षा के बारे में उद्यमों को कैसे सोचना चाहिए?

मॉडल व्याख्यात्मकता केवल समीकरण का एक हिस्सा है। उद्यम जोखिम बढ़ती तरह से व्यवहारिक क्रमों में निवास करता है, न कि अलग-अलग आउटपुट में।

लेखा परीक्षा के लिए यह समझने की आवश्यकता है कि सुरक्षा सीमाएं व्याख्या को कैसे आकार देती हैं, कौन से उपकरण बुलाए गए थे, और संदर्भ ने निर्णयों को कैसे प्रभावित किया। व्यवहारिक दृश्यता जिम्मेदारी के लिए आधार बनती है।

जिन संगठनों को स्वायत्त एआई प्रणालियों के निरीक्षण की आवश्यकता का एहसास है, उन्हें आज नवाचार को धीमा किए बिना एजेंटिक जोखिम को कम करने के लिए कौन से कंक्रीट कदम उठाने चाहिए, और जियोर्डी एआई विशेष रूप से उद्यमों को उस संतुलन को कैसे संचालित करने में मदद करता है क्षमता और नियंत्रण के बीच?

संगठनों को पूर्ण फ्रेमवर्क की प्रतीक्षा किए बिना शुरू करने से लाभ होगा। प्रारंभिक फोकस इन्वेंट्री, व्यवहारिक दृश्यता और यह समझने पर केंद्रित होना चाहिए कि एजेंट प्रणालियों के साथ कैसे बातचीत करते हैं।

शासन मॉडल जो विलंब को पेश करते हैं अक्सर स्केलेबिलिटी को बाधित करते हैं। निरीक्षण को ऑपरेशनल गति के साथ संरेखित करना चाहिए। जियोर्डी एजेंट कॉन्फ़िगरेशन, व्यवहार और जोखिम गतिविधियों में दृश्यता प्रदान करता है, साथ ही स्वायत्त प्रणालियों के लिए डिज़ाइन किए गए सुधारात्मक नियंत्रण को सक्षम बनाता है।

आगे देखते हुए, क्या संगठनों को स्वायत्त एआई को कार्यप्रवाह में सफलतापूर्वक स्केल करने से अलग करेगा, जो अनियंत्रित जोखिम के कारण पीछे रह जाते हैं, और नेतृत्व को अब कैसे तैयार करना चाहिए?

प्रारंभिक विभेदक स्पष्टता और माप होंगे। जो टीमें एजेंट क्षमता, प्रभाव और व्यवहारिक पैटर्न को समझती हैं, वे अधिक आत्मविश्वास से स्केल करेंगी।

लंबी अवधि में, प्रतिस्पर्धी लाभ उन संगठनों को पसंद करेगा जो विशेषज्ञता, संदर्भ-जागरूक एजेंट पारिस्थितिकी तंत्र विकसित करते हैं। सामान्यीकरण के बजाय सटीकता प्रदर्शन और लचीलापन का चालक बन जाती है।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें जियोर्डी एआई पर जाना चाहिए।