रोवन स्टीवर्ट, सीनियर डायरेक्टर ऑफ प्रोडक्ट, एआई सुरक्षा और प्लेटफ़ॉर्म tại ट्रांसेंड – साक्षात्कार श्रृंखला

रोवन स्टीवर्ट, सीनियर डायरेक्टर ऑफ प्रोडक्ट, एआई सुरक्षा और प्लेटफ़ॉर्म tại ट्रांसेंड, उत्पाद पहल का नेतृत्व करता है जो संगठनों को डेटा की खोज, शासन और सुरक्षित रूप से उपयोग करने में मदद करने पर केंद्रित है। वह एआई और मशीन लर्निंग उत्पाद विकास, उद्यम सॉफ़्टवेयर, प्राकृतिक भाषा प्रसंस्करण, डेटा रणनीति और शून्य-से-एक उत्पाद नेतृत्व में एक दशक से अधिक का अनुभव लाती है। ट्रांसेंड में शामिल होने से पहले, स्टीवर्ट ने लगभग छह साल बीसीजी एक्स में बिताए, जहां उन्होंने प्रमुख उद्यमों को एआई रणनीतियों को विकसित करने, आंतरिक प्रक्रियाओं को पुनः बनाने और व्यावसायिक परिणामों को वितरित करने के लिए डिज़ाइन किए गए उत्पादों का निर्माण करने में मदद की। अपने करियर की शुरुआत में, उन्होंने प्रभावशाली बुद्धिमत्ता के लिए प्राकृतिक भाषा प्रसंस्करण एपीआई के विकास का प्रबंधन किया, जिसमें भावना विश्लेषण, ज्ञान ग्राफ, व्यक्तित्व मूल्यांकन, बॉट डिटेक्शन और ब्रांड-सुरक्षा क्षमताएं शामिल थीं।

ट्रांसेंड एकमात्र स्वायत्त डेटा निर्णय मंच है जो “क्या मैं इस डेटा का उपयोग कर सकता हूं?” का उत्तर देता है ताकि ग्राहक विकास को बढ़ाया जा सके। फोर्ट्यून 500 कंपनियां और उभरते श्रेणी के नेता ट्रांसेंड का उपयोग करके उद्यम प्रणालियों में सीधे डेटा उपयोग अनुमतियों को एन्कोड करते हैं, जो सहमति के लिए वास्तविक समय का स्रोत प्रदान करता है, पसंद और व्यावसायिक नियम। परिणाम है डेटा की उत्कृष्ट गुणवत्ता, जो ब्रांड की रक्षा करती है और ऑडिट तैयार अनुपालन प्रदान करती है। ट्रांसेंड के साथ, कंपनियां एआई, व्यक्तिगतकरण और अन्य प्रथम-पक्ष डेटा पहलों से राजस्व को अनलॉक कर सकती हैं जिसमें विश्वास हो। 2017 में बेन ब्रुक (सीईओ) और माइक फारेल (सीटीओ) द्वारा स्थापित, ट्रांसेंड सैन फ्रांसिस्को खाड़ी क्षेत्र में स्थित है।

आप लगभग छह साल बीसीजी एक्स में बिताए, जहां आपने दुनिया के कुछ सबसे बड़े संगठनों को एआई और मशीन लर्निंग समाधानों को तैनात करने में मदद की, और फिर ट्रांसेंड में एआई सुरक्षा और शासन में चले गए। आपने किन पुनरावृत्ति शासन विफलताओं या अंधे धब्बों का अवलोकन किया जो आपको यह विश्वास दिलाते हैं कि एआई शासन को प्रणालियों में दिन एक से बनाया जाना चाहिए, न कि बाद में जोड़ा जाना चाहिए?

बीसीजी में, मैंने एआई परिपक्वता के हर चरण में कंपनियों के साथ काम किया, और एक पैटर्न मुझे चिपक गया: शासन हमेशा देर से आता है। टीमें तेजी से एक मॉडल या उत्पाद को शिप करने के लिए आगे बढ़ती हैं, और डेटा अनुमतियों, सहमति या पर्यवेक्षण के बारे में बातचीत वास्तव में उत्पादन से पहले ध्यान केंद्रित करती है और एक ‘गोट्चा’ की तरह लगती है। जो कुछ भी उस बिंदु पर बनाया जाता है वह एक पैच की तरह होता है जो एक प्रणाली पर लगाया जाता है जो शासन के साथ डिज़ाइन नहीं किया गया था।

यही कारण है कि मैं ट्रांसेंड में शामिल होने के लिए इतना उत्साहित था। कंपनियों को यह सलाह देना कि उन्हें क्या करना चाहिए, यह इतना दूर जाता है। मैं बुनियादी ढांचे को बनाने में मदद करना चाहता था जो शासन को आसान विकल्प बनाता है।

कई संगठन ग्राहक सहायता, संचालन और ज्ञान कार्य में एआई एजेंटों को तैनात करने के लिए दौड़ रहे हैं। पारंपरिक सॉफ़्टवेयर प्रणालियों या पहले की पीढ़ियों के एआई मॉडलों के शासन के विपरीत स्वायत्त एआई एजेंटों का शासन कैसे भिन्न होता है?

अधिकांश उद्यम सुरक्षा वास्तुकला यह मानती है कि हर क्रिया के दूसरी तरफ एक मानव है, और उस मानव की पहचान की जा सकती है, विश्वास किया जा सकता है, और जब कुछ गलत हो जाता है, तो उसे जवाबदेह ठहराया जा सकता है। लेकिन एजेंट मानव नहीं हैं। वे स्वयं कार्य करते हैं, अन्य एजेंटों को कार्य सौंपते हैं, और निर्णयों को एक दूसरे के साथ जोड़ते हैं जो शायद ही कभी एक ही जवाबदेह व्यक्ति के नक्शे में मिलते हैं।

एक एजेंट को एक ही स्थिर, खड़े अनुमतियों को देना जो आप एक कर्मचारी को देंगे, एक मेल नहीं खाता क्योंकि एजेंटों में सामान्य ज्ञान की कमी है। शासन को एजेंट द्वारा लिए जा रहे विशिष्ट कार्रवाई का मूल्यांकन करना चाहिए, उस क्षण में, उस विशिष्ट डेटा के साथ। अधिकांश कंपनियां अभी भी मानवों के लिए बनाए गए पहचान और पहुंच प्रबंधन प्लेबुक चला रही हैं, और उनमें से अधिकांश जल्द ही एजेंट तैनाती के अंतराल को खोजेंगे जो इसके द्वारा संभाला जा रहा है।

आपने एआई नवाचार की कई लहरों में काम किया है, एनएलपी उत्पादों और प्रभावशाली बुद्धिमत्ता प्लेटफार्मों से लेकर उद्यम एआई परिवर्तन पहलों तक। पिछले दशक में एआई सुरक्षा के बारे में बातचीत कैसे विकसित हुई है, और आपको अभी भी क्या चिंतित करता है?

आज (और कल के!) एआई की तुलना पिछली पीढ़ियों से करना आकर्षक है क्योंकि यह एक अविश्वसनीय रूप से तेजी से बढ़ने वाला स्थान है। पिछले एक या दो वर्षों में सबसे महत्वपूर्ण विकास एजेंटों का उदय और लंबे समय तक चलने वाली स्मृति प्रबंधन (ओपनक्लॉ, कोई?) का महत्व रहा है। ये एजेंट इतने अधिक कर सकते हैं और इतनी उच्च गुणवत्ता के साथ, जो उन्हें और भी मूल्यवान और, ज़ाहिर है, जोखिम भरा बनाता है।

एआई प्रणालियां ग्राहक और उद्यम डेटा का उपयोग करके निर्णय लेती हैं, एआई-संचालित वातावरण में सहमति, अनुमतियों और डेटा शासन के बारे में कंपनियों के कुछ सबसे बड़े गलतफहमी क्या हैं?

सबसे आम गलतफहमी यह है कि सहमति को एक बार पकड़ लेना और दूर फाइल करना। एक ग्राहक साइन अप पर एक सेट की शर्तों से सहमत होता है, और कंपनियां मानती हैं कि सहमति अनिश्चितकाल तक चलती है, चाहे डेटा बाद में कैसे चलता है या किन नए प्रणालियों में समाप्त होता है। सहमति को डेटा के साथ यात्रा करने की आवश्यकता है। यदि कोई ग्राहक अपनी प्राथमिकताओं को अपडेट करता है, या एक नई विनियमन क्या अनुमत है इसे बदल देती है, तो उस परिवर्तन को हर जगह दिखना चाहिए जहां डेटा रहता है, न कि केवल उस प्रणाली में जहां मूल रूप से सहमति एकत्र की गई थी।

दूसरी गलतफहमी यह है कि अनुमतियों को एक तकनीकी विवरण के रूप में मानना जो आईटी या कानूनी शांति से पृष्ठभूमि में संभालता है। एक बार एआई प्रणालियां उस डेटा पर आधारित निर्णय लेना शुरू कर देती हैं, तो अनुमति एक उत्पाद और व्यावसायिक प्रश्न बन जाती है, और कोई भी अंतराल सीधे एआई पहल पर विरासत में मिल जाता है जो इसके ऊपर बैठता है।

कई उद्यम अभी भी स्थिर नीतियों और आवर्ती अनुपालन समीक्षाओं पर निर्भर करते हैं। एआई प्रणालियों के युग में वे दृष्टिकोण क्यों संघर्ष करते हैं जो निरंतर सीखने, अनुकूलन और अन्य एजेंटों के साथ बातचीत कर सकते हैं?

एक स्थिर नीति एक सिस्टम को पकड़ती है जो उस पल में दिखता है, और जो स्वीकार्य माना जाता था जब किसी ने इसे लिखा था। एआई इतनी देर तक नहीं रहता कि उस स्नैपशॉट को सटीक बनाए रखा जा सके। जिस मॉडल के लिए आपकी नीति लिखी गई थी, वह मॉडल जो आप छह महीने बाद चला रहे होंगे, और एक त्रैमासिक या वार्षिक अनुपालन समीक्षा इसका साथ नहीं दे सकती जो पूरे समय निर्णय ले रही है और अनुकूलन कर रही है।

कुछ ऐसा शासन करना जो इतनी तेजी से चलता है, इसके लिए नीति की आवश्यकता होती है जो उसी गति से चलती है। इसका अर्थ है डेटा का उपयोग किया जा रहा है जहां पर नीति को लागू करना, वास्तविक समय में, न कि事 के बाद एक दस्तावेज़ के खिलाफ इसकी जांच करना।

जब संगठन एक दूसरे के साथ सहयोग करने वाले एआई एजेंटों के नेटवर्क को तैनात करना शुरू करते हैं और कई आंतरिक प्रणालियों तक पहुंचते हैं, तो प्रभावी शासन क्या दिखता है?

यह वह जगह है जहां पारंपरिक पहुंच नियंत्रण की सीमाएं स्पष्ट हो जाती हैं। एक एजेंट को एक रिकॉर्ड पढ़ने, एक उपकरण को कॉल करने और परिणामों को दूसरे एजेंट को सौंपने की अनुमति दी जा सकती है, और प्रत्येक चरण अपने आप में तर्कसंगत दिख सकता है। हालांकि, संयुक्त कार्रवाई (वास्तव में जो हुआ जब आप उन चरणों को एक साथ जोड़ते हैं) अक्सर कुछ ऐसा होता है जिसे कोई मानव विशेष रूप से अनुमोदित नहीं करता है। पारंपरिक आईएएम यह पुष्टि कर सकता है कि क्या एक एजेंट को एक प्रणाली को छूने की अनुमति थी, हालांकि इसके पास यह कहने के लिए बहुत कम है कि क्या डेटा जो इसने छुआ था उस सहमति के तहत एकत्र किया गया था जो इस विशिष्ट उपयोग को कवर करता है, या परिणामी कार्रवाई श्रृंखला कुछ ऐसी थी जिसे कोई व्यक्ति वास्तव में अनुमोदित करता था।

ट्रांसेंड उद्यम कार्यप्रवाह में सीधे डेटा-उपयोग अनुमतियों को एम्बेड करने पर केंद्रित है। एआई प्रयोग से उत्पादन-स्तर की तैनाती तक जाने वाले संगठनों के लिए वास्तविक समय शासन बुनियादी ढांचे का क्या महत्व है?

परीक्षण के दौरान, एक टीम अक्सर मैनुअल समीक्षा और आवर्ती लेखा परीक्षा के साथ पारित हो सकती है, क्योंकि दांव कम हैं। उत्पादन में, विशेष रूप से एजेंटिक एआई के साथ, यह टूट जाता है क्योंकि पैमाना बस बड़ा है। आज की प्रणाली चेकलिस्ट और बैठकों का एक हार-हार है। अनुपालन और सुरक्षा टीमें मूल रूप से एक पिंकी वादा प्राप्त करती हैं जिसमें निरंतर प्रवर्तन नहीं होता है, जबकि उत्पाद टीम अब जटिल मैनुअल समीक्षाओं के लिए प्रतिबद्ध है जो अंतिम उपयोगकर्ता के लिए वास्तविक मूल्य प्रदान नहीं करती हैं। यह तब है जब वास्तविक समय का बुनियादी ढांचा केवल ऐसा दृष्टिकोण बन जाता है जो काम करता है। डेटा की चलती हुई या निर्णय लेने के क्षण में अनुमतियों को लागू करना, इसके बाद क्या हुआ इसका पुनर्निर्माण करने के बजाय, अनुपालन के लिए शासन को अर्थपूर्ण बनाता है, और उपयोगकर्ताओं के लिए मूल्यवान है।

अगले तीन से पांच सालों में एजेंटिक एआई से जुड़े सबसे महत्वपूर्ण जोखिम क्या हैं, और व्यावसायिक नेताओं द्वारा वर्तमान में कौन से जोखिम कम आंके जा रहे हैं?

मुझे लगता है कि एजेंटों को एक उपयोगकर्ता की अनुमतियों को विरासत में मिलने का मॉडल जोखिम भरा है जितना हम महसूस करते हैं। मानवों में निर्णय लेने की क्षमता है, लेकिन एक एआई आपके निर्देशों का पालन करेगा, भले ही वह एक खाई से नीचे हो।

उत्पाद टीमें एआई सुविधाओं को जल्दी से शिप करने के दबाव को कैसे संतुलित कर सकती हैं और साथ ही शासन, पारदर्शिता और जवाबदेही ढांचे की स्थापना की आवश्यकता को कैसे पूरा कर सकती हैं?

मुझे लगता है कि एक ठोस बात यह है कि मैं इसे “स्लोप टैक्स” कहता हूं।

हमने एआई आउटपुट की वैधता और मूल्य को तेजी से छूट दी है। यही कारण है कि हर कोई आपको इम डैश (भले ही वे उपयुक्त हों) को हटाने की सलाह देता है, यही कारण है कि एक साइट जो मानक क्लाउड रंग योजना का उपयोग करती है वह सस्ती लगती है (भले ही यह अच्छा दिखता हो) और यही कारण है कि एआई द्वारा परोसा गया जानकारी संदेह के रूप में माना जाता है (भले ही यह सच हो)। वास्तव में यह आपके उत्पाद के मूल्य को प्रभावित करता है।

स्लोप टैक्स का समाधान वास्तव में बेहतर शासन और पारदर्शिता है। उदाहरण के लिए, हमने हाल ही में एक सुविधा शिप की है जिसे वेंडर एआई उपयोग कहा जाता है, जो शीर्ष कंपनियों की एआई सुविधाओं और शासन मुद्रा के बारे में सार्वजनिक रूप से उपलब्ध जानकारी को खींचता है, ताकि एआई सक्षमन, सुरक्षा और खरीद टीमें अपना काम तेजी से कर सकें। हमने पाया कि एक बहु-एजेंट ऑर्केस्ट्रेशन फ्रेमवर्क का उपयोग करके, साथ ही साथ स्रोत लिंक और उद्धरण के साथ साक्ष्य इकट्ठा करना और प्रस्तुत करना, हमारे परिणामों की गुणवत्ता में एक बड़ा सुधार हुआ। यह साक्ष्य संग्रह और एजेंट जीक्यू का अभ्यास एक जीत-जीत है क्योंकि वास्तविक परिणाम उपयोगकर्ता के लिए बेहतर हैं, और अनुपालन अधिक मजबूत है।

आगे देखते हुए, क्या आप मानते हैं कि एआई शासन अंततः एक प्रतिस्पर्धी लाभ बन जाएगा, न कि केवल एक अनुपालन आवश्यकता, और क्या संगठनों को अलग करेगा जो इसे सही से प्राप्त करते हैं और जो पीछे रह जाते हैं?

मैं करता हूं, और यह उसी पैटर्न पर वापस आता है जिसे मैंने बीसीजी में देखा था। कंपनियां जो शासन को एक उत्पाद में जोड़ने से पहले कुछ ऐसा मानती थीं जो बाजार में थी, वे हमेशा अंतिम मिनट की जांच से पहले फंस जाती थीं और अक्सर “पायलट पुरगेटरी” में फंस जाती थीं। कंपनियां जो शासन को प्रणाली में दिन एक से बनाती हैं, वे एक तरह के आत्मविश्वास के साथ आगे बढ़ सकती हैं जो दूसरे समूह के पास नहीं है, क्योंकि वे कभी भी यह नहीं सोचते हैं कि वे अपने एआई को देखकर क्या पाएंगे जब वे अंततः करीब से देखते हैं।

यह अंतर केवल एजेंट तैनाती के त्वरण के साथ व्यापक होगा। जो कंपनियां एजेंटों को तैनात करने के लिए दौड़ रही हैं और शासन को पुनः विचार करने में विफल हो रही हैं, वे सबसे अधिक परेशानी में होने वाली हैं। और जब वे ऐसा करते हैं, तो कंपनियां जो बुनियादी ढांचे को सही तरीके से प्राप्त करती हैं, वे पहले से ही एक ऐसी गति से संचालित हो रही होंगी जिसे देर से आने वाले लोग आसानी से मेल नहीं खा सकते हैं। शासन एक अनुपालन लाइन आइटम बंद हो जाता है जब यह एआई को तेजी से और अधिक विश्वास के साथ तैनात करने की अनुमति देता है जो हर कोई अभी भी मैनुअल रूप से कर रहा है।

धन्यवाद महान साक्षात्कार के लिए, पाठक जो अधिक जानना चाहते हैं उन्हें ट्रांसेंड पर जाना चाहिए。