सिलियन कियरान, एथिका के संस्थापक और सीईओ – साक्षात्कार श्रृंखला

सिलियन कियरान, एथिका के संस्थापक और सीईओ, एक अनुभवी उद्यमी और गोपनीयता इंजीनियर हैं जिनके पास डेटा-गहन प्रौद्योगिकी व्यवसायों को बनाने का दो दशक से अधिक का अनुभव है। एथिका की स्थापना से पहले, उन्होंने डिजिटल एजेंसी सीकेसके का नेतृत्व किया और बाद में ब्रांडकॉमर्स की स्थापना की, जिसमें उन्होंने सॉफ्टवेयर इंजीनियरिंग, उपयोगकर्ता अनुभव और बड़े पैमाने पर उद्यम डेटा कार्यक्रमों में अपनी पृष्ठभूमि का उपयोग किया। एथिका में, कियरान ने गोपनीयता और डेटा शासन को मुख्य रूप से मैनुअल अनुपालन कार्य से बदलकर ऐसे बुनियादी ढांचे में बदल दिया है जिसे सीधे तकनीक के निर्माण और संचालन में शामिल किया जा सकता है।

एथिका विश्वसनीय डेटा बुनियादी ढांचा विकसित करता है जो उद्यमों को संवेदनशील जानकारी खोजने, सहमति प्रबंधित करने, गोपनीयता अनुरोधों को पूरा करने और नियमों को लागू करने में मदद करता है जो डेटा के उपयोग को नियंत्रित करते हैं जो पारंपरिक अनुप्रयोगों और कृत्रिम बुद्धिमत्ता प्रणालियों में उपयोग किया जाता है। इसका मंच फाइड्स, एक खुला स्रोत शासन भाषा के आसपास बनाया गया है, जो प्रणालियों, एपीआई और कृत्रिम बुद्धिमत्ता पाइपलाइनों में अनुमत डेटा उपयोग को परिभाषित करने, लेखा परीक्षा करने और लागू करने के लिए एक सुसंगत ढांचा बनाता है। कंपनी अब एस्ट्रालिस लॉन्च कर रही है, जो एक कृत्रिम बुद्धिमत्ता शासन परत है जो स्वचालित नियामक मूल्यांकन को उद्देश्य-आधारित पहुंच नियंत्रण के साथ जोड़ती है, जिससे संगठनों को यह निर्धारित करने की अनुमति मिलती है कि मॉडल और एजेंट विशिष्ट डेटा तक क्यों पहुंच रहे हैं और वास्तविक समय में उन अनुमतियों को लागू करें। एथिका का कहना है कि प्लेटफ़ॉर्म 40 से 60 घंटे के मैनुअल कार्य के आकलन को लगभग 20 से 40 मिनट तक कम कर सकता है, जिससे उद्यमों को गवर्नेंस प्रक्रियाओं को बोतलनेक के रूप में बनने से रोकते हुए एआई तैनाती का विस्तार करने में मदद मिलती है।

आपने एथिका लॉन्च करने से पहले कई कंपनियों की स्थापना की, जिनमें से एक सीकेसके को वैश्विक डिजिटल परामर्श के रूप में बनाया जो फॉर्च्यून 500 संगठनों की सेवा करता है। आपको क्या अनुभव मिला जो आपको यह विश्वास दिलाता है कि डेटा शासन, एआई मॉडल के बजाय, उद्यम एआई अपनाने के लिए निर्धारण बोतलनेक बन जाएगा?

मैंने वर्षों से एक डिजिटल परामर्श का निर्माण किया जो बड़े उद्यमों जैसे हाइनेकेन, सोनी और पेप्सी को सेवा प्रदान करता था डिजिटल विज्ञापन और सोशल मीडिया के दौर में। बार-बार, मैंने एक ही पैटर्न देखा। एक शक्तिशाली प्रौद्योगिकी आती है, हर कोई इसका तेजी से अपनाने की दौड़ में है, और एक बार यह व्यवसाय में शामिल हो जाता है, तो नियामक गार्डरेल लगाने के लिए दिखाई देते हैं, जिससे अनुपालन टीमें परिणामों से निपटती हैं। जीडीपीआर लें, व्यक्तिगत डेटा के उपयोग पर पहला वास्तविक प्रतिबंध। नियामक केवल तभी हस्तक्षेप करते हैं जब मार्टेक और सोशल मीडिया ने पहले ही डेटा संग्रह को अपने व्यवसाय मॉडल की रीढ़ बना दिया था। यह मुझे स्पष्ट था कि एआई के साथ भी यही पैटर्न होगा।

जो बात मेरे इस अनुमान को पुख्ता करती है वह एथिका में गोपनीयता अनुपालन का काम है जिस पर मैं काम कर रहा था। बड़े उद्यमों के लिए अनुपालन प्रणाली बनाते हुए, मुझे एहसास हुआ कि एक कंपनी के डेटा के चारों ओर एक परत बनाई जा सकती है जो प्रत्येक अनुरोध का मूल्यांकन तीन चीजों के खिलाफ करती है: डेटा क्या है, इसके साथ क्या अनुमति है, और इसका जोखिम क्या है यदि ऐसा किया जाता है। उस पर काम करने से वास्तविक प्रतिबंध स्पष्ट हो गया। उद्यमों के पास डेटा की कमी नहीं है। उनके पास एक शासन परत की कमी है जो यह निर्धारित करती है कि कौन सा डेटा किस उद्देश्य के लिए उपयोग की अनुमति है। यही वह दांव था जो हमने 2019 में लगाया था और एआई के आगमन के बाद से यह और भी प्रासंगिक हो गया है।

पिछले एक साल में, उद्यम एआई सरल चैटबॉट से स्वायत्त एआई एजेंटों में बदल गया है जो निर्णय ले सकते हैं और कार्रवाई कर सकते हैं। इस विकास ने संगठनों को जो शासन चुनौतियों का सामना करना पड़ता है, उसमें क्या बदलाव आया है, और पारंपरिक अनुपालन दृष्टिकोण अब क्यों काम नहीं करते हैं?

लोग उद्यम एआई और इसके आरओआई के बारे में बात करते हैं जैसे कि मूल्य केवल एजेंट को आपके कार्यप्रवाह में प्लग करने से आता है। वास्तव में, मूल्य तब आता है जब एजेंट को व्यापक प्रणालियों से जोड़ा जाता है ताकि यह डेटा का संश्लेषण कर सके और ऐसे आउटपुट उत्पन्न कर सके जो कोई मानव एक ही समय में एकत्र नहीं कर सकता। डेटा तक पहुंच वास्तविक बोतलनेक है।

इसमें पकड़ यह है कि जो चीज एजेंट को मूल्यवान बनाती है वही चीज इसे जोखिम भरा बनाती है। जितनी अधिक प्रणालियों से आप इसे जोड़ते हैं, उतना ही अधिक डेटा एक संगठन के एक हिस्से से दूसरे हिस्से में प्रवाहित होने लगता है, और प्रत्येक प्रवाह एक अवसर बन जाता है डेटा के गलत स्थान पर समाप्त होने के लिए।

प्रत्येक प्रवाह की जांच की जानी चाहिए: क्या यह डेटा इस तरह से उपयोग करने की अनुमति है, इस उद्देश्य से, गोपनीयता कानून और हमारी自己的 नीति के तहत? जब प्रतिदिन कुछ ऐसे निर्णय होते हैं, तो एक व्यक्ति प्रत्येक कॉल मैनुअल रूप से कर सकता है। जब एक एआई एजेंट प्रति सेकंड हजारों अनुरोध भेजता है, तो यह मानवीय रूप से असंभव हो जाता है। यह वह बिंदु है जहां पारंपरिक अनुपालन विफल हो जाता है।

बड़े एआई कंपनियों के फूलदार मूल्यांकन को महसूस करने के लिए, शासन को वास्तविक समय में स्थानांतरित करना होगा, मशीन की गति से, जब डेटा तक पहुंचा जाता है।

एथिका एस्ट्रालिस को एक शासन परत के रूप में लॉन्च कर रहा है जो उद्यम एआई के लिए स्वचालित नियामक मूल्यांकन को उद्देश्य-आधारित पहुंच नियंत्रण के साथ जोड़ती है। ग्राहकों की किन विशिष्ट चुनौतियों ने प्लेटफ़ॉर्म के निर्माण को प्रेरित किया, और अब इसे पेश करने का सही समय क्यों है?

एआई के लिए डेटा की सफाई अभी भी 2016 में गोपनीयता के लिए होने के तरीके से होती है, जब लोग प्रश्नावली भरते हैं और मैनुअल रूप से मूल्यांकन चलाते हैं। यह प्रक्रिया पहले से ही सामान्य गोपनीयता कार्य के लिए बहुत धीमी थी, और एआई उपयोग के मामलों की मात्रा के खिलाफ, यह कोई मौका नहीं खड़ा करता है। जो अधिकांश एआई शासन के रूप में बेचा जा रहा है वह वही फॉर्म और कार्यप्रवाह हैं जिनमें ‘एआई’ लेबल लगा है। एक फॉर्म भरना शासन नहीं है। जो गायब है वह सॉफ्टवेयर है जो स्वयं शासन कार्य करता है, न कि किसी व्यक्ति द्वारा मैनुअल रूप से इसके द्वारा किए जाने का रिकॉर्ड उत्पन्न करता है। यही वह है जिसके लिए हमने एस्ट्रालिस बनाया है।

जिस मांग का हम जवाब दे रहे हैं वह उन टीमों से आ रही है जिन्हें तेजी से और सुरक्षित रूप से एआई को तैनात करने के लिए कहा गया है, और वे वर्तमान में दोनों नहीं कर सकते हैं। एजेंट उत्पादन में तेजी से जा रहे हैं जितनी तेजी से कोई टीम उनका ट्रैक रख सकती है, और नियामक जो प्रश्न पूछते हैं वह बदल गया है। यह पहले यह पूछता था कि क्या आपके पास एक नीति है। अब यह यह है कि क्या आप एक विशिष्ट डेटा के लिए, एक विशिष्ट उद्देश्य के लिए नीति का पालन किया गया है या नहीं। अधिकांश कंपनियां पहला प्रश्न अच्छी तरह से जवाब दे सकती हैं। बहुत से लोग दूसरे का जवाब दे सकते हैं।

गार्टनर का अनुमान है कि 2028 तक औसत फॉर्च्यून 500 कंपनी 15 की तुलना में 150,000 एआई एजेंट चला सकती है। स्वायत्त एजेंटों की संख्या मानव कर्मचारियों की संख्या से अधिक हो सकती है जो डेटा के साथ बातचीत करते हैं। डेटा का शासन कैसे सोचें और कृत्रिम बुद्धिमत्ता के लिए भविष्य के बुनियादी ढांचे की आवश्यकताओं के बारे में क्या सिखाया जा सकता है?

2028 तक, एजेंट जो एक कंपनी के डेटा को छूते हैं वे कर्मचारियों की संख्या से अधिक होंगे जो ऐसा करते हैं। जब डेटा का उपयोग करने वाले अभिनेता अधिकांशतः मशीनें होती हैं, तो कौन जिम्मेदार है? पुराने मॉडल में जिम्मेदारी को अंतिम मानव हस्ताक्षर में स्थित किया जाता है, लेकिन जब अधिकांश निर्णय न तो मानव द्वारा किए जाते हैं और न ही समीक्षा की जाती है, तो जिम्मेदारी लोगों से प्रणालियों में स्थानांतरित हो जाती है।

बैंकिंग ने यह कदम पहले ही उठा लिया है। हम एक बैंक पर भरोसा नहीं करते क्योंकि एक क्लर्क हाथ से नोट गिनता है। हम इसे भरोसा करते हैं क्योंकि नियंत्रण ध्वनि हैं, और क्योंकि लोग उन्हें इस तरह से रखने के लिए जिम्मेदार हैं। डेटा शासन को同 करना होगा। यह प्रमाण यह नहीं है कि एक कंपनी डेटा को जिम्मेदारी से संभालती है, यह है कि प्रणाली स्वचालित रूप से हर उपयोग पर नीति को लागू करती है, और इसका प्रमाण दे सकती है, ताकि जिम्मेदारी बेकार हो जाए। यह व्यवसायिक नेताओं को यह तय करने की अनुमति देगा कि वे क्या अच्छे हैं: निर्णय लागू करना, नियम निर्धारित करना और प्रणाली के पीछे खड़े होना।

एस्ट्रालिस एक बड़े भाषा नियामक मॉडल (एलएलआरएम) को उद्देश्य-आधारित पहुंच नियंत्रण (पीबीएसी) के साथ जोड़ती है। आप बता सकते हैं कि ये दोनों प्रौद्योगिकियां कैसे मिलकर काम करती हैं ताकि यह सुनिश्चित किया जा सके कि एआई प्रणाली न केवल यह जानती हैं कि कौन डेटा तक पहुंच सकता है, बल्कि यह भी जानती हैं कि उन्हें ऐसा करने की अनुमति क्यों है?

पारंपरिक पहुंच नियंत्रण यह जांचता है कि आप कौन हैं, और यदि आपकी पहचान आपको विशिष्ट डेटा तक पहुंचने देती है।

लेकिन गोपनीयता अलग है; यह नहीं पूछा जाता है कि कौन अंदर जा रहा है। एक व्यक्ति पूरी तरह से डेटासेट तक पहुंचने के लिए अधिकृत हो सकता है और फिर भी इसका उपयोग ऐसे कुछ करने के लिए कर सकता है जिसकी अनुमति कभी नहीं दी गई थी। जो प्रश्न महत्वपूर्ण हो जाता है वह यह है कि डेटा का उपयोग किस लिए किया जा रहा है, और क्या वह उद्देश्य अनुमत है। यही वह है जो पीबीएसी उत्तर देता है और लागू करता है।

कठिन हिस्सा यह है कि उद्देश्य एक तकनीकी तथ्य नहीं है जिसे आप डेटाबेस से पढ़ सकते हैं। यह इस बात पर निर्भर करता है कि आपका व्यवसाय क्या करता है, आपने ग्राहकों से क्या वादा किया है, और कानून क्या अनुमति देता है। यही वह है जिसके लिए एलएलआरएम है। यह आपके विशिष्ट व्यवसाय के संचालन के तरीके को सीखता है, फिर लागू होने वाले नियमों के माध्यम से काम करता है। आउटपुट एक स्पष्ट निर्धारण है कि प्रत्येक प्रकार के डेटा का उपयोग किया जा सकता है और नहीं किया जा सकता है। पीबीएसी तब उस निर्धारण को पहुंच बिंदु पर लागू करता है। एलएलआरएम तर्क देता है, पीबीएसी अभिनय करता है।

आपकी लॉन्च घोषणा में कहा गया है कि एआई मूल्यांकन 40 से 60 घंटे के मैनुअल कार्य से घटकर केवल 20 से 40 मिनट हो सकता है। आज की शासन प्रक्रिया में सबसे अधिक अकुशल हिस्सा क्या है, और स्वचालन सबसे बड़ा लाभ कहां प्रदान करता है?

उन 40 से 60 घंटों में से अधिकांश ऐसी चीजों पर नहीं बिताए जाते हैं जिन्हें मानव निर्णय की आवश्यकता होती है। वे असेंबली पर बिताए जाते हैं। कोई डेटा को हाथ से मैप करता है, इसे एक स्प्रेडशीट में रखता है, और फिर संदर्भ का पीछा करता है टीमों के पार। एक बार जब यह सभी एकत्र हो जाता है, तो वास्तविक मूल्यांकन, जिस हिस्से में एक व्यक्ति को सोचने की आवश्यकता होती है, काम का एक छोटा सा हिस्सा है। बाकी एक पेशेवर का काम है जो व्यवसाय के लिए जानकारी का संग्रह एजेंट है।

निराशाजनक बात यह है कि यह काम कभी भी पूरा नहीं होता है। एक मूल्यांकन एक बार का स्नैपशॉट है, लेकिन एआई उपयोग के मामले बंद नहीं होते हैं। नए मामले लगातार दिखाई देते हैं, और प्रत्येक की अपनी समीक्षा की आवश्यकता होती है। इसलिए मैनुअल प्रक्रिया न केवल एक बार धीमी है, बल्कि यह व्यवसाय की गति से भी पीछे रहती है, और जब कंपनियां

कुशलता लाभ तब आता है जब आप बदलते हैं कि कौन क्या करता है। प्रणाली स्वयं मेटाडेटा खींचती है, इसलिए कोई भी संदर्भ का पीछा नहीं करता है। यह केवल उन प्रश्नों को सामने लाता है जिन्हें एक मानव वास्तव में उत्तर दे सकता है – वास्तविक निर्णय लेने वाले कॉल – इसके बजाय एक मशीन द्वारा भरे जाने वाले क्षेत्रों के माध्यम से पीसने के बजाय। और ऑडिट ट्रेल स्वयं मूल्यांकन के दौरान बनता है, इसके बाद से याददाश्त से। यही वह है जहां 40 घंटे 40 मिनट बन जाते हैं।

एक दावा यह है कि एक प्रमुख अमेरिकी वित्तीय संस्थान एस्ट्रालिस के माध्यम से प्रति सेकंड लगभग 6,000 शासन अनुरोधों को संसाधित कर रहा है। इस पैमाने पर संचालित करने से एआई के लिए भविष्य के बुनियादी ढांचे की आवश्यकताओं के बारे में आपको क्या सिखाया जा सकता है?

सबक यह है कि शासन एक अलग कदम नहीं हो सकता। 6,000 निर्णय प्रति सेकंड पर, यह डेटा पथ में ही होना चाहिए, एआई के समान गति से, जिस पल डेटा तक पहुंचा जाता है। एआई के लिए, शासन को बुनियादी ढांचे के रूप में होना चाहिए: हमेशा चालू और हमेशा पंक्ति में, न कि एक अलग रिपोर्ट के रूप में। यह तेज होना चाहिए, क्योंकि यदि शासन धीमा है, तो यह वह चीज बन जाती है जिसे लोग समय सीमा को पूरा करने के लिए छोड़ देते हैं।

एआई नियमन संयुक्त राज्य अमेरिका और यूरोप दोनों में तेजी से विकसित हो रहा है। आप एक शासन मंच कैसे बनाते हैं जो बदलते कानूनी ढांचे के अनुकूल हो सकता है और उद्यमों को लगातार मैनुअल नीति अद्यतन करने के लिए मजबूर नहीं करता है?

अधिकांश अनुपालन उपकरणों की गलती यह है कि वे नियमों को उत्पाद में बेक करते हैं, इसलिए जब कानून बदलता है तो आपको उपकरण को फिर से इंजीनियर करने के लिए विक्रेता का इंतजार करना पड़ता है। एस्ट्रालिस इसके विपरीत काम करने के लिए बनाया गया है। इसका आधार एक सामान्य भाषा है जो डेटा और इसके उपयोगों का वर्णन करती है, और इसमें कोई नियम नहीं हैं। नियम एक अलग नीति परत में बैठते हैं। एलएलआरएम नियमों को पढ़ता है, यह पता लगाता है कि यह आपके विशिष्ट व्यवसाय के लिए क्या मतलब है, और नीति को तदनुसार लिखता है। पीबीएसी तब उस नीति को उस समय लागू करता है – इसलिए नियमों में परिवर्तन के लिए प्रवर्तन तंत्र पूरी तरह से अप्रभावित रहता है।

जब एक नया नियम आता है, तो कंपनी का सारा प्रयास यह जानने में जाता है कि यह उनके व्यवसाय के लिए क्या मतलब है; उन्हें अपनी गोपनीयता प्रणालियों को फिर से डिज़ाइन करने के लिए नहीं जाना पड़ता है।

कई कार्यकारी चिंतित हैं कि अवैध एआई एजेंट अनधिकृत निर्णय ले सकते हैं या संवेदनशील जानकारी तक पहुंच सकते हैं। यह चिंता कितनी वास्तविक है, और संगठनों को बड़े पैमाने पर एआई एजेंटों को तैनात करने से पहले क्या व्यावहारिक सुरक्षा उपाय लागू करने चाहिए?

यह पूरी तरह से वास्तविक है, और यह पहले से ही हो रहा है। कैलिफोर्निया ने डिज़नी को $2.75 मिलियन का जुर्माना लगाया क्योंकि उनकी प्रणाली एक ग्राहक के ऑप्ट-आउट को विश्वसनीय रूप से लागू नहीं कर सकती थी। उनकी प्रणालियों में, एक उपभोक्ता जो एक डिवाइस पर ऑप्ट-आउट करता था दूसरों पर ऑप्ट-इन रहता था, और ब्राउज़र-स्तरीय ऑप्ट-आउट निर्देश मान्य अनुरोध के रूप में नहीं माने जाते थे। यह घटना किसी एजेंट द्वारा अप्रत्याशित रूप से कार्य करने के कारण नहीं हुई, बल्कि यह एक सीधा-साधा अंतर था जो ग्राहकों को बताई गई बात और उनकी प्रणाली द्वारा लागू की जा सकने वाली बात के बीच में था।

जो सुरक्षा उपाय वास्तव में इसे रोकते हैं वे असुंदर हैं: यह जानें कि आप कौन सा डेटा रखते हैं और आपने इसके बारे में क्या वादा किया है, और इसे एक ही स्थान पर रखें क्योंकि अधिकांश विफलताएं एक टीम के वादे को दूसरी टीम के डेटाबेस तक पहुंचाने में विफल होने से आती हैं।

आगामी तीन से पांच वर्षों में, आपको लगता है कि कौन से कारक एआई को सफलतापूर्वक संचालित करने वाले उद्यमों को उन लोगों से अलग करेंगे जिनके एआई पहल पायलट परियोजनाओं में फंस जाती हैं, और शासन की भूमिका क्या होगी जो इस प्रतिस्पर्धी लाभ का निर्माण करेगी?

अंतर यह होगा कि क्या एक कंपनी के पास अपने सभी डेटा के लिए एक प्रणाली है या यदि वे शासन को प्रत्येक डेटाबेस और टीम पर अलग से चिपकाते हैं। जो कंपनियां विभाग-विभाग शासन कर रही हैं वे दीवारों से टकराएंगी क्योंकि एआई डिज़ाइन के अनुसार विभागों को पार करता है। प्रत्येक उद्यम को तेजी से एआई को तैनात करने और साथ ही नियामक के पत्र में नहीं आने के लिए कहा जा रहा है, और अब तक वे एक दूसरे के खिलाफ खींचतान कर रहे हैं। जो दोनों का समाधान करता है, इसके बजाय एक के लिए बसने के बजाय, दशक जीतेगा।

साक्षात्कार के लिए धन्यवाद, पाठक जो और जानना चाहते हैं उन्हें एथिका या एस्ट्रालिस पर जाना चाहिए।