रोब फेल्डमैन, एंटरप्राइजडीबी के मुख्य कानूनी अधिकारी – साक्षात्कार श्रृंखला

रोब फेल्डमैन, मुख्य कानूनी अधिकारी, एंटरप्राइजडीबी में विश्वभर के कानूनी और अनुपालन कार्यों के लिए जिम्मेदार हैं। एक अनुभवी कार्यकारी और वकील, वह बढ़ती प्रौद्योगिकी कंपनियों के लिए उच्च प्रदर्शन वाली कानूनी टीमों का निर्माण करता है, जो गतिशील व्यावसायिक और नियामक वातावरण में काम करती हैं। हाल ही में, उन्होंने सिट्रिक्स सिस्टम्स, इंक में 45 लोगों की कानूनी टीम का नेतृत्व किया, जिसमें 2022 में इसके + $ 16 बिलियन के निजी तौर पर लेने का लेनदेन शामिल था। सिट्रिक्स से पहले, उन्होंने एक दशक से अधिक समय तक निजी अभ्यास में एक प्रौद्योगिकी कंपनी के मुकदमेबाज के रूप में बिताया, जिसमें प्रतिभूति धोखाधड़ी रक्षा, बौद्धिक संपदा विवाद और सरकार और आंतरिक जांच शामिल थीं। रोब यूएन ग्लोबल कॉम्पैक्ट लीगल काउंसिल में भी कार्य करते हैं, जो व्यवसायों को परिवर्तनकारी और दीर्घकालिक प्रभाव डालने में मदद करने के लिए वैश्विक नियामक वातावरण पर रणनीतिक मार्गदर्शन प्रदान करते हैं।

एंटरप्राइजडीबी एक सॉफ्टवेयर कंपनी है जो ओपन-सोर्स पोस्टग्रेसक्यूएल पर आधारित एंटरप्राइज-ग्रेड डेटाबेस समाधान प्रदान करती है, जो संगठनों को मिशन-क्रिटिकल वर्कलोड्स को अधिक प्रदर्शन, सुरक्षा और विश्वसनीयता के साथ चलाने में मदद करती है। 2004 में स्थापित, एंटरप्राइजडीबी क्लाउड और ऑन-प्रिमाइसेस प्लेटफ़ॉर्म, वैश्विक समर्थन और ओरेकल-संगतता टूल्स प्रदान करता है, जबकि इसके पोस्टग्रेस एआई ऑफ़र के माध्यम से एआई-तैयार और हाइब्रिड डेटा प्लेटफ़ॉर्म पर बढ़ते ध्यान केंद्रित करता है।

आपके लंबे समय से कॉर्पोरेट कानूनी नेतृत्व के अनुभव और एंटरप्राइजडीबी के एंटरप्राइज-ग्रेड पोस्टग्रेस और संप्रभु एआई और डेटा प्लेटफ़ॉर्म पर ध्यान केंद्रित करने के साथ, आप कैसे देखते हैं कि कंपनियां जो महत्वपूर्ण डेटा बुनियादी ढांचे के भीतर एजेंटिक एआई को परिचालित करती हैं, उनके लिए दायित्व कैसे विकसित होगा?

एआई और डेटा की दुनिया अभी भी उन्हीं मूल सिद्धांतों पर निर्भर करती है जो एंटरप्राइज़ को पहले से ही लंबे समय से नियंत्रित करना चाहिए था: जिम्मेदारी, संयम और जिम्मेदारी की स्पष्टता।

पिछले समय में, ये सिद्धांत लोगों और ज्यादातर निष्क्रिय प्रणालियों पर लागू किए गए थे, जो स्वयं कोई कार्रवाई नहीं करती थीं। एजेंटिक एआई ने ऐसी प्रणालियों को पेश किया है जो उपकरणों की तुलना में भागीदारों की तरह व्यवहार करती हैं। वे स्वतंत्र रूप से कार्य कर सकते हैं, समय के साथ अनुकूलन कर सकते हैं और मानवों और अन्य एजेंटों के साथ बातचीत कर सकते हैं।

यदि एक संगठन में मजबूत शासन और नियंत्रण अनुशासन नहीं है, तो यह इस वातावरण में संघर्ष करेगा। एजेंटिक एआई नए जिम्मेदारी संबंधी समस्याएं नहीं पैदा करता है, बल्कि मौजूदा लोगों को उजागर करता है। उन एंटरप्राइज़ के लिए जो मजबूत नींव रखते हैं, यह परिवर्तन वास्तव में उन प्रथाओं को मजबूत करता है जिनका वे पहले से ही पालन करते हैं, जिसे हम “डिजिटल लीशिंग” कहते हैं। अन्य के लिए, यह एक स्पष्ट संकेत है कि व्यावहारिक गार्डरेल्स को विकसित करने की आवश्यकता है इससे पहले कि वे एजेंटिक एआई को बड़े पैमाने पर परिचालित करें।

केवल लगभग 13% एंटरप्राइज़ ने इस बिंदु पर एजेंटिक स्केल पर सफलतापूर्वक पहुंचा है। वे अन्य सभी की तुलना में 2 गुना अधिक एजेंटिक करते हैं और 5 गुना अधिक आरओआई प्राप्त करते हैं। लेकिन जितना अधिक स्वतंत्रता एक एआई प्रणाली के पास होगी, उतनी ही जल्दी संगठनों को जिम्मेदारी का सामना करना पड़ेगा। जब एक एआई एजेंट दावा मार्गदर्शन करता है, पैसा स्थानांतरित करता है या संवेदनशील डेटा को गलत तरीके से संभालता है, तो जिम्मेदारी उस एंटरप्राइज़ का पालन करती है जिसने पर्यावरण को परिभाषित किया है, अनुमतियां निर्धारित की हैं और तय किया है कि प्रणाली के पास कितनी स्वतंत्रता है।

यही कारण है कि कंपनियों को अपने एजेंटिक एआई उपयोग के मामलों में स्पष्ट पर्यवेक्षण लाने की आवश्यकता है, और यही कारण है कि संगठनों को अपने गार्डरेल्स और शासन कार्यक्रमों पर ध्यान केंद्रित करने के लिए प्रोत्साहित किया जाता है। कुत्ते के मालिकाना और डिजिटल लीशिंग का उदाहरण उपयोगी है। कुत्तों में एक निश्चित स्तर की एजेंसी होती है, वे स्वतंत्र रूप से कार्य करते हैं, हालांकि कभी-कभी अप्रत्याशित रूप से, लेकिन वे कानूनी व्यक्ति नहीं हैं। यह संयोजन, एजेंसी के साथ-साथ व्यक्तित्व की अनुपस्थिति, आज की एजेंटिक एआई प्रणालियों के समान है, और मालिकों को यह समझने की आवश्यकता है कि पर्यवेक्षण और शासन की अनुपस्थिति में, वे बुरे परिणामों के लिए जिम्मेदार होंगे।

एजेंटिक एआई और सहायक एआई के बीच अंतर करने के लिए एंटरप्राइज़ को कैसे कानूनी और परिचालन दृष्टिकोण से पहले तैनाती से पहले अंतर करना चाहिए?

एक सरल स्तर पर, यह अंतर अधिकार के लिए नीचे आता है। सहायक एआई मानव निर्णय लेने का समर्थन करता है, जबकि एजेंटिक एआई कार्रवाई शुरू करता है और निर्णय लेता है। दोनों कार्य प्रवाह और व्यवहार को प्रभावित कर सकते हैं (उदाहरण के लिए, ग्राहक सेवा या परिचालन प्राथमिकता में), लेकिन केवल एजेंटिक प्रणालियां स्वतंत्र रूप से उस प्रभाव पर कार्य करती हैं।

यदि एक प्रणाली कार्य प्रवाह को ट्रिगर कर सकती है, परिणामों को मंजूरी दे सकती है, सिस्टम स्टेट्स को संशोधित कर सकती है या मानव अनुमोदन के बिना कार्रवाई कर सकती है, तो इसे एजेंटिक के रूप में माना जाना चाहिए। यह निर्धारण तैनाती से पहले होना चाहिए, क्योंकि एक बार एजेंट को अधिकार दे दिया जाता है, तो कानूनी और परिचालन जिम्मेदारी भी बदल जाती है। संगठनों को इस अंतर के प्रति जागरूक रहने की आवश्यकता है ताकि वे यह नहीं पाएं कि उन्होंने अनजाने में निर्णय लेने की शक्ति सौंप दी है, और इसके साथ, जिम्मेदारी।

क्या स्थापित कानूनी सिद्धांत जैसे कि लापरवाह प्रतिनिधित्व और रेस्पोंडियाट सुपीरियर वास्तव में स्वायत्त एआई प्रणालियों पर लागू किए जा सकते हैं, और जहां वे ढांचे टूटने लगते हैं?

वे अधिक直接 रूप से लागू होते हैं जितना कि कई लोग मानते हैं। ये सिद्धांत उन स्थितियों को संबोधित करने के लिए अस्तित्व में हैं जहां अधिकार प्रतिनिधित्व किया जाता है और नुकसान होता है, जो कि एजेंटिक एआई द्वारा पेश की जाने वाली संभावित चुनौतियों में से एक है।

मुद्दा कानूनी सिद्धांत के साथ नहीं है, बल्कि यह है कि क्या संगठन स्वायत्त एआई को तैनात करने के साथ जुड़ी जिम्मेदारी को समझते हैं, और उन प्रणालियों को शासन करने की आवश्यकता है।

जब संगठन दायरे, अनुमतियों और पर्यवेक्षण को परिभाषित करने में विफल रहते हैं, तो वे कानूनी दायित्व पैदा करते हैं। मुद्दा यह नहीं है कि कानून एआई को संभाल नहीं सकता है, बल्कि यह है कि एंटरप्राइज़ ने स्पष्ट रूप से परिभाषित नहीं किया है कि उनकी प्रणालियों को क्या करने के लिए अधिकृत किया गया था या वे कैसे शासित होने वाली थीं।

सीआईओ और कानूनी टीमों को आज एआई कार्य प्रवाहों को सीखने और अनुकूलन करने के दौरान उत्पादन वातावरण में दायित्व को परिभाषित और कम करने के लिए व्यावहारिक कदम क्या उठाने चाहिए?

पहला कदम एआई और डेटा पर संप्रभु नियंत्रण को मिशन-क्रिटिकल मानना है। संगठन अपनी एआई प्रणालियों और डेटा को पूरी तरह से देख और प्रबंधित नहीं कर सकते हैं, तो वे दायित्व को शासन नहीं कर सकते हैं। एजेंटिक एआई के साथ सफल 13% एंटरप्राइज़ इस आधार से शुरू करते हैं।

व्यवहार में, इसका अर्थ है डेटा एक्सेस को प्रतिबंधित करना, स्पष्ट रूप से परिभाषित करना कि एजेंट स्वतंत्र रूप से कौन से कार्य कर सकते हैं, और उच्च प्रभाव वाले निर्णयों के आसपास मानव पर्यवेक्षण रखना। इसके लिए लॉगिंग और ट्रेसबिलिटी की भी आवश्यकता होती है, ताकि व्यवहार की समीक्षा की जा सके जब और यदि आवश्यक हो। जो संगठन इन उपायों को जल्दी से अपनाते हैं, वे दायित्व और परिचालन घर्षण दोनों को कम करेंगे।

आप एजेंटिक एआई को नीति, तकनीकी नियंत्रण या अनुबंध सुरक्षा के माध्यम से कैसे शासन या नियंत्रित करने की सलाह देते हैं ताकि अनुचित नुकसान के जोखिम को कम किया जा सके?

प्रारंभिक बिंदु संप्रभुता है। एंटरप्राइज़ को ऐसे वातावरण की आवश्यकता है जहां उनकी एआई प्रणालियां, डेटा और निष्पादन संदर्भ देखे जा सकें और बड़े पैमाने पर लागू किए जा सकें। शासन नीति पर alone निर्भर नहीं कर सकता है। नीति अपेक्षाओं को निर्धारित करती है, लेकिन तकनीकी नियंत्रण यह निर्धारित करते हैं कि प्रणालियां वास्तव में क्या कर सकती हैं, चाहे डेटा विश्राम में हो या गति में, और मॉडल को कैसे संचालित करने की अनुमति है।

कुछ एजेंटों को उत्पादन एक्सेस के बिना बाड़े वाले वातावरण में होना चाहिए। अन्य सीमित अनुमतियों और अनुमोदन सीमा के साथ काम कर सकते हैं। पूरी तरह से स्वतंत्र एजेंट दुर्लभ होने चाहिए और सावधानी से पर्यवेक्षित किए जाने चाहिए। अनुबंध जिम्मेदारी को स्पष्ट करने में मदद कर सकते हैं, लेकिन वे आंतरिक नियंत्रण और जिम्मेदारी की आवश्यकता को प्रतिस्थापित नहीं करते हैं।

क्या संप्रभु एआई वातावरण में परिवर्तन यह बदल देता है कि जब एक एआई एजेंट वित्तीय या परिचालन नुकसान का कारण बनता है तो अंततः जोखिम कौन उठाता है?

यह जोखिम को बदल नहीं देता है। यह जिम्मेदारी को स्पष्ट बनाता है, और कई मायनों में जोखिम को कम करता है। जब एंटरप्राइज़ डेटा और एआई टूलिंग को नियंत्रित करते हैं, तो वे तीसरे पक्षों के हाथों में डेटा और टूलिंग द्वारा पेश किए गए परिवर्तनीयों को हटा देते हैं।

डेटा और एआई टूलिंग पर नियंत्रण एक ताकत है। संप्रभुता संगठनों को जोखिम को जिम्मेदारी से प्रबंधित करने के लिए आवश्यक दृश्यता और अधिकार प्रदान करती है। उस नियंत्रण के बिना, एंटरप्राइज़ अपने जोखिम प्रोफाइल का विस्तार करते हैं।

स्वायत्त एआई अनुप्रयोगों को चलाने के दौरान कानूनी जोखिम को कम करने में पारदर्शिता और लेखा परीक्षा की भूमिका क्या है, आपके दृष्टिकोण से?

वे मूलभूत हैं। लेखा परीक्षा स्वायत्त प्रणालियों को बचाव योग्य प्रणालियों में बदल देती है।

जब घटनाएं होती हैं, तो नियामक और अदालतें व्यावहारिक प्रश्न पूछते हैं: प्रणाली को क्या पता था, यह क्या करने के लिए अधिकृत थी, और यह क्यों कार्य करती थी? जो एंटरप्राइज़ पर्यवेक्षण और लेखा परीक्षा का प्रदर्शन कर सकते हैं, वे अपने समकक्षों की तुलना में एक बहुत मजबूत स्थिति में हैं जो खाली हाथ आते हैं।

संघीय एआई मार्गदर्शन जारी होने के साथ, एआई दायित्व से संबंधित राज्य स्तर के विभिन्न कानूनी दायित्वों के लिए कंपनियों को कैसे तैयार करना चाहिए?

संगठनों को नियामकों के लिए विस्तृत नियमों का एक शरीर प्राप्त करने के लिए इंतजार नहीं करना चाहिए। मौजूदा राज्य और संघीय कानून हमें एआई का उपयोग जिम्मेदारी से करने और महत्वपूर्ण दायित्व घटनाओं से बचने के लिए 95% स्पष्टता प्रदान करते हैं।

यह स्पष्टता में शामिल है कि एआई क्षमताओं के जिम्मेदार विकास, पूर्व-रिलीज़ परीक्षण, पारदर्शिता और जोखिम प्रकटीकरण, पोस्ट-रिलीज़ ऑडिट, मानव पर्यवेक्षण और एआई क्षमताओं के उपयोगकर्ताओं के लिए प्रशिक्षण जैसी चीजें शामिल हैं। ये मूलभूत और परिचित कदम अधिक मायने रखते हैं जितना कि विशिष्ट नियामक परिणामों की भविष्यवाणी करने की कोशिश करना।

एजेंटिक एआई प्रणालियों को अपनाने से पहले स्वायत्तता, पर्यवेक्षण और दायित्व के बारे में प्रौद्योगिकी खरीदारों को विक्रेताओं से क्या प्रश्न पूछने चाहिए?

एजेंटिक एआई के साथ, जिम्मेदारी अंततः उस पार्टी के साथ रहती है जो स्वतंत्रता को अधिकृत करती है। इसलिए, चार मुख्य प्रश्न जिनका उत्तर देना चाहिए:

1. उत्पादन में प्रणाली को कौन नियंत्रित करता है?
2. अनुमतियों का परीक्षण और प्रवर्तन कैसे किया जाता है?
3. सीखने को कैसे प्रतिबंधित किया जाता है?
4. कुछ गलत होने पर क्या लेखा परीक्षा साक्ष्य उपलब्ध है?

यदि एक विक्रेता स्पष्ट उत्तर प्रदान नहीं कर सकता है, तो एंटरप्राइज़ को सावधानी से आगे बढ़ना चाहिए। कुत्ते के मालिकाना के अनुरूप: नस्लदार मायने रखते हैं, लेकिन यदि कुछ गलत हो जाता है, तो जिम्मेदारी मालिक के साथ रह सकती है।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें एंटरप्राइजडीबी पर जाना चाहिए।