जब एआई लेन-देन करना शुरू करता है, तो कौन जिम्मेदार होता है?

वित्त की दुनिया एजेंटिक एआई की ओर बढ़ रही है, जहां एआई केवल प्रश्नों का उत्तर नहीं देता है, बल्कि वास्तव में आपके नाम पर खरीदारी करता है और बातचीत करता है। इसे अदृश्य वित्त के साथ मिलाएं, और बैंकिंग दैनिक जीवन की पृष्ठभूमि में गायब हो जाती है। यह एक ऐप खोलने या फॉर्म भरने से लेकर अपनी कार, काम सॉफ्टवेयर, या एक सुरक्षित डिजिटल पहचान वॉलेट को भुगतान और ऋणों को तुरंत और स्वचालित रूप से संभालने के लिए एक महत्वपूर्ण कदम है।

यह वह जगह है जहां हम जा रहे हैं – वित्तीय सेवाओं में विशाल एआई के लिए वैश्विक बाजार के 2034 तक $80 अरब से अधिक होने की उम्मीद है, जो प्रति वर्ष 40% से अधिक की औसत वार्षिक दर से बढ़ रहा है। कुछ वर्षों में, हम बैंकिंग करना बंद कर देंगे और हमारे वित्तीय जीवन को हमारे लिए प्रबंधित करने वाले प्रणालियों की देखरेख शुरू करेंगे। जब एआई प्रणाली उपयोगकर्ताओं को सलाह देने से लेकर उनकी ओर से लेन-देन करने के लिए आगे बढ़ती है, तो फिनटेक को एक मूलभूत प्रश्न का सामना करना पड़ता है: जब एक मशीन एक वित्तीय निर्णय लेती है, तो कौन कानूनी और नियामक दायित्व उठाता है?

सहायता से एजेंसी की ओर बदलाव

वित्त के लिए, जिसने परंपरागत रूप से लेन-देन के क्षण में मानव उपस्थिति की आवश्यकता होती है, यह पहले असंभव लगता था कि मशीनों को यह तय करने के लिए एजेंसी सौंपी जाए कि कब, कैसे और क्या लेन-देन किया जाए – मानव विवेक की आवश्यकता के बिना निर्णय के क्षण की आवश्यकता के बिना।

अदृश्य वित्त पहले से ही एम्बेडेड भुगतान, स्वचालित सदस्यता, एक-क्लिक चेकआउट और वास्तविक समय रेल के माध्यम से विकसित हुआ है। बैंकिंग उत्पादों में बैंकिंग ऐप्स के अंदर से बढ़ रहा है। इसे एजेंटिक प्रणालियों के साथ मिलाएं, और आपको संदर्भ को समझने, प्लेटफ़ॉर्म भर में प्रासंगिक जानकारी इकट्ठा करने और स्वचालित रूप से कार्य प्रवाह शुरू करने वाली लक्ष्य-निर्देशित वित्तीय क्षमताएं मिलती हैं। संक्षेप में, एजेंटिक वित्त मानव इरादे को गतिशील, निरंतर निर्णय लेने में बदलता है जिसके लिए वास्तविक समय में मानव इनपुट की आवश्यकता नहीं होती है।
लेन-देन, जैसा कि हम उन्हें जानते हैं, पृष्ठभूमि के बुनियादी ढांचे में अधिक और जागरूक बातचीत में कम हो रहे हैं।

इसके क्या परिणाम हैं?

एजेंटिक वित्त का उदय नियंत्रण, व्यवहार और विश्वास के लेंस के माध्यम से देखा जा सकता है।

नियंत्रण अब ऐप खोलने या बटन पर क्लिक करने के बारे में नहीं है, बल्कि यह पहचान, भुगतान और स्वचालन प्रणालियों की अदृश्य परतों में अवशोषित हो जाता है, जो यह निर्देशित करता है कि पैसा कैसे चलता है। यह अब लेन-देन के बिंदु पर नहीं है, बल्कि जब लोग अपनी प्राथमिकताओं, सीमाओं, लक्ष्यों और अनुमतियों को परिभाषित करते हैं। इसके बजाय प्रत्येक बार पैसा हिलने का फैसला करने के, वे नियम तय करते हैं जिसके तहत यह हो सकता है। प्रणाली तब उस नियंत्रण को आगे बढ़ाती है, उन नियमों की व्याख्या करती है और उनके अनुसार कार्य करती है।
यह नियंत्रण का तरीका मौलिक रूप से बदलता है और चुनौती देता है। जबकि नियंत्रण एक बार कार्रवाई में था, अब यह कॉन्फ़िगरेशन की ओर बढ़ रहा है। आप लेन-देन का प्रबंधन नहीं कर रहे हैं, बल्कि आप उन शर्तों को निर्धारित कर रहे हैं जिनके तहत लेन-देन हो सकते हैं। निगरानी इन शर्तों की समीक्षा और समायोजन करने के लिए होती है, न कि एक-एक करके भुगतान को मंजूरी देने के लिए।
फिनटेक के लिए, यह जिम्मेदारी के स्थान को बदलता है। नियंत्रण अब इंटरफ़ेस में नहीं है, बल्कि बुनियादी ढांचे में है। यह पहचान की पुष्टि कैसे की जाती है, अनुमतियों को कैसे डिज़ाइन किया जाता है, निर्णय कैसे दर्ज किए जाते हैं और क्रियाओं को कैसे ऑडिट या उलटा किया जा सकता है, में है। ये परतें वित्तीय नियंत्रण का व्यायाम कैसे करती हैं, यह आकार देती हैं, भले ही उपयोगकर्ता इसे सीधे न देखें। इसके परिणामस्वरूप, नियंत्रण पूर्व-आवश्यक ऑडिटेबिलिटी में बदल जाता है, जो एजेंट के तर्क को निर्देशित करता है। यह निगरानी वास्तविक समय लेन-देन अनुमोदन से ‘आब्जेक्टिव फ़ंक्शन’ के शासन में स्थानांतरित कर देता है, जो कोर लक्ष्य हैं जो एआई में कोडित किए गए हैं, यह सुनिश्चित करने के लिए कि मशीन का मूल इरादा उपयोगकर्ता के लंबे समय से चलने वाले हितों के साथ संरेखित रहता है, एक पैसा हिलाने से पहले।

जब वित्तीय क्रियाएं पृष्ठभूमि में जाती हैं, तो लोग अपने पैसे के साथ कैसे बातचीत करते हैं, यह भी बदलता है। प्रबंधित करने के लिए कम चीजें, अनुमोदन के लिए कम प्रॉम्प्ट, और जांच के लिए कम कारण। समय के साथ, लेन-देन को सक्रिय रूप से प्रबंधित करने की आदत उस प्रणाली के संचालन की समीक्षा करने के लिए देती है जो कि अवधि-अवधि से। यदि कैशलेस भुगतान लेन-देन को प्रयास रहित बना देते हैं और ऑटो-नवीनीकरण उन्हें निरंतर बनाते हैं, तो एजेंटिक प्रणाली उन्हें स्वायत्त बनाती हैं।
तो विश्वास का क्या होता है? जैसे ही उपयोगकर्ता पिछली दिनचर्या से आगे बढ़ते हैं, अंतर्निहित प्रणाली की विश्वसनीयता विश्वास का केंद्र बिंदु बन जाती है। लोग यह जानना चाहेंगे कि निर्णय कैसे किए जाते हैं, कौन सा डेटा विचार किया जा रहा है, क्या सीमाएं हैं, और जब कुछ गलत हो जाता है तो क्या होता है।

जब कुछ गलत हो जाता है तो क्या होता है?

अधिकांश वित्तीय कानून इस विचार पर आधारित है कि मानव जानबूझकर लेन-देन शुरू करते हैं। लेकिन जब इरादे और कार्रवाई के क्षण को अलग किया जाता है, तो यह धारणा कमजोर हो जाती है। स्वायत्त प्रणालियों के साथ, प्रारंभिक कार्य अप्रत्यक्ष हो जाता है। उपयोगकर्ता ने एक व्यापक नियम सेट को अधिकृत किया हो सकता है, लेकिन किसी विशिष्ट लेन-देन को नहीं। इसलिए, जब कुछ गलत हो जाता है, तो उस निर्णय को सटीक रूप से इंगित करना मुश्किल हो जाता है जिसने इसके लिए प्रेरित किया। एकल, स्पष्ट निर्णय लेने वाले की धारणा अब नहीं रहती है, और कानूनी ढांचे पर जो हमेशा भरोसा किया जाता है वह इरादा, कार्रवाई और कारण की स्पष्ट श्रृंखला बाधित हो जाती है।
एजेंटिक प्रणालियां उपयोगकर्ता के इरादे और परिणामों की अल्गोरिदमिक व्याख्या पेश करती हैं जो वास्तविक समय डेटा से उत्पन्न होती हैं, न कि स्पष्ट निर्देशों से। जो एकल लेन-देन की तरह दिखता है वह वास्तव में समय के साथ परतदार स्वचालित निर्णयों का परिणाम हो सकता है।
यह व्यावहारिक चुनौतियां पेश करता है। एक के लिए, विवादों को सुलझाना मुश्किल हो जाता है क्योंकि यह स्पष्ट नहीं है कि मुद्दा उपयोगकर्ता के मूल कॉन्फ़िगरेशन में, प्रणाली की उस इरादे की व्याख्या में, इसने जिस डेटा पर भरोसा किया, या अंततः जो कार्रवाई की थी, में है। नियामक प्रवर्तन भी जटिल हो जाता है, क्योंकि पारंपरिक अधिकृत और दायित्व के ढांचे एजेंटिक निर्णय लेने पर साफ़ तौर पर स्थानांतरित नहीं होते हैं।

फिर भी, नियामक की नजर में, वित्तीय संस्थान इन प्रणालियों के माध्यम से विफलताओं, उल्लंघनों या नुकसान के लिए जिम्मेदार रहता है। कानून एआई की क्रियाओं को मानो वे एक मानव कर्मचारी द्वारा की गई हों। यदि एआई गलती करता है, तो कंपनी जिम्मेदार है, खासकर यदि त्रुटि खराब सेटअप, मिस्कॉन्फ़िगरेशन या अपर्याप्त पर्यवेक्षण से उत्पन्न होती है। गुणवत्ता आश्वासन और मानव पर्यवेक्षण को स्वायत्त निर्णय लेने के सामने कम नहीं आंका जा सकता है। यदि कुछ भी हो, तो वे सुनिश्चित करने के लिए और भी महत्वपूर्ण हो जाते हैं कि प्रणालियां इरादे के अनुसार कार्य करती हैं।
इसका मतलब है कि सॉफ़्टवेयर द्वारा किए गए निर्णयों के लिए जवाबदेह होना जो स्वतंत्र रूप से कार्य करने के लिए डिज़ाइन किया गया है, अक्सर किसी भी मानव द्वारा स्पष्ट रूप से देखे जाने वाले परिदृश्य में। दायित्व, ऑडिटेबिलिटी और व्याख्या के प्रश्न केंद्र से कानूनी परिधि में स्थानांतरित हो जाएंगे। वित्तीय संस्थानों को निर्णयों को ट्रैक करने, जिम्मेदारी को दर्ज करने और यह प्रदर्शित करने के लिए स्पष्ट मॉडल की आवश्यकता होगी कि स्वायत्त क्रियाएं भी समझी जा सकती हैं, समीक्षा की जा सकती हैं और शासित की जा सकती हैं। इस दायित्व अंतर को पुल करने के लिए, उद्योग को ‘अल्गोरिदमिक दोष की प्रतिकूल धारणा’ अपनानी चाहिए। यह ढांचा कानूनी तौर पर मानता है कि किसी भी विवादित लेन-देन में एक प्रणाली त्रुटि हुई है, जब तक कि वित्तीय संस्थान एक अमिट ऑडिट ट्रेल प्रदान नहीं कर सकता है जो साबित करता है कि एजेंट ने सख्ती से अपने एन्कोडेड गार्डरेल का पालन किया।
एक वरिष्ठ व्यक्ति का हर ‘एजेंट’ पर निगरानी रखना अनियंत्रित कार्यों के जोखिम का प्रबंधन करने में मदद करता है और त्रुटियों को वास्तविक समस्याओं में विकसित होने से रोकता है। यह सुनिश्चित करता है कि फर्म कानून के सही पक्ष पर रहती है, जबकि दायित्व बनाए रखती है।

आदर्श तरीका क्या है?

जैसे ही एजेंटिक एआई वित्त में प्रवेश करता है, शासन को उतना ही स्पष्ट होना चाहिए। कानूनी और अनुपालन टीमों को एआई एजेंटों के लिए अधिकृत ढांचे को डिज़ाइन करने, भागीदारों भर में दायित्व निर्धारित करने, मशीन क्रियाओं के लिए संविदात्मक सीमाएं स्थापित करने और दस्तावेज़ीकरण मानकों को स्थापित करने में सक्रिय भूमिका निभानी चाहिए जो स्पष्ट रूप से परिभाषित करते हैं कि कौन क्या जिम्मेदार है। सहमति को भी विकसित करने की आवश्यकता है – उपयोगकर्ताओं को यह समझने की आवश्यकता है कि वे क्या हस्ताक्षर कर रहे हैं और एजेंटिक प्राधिकरण की सीमाएं क्या हैं।

आदर्श रूप से, यह एक ऐसा दुनिया है जहां ग्राहक पूरी तरह से नियंत्रण में रहते हैं और यह जानते हैं कि उनका एआई एजेंट क्या कर रहा है। इसके बजाय लंबे, भ्रमित करने वाले अनुबंधों पर हस्ताक्षर करने के, जो एक बार किए जाते हैं, सहमति गतिशील और विस्तृत हो जाती है, विशिष्ट कार्यों के लिए ‘माइक्रो-अनुमति’ के माध्यम से दी जाती है। हालांकि, ‘सूचना थकान’ के जोखिम से बचने के लिए, जहां उपयोगकर्ता सूचनाओं को पढ़े बिना स्वचालित रूप से अनुमोदित करते हैं, सहमति को हार्ड-कोडेड जोखिम सीमा द्वारा समर्थित किया जाना चाहिए। ये स्वचालित ‘सircuit ब्रेकर’ के रूप में कार्य करते हैं, जो किसी उपयोगकर्ता के ऐतिहासिक व्यवहार प्रोफ़ाइल से बाहर गिरने वाली किसी भी गैर-निर्धारित या उच्च-परिवर्तनशीलता वाली क्रिया को रोकते हैं।
उदाहरण के लिए, एक उपयोगकर्ता अपने एआई एजेंट को एक डिजिटल ‘हॉल पास’ दे सकता है जो उसकी ओर से एक दिन में 50 यूरो तक खर्च कर सकता है। प्रत्येक क्रिया लॉग की जाती है, जो एक स्पष्ट ट्रेल बनाती है जो साबित करती है कि एआई ने अधिकृत सीमा के भीतर रहा। यदि एआई कुछ असामान्य या जोखिम भरा करने का प्रयास करता है, तो प्रणाली स्वचालित रूप से रुक जाती है और एक अंगूठी के निशान या चेहरे की स्कैन के माध्यम से त्वरित पुष्टि के लिए कहती है, उदाहरण के लिए। माइक्रो-अनुमति एक कानूनी सिरदर्द को वास्तविक समय के सुरक्षा उपाय में बदल देती है – उपयोगकर्ताओं और संस्थानों दोनों के लिए एक जीत।
उपयोगकर्ता दृश्यता और नियंत्रण बनाए रखते हैं, जबकि एआई स्वायत्तता स्पष्ट, जिम्मेदार सीमाओं के भीतर काम करती है। यह दृश्यता ‘निरंतर सत्यापन’ के माध्यम से सबसे अच्छी तरह से बनाए रखी जाती है, जहां एक नियम-आधारित ‘गार्डियन’ परत एआई एजेंट के समानांतर संचालित होती है। यह द्वितीयक परत लेन-देन शुरू नहीं करती है, लेकिन पूर्व-निर्धारित सुरक्षा सीमाओं का उल्लंघन करने वाली किसी भी क्रिया को वीटो करने का पूर्ण अधिकार रखती है, यह सुनिश्चित करते हुए कि मानव-केंद्रित सुरक्षा प्रगतिशील रहती है, न कि केवल लॉग की जाती है।

अंततः, एजेंटिक वित्त की सफलता इस बात पर निर्भर करेगी कि यह सुरक्षित रूप से, विश्वसनीय रूप से और मानव-केंद्रित तरीके से काम कर सकता है या नहीं। चुनौती जटिल, अदृश्य प्रणाली को कुछ ऐसा बनाने में है जिस पर लोग विश्वास कर सकते हैं, समझ सकते हैं और नियंत्रण में महसूस कर सकते हैं।