जब एआई लेन-देन शुरू करता है, तो कौन जिम्मेदार है?

वित्त की दुनिया एजेंटिक एआई की ओर बढ़ रही है, जहां एआई न केवल प्रश्नों का उत्तर देता है बल्कि वास्तव में खरीदारी करता है और आपकी ओर से बातचीत करता है। इसे अदृश्य वित्त के साथ मिलाएं, और बैंकिंग दैनिक जीवन की पृष्ठभूमि में गायब हो जाती है। यह एक महत्वपूर्ण कदम है जो एक ऐप खोलने या फॉर्म भरने से आगे बढ़कर आपकी कार, कार्य सॉफ़्टवेयर, या एक सुरक्षित डिजिटल पहचान वॉलेट को तुरंत और स्वचालित रूप से भुगतान और ऋण संभालने की क्षमता प्रदान करता है।

यह वह जगह है जहां हम जा रहे हैं – वित्तीय सेवाओं में विशाल एआई के लिए वैश्विक बाजार के 2034 तक $80 बिलियन से अधिक होने की उम्मीद है, जो प्रति वर्ष 40% से अधिक की औसत वार्षिक दर से बढ़ रहा है। कुछ वर्षों में, हम बैंकिंग करना बंद कर देंगे और हमारे वित्तीय जीवन को प्रबंधित करने वाले प्रणालियों की देखरेख शुरू करेंगे। जब एआई प्रणाली उपयोगकर्ताओं को सलाह देने से लेकर उनकी ओर से लेन-देन करने तक बढ़ती है, तो फिनटेक को एक मूलभूत प्रश्न का सामना करना पड़ता है: जब एक मशीन एक वित्तीय निर्णय लेती है, तो कानूनी और नियामक दायित्व कौन उठाता है?

सहायता से एजेंसी में परिवर्तन

वित्त के लिए, जिसमें परंपरागत रूप से लेन-देन के क्षण में मानव उपस्थिति की आवश्यकता होती है, यह पहले कभी नहीं सोचा जा सकता था कि मशीनों को यह तय करने के लिए एजेंसी सौंपी जाए कि कब, और कैसे लेन-देन किया जाए – मानव विवेक की आवश्यकता के बिना निर्णय के क्षण की आवश्यकता के बिना।
अदृश्य वित्त पहले से ही एम्बेडेड भुगतान, स्वचालित सदस्यता, एक-क्लिक चेकआउट और रियल-टाइम रेल के माध्यम से विकसित हुआ है। बैंकिंग बढ़ती हुई उत्पादों में बैंकिंग ऐप के अंदर से चली गई है। इसे एजेंटिक प्रणालियों के साथ मिलाएं, और आपको संदर्भ को समझने, प्लेटफ़ॉर्म भर में प्रासंगिक जानकारी इकट्ठा करने और स्वचालित रूप से कार्य प्रवाह शुरू करने वाली लक्ष्य-निर्देशित वित्तीय क्षमताएं मिलती हैं। संक्षेप में, एजेंटिक वित्त मानव इरादे को गतिशील, निरंतर निर्णय लेने में परिवर्तित करता है जिसके लिए वास्तविक समय में मानव इनपुट की आवश्यकता नहीं होती है।

जैसा कि हम जानते हैं, लेन-देन पृष्ठभूमि के बुनियादी ढांचे में अधिक और जागरूक परस्पर क्रिया में कम होते जा रहे हैं।

इसके परिणाम क्या हैं?

एजेंटिक वित्त का उदय नियंत्रण, व्यवहार और विश्वास के लेंस के माध्यम से देखा जा सकता है।

नियंत्रण अब ऐप खोलने या बटन पर क्लिक करने के बारे में नहीं है, बल्कि यह पहचान, भुगतान और स्वचालन प्रणालियों की अदृश्य परतों में अवशोषित हो जाता है, जो यह निर्देशित करता है कि पैसा कैसे चलता है। यह अब लेन-देन के बिंदु पर नहीं है, बल्कि जब लोग अपनी पसंद, सीमा, लक्ष्य और अनुमति परिभाषित करते हैं, तो यह बहुत पहले होता है। प्रत्येक बार पैसा हिलने का फैसला करने के बजाय, वे नियमों का फैसला करते हैं जिसके तहत यह हो सकता है। प्रणाली तब उस नियंत्रण को आगे बढ़ाती है, उन नियमों की व्याख्या करती है और उनके अनुसार कार्य करती है।

यह नियंत्रण का तरीका मूल रूप से बदलता है और यहां तक ​​कि चुनौती देता है कि उपयोगकर्ता नियंत्रण कैसे अभ्यास करते हैं। जबकि नियंत्रण एक बार कार्रवाई में था, यह अब कॉन्फ़िगरेशन की ओर बढ़ जाता है। आप लेन-देन का प्रबंधन नहीं कर रहे हैं, बल्कि आप उन शर्तों को निर्धारित कर रहे हैं जिनके तहत लेन-देन हो सकता है। निरीक्षण इन शर्तों की समीक्षा और समायोजन करने के लिए हो जाता है, न कि एक-एक करके भुगतान को मंजूरी देने के लिए।

फिनटेक के लिए, यह जिम्मेदारी के लिए एक बदलाव लाता है। नियंत्रण अब इंटरफ़ेस में नहीं है, बल्कि बुनियादी ढांचे में है। यह पहचान की पुष्टि कैसे की जाती है, अनुमतियों का डिज़ाइन कैसे किया जाता है, निर्णय कैसे लॉग किए जाते हैं और क्रियाओं को कैसे ऑडिट या उलटा किया जा सकता है, इसमें निहित है। ये परतें यह आकार देती हैं कि वित्तीय नियंत्रण वास्तव में कैसे अभ्यास किया जाता है, भले ही उपयोगकर्ता इसे सीधे न देखें। इसके परिणामस्वरूप, नियंत्रण एजेंट के तर्क की पूर्व-निर्धारित ऑडिटेबिलिटी में निर्देशित किया जाता है। यह निरीक्षण वास्तविक समय लेन-देन अनुमोदन से ‘आब्जेक्टिव फंक्शन’ के शासन में स्थानांतरित कर देता है, जो कि एआई में कोडित मूल लक्ष्य हैं, यह सुनिश्चित करने के लिए कि मशीन का मूल इरादा एकल सेंट हिलने से पहले उपयोगकर्ता के दीर्घकालिक हितों के साथ संरेखित रहता है।

जब वित्तीय क्रियाएं पृष्ठभूमि में जाती हैं, तो लोग अपने पैसे के साथ कैसे बातचीत करते हैं, यह भी बदलता है। प्रबंधन के लिए कम चीजें, अनुमोदन के लिए कम प्रॉम्प्ट, और जांच के लिए कम कारण। समय के साथ, लेन-देन को सक्रिय रूप से प्रबंधित करने की आदत स्वचालित रूप से सिस्टम के संचालन की समय-समय पर समीक्षा करने के लिए देती है। यदि कैशलेस भुगतान ने लेन-देन को प्रयास रहित बना दिया और ऑटो-रिन्यूअल ने उन्हें निरंतर बना दिया, तो एजेंटिक सिस्टम उन्हें स्वचालित बना देते हैं।

तो विश्वास का क्या होता है? जब उपयोगकर्ता पहले की दिनचर्या से आगे बढ़ते हैं, तो अंतर्निहित प्रणाली की विश्वसनीयता विश्वास का केंद्र बिंदु बन जाती है। लोग अब एक सेवा का मूल्यांकन नहीं कर रहे हैं कि यह कितनी विश्वसनीयता से एक भुगतान संसाधित करती है, बल्कि यह कि यह कितनी विश्वसनीयता से उनकी ओर से निर्णय ले सकती है। उपयोगकर्ता यह जानना चाहेंगे कि निर्णय कैसे किए जाते हैं, कौन सा डेटा विचार किया जा रहा है, क्या सीमाएं हैं, और जब कुछ गलत हो जाता है तो क्या होता है।

जब कुछ गलत हो जाता है तो क्या होता है?

अधिकांश वित्तीय कानून इस विचार पर आधारित है कि मानव जानबूझकर लेन-देन शुरू करते हैं। लेकिन जब इरादे और क्रियान्वयन का क्षण अलग हो जाता है, तो यह धारणा कमजोर हो जाती है। स्वचालित प्रणालियों के साथ, प्रारंभिक कार्य अप्रत्यक्ष हो जाता है। उपयोगकर्ता एक विशिष्ट लेन-देन के बजाय एक व्यापक नियम सेट को अधिकृत कर सकते हैं। इसलिए, जब कुछ गलत हो जाता है, तो जो निर्णय उसे गलत बनाता है वह स्पष्ट रूप से इंगित करना मुश्किल हो जाता है। एकल, स्पष्ट निर्णय लेने वाले की धारणा अब नहीं रहती है, और कानूनी ढांचे पर जो हमेशा निर्भर रहा है वह बाधित हो जाता है – इरादा, क्रियान्वयन और कारण की स्पष्ट श्रृंखला।

एजेंटिक प्रणाली उपयोगकर्ता के इरादे और वास्तविक समय डेटा से उत्पन्न परिणामों की अल्गोरिदमिक व्याख्या पेश करती हैं, निर्देशों के बजाय। जो एक एकल लेन-देन की तरह दिखता है वह वास्तव में समय के साथ परतदार स्वचालित निर्णयों का परिणाम हो सकता है।

इसका व्यावहारिक चुनौतियां पैदा करता है। एक के लिए, विवादों को सुलझाना मुश्किल हो जाता है क्योंकि यह स्पष्ट नहीं होता है कि समस्या उपयोगकर्ता के मूल कॉन्फ़िगरेशन में है, प्रणाली की उस इरादे की व्याख्या में, इसने जिस डेटा पर भरोसा किया, या अंततः जो कार्रवाई की। नियामक प्रवर्तन भी जटिल हो जाता है, क्योंकि पारंपरिक ढांचे अधिकृत और जिम्मेदारी को एजेंटिक निर्णय लेने पर स्वचालित रूप से स्थानांतरित नहीं किया जा सकता है।

फिर भी, नियामक की नजर में, वित्तीय संस्थान इन प्रणालियों के माध्यम से होने वाली विफलताओं, उल्लंघनों या नुकसान के लिए जिम्मेदार रहता है। कानून एआई की क्रियाओं को मानता है जैसे कि वे एक मानव कर्मचारी द्वारा की गई थीं। यदि एआई एक गलती करता है, तो कंपनी जिम्मेदार है, विशेष रूप से यदि त्रुटि खराब सेटअप, मिसकॉन्फ़िगरेशन या पर्याप्त पर्यवेक्षण से उत्पन्न होती है। गुणवत्ता आश्वासन और मानव पर्यवेक्षण को स्वचालित निर्णय लेने के सामने कम नहीं आंका जा सकता है। यदि कुछ भी, तो वे सुनिश्चित करने के लिए और भी महत्वपूर्ण हो जाते हैं कि प्रणाली इरादा के अनुसार कार्य करती है।

इसका अर्थ है कि सॉफ़्टवेयर द्वारा किए गए निर्णयों के लिए उत्तरदायी होना, जो स्वतंत्र रूप से कार्य करने के लिए डिज़ाइन किया गया है, अक्सर ऐसी स्थितियों में जो कोई मानव विशेष रूप से नहीं देखा है। दायित्व, ऑडिटेबिलिटी और व्याख्या के प्रश्न डिज़ाइन के केंद्र में स्थानांतरित हो जाएंगे। वित्तीय संस्थानों को निर्णयों को ट्रेस करने, जिम्मेदारी को दर्शाने और यह साबित करने के लिए स्पष्ट मॉडल की आवश्यकता होगी कि स्वचालित क्रियाएं समझी जा सकती हैं, समीक्षा की जा सकती हैं और शासित की जा सकती हैं। इस जिम्मेदारी के अंतर को पाटने के लिए, उद्योग को ‘अल्गोरिदमिक मैलफंक्शन का खंडन करने योग्य अनुमान’ अपनाना चाहिए। यह ढांचा कानूनी रूप से मानता है कि किसी भी विवादित लेन-देन में एक प्रणाली त्रुटि हुई है, जब तक कि वित्तीय संस्थान एक अमिट ऑडिट ट्रेल प्रदान नहीं कर सकता है जो साबित करता है कि एजेंट ने सख्ती से अपने एन्कोडेड गार्डरेल का पालन किया है।

प्रत्येक ‘एजेंट’ पर एक वरिष्ठ व्यक्ति का पर्यवेक्षण करना अनुचित क्रियाओं के जोखिम का प्रबंधन करने में मदद करता है और त्रुटियों को वास्तविक समस्याओं में विकसित होने से रोकता है। यह सुनिश्चित करता है कि फर्म कानून के सही पक्ष पर रहती है, जबकि जिम्मेदारी बनाए रखती है।

आदर्श तरीका क्या है?

जैसे ही एजेंटिक एआई वित्त में प्रवेश करता है, शासन को समान रूप से स्पष्ट होने की आवश्यकता है। कानूनी और अनुपालन टीमों को एआई एजेंटों के लिए अधिकृत ढांचे को डिज़ाइन करने, भागीदारों के माध्यम से दायित्व को परिभाषित करने, मशीन क्रियाओं के लिए संविदात्मक सीमाएं स्थापित करने और जिम्मेदारी के लिए कौन जिम्मेदार है, इसे स्पष्ट रूप से रेखांकित करने वाले दस्तावेज़ीकरण मानकों की स्थापना करने में एक सक्रिय भूमिका निभानी चाहिए।

आदर्श रूप से, यह एक ऐसा दुनिया है जहां ग्राहक पूरी तरह से नियंत्रण में रहते हैं और हमेशा यह जानते हैं कि उनका एआई एजेंट वास्तव में क्या कर रहा है। लंबे, भ्रमित करने वाले अनुबंधों पर एक बार हस्ताक्षर करने के बजाय, सहमति गतिशील और विस्तृत हो जाती है, जो विशिष्ट कार्यों के लिए ‘माइक्रो-अनुमति’ के माध्यम से दी जाती है। हालांकि, ‘सूचना थकान’ के जोखिम से बचने के लिए, जहां उपयोगकर्ता सूचनाओं को पढ़े बिना स्वचालित रूप से अनुमोदित करते हैं, सहमति को सख्त जोखिम सीमा द्वारा समर्थित किया जाना चाहिए। ये स्वचालित ‘सर्किट ब्रेकर’ के रूप में कार्य करते हैं, जो किसी भी गैर-निर्धारित या उच्च-परिवर्तनशीलता वाली क्रिया को रोकते हैं जो उपयोगकर्ता के ऐतिहासिक व्यवहार प्रोफ़ाइल से बाहर है।

उदाहरण के लिए, एक उपयोगकर्ता अपने एआई एजेंट को एक दिन के लिए अपनी ओर से केवल 50 यूरो तक खर्च करने की ‘डिजिटल हॉल पास’ दे सकता है। प्रत्येक क्रिया लॉग की जाती है, जो एक स्पष्ट ट्रेल बनाती है जो साबित करती है कि एआई ने अधिकृत सीमा के भीतर रहा। यदि एआई कुछ असामान्य या जोखिम भरा करने का प्रयास करता है, तो सिस्टम स्वचालित रूप से रुक जाता है और एक अंगूठे के निशान या चेहरे की स्कैन के माध्यम से त्वरित पुष्टि का अनुरोध करता है, उदाहरण के लिए। माइक्रो-अनुमति एक कानूनी सिरदर्द को वास्तविक समय सुरक्षा उपाय में बदल देती है – उपयोगकर्ताओं और संस्थानों दोनों के लिए जीत। उपयोगकर्ता दृश्यता और नियंत्रण बनाए रखते हैं, जबकि एआई स्वचालन स्पष्ट, जिम्मेदार सीमाओं के भीतर कार्य करता है। यह दृश्यता ‘निरंतर सत्यापन’ के माध्यम से सबसे अच्छी तरह से बनाए रखी जाती है, जहां एक नियम-आधारित ‘गार्डियन’ परत एआई एजेंट के समानांतर संचालित होती है। यह द्वितीयक परत लेन-देन शुरू नहीं करती है, लेकिन पूर्व-निर्धारित सुरक्षा सीमा का उल्लंघन करने वाली किसी भी क्रिया को वीटो करने के लिए निरपेक्ष अधिकार रखती है, यह सुनिश्चित करते हुए कि मानव-केंद्रित सुरक्षा प्रवर्तनकारी बनी रहती है, न कि केवल लॉग की जाती है।

अंततः, एजेंटिक वित्त की सफलता सुरक्षित, विश्वसनीय और मानव-केंद्रित तरीके से कार्य करने की इसकी क्षमता पर निर्भर करेगी। चुनौती एक जटिल, अदृश्य प्रणाली को कुछ ऐसा बनाने में है जिस पर लोग विश्वास कर सकते हैं, समझ सकते हैं और नियंत्रण में महसूस कर सकते हैं।