पेरोल में एआई की सबसे खतरनाक गलतियाँ भी सही दिखती हैं

पेरोल उन गिनी-चुनी व्यावसायिक प्रक्रियाओं में से एक है, जहाँ हर गलती के साथ किसी का नाम, एक रकम और एक तारीख जुड़ी होती है। इसलिए पेरोल में एआई के इस्तेमाल पर अधिक सावधानी से चर्चा होनी चाहिए, क्योंकि ज़्यादातर बातचीत इस बात पर केंद्रित रहती है कि एआई किन चीज़ों का पता लगा सकता है। इससे भी कठिन सवाल यह है कि जब कोई देख नहीं रहा होता, तब एआई क्या बदल देता है।

मैंने वित्त के क्षेत्र में सत्रह साल बिताए हैं—पहले सीएफ़ओ के रूप में और फिर सीमापार पेरोल ढाँचा तैयार करते हुए। इस दौरान मैंने सीखा है कि स्वचालन एक तरह का सौदा है: बदले में आपको दिखाई देने वाला मैन्युअल काम छोड़ना पड़ता है और अदृश्य सिस्टम व्यवहार की ज़िम्मेदारी लेनी पड़ती है।

नियम वास्तव में क्या माँगता है

यूरोपीय संघ का एआई अधिनियम के अनुसार, कार्यस्थल पर इस्तेमाल होने वाला एआई तब उच्च जोखिम वाला होता है, जब वह किसी व्यक्ति से जुड़े फ़ैसले लेने में मदद करे: किसे नौकरी पर रखा जाए, पदोन्नति दी जाए या नौकरी से निकाला जाए; उसका काम कैसे बाँटा जाए; उसके प्रदर्शन का आकलन कैसे किया जाए; या उसके काम की शर्तें कैसे बदली जाएँ। ये फ़ैसले किसी व्यक्ति की नौकरी और आमदनी को प्रभावित करते हैं, इसलिए इस टूल का इस्तेमाल करने वाली कंपनी को यह सुनिश्चित करना होगा कि नियंत्रण किसी इंसान के हाथ में रहे और हर फ़ैसला कैसे लिया गया, इसका रिकॉर्ड रखा जाए। पेरोल की गणना इस सूची में अपने-आप शामिल नहीं होती, क्योंकि स्वीकृत काम के घंटों पर सहमत दरें लागू करना गणित का काम है। लेकिन जब पेरोल का डेटा लोगों से जुड़े फ़ैसलों को प्रभावित करने लगे, या “पेरोल” के नाम से बेचा गया कोई टूल चुपचाप ऐसे फ़ैसले लेने लगे, तब यह उच्च जोखिम वाला बन जाता है।

अमेरिका में, तकनीकी और सुरक्षा मानक तय करने के लिए जानी जाने वाली संघीय एजेंसी नेशनल इंस्टीट्यूट ऑफ़ स्टैंडर्ड्स एंड टेक्नोलॉजी (NIST) ने 2023 में एक समर्पित एआई जोखिम प्रबंधन ढाँचा प्रकाशित किया था, जिसे संगठन अपनी परिस्थितियों के अनुसार आसानी से अपना सकते हैं। यह कंपनियों को चार चरणों वाली एक व्यावहारिक प्रक्रिया देता है, जिस पर मैं आगे लौटूँगा।

आज पेरोल में एआई का सुरक्षित इस्तेमाल कितनी दूर तक हो सकता है

ऊपरी तौर पर, पेरोल में एआई तेज़ी से काम करने वाले एक जोड़ी हाथों जैसा लगता है। लेकिन एआई की सबसे बड़ी ताकत और साथ ही उसका अभिशाप है—बिना किसी रुकावट के, त्रुटिहीन और लत लगाने वाला स्वचालन। सिस्टम चालू हो जाने के बाद, यह देख पाना और सुधारना मुश्किल हो जाता है कि कामकाजी लोगों—यानी इसके अंतिम लाभार्थियों—पर वह किन-किन तरीकों से असर डालता है। यही वजह है कि मानव संसाधन (एचआर) में एआई को उच्च जोखिम वाला माना जाता है: इसका लोगों की आजीविका, कार्यस्थल पर सफलता और भविष्य में करियर की संभावनाओं पर सीधा असर पड़ता है।

पेरोल के ज़्यादातर टूल एक छोटा-सा रास्ता तय करते हैं। पहले वे जाँच और तैयारी करते हैं—तुलना करते हैं, समस्याओं को चिह्नित करते हैं और मसौदे तैयार करते हैं। फिर वे सुझाव देने लगते हैं, जैसे किसी व्यक्ति के फ़ैसला लेने के दौरान भुगतान रोकने या इनवॉइस पर सवाल उठाने का सुझाव देना। तीसरे चरण में, जब टूल किसी व्यक्ति की नौकरी, हैसियत या आमदनी को प्रभावित करने वाली किसी चीज़ पर कार्रवाई करता है, तो उसे रुक जाना चाहिए और फ़ैसला वापस इंसान के हाथ में सौंप देना चाहिए। मुश्किल यह है कि ये चरण एक-दूसरे में घुल-मिल जाते हैं। असामान्य काम के घंटों को चिह्नित करना पहले चरण में हिसाब मिलाने की एक निरापद जाँच है, लेकिन तीसरे चरण में यह प्रदर्शन का आकलन बन जाता है। इन दोनों चरणों के बीच मॉडल नहीं बदलता; बदलाव इस बात में आता है कि इंसान उसके नतीजे का इस्तेमाल कैसे करता है।

एआई वास्तव में कहाँ मददगार है

स्वचालित पेरोल का एक सकारात्मक नतीजा है गलतियों में भारी कमी—Blair McQuillen के अनुसार, 78% तक। Blair McQuillen, Ignite HCM की ओर से काम करते हैं, जो पेरोल परामर्श सेवा है। पेरोल की गलतियाँ कम करने वाला एआई-संचालित टूल पेरोल सिस्टम को जाँचने और सुधारने के लिए मुख्य रूप से ये काम करता है:

• असामान्यता का पता लगाने में मशीन लर्निंग एल्गोरिदम पेरोल की तुलना पुराने रिकॉर्ड से करते हैं, ताकि भुगतान में अचानक बढ़ोतरी, दोहरी प्रविष्टियों और असामान्य कटौतियों की पहचान की जा सके।
• रीयल-टाइम डेटा सत्यापन का मतलब है कि एआई मौजूदा कर्मचारी डेटा (जैसे, अपने-आप दर्ज हुई उपस्थिति) और स्रोत प्रणालियों (जैसे, टाइमशीट) दोनों को देखकर हाथ से कॉपी-पेस्ट करने में हुई गलतियों की पहचान करता है।
• गलतियों की पूर्वानुमान-आधारित रोकथाम का उद्देश्य पेरोल को अंतिम रूप दिए जाने से पहले ही गलतियों का अनुमान लगाना है।
• एआई एजेंट अनुपालन की प्रक्रिया को भी कुछ हद तक स्वचालित कर सकते हैं। वे कर्मचारियों और पेरोल की गणनाओं पर नज़र रखते हैं और तिमाही ऑडिट होने से पहले ही एचआर को तुरंत सतर्क कर देते हैं। अनुपालन में एआई को अनियमितताओं की सूचना देने वाले के रूप में शामिल करने का मतलब है, उसकी क्षमताओं को स्पष्ट रूप से तय करना और निर्णय-प्रक्रिया में वास्तविक लोगों की भागीदारी सुनिश्चित करना।
• एआई-आधारित पूर्वानुमान से अनुमान लगाया जाता है कि संगठन में बदलाव या बाज़ार के उतार-चढ़ाव का पेरोल लागत और बजट पर क्या असर पड़ेगा।

एआई-संचालित एम्बेडेड अकाउंटिंग एपीआई OpenLadger Report के अनुसार, कंपनियों ने वित्तीय खातों को बंद करने की प्रक्रिया 19% तेज़ की और बजट का पालन 34% बेहतर किया।

जब आधार-रेखा आपकी गलतियों से सीखती है

पेरोल के ज़्यादातर एआई टूल लगातार सीखने की क्षमता के दावे के साथ बेचे जाते हैं। समय के साथ सिस्टम यह समझ लेता है कि आपके संगठन में सामान्य पेरोल कैसा दिखता है और हर बार की गणना की तुलना उससे करता है। यह वाकई उपयोगी है, लेकिन यहीं से चुपचाप गड़बड़ी शुरू होती है।

इतिहास से “सामान्य” सीखने वाला सिस्टम उस इतिहास की गलतियाँ भी सीख लेता है। मान लीजिए कि छह महीने तक किसी कटौती को गलत तरीके से लागू किया गया। पहचान प्रणाली उसे चिह्नित करना बंद कर देती है, क्योंकि छह महीने तक एक ही गलती दोहराए जाने के बाद वह उसे असामान्य नहीं लगती।

सीमापार कामकाज में यह समस्या और स्पष्ट हो जाती है। जब आप कई देशों में ठेकेदारों को अलग-अलग मुद्राओं और भुगतान के तरीकों से पैसे देते हैं, तो जो चीज़ “असामान्य” दिखती है, वह अक्सर जायज़ होती है: किसी परियोजना का पड़ाव, भुगतान के माध्यम का बदलना, कोई एकबारगी काम या किसी नए भुगतान मार्ग का खुलना। झूठे सकारात्मक नतीजे कम करने के लिए समायोजित किया गया मॉडल, पर्याप्त समय मिलने पर, असली मामलों को भी दबाने लगेगा।

जब किसी भुगतान को रोका जाता है, उस पर फ़्लैग लगाया जाता है या उसमें बदलाव किया जाता है, तो किसी को इसकी वजह समझानी होती है—पैसे का इंतज़ार कर रहे ठेकेदार को, महीनों बाद किसी ऑडिटर को और अंततः किसी नियामक को।

पेरोल स्वचालन को ऑडिट योग्य बनाए रखने के तीन तरीके

1. कामों को अलग-अलग रखें। ऐसा एकल सहायक खरीदना सुविधाजनक है जो डेटा ले, कर्मचारियों का वर्गीकरण करे, वेतन की गणना करे, अनुपालन जाँचे और वेतन-पर्चियाँ भेजे; लेकिन उसका ऑडिट करना कठिन है, क्योंकि नतीजा गलत होने पर यह पता नहीं चलता कि गलती किस चरण में हुई। पेरोल के कुछ प्रदाता पहले से ही बहु-एजेंट डिज़ाइन अपना रहे हैं, जिनमें अलग-अलग घटक टाइमशीट का डेटा लेने, कर्मचारियों का वर्गीकरण करने, वेतन की गणना करने, अनुपालन देखने और संवाद करने का काम करते हैं; साथ ही, हर घटक साझा ऑडिट रिकॉर्ड में जानकारी दर्ज करता है। इस व्यवस्था को तैयार करने में अधिक खर्च आता है, लेकिन नियामक के यह पूछने पर कि कोई निर्णय कैसे लिया गया था, पहली ही बार में यह खर्च वसूल हो जाता है। आप हर चरण को क्रम से देख सकते हैं।
2. कार्रवाइयों को इस आधार पर वर्गीकृत करें कि उन्हें पलटा जा सकता है या नहीं। मानव निगरानी वाले मॉडल में, जो अब एचआर तकनीक में आम है, स्वचालित कार्रवाइयों को तीन स्तरों में बाँटा जाता है: अपने-आप लागू करना, आगे समीक्षा के लिए भेजना और रोकना। मैं इन स्तरों का निर्धारण एक ही कसौटी पर करूँगा—गलती होने की कीमत। कम जोखिम वाली, पलटी जा सकने वाली कार्रवाइयाँ, जैसे रिमाइंडर भेजना, दस्तावेज़ माँगना और फ़ॉर्मैट की जाँच करना, अपने-आप की जा सकती हैं। मध्यम जोखिम वाली कार्रवाइयों में—जैसे स्पष्टीकरण मिलने तक भुगतान रोकना या किसी इनवॉइस पर सवाल उठाना—एआई को साक्ष्य तैयार करना चाहिए और निर्णय किसी व्यक्ति को लेना चाहिए। जिन कार्रवाइयों को पलटा नहीं जा सकता, और जो किसी की आजीविका को प्रभावित करती हैं, उन्हें मशीन के हाथों से दूर रखना चाहिए: किसी के साथ कामकाजी संबंध समाप्त करना, कर्मचारी की स्थिति बदलना या अनुपालन के आधार पर वेतन रोकना। मैं एक सवाल से इसकी जाँच करता हूँ: अगर यह कार्रवाई गलत साबित हुई, तो क्या दूसरी ओर मौजूद व्यक्ति को पता चलने से पहले हम इसे पलट सकेंगे? अगर जवाब नहीं है, तो किसी इंसान की मंज़ूरी ज़रूरी है।
3. बड़े पैमाने पर लागू करने से पहले शासन-व्यवस्था तय करें। पहले जिस NIST कृत्रिम बुद्धिमत्ता जोखिम प्रबंधन ढाँचे का मैंने ज़िक्र किया था, वह चार कार्यों पर आधारित है: शासन, मानचित्रण, मापन और प्रबंधन। पेरोल के संदर्भ में, ये चार सवाल बन जाते हैं। नतीजे की ज़िम्मेदारी किसकी है: पेरोल, वित्त, अनुपालन विभाग की या विक्रेता की? AI Act के तहत, प्रणाली लागू करने वाले की ज़िम्मेदारियाँ उस संगठन की होती हैं जो प्रणाली चलाता है; इसलिए, भले ही अब कई उत्पादों पर “EU AI Act के लिए तैयार” का बैज लगा हो, “विक्रेता” जवाब के तौर पर स्वीकार्य नहीं है। आपके कौन-से उपकरण वास्तव में एआई का इस्तेमाल करते हैं, जबकि नियम-आधारित बताकर खरीदे गए सॉफ़्टवेयर में भी अब बड़े पैमाने पर मशीन लर्निंग शामिल होती है? लोग कितनी बार एआई के सुझाव को बदलते या खारिज करते हैं? इस आँकड़े पर मैं सबसे करीबी नज़र रखूँगा, क्योंकि बदलाव की दर लगभग शून्य होने का मतलब शायद ही कभी यह होता है कि मॉडल त्रुटिहीन है; अक्सर इसका मतलब होता है कि लोगों ने नतीजे पढ़ना बंद कर दिया है। और जब महीने के अंत का हिसाब-किताब चल रहा हो और मॉडल उपलब्ध न हो, या उसके नतीजों पर भरोसा न किया जा सके, तो वैकल्पिक व्यवस्था क्या है? क्या टीम में अब भी कोई ऐसा है जिसे हाथ से पेरोल चलाना आता हो? जो एचआर और पेरोल प्रमुख बड़े पैमाने पर एआई इस्तेमाल करने की योजना बना रहे हैं, उनके लिए यह ढाँचा पहले से तैयार करना उपयोगी होगा।

एआई का यह दौर कंपनियों को उन कम चमकदार, लेकिन ज़रूरी कामों के लिए अवसर देता है: एआई-सक्षम उपकरणों की सूची बनाना, ऐसे लॉग रखना जो सिर्फ़ नतीजे नहीं, बल्कि उनके पीछे की वजहें भी दर्ज करें, हर स्वचालित निर्णय के लिए ज़िम्मेदार व्यक्ति तय करना और बदलाव की दर के आँकड़ों की नियमित समीक्षा करना।

जब उच्च-जोखिम वाली ज़िम्मेदारियाँ लागू होंगी, तब ऑडिटर यह नहीं पूछेंगे, “क्या आप एआई का इस्तेमाल करते हैं?” वे पूछेंगे, “मुझे दिखाइए कि यह भुगतान क्यों किया गया, रोका गया या बदला गया।” जो कंपनियाँ मिनटों में इसका जवाब दे सकेंगी, वे अपने स्वचालन का सफलतापूर्वक विस्तार कर पाएँगी।