आपकी AI गवर्नेंस योजना में रात‑शिफ्ट समस्या है

कल्पना करें कि एक AI वर्कफ़्लो सुबह 2:13 बजे एक अपवाद को चिह्नित करता है। सिस्टम ने ठीक वही किया जो गवर्नेंस योजना ने कहा था: उसने रुककर मानव को बुलाया। केवल एक ही समस्या है। निर्णय लेने के लिए योग्य व्यक्ति नौ बजे काम शुरू करता है।

यह अंतर किसी भी ऐसी प्रक्रिया में महत्वपूर्ण है जो कार्यालय समय के बाहर चलती है। एक नीति मालिक को निर्धारित कर सकती है और स्पष्ट एस्केलेशन लाइन बना सकती है। सुबह 2 बजे, यदि वह एकमात्र व्यक्ति जो कॉल को समझता है या उसे करने की अनुमति रखता है, ऑफ़लाइन है, तो न तो नीति और न ही एस्केलेशन मददगार होते हैं।

इसलिए उपलब्धता स्वयं नियंत्रण में ही शामिल होनी चाहिए। रात भर चलने वाले सिस्टम के लिए व्यावहारिक प्रश्न स्पष्ट होते हैं: कवरेज कौन करेगा, वे क्या निर्णय ले सकते हैं, उन्हें क्या देखना आवश्यक है, और यदि कोई जवाब नहीं देता तो क्या होता है? उत्तर को शिफ्ट बदलने पर भी टिके रहना चाहिए।

नियमों की एक समयसीमा है। संचालन में कई समयसीमा हैं

नियामक कैलेंडर इस मुद्दे को समय पर लाभ देता है। 2 अगस्त, 2026 को European Commission’s AI Office और राष्ट्रीय प्राधिकरणों ने AI Act के लागू प्रावधानों को लागू करना शुरू किया, और नई पारदर्शिता नियम प्रभावी हुए।

इस तारीख को इस तरह नहीं बढ़ाना चाहिए कि सभी उच्च‑जोखिम AI दायित्व एक साथ लागू हो गए हों। आयोग की वर्तमान समय‑सारणी में Annex III उच्च‑जोखिम सिस्टम के नियम 2 दिसंबर, 2027 को निर्धारित किए गए हैं, और नियमनित उत्पादों में एम्बेडेड उच्च‑जोखिम AI के नियम 2 अगस्त, 2028 को लागू होंगे।

व्यावहारिक रूप से संकीर्ण संचालन बिंदु अधिक उपयोगी है। गवर्नेंस आवश्यकताएँ नीति कार्य से प्रवर्तन की ओर बढ़ रही हैं, जबकि जिन सिस्टमों को नियंत्रित किया जा रहा है वे पहले से ही रातों, सप्ताहांत और विभिन्न समय क्षेत्रों में चल रहे हैं। सोमवार‑से‑शुक्रवार के संगठन चार्ट पर आधारित नियंत्रण अंततः शनिवार‑सुबह के अपवाद से टकराएगा।

कई गवर्नेंस योजनाएँ उस स्थिति का वर्णन नहीं करतीं। वे यह निर्धारित करती हैं कि सिस्टम का मालिक कौन है, उपयोग‑केस को कौन मंजूर करता है और कौन सी समिति जोखिम की समीक्षा करती है। ये आवश्यक निर्णय हैं। लेकिन वे रात‑भर के ऑपरेटर को नहीं बताते कि लेन‑देन को सात घंटे तक रोकना चाहिए, क्या ऑन‑कॉल विश्लेषक इसे जारी कर सकता है या यदि कतार बढ़ती रहे तो जोखिम कौन स्वीकार करेगा।

नीति का नाम बॉक्स में लिखा होता है। संचालन को घड़ी पर एक व्यक्ति चाहिए।

लूप में मानव एक शिफ्ट‑सूची मानता है

Unite.AI ने पहले ही यह साबित कर दिया है कि एक वास्तविक सत्यापन द्वार को सार्थक दृश्यता और नियंत्रण की आवश्यकता होती है। समीक्षक को प्रस्तावित कार्रवाई और सिस्टम के रुकने का कारण देखना चाहिए। अधिक महत्वपूर्ण यह है कि स्क्रीन उन्हें कुछ उपयोगी करने की अनुमति दे: उसे मंजूर करना, बदलना, अस्वीकार करना या प्रक्रिया को बंद करना।

कवरेज अगली डिज़ाइन समस्या है। एक अच्छी तरह से डिज़ाइन किया गया समीक्षा स्क्रीन तब मदद नहीं कर सकता जब एकमात्र योग्य समीक्षक सो रहा हो, अवकाश पर हो या बिना औपचारिक हैंडऑफ़ के किसी अन्य क्षेत्र में काम कर रहा हो।

यहीं पर वाक्यांश \”human in the loop\” बहुत अस्पष्ट हो जाता है। यह कई अलग-अलग नौकरियों को छिपा सकता है। वर्कफ़्लो मालिक प्रक्रिया के संचालन के लिए उत्तरदायी होता है, जबकि ऑन‑शिफ्ट समीक्षक अपवाद की व्याख्या करता है और अनुपलब्ध संदर्भ एकत्र करता है। विषय‑विशेषज्ञ डोमेन जोखिम का मूल्यांकन करता है। अनुमोदक को प्रस्तावित कार्रवाई को अनुमति देने, बदलने या रोकने का अधिकार होता है। जब अपवाद व्यापक विफलता का संकेत देता है, तो घटना मालिक प्रतिक्रिया का समन्वय करता है।

भूमिकाओं को मिलाना स्वचालित रूप से समस्या नहीं है। कम‑जोखिम वाले वर्कफ़्लो में यह सबसे साफ़ व्यवस्था हो सकती है। लेकिन इसे लिखित रूप में रखें। वह विश्लेषक जो मॉडल के आउटपुट को समझता है, फिर भी बड़े भुगतान को जारी करने, सुरक्षा सीमा को ओवरराइड करने या ग्राहकों को प्रभावित करने वाली कार्रवाई को मंजूरी देने की अनुमति नहीं रख सकता।

यहाँ NIST AI Risk Management Framework उपयोगी है क्योंकि यह गवर्नेंस को एक संचालन संरचना के रूप में देखता है। इसका Govern फ़ंक्शन स्पष्ट भूमिकाओं, जिम्मेदारियों और संचार लाइनों की मांग करता है, जिसमें उपयुक्त लोगों को सशक्त, जिम्मेदार और प्रशिक्षित किया गया हो। यह मानव‑निगरानी प्रक्रियाओं को परिभाषित, मूल्यांकन और दस्तावेज़ित करने की भी मांग करता है। \”एक मानव इसे समीक्षा करेगा\” इस स्पष्टता मानक को पूरा नहीं करता।

अलर्ट आने से पहले तय करें कि योग्य का क्या अर्थ है

ड्यूटी पर होना किसी को निर्णय लेने के लिए तैयार नहीं बनाता। वे व्यापार प्रक्रिया को अच्छी तरह जानते हो सकते हैं, फिर भी इस विशेष मॉडल अपवाद का मूल्यांकन करने का आधार नहीं रखते।

योग्यता को निर्णय के संदर्भ में परिभाषित किया जाना चाहिए, न कि व्यापक नौकरी शीर्षक के आधार पर। एक संगठन समीक्षक से वर्कफ़्लो के उद्देश्य, सिस्टम द्वारा दिखाए गए साक्ष्य, मॉडल की सीमाएँ, संबंधित नीति सीमा और प्रत्येक उपलब्ध कार्रवाई के परिणाम को समझने की मांग कर सकता है। कुछ भूमिकाओं को वर्तमान प्रशिक्षण, प्रमाणन या हालिया पर्यवेक्षित अभ्यास की भी आवश्यकता हो सकती है।

ताज़गी महत्वपूर्ण है। दो साल पहले प्रशिक्षण पूरा करने वाला व्यक्ति स्थिर स्प्रेडशीट में अभी भी योग्य दिख सकता है, जबकि तब से मॉडल, इंटरफ़ेस और एस्केलेशन नियम दो बार बदल चुके हैं। गवर्नेंस प्रश्न यह है कि तैयारियों के प्रमाण अभी भी वर्तमान वर्कफ़्लो से मेल खाते हैं या नहीं।

अधिकार को अलग से दर्ज किया जाना चाहिए। एक धोखाधड़ी विश्लेषक पर विचार करें जो बता सके कि लेन‑देन को क्यों फ़्लैग किया गया। वह विश्लेषक साक्ष्य का मूल्यांकन करने में पूरी तरह योग्य हो सकता है, लेकिन निर्धारित राशि से अधिक भुगतान जारी करने में असमर्थ हो सकता है। रात‑भर का निर्णय तब दो प्रकार के कवरेज पर निर्भर करता है: वह व्यक्ति जो निर्णय ले सके और वह व्यक्ति जो कार्रवाई को अधिकृत कर सके।

यह अंतर आम विफलता को रोकता है। टीमें एक जानकार व्यक्ति को ढूँढती हैं, उस उपलब्धता को पूर्ण कवरेज मान लेती हैं और घटना के दौरान यह पता चलता है कि वह व्यक्ति आवश्यक कदम नहीं उठा सकता। एस्केलेशन ऊपर की ओर जारी रहता है जब तक कि वह व्यक्ति न मिल जाए जो दोनों ही योग्य और अधिकृत हो, अक्सर संचालन की अंतिम तिथि समाप्त होने के बाद।

एक उपयोगी कवरेज परिभाषा चार प्रश्नों से शुरू होती है। समीक्षक को क्या जानना चाहिए? कौन सा प्रमाण इसे सिद्ध करता है? समीक्षक को एक निर्धारित निर्णय सीमा की भी आवश्यकता होती है। अंत में, वह अनुमति कब समाप्त होती है या पुनर्मूल्यांकन की आवश्यकता होती है? यदि ये उत्तर विभिन्न प्रणालियों में स्थित हैं, तो एस्केलेशन प्रक्रिया को केस असाइन करने से पहले उन्हें मिलाना होगा।

समीक्षक को अधिकार दें और सिस्टम को सुरक्षित डिफ़ॉल्ट प्रदान करें

रात के बाद का समीक्षक केवल सूचना से अधिक चाहता है। अलर्ट में प्रस्तावित कार्रवाई, उसके पीछे के स्रोत या रिकॉर्ड, वह अपवाद जो समीक्षा को ट्रिगर करता है, उपलब्ध समय और देरी के परिणाम शामिल होने चाहिए। इसे यह भी दिखाना चाहिए कि समीक्षक को क्या करने की अनुमति है।

इन अनुमतियों में सीमाएँ होनी चाहिए। क्या समीक्षक को प्रस्तावित कार्रवाई को मंज़ूर करने या उसे संपादित करने की अनुमति है? अस्वीकृति स्थायी हो सकती है, या केवल केस को कतार में वापस भेज सकती है। कई समान अपवाद व्यापक कार्यप्रवाह को रोकने का औचित्य भी प्रदान कर सकते हैं। अंतिम सीमा वह बिंदु है जहाँ दूसरे अनुमोदक को बुलाना आवश्यक होता है।

ये प्रश्न एआई एजेंटों के लिए रनटाइम नियंत्रण के डिज़ाइन में शामिल होने चाहिए, न कि कतार पहले से बन जाने के बाद की आपातकालीन चर्चा में। विराम, क्वारंटाइन और प्रतिबंधित-अनुमति स्थितियाँ संचालन टीमों को अनिश्चित कार्य को सुरक्षित रूप से रखने के लिए जगह देती हैं। टेलीमेट्री और ऑडिट रिकॉर्ड दिखाते हैं कि प्रक्रिया के इंतजार के दौरान क्या हुआ।

सबसे कठिन स्थिति कोई प्रतिक्रिया न होना है। प्रत्येक नियमनित कार्यप्रवाह को उस स्थिति के लिए पूर्व-स्वीकृत उत्तर चाहिए। जोखिम के आधार पर, सिस्टम कार्रवाई को रोक सकता है, इसे अगले योग्य शिफ्ट के लिए कतार में रख सकता है, घटे हुए मोड में जारी रख सकता है या प्रभावित प्रक्रिया को रोक सकता है। एक ग्राहक‑समर्थन प्रणाली असामान्य रूप से बड़ी रिफंड को रोक सकती है जबकि नियमित अनुरोधों को जारी रखती है। एक निर्माण‑गुणवत्ता कार्यप्रवाह संदेहास्पद बैच को क्वारंटाइन कर सकता है, बजाय इसके कि लाइन मौन को स्वीकृति मान ले।

मौन को स्वीकृति नहीं माना जा सकता।

डेलीगेशन केवल सुरक्षा रेखाओं के साथ ही काम करता है। यह रिकॉर्ड करें कि किसने अधिकार पास किया, किसने प्राप्त किया, यह किन कॉलों को कवर करता है, कब समाप्त होता है और कोई भी सीमा क्या है। बिना इस ट्रेल के, रात‑के‑बाद की प्रक्रिया केवल संदेशों की एक श्रृंखला बन जाती है जिसे बाद में जोड़ना असंभव होगा।

शिफ्ट हैंडओवर नियंत्रण का हिस्सा है

कुछ अपवाद शिफ्ट से अधिक समय तक रहेंगे। बाहर जाने वाला समीक्षक साक्ष्य एकत्र कर चुका हो सकता है, विशेषज्ञ से संपर्क किया हो सकता है और अंतिम निर्णय तक पहुँचे बिना एक विकल्प को खारिज कर चुका हो सकता है। टिकट नंबर और जल्दबाजी में लिखा नोट पर्याप्त हैंडओवर नहीं बनते। अगला समीक्षक पहले से किए गए कार्य को फिर से बनाने में कीमती समय बर्बाद करता है।

यह नई समस्या नहीं है। सुरक्षा‑संकटपूर्ण संचालन लंबे समय से हैंडओवर को एक स्वतंत्र कार्य मानते आए हैं। यूके हेल्थ एंड सेफ़्टी एक्ज़ीक्यूटिव प्रभावी शिफ्ट हैंडओवर को तीन‑भाग प्रक्रिया के रूप में वर्णित करता है: बाहर जाने वाले कर्मियों द्वारा तैयारी, कार्य‑संबंधी जानकारी का आदान‑प्रदान, और आने वाले कर्मियों द्वारा जिम्मेदारी संभालते समय क्रॉस‑चेक। इसका मार्गदर्शन लिखित और मौखिक जानकारी द्वारा समर्थित दो‑तरफ़ा संचार को प्राथमिकता देता है, साथ ही कार्य पूरा करने के लिए पर्याप्त समय और संसाधन प्रदान करता है।

एआई अपवाद हैंडऑफ़ को समान अनुशासन चाहिए, जो कार्यप्रवाह के अनुसार अनुकूलित हो। रिकॉर्ड में प्रस्तावित कार्रवाई, सिस्टम द्वारा प्रस्तुत साक्ष्य, एस्केलेशन का कारण, अब तक किए गए कदम, खारिज किए गए विकल्प, शेष समय और वर्तमान जोखिम स्तर शामिल होना चाहिए। इसे स्थानांतरण के दोनों पक्षों पर नामित स्वामित्व भी चाहिए।

सबसे महत्वपूर्ण भाग स्वीकृति है। एक लॉग दिखा सकता है कि जानकारी लिखी गई थी। यह प्रमाणित नहीं कर सकता कि आने वाला समीक्षक केस की स्थिति को समझता है या अगले निर्णय की जिम्मेदारी लेता है। एक क्रॉस‑चेक आने वाले व्यक्ति को अनुपलब्ध साक्ष्य को चुनौती देने, समय सीमा की पुष्टि करने और अगले अनुमत कार्य को पुनः बताने का अवसर देता है।

इंटरफ़ेस डिज़ाइन यहाँ महत्वपूर्ण है। हैंडऑफ़ स्क्रीन को मॉडल की तर्कसंगति, मानव के नोट्स और अनुमति स्थिति को अलग‑अलग टैब में छिपाना नहीं चाहिए। आने वाले समीक्षक को यह देखना चाहिए कि पिछले शिफ्ट के दौरान क्या बदला और कौन से तथ्य अभी भी जाँच की आवश्यकता रखते हैं। अन्यथा, प्रत्येक हैंडऑफ़ संदर्भ के गायब होने का नया अवसर पैदा करता है।

शिफ्टों में योग्य कवरेज को मानचित्रित करें

अधिकांश टीमें एआई कार्यप्रवाह से जुड़े लोगों की सूची तैयार कर सकती हैं। कम ही दिखा पाती हैं कि प्रत्येक संचालन अवधि में ज्ञान और अधिकार का सही मिश्रण मौजूद है।

व्यावहारिक प्रारंभ बिंदु भूमिका‑दर‑शिफ्ट दृश्य है। इस दृश्य को वास्तविक निर्णयों के आधार पर बनाएँ, न कि रोस्टर में नामों पर। प्रत्येक संभावित एस्केलेशन के लिए आवश्यक ज्ञान, वर्तमान दक्षता कैसे सिद्ध होती है और कार्रवाई के लिए आवश्यक अधिकार को रिकॉर्ड करें। फिर इसे रात, सप्ताहांत और छुट्टियों को कवर करने वाले लोगों के साथ मिलाएँ।

एक कौशल या क्षमता मैट्रिक्स स्टाफिंग जोखिम को शिफ्टों में योग्य कवरेज को मानचित्रित करके, भूमिकाओं और साइटों पर अपवाद होने से पहले दृश्यमान बना सकता है। मैट्रिक्स यह उजागर कर सकता है कि एक व्यक्ति के पास एक महत्वपूर्ण समीक्षा के लिए वर्तमान में एकमात्र योग्यता है, कि एक प्रमाणपत्र नियोजित तैनाती के दौरान समाप्त हो जाएगा, या कि एक सप्ताहांत शिफ्ट में तकनीकी विशेषज्ञता है लेकिन कोई अंतिम अनुमोदक नहीं है।

खामियां ठोस हो जाती हैं। हालांकि यह दृश्यता यह प्रमाण नहीं देती कि कोई भी काम कर सकता है, क्योंकि प्रदर्शित अभ्यास, वर्तमान प्रशिक्षण और देखी गई निर्णय अभी भी महत्वपूर्ण हैं, और एक मैट्रिक्स कानूनी या संगठनात्मक अधिकार नहीं दे सकता। इसका काम अधिक सीमित है: यह दिखाना कि कवरेज मॉडल किन धारणाओं, पुरानी रिकॉर्डों या एक ही व्यक्ति पर निर्भर है।

एक बार खामियां दिखाई देने पर, टीमों के पास विकल्प होते हैं। वे किसी अन्य समीक्षक को क्रॉस-ट्रेन कर सकते हैं, ऑन-कॉल कवरेज को समायोजित कर सकते हैं, रात्री कार्यप्रवाह की अनुमतियों को संकीर्ण कर सकते हैं या कवरेज में सुधार होने तक सुरक्षित बैकअप बदल सकते हैं। सही प्रतिक्रिया देरी के परिणाम और गलत निर्णय के परिणाम पर निर्भर करती है। कम जोखिम वाली कतार इंतजार कर सकती है। सुरक्षा-संबंधी अपवाद को तुरंत विशेषज्ञ कवरेज या कठोर रोक की आवश्यकता हो सकती है।

कवरेज को केवल दस्तावेज़ित नहीं, बल्कि परीक्षण भी किया जाना चाहिए। एक आफ्टर-ऑवर्स अभ्यास चलाएँ। एक प्रतिनिधि अपवाद को ट्रिगर करें, एस्केलेशन पथ का पालन करें और मापें कि निर्धारित व्यक्ति को पर्याप्त संदर्भ मिल रहा है या नहीं ताकि वह अनुमत समय में कार्य कर सके। फिर शिफ्ट परिवर्तन के दौरान परीक्षण दोहराएँ। कागज़ी कवरेज अक्सर आश्वस्त करने वाला दिखता है जब तक कि पहला संदेश पुरानी फोन नंबर पर न भेजा जाए या किसी ऐसे व्यक्ति तक न पहुँचे जिसकी अनुमोदन सीमा बहुत कम हो।

रात्री शिफ्ट परीक्षण चलाएँ

एंटरप्राइज़ गवर्नेंस पहले से ही परिभाषित मालिकों और एस्केलेशन पथों पर निर्भर करता है। रात्री शिफ्ट परीक्षण यह जांचता है कि जब सामान्य लोग अपनी डेस्क पर नहीं होते हैं तो क्या ये संरचनाएँ उपयोगी रहती हैं।

एक वास्तविक कार्यप्रवाह और एक संभावित अपवाद से शुरू करें। सबसे असुविधाजनक घंटे में अलर्ट किसे मिलता है, यह पूछें। पुष्टि करें कि वह व्यक्ति उस सटीक निर्णय के लिए योग्य है, फिर देखें कि वह क्या अनुमोदित, बदल, रोक या प्रतिनिधि कर सकता है। कोई प्रतिक्रिया न मिलने के मार्ग का पालन करें। अंत में, अनसुलझे मामले को शिफ्ट हैंडऑफ़ के माध्यम से ले जाएँ और देखें कि आने वाला समीक्षक बिना जांच को फिर से बनाये स्थिति को समझा सकता है या नहीं।

परीक्षण आमतौर पर साधारण समस्याओं को उजागर करेगा: एक भूमिका जिसके पास ऑन-कॉल रोटा नहीं है, एक योग्यता रिकॉर्ड जो वर्तमान मॉडल से मेल नहीं खाता, एक अनुमोदक जिसकी सीमा बहुत कम है या एक हैंडऑफ़ जो नोट्स को स्थानांतरित करता है लेकिन स्वामित्व नहीं। साधारण होना अच्छा है। ये ठीक किए जा सकने वाले संचालन समस्याएँ हैं, बशर्ते वे लाइव अपवाद के समय सीमा पर आने से पहले मिल जाएँ।

एक AI कार्यप्रवाह पूरी रात चल सकता है। उसका गवर्नेंस भी ऐसा ही करना चाहिए।