लूप में मानव निरीक्षण प्रबंधन नहीं है

एआई जोखिम का स्पष्ट उत्तर है “लूप में एक मानव रखें।” लेकिन यह वाक्यांश कठिन हिस्से को छुपाता है।

लूप में एक मानव केवल तभी काम करता है जब लूप डिज़ाइन किया गया हो। अन्यथा, मानव तीन विफलताओं में से एक बन जाता है:

• एक बोतलनेक, क्योंकि एआई आउटपुट की समीक्षा करने में उतना ही समय लगता है जितना कि मैनुअल रूप से काम करने में।
• एक रबर स्टाम्प, क्योंकि समीक्षक ओवरलोडेड है, साक्ष्य नहीं देख सकता, व्यवसायिक संदर्भ नहीं समझता, और क्यू को आगे बढ़ाने के लिए अनुमोदन पर क्लिक करता है।
• या तीसरी विफलता: क्रंपल ज़ोन। लूप में एक मानव जोड़कर, संस्था एक व्यक्ति को ज़िम्मेदार ठहराती है लेकिन उसे वास्तविक नियंत्रण, समय, अधिकार, रोकने की क्षमता, और अगले रन को बदलने का मार्ग नहीं देती है। परिणाम मानव पर पड़ता है, जबकि निर्णय सब्सट्रेट अपरिवर्तित रहता है।

यह वह जगह है जहां एंटरप्राइज़ एआई के आसपास बहुत सारी चर्चा गलत हो जाती है। हम यह चर्चा करते हैं कि क्या एक मानव को काम की समीक्षा करनी चाहिए, लेकिन समीक्षा के डिज़ाइन के बारे में नहीं। हम मानते हैं कि एक व्यक्ति जोड़ने से प्रबंधन बन जाता है। यह नहीं है। प्रबंधन इस बात पर निर्भर करता हैकि क्या समीक्षक के पास अर्थपूर्ण नियंत्रण, अर्थपूर्ण दृश्यता, और निर्णय लेने के बाद प्रणाली में सुधार करने की क्षमता है।

मानव समीक्षा मूल्यवान है, लेकिन केवल तभी जब यह निर्णय लेने के लिए महत्वपूर्ण होती है और पर्याप्त संदर्भ द्वारा समर्थित होती है।

एक सत्यापन गेट एक समीक्षा चरण से अधिक है

एक गेट एक पॉज़ बटन नहीं है। यह एक सत्यापन इंटरफ़ेस है।

जब एक एजेंट या स्वचालन एक प्रस्ताव तैयार करता है – एक ड्राफ्ट प्रतिक्रिया, एक अनुशंसित कार्रवाई, एक वर्गीकरण, एक भुगतान अनुमोदन, एक मामला मार्ग, एक रिफंड पैकेट, या एक अस्वीकृति पत्र – तो समीक्षक को तुरंत समझना चाहिए कि क्या होने वाला है और क्यों।

एक वास्तविक सत्यापन गेट को यह दिखाना चाहिए कि क्या महत्वपूर्ण है: प्रस्तावित कार्रवाई; इसके पीछे स्रोत; जांचे गए नियम; व्यवसायिक परिवर्तन जो होगा; उपयोग की जाने वाली अधिकार; लिखा जाने वाला ऑडिट रिकॉर्ड; जो अनिश्चितता या अपवाद ने समीक्षा को ट्रिगर किया; और उपलब्ध विकल्प: अनुमोदन, संपादन, अस्वीकृति, या एस्केलेशन।

प्रत्येक तत्व एक कारण से मौजूद है। प्रस्तावित कार्रवाई बताती है कि प्रणाली क्या करने जा रही है। समर्थन साक्ष्य बताता है कि क्यों। नियम और अधिकार दिखाते हैं कि क्या अनुशंसा संगठनात्मक नीति के भीतर फिट होती है। अनिश्चितता बताती है कि क्यों काम मानव के पास पहुंचा। एक साथ, वे समीक्षा को अनुमान से सत्यापन में बदल देते हैं।

यदि समीक्षक को यह सब मैनुअल रूप से पुनर्निर्माण करना होगा, तो गेट बनाया नहीं गया है।

गेट का उद्देश्य केवल यह नहीं है कि गलतियों को होने से पहले रोका जा सके। इसका दूसरा उद्देश्य अधिक महत्वपूर्ण है। यह संस्थागत निर्णय को पकड़ता है।

यह वह जगह है जहां एंटरप्राइज़ तैनाती जटिल होने लगती है। प्रत्येक वास्तविक अनुमोदन, संपादन, अस्वीकृति, या एस्केलेशन निर्णय संस्थागत निर्णय को पकड़ता है – लेकिन केवल तभी जब गेट क्यों बताता है।

अनुमोदन डेटा नहीं हैं, लेकिन सत्यापन हैं।

एक रबर-स्टाम्प क्लिक कुछ भी उपयोगी नहीं पकड़ता। एक निरीक्षित, संपादित, अस्वीकृत, या एस्केलेटेड निर्णय एक कारण कोड के साथ एक संकेत पकड़ता है जिसे अगले संस्करण की प्रणाली से सीखा जा सकता है। यदि समीक्षक बिना देखे अनुमोदन पर क्लिक करता है, तो प्रणाली कुछ भी सीखती नहीं है। यदि समीक्षक संपादित करता है, अस्वीकार करता है, एस्केलेट करता है, और एक कारण देता है, तो संस्था निर्णय पकड़ती है।

समय के साथ, ये निर्णय संस्था की सबसे मूल्यवान संपत्तियों में से एक बन जाते हैं। वे बताते हैं कि नीतियां कहां अस्पष्ट हैं, कार्यप्रवाह कहां नियमित रूप से टूट जाते हैं, अपवाद कहां सबसे अधिक होते हैं, और कहां स्वचालन को अधिक आत्मविश्वासी या अधिक प्रतिबंधित होना चाहिए। उद्देश्य केवल अधिक काम को स्वचालित करना नहीं है। यह भविष्य के निर्णयों की गुणवत्ता में सुधार करना है जो आज संस्था के अनुभवी लोगों द्वारा निर्णय लेने का अभ्यास करते हैं।

जिम्मेदारी के लिए एक नामित मालिक से अधिक की आवश्यकता होती है

यह अंतर यह बदल देता है कि संस्थाएं जिम्मेदारी के बारे में कैसे सोचती हैं।

एक गेट पर्याप्त नहीं है। एक नामित मालिक पर्याप्त नहीं है। एक ऑडिट लॉग पर्याप्त नहीं है।

जिम्मेदारी के लिए परिणाम प्राप्ति की आवश्यकता होती है: गलती को कहीं ऐसी जगह पर उतरना चाहिए जो भविष्य के व्यवहार को बदल सके।

एआई को परिणामी काम में तैनात करने से पहले, संस्थाओं को पांच प्रश्न पूछने चाहिए:

1. कौन सा व्यक्ति या प्रणाली गलत कार्रवाई का परिणाम प्राप्त करता है?
2. क्या उस व्यक्ति या प्रणाली का पहले से अर्थपूर्ण नियंत्रण था?
3. क्या जिम्मेदार मालिक एजेंट या स्वचालन को निरीक्षित, प्रतिबंधित, ओवरराइड, या रोक सकता है?
4. क्या दायित्व वास्तविक नियंत्रण के अनुपात में है जो मालिक के पास था?
5. क्या अगले रन से पहले क्या बदलता है: कौशल, नियम, अनुमति, कार्यप्रवाह, स्वचालन, सत्यापन गेट, कारण कोड, प्रशिक्षण, या विश्वास वर्ग?

एक मानव गेट जिसमें अर्थपूर्ण नियंत्रण नहीं है, प्रबंधन नहीं है। यह एक क्रंपल ज़ोन है।

लूप तब तक बंद नहीं होता जब तक कि पकड़ा गया निर्णय कुछ बदल नहीं देता: कौशल, नियम, अनुमति, एस्केलेशन थ्रेशहोल्ड, स्वचालन, परीक्षण, समीक्षा इंटरफ़ेस, प्रशिक्षण योजना, ऑडिट नमूना, या विश्वास वर्ग। एक परिणाम जो अगले रन को नहीं बदलता है केवल एक घटना है, सीखने की नहीं। संस्थाएं तब सुधारती हैं जब प्रत्येक अर्थपूर्ण समीक्षा प्रणाली के अगले संस्करण को बदलती है, चाहे वह नीति को परिष्कृत करना, अनुमतियों को कस करना, स्वचालन में सुधार करना, या सत्यापन अनुभव को ही मजबूत करना हो।

गार्डरेल विफलता को रोकते हैं। मूल्यांकन विश्वास बनाते हैं।

संस्थाओं को गार्डरेल और मूल्यांकन के बीच अंतर करने की भी आवश्यकता है। वे अलग-अलग समस्याओं का समाधान करते हैं जिन्हें हल करने की आवश्यकता है।

1. गार्डरेल रनटाइम पर व्यवहार को लागू करते हैं। स्कीमा चेक, असुरक्षित-पैरामीटर ब्लॉकर, अनुमति चेक, पीआईआई रेडैक्शन, प्रॉम्प्ट-इंजेक्शन रक्षा, और टूल-उपयोग सीमाएं असुरक्षित व्यवहार को होने से पहले रोकने के लिए मौजूद हैं।
2. मूल्यांकन समय के साथ प्रदर्शन को मापते हैं। वे गुणवत्ता, ड्रिफ्ट, टूल चयन, एस्केलेशन गुणवत्ता, लागत, देरी, और नीति अनुपालन की जांच करते हैं। वे संस्था को बताते हैं कि क्या प्रणाली अभी भी विश्वास के योग्य है।

एक वर्तमान निर्णय की रक्षा करता है। दूसरा भविष्य के निर्णयों में सुधार करता है।

गार्डरेल और मूल्यांकन अलग-अलग उद्देश्यों की सेवा करते हैं, और जिम्मेदार लोग भी अलग-अलग होते हैं। प्लेटफ़ॉर्म नीति को लागू करता है। ऑपरेटर परिणामों का मूल्यांकन करते हैं। एक साथ, वे प्रतिक्रिया लूप बनाते हैं जो प्रणाली को प्रबंधन की बलि दिए बिना सुधारने की अनुमति देता है।

प्रणाली नीति को पुनर्प्राप्त करती है, दावा रिकॉर्ड, समर्थन दस्तावेज़, पूर्व मामलों, और संगठनात्मक प्लेबुक। यह ट्राइएज पैकेट तैयार करती है, गंभीरता की सिफारिश करती है,लापता साक्ष्य की पहचान करती है, और यदि नियमों की आवश्यकता है तो एक धोखाधड़ी उपमामला खोलती है। समायोजक प्रस्तावित आंदोलन, समर्थन साक्ष्य, कारण कोड, ऑडिट रिकॉर्ड, और अनुमोदन के परिणाम को देखता है। समीक्षक मामले को बदलने के बजाय सिफारिश को ही सत्यापित कर सकता है। केवल सत्यापन के बाद स्वचालन मामला अपडेट करता है, भुगतान जारी करता है, अतिरिक्त दस्तावेज़ का अनुरोध करता है, या काम बंद करता है।

एक दावा कार्यप्रवाह यह दिखाता है कि यह व्यवहार में कैसे काम करता है। एजेंट ने एक प्रक्रिया को याद नहीं किया। यह एक प्रकाशित मानचित्र के भीतर कार्य किया।

वास्तुकला को काम का पालन करना चाहिए

यह सिद्धांत किसी भी तरह से लागू होता है जिसमें काम स्वयं संगठित है। हर एंटरप्राइज़ समस्या का एक ही आकार नहीं होता है, और प्रबंधन को इसका प्रतिबिंबित करना चाहिए। कुछ काम एक लक्ष्य से शुरू होता है। कुछ मामले से शुरू होते हैं; कुछ एक स्थिर कार्यप्रवाह से शुरू होते हैं। वास्तुकला को काम का पालन करना चाहिए, न कि इसके विपरीत।

एक लक्ष्य-नेतृत्व वाली तैनाती एक निर्धारित मार्ग के बजाय एक परिणाम के साथ शुरू होती है। इस ग्राहक एस्केलेशन को हल करें। इस खाते पर चूर्ण जोखिम को कम करें। इस धोखाधड़ी संकेत की जांच करें। इस नवीनीकरण योजना को तैयार करें। गंतव्य स्पष्ट है, लेकिन मार्ग नई जानकारी के आने पर बदल सकता है। एक मास्टर एजेंट काम को तोड़ता है, अनुमोदित एजेंटों और टूल्स का उपयोग करता है, अनुमोदित स्वचालन को Invoke करता है, और नियंत्रित सीमाओं के भीतर मानव कार्य को सौंपता है। इसकी ताकत लचीलापन है। इसका जोखिम यह है कि लचीलापन स्पष्ट प्रतिबंधों के बिना अप्रत्याशितता बन जाता है।

यही कारण है कि लचीली प्रणालियों को मजबूत प्रबंधन की आवश्यकता होती है, कम नहीं। स्पष्ट कार्यप्रवाह सीमाएं, स्वचालन अनुमतियां, निर्णय अधिकार, ऑडिट रिकॉर्ड, और एस्केलेशन नियम लचीली प्रणालियों में अधिक महत्वपूर्ण हो जाते हैं क्योंकि एआई अधिक क्षमतावान हो जाता है। जितना अधिक एजेंट को अपना मार्ग निर्धारित करने की स्वतंत्रता होगी, संस्था को उतना ही अधिक सावधानी से परिभाषित करना होगा कि यह किस सीमा के भीतर काम कर सकता है।

एंटरप्राइज़ एआई तब तक सफल नहीं होगा जब तक कि हर निर्णय में लूप में एक मानव न हो।

यह तब सफल होगा क्योंकि संस्थाएं लूप का निर्माण करना सीखती हैं।