विचार नेता
एआई गवर्नेंस: अधिकांश के लिए एक समस्या, कुछ के लिए एक लाभ
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
एंटरप्राइज एआई जोखिम को बहुत तेजी से जमा कर रहा है जितनी कि कोई भी इसके लिए खाता है। एआई एजेंट ग्राहक डेटा, उत्पादन कोड और परिणामी व्यवसायिक निर्णयों को छूना शुरू कर रहे हैं, और अधिकांश संगठनों में, वे एक बहुत ही अलग युग की प्रौद्योगिकी के लिए डिज़ाइन किए गए नियंत्रणों द्वारा शासित हैं।
मैं विभिन्न उद्योगों में कंपनियों के साथ रणनीतिक एआई कार्य करता हूं, और मैं सीईओ और बोर्ड के साथ दैनिक बातचीत करता हूं। मैं जो निरंतर पैटर्न देखता हूं वह इस प्रकार है: तैनाती तेजी से बढ़ रही है, जबकि नियंत्रण बुनियादी ढांचा बस इसके साथ तालमेल नहीं रख पा रहा है। यह पैटर्न इतना सुसंगत है कि मैं इसे संरचनात्मक मानता हूं, न कि किसी एक फर्म की विफलता के रूप में।
मुझे यह देखकर खुशी होती है कि मैं कुछ कंपनियों को पहले से ही देख रहा हूं जो शासन को अलग तरह से मान रही हैं, और मुझे लगता है कि वे फर्म लंबे समय से एक लाभ बना रही हैं जो समय के साथ जुड़ जाती है, जबकि अन्य पक्षों को खतरा है कि वे पुराने हो जाएंगे।
हम एक समस्या की ओर बढ़ रहे हैं
आज की तैनाती इतनी छोटी है कि मानव पर्यवेक्षण जोखिम को अवशोषित कर सकता है। डेलoitे के नवीनतम एआई इन द एंटरप्राइज रिसर्च में पाया गया कि केवल एक चौथाई सर्वेक्षण वाले संगठनों ने अपने एआई प्रयोगों में से कम से कम 40 प्रतिशत को उत्पादन में ले जाया था। अधिकांश उद्यम अभी भी कर्व पर शुरुआती हैं, संकीर्ण उपयोग के मामलों में कुछ एजेंट चला रहे हैं और लोग हर आउटपुट को ट्रैक कर रहे हैं।
त्रिज्या का क्या मायने है वह महत्वपूर्ण है। जब तैनाती दो एजेंट से 20, 200, 2,000 और आगे तक बढ़ती है, तो जटिलता जुड़ जाती है। प्रत्येक नए एजेंट में अपना व्यवहार होता है, साथ ही साथ वह प्रणाली जिसे वह छूता है और अन्य एजेंटों के साथ जो काम करता है। दो एजेंटों पर, विश्वास आसान है: आप टीम को जानते हैं और आप स्वयं आउटपुट की समीक्षा करते हैं। 20 पर, विश्वास को एक प्रक्रिया बनना होगा, जिसमें परिभाषित मालिक, परीक्षण और एस्केलेशन पथ हों। यह अभी भी काम कर सकता है, लेकिन यह बनाए रखना कठिन हो रहा है। 200 पर, अनौपचारिक समीक्षा एक नाटक बन जाती है, क्योंकि कोई नेतृत्व टीम इतनी गतिविधि को देख नहीं सकती। और 2,000 पर, मानव लूप में लगभग बेकार है, क्योंकि एजेंटों, डेटा और व्यवसाय प्रक्रियाओं के बीच बातचीत एक जाल बनाती है जो मैनुअल पर्यवेक्षण से परे है। उस पैमाने पर, विश्वास को भी पैमाने पर मौजूद होना चाहिए और इसे फर्म की तकनीकी वास्तुकला में निहित किया जाना चाहिए।
प्रतीक्षा की लागत
गुम विश्वास बुनियादी ढांचा भी निराशाजनक रिटर्न के कारणों में से एक है। पीडब्ल्यूसी के नवीनतम ग्लोबल सीईओ सर्वे में, 56% मुख्य कार्यकारी अधिकारियों ने कहा कि एआई ने पिछले वर्ष में न तो राजस्व बढ़ाया है और न ही लागत कम की है। मेरे अनुभव में, यहां तक कि रिपोर्ट की गई रिटर्न भी कम आश्वस्त दिखती हैं जब आप अंतर्निहित अर्थशास्त्र की जांच करते हैं। अधिकांश फर्म घंटे बचाते हैं और इसे रिटर्न ऑन इन्वेस्टमेंट कहते हैं। घंटे बचाए जाते हैं तभी वित्तीय रिटर्न बनते हैं जब संगठन उस क्षमता को कुछ अधिक मूल्यवान में परिवर्तित करता है: अधिक उत्पादन, बेहतर गुणवत्ता, बचाई गई लागत, तेजी से विकास, आदि।
इस रूपांतरण के लिए विश्वास की आवश्यकता है। एक संगठन मानव निर्णय को उच्च मूल्य वाले काम में स्थानांतरित कर सकता है जब नेतृत्व उन प्रणालियों पर विश्वास करता है जो निचले मूल्य वाले काम को अपने आप ले जा रही हैं। विश्वास के अभाव में, कंपनियां तकनीकी ऋण जमा करती हैं जो पैमाने पर नहीं होती है, और समय के साथ, यह उत्पादकता पर महत्वपूर्ण प्रभाव डालता है। यह दोनों दुनिया का सबसे बुरा है: बढ़ी हुई खर्च के साथ बहुत कम दिखाने के लिए। विश्वास वह आधार है जिस पर ये रिटर्न जमा होते हैं।
लिफ्ट समस्या
विश्वास और अपनाने के बीच का संबंध नया नहीं है, और हम मध्य-20वीं शताब्दी में एक उचित संदर्भ बिंदु के लिए वापस जा सकते हैं। चालक रहित लिफ्ट का अस्तित्व दशकों से पहले से ही था, लेकिन कोई भी उनमें सवारी नहीं करना चाहता था। जो बदला वह लिफ्ट नहीं था, बल्कि इसके आसपास के सुरक्षा नियंत्रण थे। 1945 के एक ऑपरेटरों के हड़ताल ने न्यूयॉर्क भर में कार्यालय भवनों को बंद कर दिया, उद्योग ने मशीन में विश्वास बनाया: आपातकालीन रोक बटन, टेलीफोन लाइन, प्रतिरोध को पूरा करने पर फिर से खुलने वाले दरवाजे और एक रिकॉर्ड की गई आवाज जो बताती है कि क्या करना है। एक पीढ़ी के भीतर, एक मानव के नियंत्रण के बिना लिफ्ट में सवारी करना इतना सामान्य हो गया कि एक व्यक्ति के साथ लिफ्ट में प्रवेश करना पुराना महसूस हुआ। मानव लूप से हटाने के लिए बाधा कभी क्षमता नहीं थी। यह विश्वास था, और उद्योग ने इसे हल किया द्वारा मशीन में दृश्यमान, सत्यापित नियंत्रण बनाना और उन्हें हर यात्री के लिए दिखाई देने के लिए रखा।
एंटरप्राइज एआई उस चरण में है जहां आप कदम रखें, कदम वापस लें। नेतृत्व टीमें एजेंटों को मानव नियंत्रण के बिना काम करते हुए देखती हैं और हिचकिचाती हैं, और यह हिचकिचाहट तर्कसंगत है: अधिकांश संगठनों ने अभी तक रोक बटन, फोन लाइन और दरवाजे का समकक्ष नहीं बनाया है जो आपको बंद नहीं करेगा। जो कंपनियां अपनी प्रणालियों में ये नियंत्रण इंजीनियर करती हैं वे वही होंगी जिनके लोग, ग्राहक और नियामक प्रवेश करेंगे और रहेंगे।
विक्रेता केवल इसका एक हिस्सा ले जा सकते हैं
कई नेता उम्मीद करते हैं कि उनके एआई विक्रेता विश्वास के बोझ को वहन करेंगे। विक्रेता मॉडल-स्तर के सुरक्षा उपाय और सुरक्षा नियंत्रण प्रदान कर सकते हैं, और अच्छे लोग ऐसा करते हैं। यह तय करना कि कोई विशिष्ट तैनाती आपके डेटा, आपके नियामक दायित्वों, आपके ग्राहकों और आपकी जोखिम सहनशीलता के लिए उपयुक्त है या नहीं, आपका काम है, क्योंकि आपके विक्रेता के पास यह करने के लिए संदर्भ नहीं है। उन्होंने आपके दायित्वों को कभी नहीं देखा है, और उन्हें यह नहीं पता है कि एक बुरा परिणाम आपको कितना खर्च करेगा।
एक विक्रेता की सुरक्षा प्रतिबद्धता उनके मॉडल को कवर करती है, न कि इसका आपके द्वारा उपयोग। यह स्थायी भी नहीं है: पिछले वर्ष ने दिखाया है कि ये प्रतिबद्धताएं संशोधित या वापस ली जा सकती हैं। नियंत्रित उद्योगों ने इस प्रश्न को लंबे समय से तीसरे पक्ष के मॉडल के लिए हल कर लिया है, और उन्होंने जो मानक तय किया है वह सही है: मॉडल तैनात करने वाली संस्था जोखिम का मालिक है।
कुछ क्या कर रहे हैं
आगे निकलने वाली कंपनियां तीन चालें बना रही हैं:
- वे अब नियंत्रण बुनियादी ढांचा बना रहे हैं, जो उन्हें जिस पैमाने पर पहुंचाना है उसके लिए आकार दिया गया है, न कि जिस पैमाने पर वे हैं, क्योंकि नियंत्रणों को एजेंटों से पहले मौजूद होना चाहिए जिन्हें उनकी आवश्यकता है।
- वे जोखिम वर्गीकरण और शमन को तैनाती प्रक्रिया की शुरुआत में निहित कर रहे हैं, न कि अंत में समीक्षा गेट के रूप में, ताकि प्रत्येक उपयोग का मामला वर्गीकृत किया जा सके और नियंत्रण जोखिम के अनुपात में हों।
- और वे स्वतंत्र शासन को खड़ा कर रहे हैं जिसके पास वास्तविक प्राधिकरण है ताकि यह सत्यापित किया जा सके कि ये प्रणाली इरादा के अनुसार व्यवहार करती हैं, लचीले पर्याप्त हैं ताकि वे प्रौद्योगिकी के साथ विकसित हो सकें। स्वतंत्रता सत्यापन को विश्वसनीय बनाती है। लचीलापन इसे वर्तमान रखता है।
यह ध्यान देने योग्य है कि कुछ नियामकों ने जनरेटिव एआई के उपयोग और पर्यवेक्षण के आसपास स्पष्ट नियम स्थापित नहीं किए हैं, लेकिन इसका मतलब यह नहीं है कि हमारे पास मार्गदर्शन के लिए कुछ नहीं है। नियामकों ने पारंपरिक मॉडलों के प्रबंधन के लिए स्थापित नियम हैं, और हम उन्हें एक मार्गदर्शक के रूप में उपयोग कर सकते हैं। अप्रैल में, फेडरल रिजर्व, ओसीसी और एफडीआईसी ने संशोधित मॉडल जोखिम मार्गदर्शन जारी किया, जो दशकों के अभ्यास को प्रतिबिंबित करता है, एक सिद्धांत-आधारित दृष्टिकोण जिसमें मॉडल इन्वेंट्री, जोखिम-आधारित नियंत्रण, स्वतंत्र सत्यापन, निरंतर निगरानी और एआई के लिए उद्यम जिम्मेदारी शामिल है। संदेश स्पष्ट है: जो सिद्धांत काम करते हैं वे ज्ञात हैं, और औपचारिक एआई नियम जल्द ही नहीं आ रहे हैं। जो उद्यम प्रतीक्षा कर रहे हैं वे प्रतीक्षा करेंगे जबकि कुछ कार्रवाई करेंगे। यही कारण है कि भारी नियंत्रित उद्योग, जिन्हें अक्सर धीमा बताया जाता है, इस युग में एक शुरुआती बढ़त के साथ प्रवेश करते हैं। उन्होंने दशकों बिताए हैं जिस विश्वास मशीनरी का निर्माण किया है जिसकी अब सभी को जरूरत है, और वे इसका उपयोग करने की अनुमति के लिए प्रतीक्षा नहीं कर रहे हैं।
जो प्रश्न महत्वपूर्ण है
विभाजन पहले से ही形成 हो रहा है। अधिकांश कंपनियां शासन को एक लागत के रूप में मानती हैं: कुछ ऐसा जो अवशोषित, सहन किया जाता है और कम किया जाता है। कुछ इसे बुनियादी ढांचे के रूप में मानते हैं जो उन्हें उच्च मूल्य वाले काम में लोगों को स्थानांतरित करने और आत्मविश्वास के साथ पैमाने पर करने देता है। प्रत्येक नेतृत्व टीम एक या दूसरे पक्ष में है, चाहे वे जानबूझकर चुनें या नहीं, और अंतर धीरे-धीरे बढ़ रहा है जो इसे उजागर करेगा। कोई भी आज लिफ्ट में कदम रखने के बारे में दो बार नहीं सोचता, क्योंकि विश्वास इसमें निर्मित है। एआई के लिए ऐसा करने वाली कंपनियां उन सभी को पीछे छोड़ देंगी जो अभी भी इसमें कदम रखने के बारे में सोच रही हैं।
