विचार नेता
एंटरप्राइज़ एआई बियॉन्ड एक्सपेरिमेंट्स: सुरक्षित रूप से स्केल करने के लिए क्या लगता है
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
कई व्यवसायों में, एआई पहले से ही एक सरल खोज उपकरण से अधिक हो गया है: चैटबॉट और कोपायलट सक्रिय रूप से उपयोग किए जा रहे हैं, और विश्लेषण और ग्राहक सेवा में पायलट चल रहे हैं। लेकिन केवल कुछ ही इन पहलों को स्थिर, शासित समाधानों में बदलने में सफल रहे हैं जो मुख्य व्यवसायिक प्रक्रियाओं में निहित हैं। अक्सर, प्रबंधन प्रौद्योगिकी को प्रबंधकों या व्यक्तिगत भूमिकाओं के प्रतिस्थापन के रूप में मानता है, इसके बजाय इसे प्रक्रियाओं, जोखिम प्रबंधन और निर्णय लेने की वास्तुकला के हिस्से के रूप में शुरू से ही डिज़ाइन करता है।
सबसे बड़े जोखिम उन क्षेत्रों में हैं जहां गलतियों की कीमत चुकानी पड़ती है। हम वित्त, भुगतान, मनी लॉन्ड्रिंग और कानूनी निर्णयों की बात कर रहे हैं। एआई आत्मविश्वासी लग सकता है और फिर भी गलत हो सकता है। एक गलती प्रणाली में फैल सकती है जैसे कि ग्लास में एक दरार। प्रबंधकीय प्रक्रियाओं में गलतियां भी जोखिम भरी होती हैं: प्रौद्योगिकी संदर्भ को महसूस नहीं कर सकती है या आंतरिक टीम की राजनीति को नहीं समझती है – या यह कैसे समय के साथ बदलती है।
यूरोपीय एआई अधिनियम वर्गीकृत सिस्टम जो सुरक्षा, मौलिक अधिकारों और महत्वपूर्ण बुनियादी ढांचे को प्रभावित करते हैं, को उच्च जोखिम वाले के रूप में। यह कंपनियों पर विशेष आवश्यकताएं लगाता है जो शासन, पारदर्शिता और मानव पर्यवेक्षण से संबंधित हैं। अंतर्निहित तर्क यह है कि आपको पहले संदर्भ को स्पष्ट रूप से परिभाषित करने की आवश्यकता है, और फिर स्वायत्तता के उपयुक्त स्तर और मॉडल के प्रकार का निर्णय लें।
जहां एआई को सख्ती से नियंत्रित किया जाना चाहिए
सबसे गंभीर परिणाम वित्तीय और कानूनी प्रक्रियाओं में गलतियों से उत्पन्न होते हैं। भुगतान तर्क में एक गलत कदम तुरंत लाभ और हानि को प्रभावित कर सकता है, नियामक मुद्दों को ट्रिगर कर सकता है और प्रतिष्ठा को नुकसान पहुंचा सकता है। नियामक पहले से ही स्पष्ट रूप से चेतावनी दे रहे हैं कि ऐसी विफलताएं एक सिस्टमिक जोखिम का स्रोत बन सकती हैं।
आधुनिक एआई सिस्टम और भी जटिल हैं और उद्यम के बुनियादी ढांचे के साथ अधिक जुड़े हुए हैं, जिसका अर्थ है कि दुर्लभ विफलताओं की लागत बढ़ती रहती है। प्रबंधकीय प्रक्रियाएं समान रूप से जोखिम भरी होती हैं – प्रदर्शन मूल्यांकन, एचआर निर्णय, और बजट आवंटन। जब एआई को सावधानी से डिज़ाइन किए बिना उस प्रकार के कार्य प्रवाह में डाला जाता है, तो यह दृश्यमान मेट्रिक्स के लिए अनुकूलन करता है जबकि मानव संदर्भ, आंतरिक गतिविधियों और अनौपचारिक समझौतों को याद करता है।
जहां एआई को सीमित और शासित किया जाना चाहिए
चेतावनी के संकेत सरल हैं: एआई को सख्त नियंत्रण की आवश्यकता है जहां निर्णय उलट नहीं किए जा सकते हैं, जहां नियामक और लेखा परीक्षा शामिल हैं, और जहां प्रतिष्ठा प्रक्रिया की गति से अधिक मायने रखती है। इन सभी क्षेत्रों में, यह समझ में आता है कि एआई को एक सहायक भूमिका तक सीमित रखा जाए, जिसमें विकल्प तैयार करने, जांच के लिए झंडे लगाने और कार्य प्रवाह का समर्थन करने के लिए, लेकिन अंतिम बटन दबाने के लिए नहीं।
यह तब भी सख्त शासन की आवश्यकता है जब कोई स्पष्ट रूप से समझा नहीं सकता है कि निर्णय कैसे लिए जाते हैं। उस प्रकार के वातावरण में, एआई एक शोर एम्पलीफायर की तरह काम करता है: यह अंतर्निहित समस्या को नहीं ठीक करता है, यह इसे बड़ा बनाता है। हाल के सर्वेक्षण दिखाते हैं कि स्पष्ट वास्तुकला और जवाबदेही के बिना एआई को स्केल करने वाले संगठन व्यवसायिक नुकसान और नियामक प्रतिक्रिया दोनों का सामना करते हैं।
मॉडल परिवर्तनशीलता: इंटर्न जिसे आपको दो बार जांचना होगा
एक कम स्पष्ट लेकिन बहुत वास्तविक जोखिम कारक परिवर्तनशीलता है। आज, एआई ने अच्छी तरह से जवाब दिया। कल, यह अलग तरह से जवाब देता है, भले ही प्रश्न वही हो। कभी-कभी यह बुद्धिमान लगता है लेकिन अर्थहीन बातें कहता है। यह एक इंटर्न की तरह है जिसके पास संदर्भ अनुभव नहीं है: अच्छी तरह से इरादा और कड़ी मेहनत कर रहा है, लेकिन हमेशा समीक्षा की आवश्यकता है।
जो कंपनियां इसे गंभीरता से लेती हैं नियंत्रण तंत्र बनाती हैं। वे एक ही कार्य पर समय के साथ आउटपुट की तुलना करते हैं और न केवल उत्तर की गुणवत्ता का मूल्यांकन करते हैं, बल्कि इसकी स्थिरता का भी मूल्यांकन करते हैं। जब मॉडल शुरू होता है या डगमगाता है, तो टीमें इसे जल्दी से पहचान सकती हैं।
महत्वपूर्ण प्रक्रियाओं में, तर्क सरल है – एआई तैयार करता है और हाइलाइट करता है लेकिन मानव निर्णय लेते हैं और पुष्टि करते हैं। अंतिम कार्रवाई हमेशा एक व्यक्ति के साथ रहनी चाहिए। उच्च जोखिम वाले संचालन के लिए, 100% समीक्षा आवश्यक है; सरल लोगों के लिए, नमूनाकरण पर्याप्त हो सकता है क्योंकि जिम्मेदारी स्वचालित नहीं की जा सकती है।
आमल अधिकारी, वित्त, और अनुपालन के लिए समान भूमिकाएं जिम्मेदार रहती हैं जैसा कि पहले थीं। एआई जवाबदेही को नहीं बदलता है; यह गति को बदलता है। प्रमुख प्रौद्योगिकी कंपनियों ने लंबे समय से अपने आंतरिक मानकों में इसे औपचारिक बना दिया है – उदाहरण के लिए, माइक्रोसॉफ्ट के जिम्मेदार एआई मानक में स्पष्ट रूप से निर्दिष्ट किया गया है कि एआई सिस्टम की देखरेख और नियंत्रण के लिए जिम्मेदार हितधारकों को परिभाषित करना और वास्तविक संचालन की स्थिति में मानव पर्यवेक्षण सुनिश्चित करना आवश्यक है।
सुरक्षा एक आधार सेटिंग के रूप में
यहां पहला नियम स्पष्ट है: व्यक्तिगत डेटा को बाहरी मॉडलों पर नहीं भेजा जाना चाहिए। सभी एआई क्रियाओं को लॉग किया जाना चाहिए, ताकि आप हमेशा देख सकें कि किसने क्या किया और कब। एआई को कॉर्पोरेट परिधि के भीतर काम करना चाहिए – अब यह नियामक अनुपालन और साइबर सुरक्षा द्वारा संचालित एक आवश्यकता है।
कर्मचारी एआई के प्रति प्रतिक्रिया एक अनुमानित पैटर्न का पालन करते हैं। पहले जिज्ञासा आती है, फिर प्रतिस्थापन का डर, और फिर प्रत्येक चीज़ के पारदर्शी होने पर आश्वस्त। यही कारण है कि प्रशिक्षण को लक्षित, छोटे और व्यावहारिक होना चाहिए। मॉडल के काम करने के तरीके को सिखाने की जरूरत नहीं है – जो मायने रखता है वह यह सिखाना है कि एआई कहां मदद करता है और कहां इसे नियंत्रित किया जाना चाहिए।
अगले कुछ वर्षों के रुझान: बॉट्स से प्लेटफ़ॉर्म तक
अगले कुछ वर्षों को देखते हुए, रूपरेखा पहले से ही स्पष्ट है। पहले, उद्यम एकीकृत एआई प्लेटफ़ॉर्म की ओर बढ़ेंगे बजाय दर्जनों असंबंधित बॉट्स के। दूसरा, एआई को नियमों और पारंपरिक स्वचालन के साथ अधिक से अधिक जोड़ा जाएगा। गुणवत्ता नियंत्रण और लॉगिंग-बाय-डिफ़ॉल्ट भी मानक बन जाएंगे। एआई एक पृष्ठभूमि उपकरण में बदल जाएगा: यह ड्राफ्ट करेगा, सत्यापित करेगा और सुझाव देगा। दूसरे शब्दों में, एआई एक अच्छे सहायक की तरह काम करेगा। यह काम को तेज़ करता है, लेकिन यह दस्तावेज़ पर हस्ताक्षर नहीं करता है।
ये रुझान निश्चित रूप से उन कंपनियों के लिए अच्छी खबर हैं जिनकी प्रक्रियाएं अच्छी तरह से प्रलेखित हैं, जवाबदेही स्पष्ट है और जोखिम स्वीकार किए जाते हैं और मात्रा में हैं। वे एआई को शांति से और जल्दी से स्केल कर पाएंगे।
