उद्यम एआई प्रयोगों से परे: सुरक्षित रूप से विस्तार करने के लिए क्या लगता है

कई व्यवसायों में, एआई अब केवल एक सरल खोज उपकरण से अधिक हो गया है: चैटबॉट और कोपायलट सक्रिय रूप से उपयोग किए जा रहे हैं, और विश्लेषण और ग्राहक सेवा में पायलट चल रहे हैं। लेकिन केवल कुछ ही इन पहलों को स्थिर, शासित समाधानों में बदलने में कामयाब रहे हैं जो मूल व्यवसायिक प्रक्रियाओं में निहित हैं। अक्सर, प्रबंधन प्रौद्योगिकी को प्रबंधकों या व्यक्तिगत भूमिकाओं के प्रतिस्थापन के रूप में मानता है, इसके बजाय इसे प्रक्रियाओं, जोखिम प्रबंधन और निर्णय लेने की वास्तुकला के हिस्से के रूप में शुरू से ही डिज़ाइन करता है।

सबसे बड़े जोखिम वहां हैं जहां गलतियों की लागत होती है। हम वित्त, भुगतान, मनी लॉन्ड्रिंग और कानूनी निर्णयों की बात कर रहे हैं। एआई आत्मविश्वासी लग सकता है और फिर भी गलत हो सकता है। एक単 एक त्रुटि प्रणाली में एक दरार की तरह फैल सकती है। प्रबंधकीय प्रक्रियाओं में त्रुटियां भी खतरनाक हैं: प्रौद्योगिकी संदर्भ को महसूस नहीं कर सकती है या आंतरिक टीम की राजनीति को नहीं समझती है – या यह कैसे समय के साथ बदलती है।

यूरोपीय एआई अधिनियम वर्गीकृत करता है सिस्टम जो सुरक्षा, मौलिक अधिकारों और महत्वपूर्ण बुनियादी ढांचे को प्रभावित करते हैं उच्च जोखिम वाले रूप में। यह कंपनियों पर विशेष आवश्यकताएं लगाता है शासन, पारदर्शिता और मानव पर्यवेक्षण के संबंध में। अंतर्निहित तर्क यह है कि आपको पहले संदर्भ को स्पष्ट रूप से परिभाषित करने की आवश्यकता है, और केवल तभी स्वायत्तता के उपयुक्त स्तर और मॉडल के प्रकार का निर्णय लें।

जहां एआई को कसकर नियंत्रित किया जाना चाहिए

सबसे गंभीर परिणाम वित्तीय और कानूनी प्रक्रियाओं में त्रुटियों से उत्पन्न होते हैं। भुगतान तर्क में एक गलत कदम तुरंत लाभ और हानि को प्रभावित कर सकता है, नियामक मुद्दों को ट्रिगर कर सकता है और प्रतिष्ठा को नुकसान पहुंचा सकता है। नियामक पहले से ही स्पष्ट रूप से चेतावनी दे रहे हैं कि ऐसी विफलताएं एक सिस्टमिक जोखिम का स्रोत बन सकती हैं।

आधुनिक एआई सिस्टम और भी जटिल हैं और उद्यम के बाकी बुनियादी ढांचे के साथ अधिक जुड़े हुए हैं, जिसका अर्थ है कि दुर्लभ विफलताओं की लागत बढ़ती रहती है। प्रबंधकीय प्रक्रियाएं समान रूप से जोखिम भरी हैं – प्रदर्शन मूल्यांकन, एचआर निर्णय और बजट आवंटन। जब एआई को इस प्रकार के कार्य प्रवाह में सावधानी से डिज़ाइन किए बिना डाला जाता है, तो यह दिखाई देने वाले मेट्रिक्स के लिए अनुकूलन करता है जबकि मानव संदर्भ, आंतरिक गतिविधियों और अनौपचारिक समझौतों को याद करता है।

जहां एआई को सीमित और शासित किया जाना चाहिए

मुख्य चेतावनी संकेत सरल हैं: एआई को सख्त नियंत्रण की आवश्यकता है जहां निर्णयों को उलटाया नहीं जा सकता है, जहां नियामक और लेखा परीक्षा शामिल हैं, और जहां प्रतिष्ठा प्रक्रिया की गति से अधिक मायने रखती है। इन सभी क्षेत्रों में, यह एआई को एक सहायक भूमिका तक सीमित करने के लिए समझ में आता है विकल्प तैयार करने के लिए, जांच के लिए क्या झंडा लगाना है, और कार्य प्रवाह का समर्थन करना, लेकिन अंतिम बटन कभी नहीं दबाना।

यह तब भी सख्त शासन की आवश्यकता है जब कोई स्पष्ट रूप से समझा नहीं सकता है कि निर्णय कैसे लिए जाते हैं। उस प्रकार के वातावरण में, एआई एक शोर एम्प्लीफायर की तरह कार्य करता है: यह अंतर्निहित समस्या को ठीक नहीं करता है, यह इसे बड़ा बनाता है। हाल के सर्वेक्षण दिखाते हैं कि स्पष्ट वास्तुकला और जवाबदेही के बिना एआई को स्केल करने वाले संगठन व्यावसायिक नुकसान और नियामक पुशबैक का सामना करते हैं।

मॉडल परिवर्तनशीलता: इंटर्न जिसे आपको दो बार जांचना होगा

एक कम स्पष्ट लेकिन बहुत वास्तविक जोखिम कारक परिवर्तनशीलता है। आज, एआई ने अच्छी तरह से उत्तर दिया। कल, यह एक ही प्रश्न के लिए अलग तरह से उत्तर देता है। कभी-कभी यह बुद्धिमान लगता है लेकिन अर्थहीन बातें कहता है। यह एक इंटर्न की तरह है जिसके पास संदर्भ अनुभव नहीं है: अच्छी तरह से इरादा और कोशिश कर रहा है, लेकिन हमेशा समीक्षा की आवश्यकता है।

कंपनियां जो इसे गंभीरता से लेती हैं नियंत्रण तंत्र बनाती हैं। वे एक ही कार्य पर समय के साथ आउटपुट की तुलना करते हैं और न केवल उत्तर की गुणवत्ता का मूल्यांकन करते हैं, बल्कि इसकी स्थिरता का भी मूल्यांकन करते हैं। जब मॉडल शुरू होता है या डगमगाता है, तो टीमें इसे जल्दी से पहचान सकती हैं।

गंभीर प्रक्रियाओं में, तर्क सरल है – एआई तैयार करता है और हाइलाइट करता है लेकिन मानव निर्णय लेते हैं और पुष्टि करते हैं। अंतिम कार्रवाई हमेशा एक व्यक्ति के साथ रहनी चाहिए। उच्च जोखिम वाले संचालन के लिए, 100% समीक्षा आवश्यक है; सरल लोगों के लिए, नमूनाकरण पर्याप्त हो सकता है क्योंकि जिम्मेदारी को स्वचालित नहीं किया जा सकता है।

एक ही भूमिकाएं जिम्मेदार रहती हैं जैसा कि एआई से पहले था: एएमएल अधिकारी, वित्त और अनुपालन। एआई जिम्मेदारी को नहीं बदलता है; यह गति को बदलता है। प्रमुख प्रौद्योगिकी कंपनियों ने लंबे समय से अपने आंतरिक मानकों में इसे औपचारिक बना दिया है – उदाहरण के लिए, माइक्रोसॉफ्ट के जिम्मेदार एआई मानक में स्पष्ट रूप से आवश्यकता होती है हितधारकों को परिभाषित करने के लिए जो एआई सिस्टम की देखरेख और नियंत्रण के लिए जिम्मेदार हैं और वास्तविक संचालन की स्थिति में मानव पर्यवेक्षण सुनिश्चित करते हैं।

सुरक्षा को आधार सेटिंग के रूप में

यहां पहला नियम सीधा है: व्यक्तिगत डेटा को बाहरी मॉडलों पर नहीं भेजा जाना चाहिए। सभी एआई क्रियाओं को लॉग किया जाना चाहिए, ताकि आप हमेशा देख सकें कि किसने क्या किया और कब। एआई को कॉर्पोरेट परिधि के भीतर काम करना चाहिए – अब यह नियामक अनुपालन और साइबर सुरक्षा से चलने वाली आवश्यकता है।

कर्मचारियों की प्रतिक्रिया एआई के प्रति एक अनुमानित पैटर्न का पालन करती है। पहले जिज्ञासा आती है, फिर प्रतिस्थापन का डर, और फिर सब कुछ पारदर्शी होने पर आश्वस्त होता है। यही कारण है कि प्रशिक्षण को लक्षित, छोटा और व्यावहारिक होना चाहिए। मॉडल के काम करने के तरीके को सिखाने की कोई जरूरत नहीं है – जो मायने रखता है वह यह सिखाना है कि एआई कहां मदद करता है और कहां इसे नियंत्रित किया जाना चाहिए।

अगले कुछ वर्षों के रुझान: बॉट्स से प्लेटफ़ॉर्म तक

अगले कुछ वर्षों को देखते हुए, रूपरेखा पहले से ही स्पष्ट है। पहले, उद्यम एकीकृत एआई प्लेटफ़ॉर्म की ओर बढ़ेंगे जो दर्जनों अलग-अलग बॉट्स के बजाय। दूसरा, एआई नियमों और पारंपरिक स्वचालन के साथ अधिक से अधिक जुड़ा होगा। गुणवत्ता नियंत्रण और लॉगिंग-डिफ़ॉल्ट भी मानक बन जाएगी। एआई एक पृष्ठभूमि उपकरण में बदल जाएगा: यह मसौदा तैयार करेगा, सत्यापित करेगा और सुझाव देगा। दूसरे शब्दों में, एआई एक अच्छे सहायक की तरह काम करेगा। यह काम को तेज करता है, लेकिन दस्तावेजों पर हस्ताक्षर नहीं करता है।

इन रुझानों के लिए निश्चित रूप से अच्छी खबर है कंपनियों के लिए जिनके पास अच्छी तरह से दस्तावेज़ की गई प्रक्रियाएं हैं, स्पष्ट जवाबदेही और जोखिम हैं जो स्वीकार किए जाते हैं और मात्रा में हैं। वे एआई को शांति से और जल्दी से स्केल कर पाएंगे।