विचार नेता

जब एआई ऑपरेशन में प्रवेश करता है, तो व्याख्या करने योग्य बनना अनिवार्य हो जाता है

VimalRaj Sampathkumar
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुएक्सप्लेनेबल एआई उच्च-जोखिम संचालनों में स्वचालित निर्णयों का निरीक्षण करके टीमों का…
और देखें
  • एक्सप्लेनेबल एआई उच्च-जोखिम संचालनों में स्वचालित निर्णयों का निरीक्षण करके टीमों का विश्वास बनाता है।
  • पारदर्शी एआई प्रणालियाँ जवाबदेही स्थापित करती हैं और अनुरेखणीय तर्क के माध्यम से घटना समाधान को तेज़ करती हैं।
  • ऑपरेशनल एआई अपनाने का विस्तार तभी संभव है जब समझ स्वचालन की जटिलता के साथ कदम मिलाकर चले।

एंटरप्राइज़ एआई अपनाने ने एक अधिक व्यावहारिक चरण में प्रवेश किया है। प्रौद्योगिकी नेताओं के लिए, चुनौती अब संगठन को यह समझाने में नहीं है कि एआई की संभावना है। यह सुनिश्चित करना है कि संचालन निर्णयों को प्रभावित करने वाली प्रणालियों को समझा जा सकता है, शासित किया जा सकता है और बचाव किया जा सकता है।

एआई तब अपना स्थान एंटरप्राइज़ में कमाता है जब लोग इस पर भरोसा करने को तैयार होते हैं। यह भरोसा केवल प्रदर्शन आंकड़ों पर नहीं बनता है। यह इस बात पर निर्भर करता है कि टीमें महसूस करती हैं कि वे नियंत्रण बनाए रखेंगी या नहीं जब स्वचालन दैनिक कार्य प्रवाह का हिस्सा बन जाता है।

अनेक संगठनों में, यह नियंत्रण की भावना अभी भी अनिश्चित है।

अपारदर्शिता अपनाने को कैसे धीमा करती है

एआई अब आईटी ऑपरेशन में निहित है, सेवा अनुरोधों की रूटिंग से लेकर घटना संबंध और क्षमता योजना तक। ये ऐसे वातावरण हैं जहां निर्णय आपस में जुड़े हुए हैं और गलतियां जल्दी बढ़ जाती हैं। जब एआई आउटपुट संदर्भ के बिना दिखाई देते हैं, तो टीमें अक्सर संकोच करती हैं। स्वचालन तकनीकी रूप से तैनात किया जा सकता है, लेकिन इसकी सिफारिशों को दोबारा जाँचा जाता है, विलंबित होती हैं या चुपचाप अलग कर दी जाती हैं।

इस व्यवहार को अक्सर गलत ढंग से परिवर्तन का प्रतिरोध समझा जाता है। वास्तव में, यह उच्च जोखिम वाले संचालन वातावरण में पेशेवर जिम्मेदारी को दर्शाता है। एआई की विफलताओं के सार्वजनिक उदाहरण ने इस सावधानी को तेज किया है। जब स्वचालित प्रणालियां आत्मविश्वास से भरे आउटपुट उत्पन्न करती हैं जो गलत साबित होते हैं, तो नुकसान शायद ही कभी अकेले महत्वाकांक्षा के कारण होता है। यह अपारदर्शिता से उत्पन्न होता है। यदि कोई यह समझाने में सक्षम नहीं है कि एक निष्कर्ष कैसे पहुंचा गया, तो विश्वास कम हो जाता है, भले ही प्रणाली आमतौर पर सटीक हो।

आईटी टीमों के भीतर, यह सूक्ष्म रूप से प्रकट होता है। स्वचालन सलाहकार मोड में काम करता है, निष्पादन मोड में नहीं। इंजीनियर अभी भी परिणामों के लिए जिम्मेदार होते हैं और उन्हें तर्क पर भरोसा करने की अपेक्षा की जाती है जिसे वे जांच नहीं सकते हैं। समय के साथ, यह असंतुलन घर्षण पैदा करता है। एआई मौजूद है, लेकिन इसका मूल्य सीमित है।

पारदर्शी एआई प्रक्रिया

अधिक पारदर्शिता और व्याख्येयता इस समस्या को संबोधित कर सकते हैं और स्वचालित निर्णय लेने में जिम्मेदारी बहाल करके इसे हल कर सकते हैं। व्याख्या करने योग्य एआई का अर्थ यह नहीं है कि हर आंतरिक गणना को उजागर किया जाए। इसका अर्थ है मानव ऑपरेटरों के लिए प्रासंगिक अंतर्दृष्टि प्रदान करना; कौन सा डेटा एक निर्णय को प्रभावित करता है, कौन सी स्थितियों में सबसे अधिक वजन होता है, और आत्मविश्वास स्तरों का मूल्यांकन कैसे किया जाता है। यह संदर्भ टीमों को यह तय करने की अनुमति देता है कि आउटपुट संचालन वास्तविकता के साथ संरेखित है या नहीं।

इसे व्हाइट-बॉक्स एआई के रूप में भी जाना जाता है, व्याख्या करने योग्य एआई एक प्रकार की व्याख्यात्मक परत बनाता है जो बताती है कि एआई निर्णय कैसे लिए गए, बजाय इसके कि उसकी प्रक्रियाएँ और तर्क नजरों से छिपे रहें। इसका अर्थ यह है कि एआई प्रणालियां एक अधिक जिम्मेदार ढांचे का हिस्सा बन सकती हैं, और उपयोगकर्ता समझते हैं कि प्रत्येक प्रणाली कैसे काम करती है। इसका अर्थ यह भी है कि एआई मॉडल की कमजोरियों की पहचान करना और पूर्वाग्रह से बचाव करना संभव होता है।

महत्वपूर्ण बात यह है कि व्याख्या करने योग्यता का अर्थ है कि जब कुछ गलत हो जाता है, तो टीमें तर्क के मार्ग को ट्रेस कर सकती हैं, कमजोर संकेतों की पहचान कर सकती हैं और प्रक्रिया को परिष्कृत कर सकती हैं। उस दृश्यता के बिना, त्रुटियों को या तो दोहराया जाता है या स्वचालन को अक्षम करके पूरी तरह से टाला जाता है।

व्याख्या करने योग्यता कार्रवाई में

घटना प्रबंधन पर विचार करें। एआई अक्सर अलर्ट को समूहित करने और संभावित कारणों का सुझाव देने के लिए उपयोग किया जाता है। बड़े एंटरप्राइज़ वातावरण में, एक बड़ी घटना के दौरान एक गलत वर्गीकृत निर्भरता के परिणामस्वरूप समाधान में घंटों की देरी हो सकती है, इस दौरान कई टीमें समानांतर जाँचों में लग जाती हैं और ग्राहकों को सेवाएँ देने वाली प्रणालियों का प्रदर्शन खराब बना रहता है। जब उन सुझावों के साथ यह स्पष्टीकरण होता है कि कौन से सिस्टम शामिल थे, निर्भरताओं तक कैसे पहुँच बनाई गई या पिछली किन घटनाओं का संदर्भ लिया गया, तो इंजीनियर त्वरित निर्णय ले सकते हैं। यदि यह गलत साबित होता है, तो उस अंतर्दृष्टि का उपयोग मॉडल और प्रक्रिया दोनों को परिष्कृत करने के लिए किया जा सकता है।

उस पारदर्शिता के बिना, टीमें मैनुअल निदान पर लौट जाती हैं, चाहे एआई कितना भी उन्नत क्यों न हो।

यह फीडबैक लूप स्थायी अपनाने के लिए केंद्रीय है। व्याख्या करने योग्य प्रणालियां उन लोगों के साथ विकसित होती हैं जो उनका उपयोग करते हैं। ब्लैक-बॉक्स प्रणाली, इसके विपरीत, आत्मविश्वास में गिरावट के बाद ठहर जाने या अलग रख दिए जाने की प्रवृत्ति रखती हैं।

जिम्मेदारी और स्वामित्व

व्याख्या करने योग्यता जिम्मेदारी के वितरण को भी बदलती है। संचालन वातावरण में, जिम्मेदारी स्वचालित निर्णय लेने के कारण गायब नहीं हो जाती है। किसी को अभी भी परिणाम के पीछे खड़ा होना चाहिए। जब एआई खुद को समझा सकता है, तो जिम्मेदारी अधिक स्पष्ट और प्रबंधनीय हो जाती है। निर्णयों की समीक्षा की जा सकती है, उचित ठहराया जा सकता है और सुधारा जा सकता है रक्षात्मक वैकल्पिक उपायों का सहारा लिए बिना।

एक शासन लाभ भी है, हालाँकि यह आंतरिक रूप से शायद ही कभी प्रमुख प्रेरक होता है। डेटा सुरक्षा और जवाबदेही के मौजूदा ढाँचे पहले से ही संगठनों से कुछ संदर्भों में स्वचालित निर्णयों की व्याख्या करने की माँग करते हैं। जैसा कि एआई-विशिष्ट विनियमन विकसित होता रहता है, पारदर्शिता की कमी वाली प्रणालियां संगठनों को अनावश्यक जोखिम में डाल सकती हैं।

हालांकि, व्याख्या करने योग्यता का अधिक मूल्य लचीलापन में निहित है, न कि अनुपालन में। जो टीमें अपनी प्रणालियों को समझती हैं वे तेजी से पुनर्प्राप्ति करती हैं। वे घटनाओं का अधिक कुशलता से समाधान करते हैं और इस बात पर बहस करने में कम समय बिताते हैं कि स्वचालन पर भरोसा किया जाए या नहीं।

संचालन उत्कृष्टता के लिए एआई का डिज़ाइन

इंजीनियरों को यह प्रशिक्षित किया जाता है कि वे धारणाओं पर प्रश्न उठाएं, निर्भरताओं की जांच करें और परिणामों का परीक्षण करें। जब स्वचालन इन प्रवृत्तियों का समर्थन करता है, न कि उन्हें बायपास करता है, तो अपनाना सहयोगी हो जाता है और प्रक्रिया का हिस्सा बन जाता है, न कि थोपा हुआ ढांचा।

निश्चित रूप से, इस तरह की प्रणालियों को बनाने में एक लागत है। व्याख्या करने योग्य एआई के लिए अनुशासित डेटा अभ्यास, सोच-समझकर डिज़ाइन निर्णय और जिम्मेदारी से आउटपुट की व्याख्या करने में सक्षम कुशल कर्मचारी की आवश्यकता होती है। यह संभवतः पूरी तरह से गति या नवाचार के लिए अनुकूलित अपारदर्शी मॉडल के रूप में तेजी से स्केल नहीं कर सकता है। फिर भी, उस निवेश पर रिटर्न स्थिरता है।

जो संगठन व्याख्या करने योग्यता को प्राथमिकता देते हैं उन्हें कम रुकी हुई पहल और कम छाया निर्णय लेने का अनुभव होता है। स्वचालन एक विश्वसनीय परत के रूप में संचालन का हिस्सा बन जाता है, एक समानांतर प्रयोग के बजाय जो अलग-थलग चलता है। मूल्य के लिए समय में सुधार होता है क्योंकि टीमें उन्हें पूरी तरह से उपयोग करने को तैयार होती हैं, न कि इसलिए कि प्रणालियां तेजी से हैं।

जिम्मेदारी से स्केलिंग

जैसा कि एआई एंटरप्राइज़ इन्फ्रास्ट्रक्चर में एक स्थायी स्थिरता बन जाता है, सफलता की परिभाषा कम महत्वाकांक्षा से अधिक विश्वसनीयता द्वारा की जाएगी। जो प्रणालियां अपने निर्णयों की व्याख्या कर सकती हैं वे विश्वास करने में आसान हैं, परिष्कृत करने में आसान हैं और जब परिणामों को चुनौती दी जाती है तो उनके पीछे खड़े होना आसान है।

संचालन वातावरण में, बुद्धिमत्ता तभी स्केल करती है जब समझ स्वचालन के साथ तालमेल बिठाती है।

विमलराज संपथकुमार, तकनीकी प्रमुख - यूके और आयरलैंड, ManageEngine, एक प्रीसेल्स और रणनीतिक खाता प्रबंधक हैं जिनके पास 13 वर्षों का तकनीकी बिक्री, खाता प्रबंधन और ग्राहक सफलता में अनुभव है। उन्होंने आईटीएसएम, आईटीओएम, एसआईईएम, एंड-पॉइंट प्रबंधन, सीआरएम, एटीएस, और एचसीएम/एचआरआईएस अनुप्रयोगों के लिए वैश्विक स्तर पर परामर्श देने और उन्हें लागू करने में गहरी तकनीकी विशेषज्ञता प्राप्त की है। उनकी विशेषज्ञता लगातार ग्राहक-केंद्रित समाधान प्रदान करके, उत्पाद मूल्य का प्रदर्शन करके, और वफादार, दीर्घकालिक ग्राहक संबंधों के लिए आधार बनाने के द्वारा राजस्व और बाजार हिस्सेदारी में वृद्धि करने में रही है। वह अपने खाली समय में क्रिकेट खेलना, पढ़ना, और यात्रा करना पसंद करते हैं।