जब एआई ऑपरेशन में प्रवेश करता है, तो व्याख्या करने योग्य बनना अनिवार्य हो जाता है

एंटरप्राइज़ एआई अपनाने ने एक अधिक व्यावहारिक चरण में प्रवेश किया है। प्रौद्योगिकी नेताओं के लिए, चुनौती अब संगठन को यह समझाने में नहीं है कि एआई की संभावना है। यह सुनिश्चित करना है कि संचालन निर्णयों को प्रभावित करने वाली प्रणालियों को समझा जा सकता है, शासित किया जा सकता है और बचाव किया जा सकता है।

एआई तब अपना स्थान एंटरप्राइज़ में कमाता है जब लोग इस पर भरोसा करने को तैयार होते हैं। यह भरोसा केवल प्रदर्शन आंकड़ों पर नहीं बनता है। यह इस बात पर निर्भर करता है कि टीमें महसूस करती हैं कि वे नियंत्रण बनाए रखेंगी या नहीं जब स्वचालन दैनिक कार्य प्रवाह का हिस्सा बन जाता है।

अनेक संगठनों में, यह नियंत्रण की भावना अभी भी अनिश्चित है।

अपारदर्शिता अपनाने को कैसे धीमा करती है

एआई अब आईटी ऑपरेशन में निहित है, सेवा अनुरोध मार्गदर्शन से लेकर घटना संबंध और क्षमता योजना तक। ये ऐसे वातावरण हैं जहां निर्णय आपस में जुड़े हुए हैं और गलतियां जल्दी बढ़ जाती हैं। जब एआई आउटपुट संदर्भ के बिना दिखाई देते हैं, तो टीमें अक्सर संकोच करती हैं। स्वचालन तकनीकी रूप से तैनात किया जा सकता है, लेकिन इसकी सिफारिशें दोहराई जाती हैं, विलंबित होती हैं या चुपचाप अलग कर दी जाती हैं।

यह व्यवहार अक्सर परिवर्तन के प्रतिरोध के रूप में गलत व्याख्या की जाती है। वास्तव में, यह उच्च जोखिम वाले संचालन वातावरण में पेशेवर जिम्मेदारी को दर्शाता है। सार्वजनिक उदाहरण एआई विफलता ने इस सावधानी को तेज किया है। जब स्वचालित प्रणालियां आत्मविश्वास से भरे आउटपुट उत्पन्न करती हैं जो गलत साबित होते हैं, तो नुकसान शायद ही कभी अकेले महत्वाकांक्षा के कारण होता है। यह अपारदर्शिता से उत्पन्न होता है। यदि कोई यह समझाने में सक्षम नहीं है कि एक निष्कर्ष कैसे पहुंचा गया, तो विश्वास कम हो जाता है, भले ही प्रणाली आमतौर पर सटीक हो।

आईटी टीमों के भीतर, यह सूक्ष्म रूप से प्रकट होता है। स्वचालन सलाहकार मोड में काम करता है, निष्पादन मोड में नहीं। इंजीनियर अभी भी परिणामों के लिए जिम्मेदार होते हैं और उन्हें तर्क पर भरोसा करने की अपेक्षा की जाती है जिसे वे जांच नहीं सकते हैं। समय के साथ, यह असंतुलन घर्षण पैदा करता है। एआई मौजूद है, लेकिन इसका मूल्य सीमित है।

पारदर्शी एआई प्रक्रिया

अधिक पारदर्शिता और व्याख्या करने योग्य इस समस्या को संबोधित कर सकते हैं और स्वचालित निर्णय लेने में जिम्मेदारी बहाल करके इसे हल कर सकते हैं। व्याख्या करने योग्य एआई का अर्थ यह नहीं है कि हर आंतरिक गणना को उजागर किया जाए। इसका अर्थ है मानव ऑपरेटरों के लिए प्रासंगिक अंतर्दृष्टि प्रदान करना; कौन सा डेटा एक निर्णय को प्रभावित करता है, कौन सी स्थितियों में सबसे अधिक वजन होता है, और आत्मविश्वास स्तरों का मूल्यांकन कैसे किया जाता है। यह संदर्भ टीमों को यह判断 करने की अनुमति देता है कि आउटपुट संचालन वास्तविकता के साथ संरेखित है या नहीं।

इसे व्हाइट-बॉक्स एआई के रूप में भी जाना जाता है, व्याख्या करने योग्य एआई एक प्रकार की व्याख्यात्मक परत बनाता है जो बताती है कि एआई निर्णय कैसे लिए गए, न कि इसकी प्रक्रियाओं और तर्क को दृष्टि से छिपा हुआ है। इसका अर्थ यह है कि एआई प्रणालियां एक अधिक जिम्मेदार ढांचे का हिस्सा बन सकती हैं, और उपयोगकर्ता समझते हैं कि प्रत्येक प्रणाली कैसे काम करती है। यह भी意味 है कि एआई मॉडल की कमजोरियों की पहचान करने और पूर्वाग्रह के खिलाफ सुरक्षा करने में सक्षम होने के लिए।

महत्वपूर्ण बात यह है कि व्याख्या करने योग्यता का अर्थ है कि जब कुछ गलत हो जाता है, तो टीमें तर्क के मार्ग को ट्रेस कर सकती हैं, कमजोर संकेतों की पहचान कर सकती हैं और प्रक्रिया को परिष्कृत कर सकती हैं। उस दृश्यता के बिना, त्रुटियों को या तो दोहराया जाता है या स्वचालन को अक्षम करके पूरी तरह से टाला जाता है।

व्याख्या करने योग्यता कार्रवाई में

incident प्रबंधन पर विचार करें। एआई अक्सर अलर्ट को समूहित करने और संभावित कारणों का सुझाव देने के लिए उपयोग किया जाता है। बड़े एंटरप्राइज़ वातावरण में, एक बड़ी घटना के दौरान एक गलत वर्गीकृत निर्भरता के परिणामस्वरूप समाधान में घंटों की देरी हो सकती है, जबकि ग्राहक-सामना करने वाली सेवाएं अभी भी कमजोर हैं। जब उन सुझावों के साथ यह स्पष्टीकरण होता है कि कौन से सिस्टम शामिल थे, कैसे निर्भरताएं पहुंचाई गईं या कौन से पिछले घटनाएं संदर्भित की गईं, तो इंजीनियर त्वरित निर्णय ले सकते हैं। यदि यह गलत साबित होता है, तो उस अंतर्दृष्टि का उपयोग मॉडल और प्रक्रिया दोनों को परिष्कृत करने के लिए किया जा सकता है।

उस पारदर्शिता के बिना, टीमें मैनुअल निदान पर लौट जाती हैं, चाहे एआई कितना भी उन्नत क्यों न हो।

यह फीडबैक लूप स्थायी अपनाने के लिए केंद्रीय है। व्याख्या करने योग्य प्रणालियां उन लोगों के साथ विकसित होती हैं जो उनका उपयोग करते हैं। ब्लैक-बॉक्स प्रणाली, इसके विपरीत, आत्मविश्वास में गिरावट के बाद स्थिर या अलग-थलग होने की प्रवृत्ति रखती हैं।

जिम्मेदारी और स्वामित्व

व्याख्या करने योग्यता जिम्मेदारी के वितरण को भी बदलती है। संचालन वातावरण में, जिम्मेदारी स्वचालित निर्णय लेने के कारण गायब नहीं हो जाती है। किसी को अभी भी परिणाम के पीछे खड़ा होना चाहिए। जब एआई खुद को समझा सकता है, तो जिम्मेदारी अधिक स्पष्ट और प्रबंधनीय हो जाती है। निर्णयों की समीक्षा की जा सकती है, उचित ठहराया जा सकता है और सुधारा जा सकता है बिना रक्षात्मक काम के सहारे लिए।

एक शासन लाभ भी है, हालांकि यह आंतरिक रूप से प्राथमिक प्रेरक नहीं है। मौजूदा डेटा सुरक्षा और जिम्मेदारी ढांचे पहले से ही संगठनों को कertain संदर्भों में स्वचालित निर्णयों की व्याख्या करने की आवश्यकता है। जैसा कि एआई-विशिष्ट विनियमन विकसित होता रहता है, पारदर्शिता की कमी वाली प्रणालियां संगठनों को अनावश्यक जोखिम में डाल सकती हैं।

हालांकि, व्याख्या करने योग्यता का अधिक मूल्य लचीलापन में निहित है, न कि अनुपालन में। जो टीमें अपनी प्रणालियों को समझती हैं वे तेजी से पुनर्प्राप्ति करती हैं। वे घटनाओं का अधिक कुशलता से समाधान करते हैं और स्वचालन पर भरोसा करने में कम समय व्यतीत करते हैं।

संचालन उत्कृष्टता के लिए एआई का डिज़ाइन

इंजीनियरों को यह प्रशिक्षित किया जाता है कि वे धारणाओं पर प्रश्न उठाएं, निर्भरताओं की जांच करें और परिणामों का परीक्षण करें। जब स्वचालन इन प्रवृत्तियों का समर्थन करता है, न कि उन्हें बायपास करता है, तो अपनाना सहयोगी हो जाता है और प्रक्रिया का हिस्सा बन जाता है, न कि थोपा हुआ ढांचा।

निश्चित रूप से, इस तरह की प्रणालियों को बनाने में एक लागत है। व्याख्या करने योग्य एआई के लिए अनुशासित डेटा अभ्यास, सोच-समझकर डिज़ाइन निर्णय और जिम्मेदारी से आउटपुट की व्याख्या करने में सक्षम कुशल कर्मचारी की आवश्यकता होती है। यह संभवतः पूरी तरह से गति या नवाचार के लिए अनुकूलित अपारदर्शी मॉडल के रूप में तेजी से स्केल नहीं कर सकता है। फिर भी, उस निवेश पर रिटर्न स्थिरता है।

जो संगठन व्याख्या करने योग्यता को प्राथमिकता देते हैं उन्हें कम रुकी हुई पहल और कम छाया निर्णय लेने का अनुभव होता है। स्वचालन एक विश्वसनीय परत के रूप में संचालन का हिस्सा बन जाता है, एक समानांतर प्रयोग के बजाय जो अलग-थलग चलता है। मूल्य के लिए समय में सुधार होता है क्योंकि टीमें उन्हें पूरी तरह से उपयोग करने को तैयार होती हैं, न कि इसलिए कि प्रणालियां तेजी से हैं।

जिम्मेदारी से स्केलिंग

जैसा कि एआई एंटरप्राइज़ इन्फ्रास्ट्रक्चर में एक स्थायी स्थिरता बन जाता है, सफलता की परिभाषा कम महत्वाकांक्षा से अधिक विश्वसनीयता द्वारा की जाएगी। जो प्रणालियां अपने निर्णयों की व्याख्या कर सकती हैं वे विश्वास करने में आसान हैं, परिष्कृत करने में आसान हैं और जब परिणामों को चुनौती दी जाती है तो उनके पीछे खड़े होना आसान है।

संचालन वातावरण में, बुद्धिमत्ता तभी स्केल करती है जब समझ स्वचालन के साथ तालमेल बिठाती है।