व्याख्यात्मकता प्रत्येक उद्योग की एआई समस्या का समाधान कर सकती है: पारदर्शिता की कमी

द्वारा: मिगुएल जेटे, वीपी ऑफ आरएंडडी स्पीच, रेव।

इसके प्रारंभिक चरणों में, एआई अपनी नईपन के बल पर टिक सकता था। यह मशीन लर्निंग के लिए धीरे-धीरे सीखने और एक अपारदर्शी प्रक्रिया बनाए रखने के लिए ठीक था जहां एआई की गणना औसत उपभोक्ता के लिए समझना मुश्किल था। यह बदल रहा है। जैसे ही स्वास्थ्य सेवा, वित्त और आपराधिक न्याय प्रणाली जैसे अधिक उद्योग एआई का उपयोग लोगों के जीवन पर वास्तविक प्रभाव डालने के तरीकों से करते हैं, अधिक लोग जानना चाहते हैं कि एल्गोरिदम का उपयोग कैसे किया जा रहा है, डेटा कैसे सourced हो रहा है, और इसकी क्षमताओं कितनी सटीक हैं। यदि कंपनियां अपने बाजारों में नवाचार के अग्रिम पंक्ति में रहना चाहती हैं, तो उन्हें ऐसे एआई पर भरोसा करने की आवश्यकता है जिस पर उनके दर्शक भरोसा करें। एआई व्याख्यात्मकता उस संबंध को गहरा करने के लिए एक महत्वपूर्ण घटक है।

एआई व्याख्यात्मकता मानक एआई प्रक्रियाओं से अलग है क्योंकि यह लोगों को यह समझने का एक तरीका प्रदान करता है कि मशीन लर्निंग एल्गोरिदम आउटपुट कैसे बनाते हैं। व्याख्यात्मक एआई एक ऐसी प्रणाली है जो लोगों को संभावित परिणामों और कमियों के साथ प्रदान कर सकती है। यह एक मशीन लर्निंग प्रणाली है जो मानवीय इच्छा के लिए न्याय, जिम्मेदारी और गोपनीयता के प्रति सम्मान को पूरा कर सकती है। व्याख्यात्मक एआई व्यवसायों के लिए उपभोक्ताओं के साथ विश्वास बनाने के लिए आवश्यक है।

जबकि एआई विस्तार कर रहा है, एआई प्रदाताओं को यह समझने की आवश्यकता है कि ब्लैक बॉक्स नहीं कर सकता। ब्लैक बॉक्स मॉडल सीधे डेटा से बनाए जाते हैं और अक्सर विकासकर्ता जो एल्गोरिदम बनाता है वह नहीं जानता कि मशीन की सीखने की आदतें क्या चला रही थीं। लेकिन जागरूक उपभोक्ता कुछ ऐसा नहीं करना चाहता है जो इतना अपारदर्शी हो कि उसे जिम्मेदार नहीं ठहराया जा सकता। लोग जानना चाहते हैं कि एआई एल्गोरिदम एक विशिष्ट परिणाम पर कैसे पहुंचता है, सोर्स्ड इनपुट और नियंत्रित आउटपुट के रहस्य के बिना, खासकर जब एआई की गलत गणनाएं अक्सर मशीन पूर्वाग्रह के कारण होती हैं। जैसे ही एआई अधिक उन्नत होता जाता है, लोग मशीन लर्निंग प्रक्रिया तक पहुंच चाहते हैं ताकि वे समझ सकें कि एल्गोरिदम ने अपने विशिष्ट परिणाम पर कैसे पहुंचा। प्रत्येक उद्योग के नेताओं को यह समझने की आवश्यकता है कि जल्द ही या बाद में, लोग इसे एक आवश्यक स्तर की पारदर्शिता के रूप में मांगेंगे, न कि पसंद करेंगे।

एएसआर सिस्टम जैसे वॉयस-इनेबल्ड असिस्टेंट, ट्रांसक्रिप्शन तकनीक और अन्य सेवाएं जो मानव भाषण को पाठ में परिवर्तित करती हैं, विशेष रूप से पूर्वाग्रहों से ग्रस्त हैं। जब सेवा का उपयोग सुरक्षा उपायों के लिए किया जाता है, तो लहजे, एक व्यक्ति की उम्र या पृष्ठभूमि के कारण होने वाली गलतियां गंभीर गलतियां हो सकती हैं, इसलिए समस्या को गंभीरता से लेने की आवश्यकता है। एएसआर का उपयोग पुलिस बॉडी कैमरों में प्रभावी ढंग से किया जा सकता है, उदाहरण के लिए, स्वचालित रूप से रिकॉर्ड और प्रतिलिपि बनाने के लिए – एक रिकॉर्ड रखने के लिए जो सटीक रूप से प्रतिलिपि बनाई गई है, जो जीवन बचा सकता है। व्याख्यात्मकता की प्रथा की आवश्यकता होगी कि एआई केवल खरीदे गए डेटासेट पर निर्भर न करे, बल्कि यह जानने की कोशिश करे कि आगमनी ऑडियो की विशेषताएं क्या हो सकती हैं जो त्रुटियों का योगदान कर सकती हैं यदि कोई हैं। ध्वनि प्रोफ़ाइल क्या है? पृष्ठभूमि में शोर है? वक्ता एक गैर-अंग्रेजी पहले देश से है या एक पीढ़ी से है जो एआई ने अभी तक नहीं सीखा है? मशीन लर्निंग को इन चरों को संबोधित करने वाले डेटा एकत्र करके तेजी से सीखने में सक्रिय होने की आवश्यकता है।

आवश्यकता स्पष्ट होती जा रही है, लेकिन इस पद्धति को लागू करने का मार्ग हमेशा एक आसान समाधान नहीं होगा। समस्या का पारंपरिक उत्तर अधिक डेटा जोड़ना है, लेकिन एक अधिक परिष्कृत समाधान आवश्यक होगा, विशेष रूप से जब कई कंपनियों द्वारा उपयोग किए जाने वाले खरीदे गए डेटासेट अंतर्निहित रूप से पूर्वाग्रह से ग्रस्त होते हैं। यह इसलिए है क्योंकि ऐतिहासिक रूप से, एक विशिष्ट निर्णय की व्याख्या करना जो एआई द्वारा दिया गया था, समझाना मुश्किल था और यह एंड-टू-एंड मॉडल्स की जटिलता के स्वभाव के कारण था। हालांकि, हम अब कर सकते हैं, और हम यह पूछकर शुरू कर सकते हैं कि लोगों ने एआई में विश्वास क्यों खो दिया।

अनिवार्य रूप से, एआई गलतियां करेगा। कंपनियों को ऐसे मॉडल बनाने की आवश्यकता है जो संभावित कमियों के प्रति जागरूक हों, जहां मुद्दे हो रहे हैं उनकी पहचान करें, और मजबूत एआई मॉडल बनाने के लिए निरंतर समाधान बनाएं:

1. जब कुछ गलत हो जाता है, तो डेवलपर्स को यह समझाने की आवश्यकता होगी कि क्या हुआ और एक तुरंत योजना विकसित करें मॉडल में सुधार करने के लिए ताकि भविष्य में समान गलतियां न हों।
2. मशीन को वास्तव में यह जानने के लिए कि क्या यह सही या गलत था, वैज्ञानिकों को एक फीडबैक लूप बनाने की आवश्यकता है ताकि एआई अपनी कमियों को सीख सके और विकसित हो सके।
3. एएसआर को विश्वास बनाने का एक और तरीका यह है कि जब एआई अभी भी सुधार कर रहा है, तो एक ऐसी प्रणाली बनाई जा सकती है जो आत्मविश्वास स्कोर प्रदान कर सकती है, और यह बता सकती है कि एआई कम आत्मविश्वास क्यों महसूस कर रहा है। उदाहरण के लिए, कंपनियां आमतौर पर अपने स्वयं के एआई की कमियों को प्रतिबिंबित करने के लिए शून्य से 100 तक स्कोर उत्पन्न करती हैं और अपने ग्राहकों के साथ पारदर्शिता स्थापित करती हैं। भविष्य में, प्रणालियां ऑडियो के बारे में अधिक मेटाडेटा प्रदान करके यह बता सकती हैं कि ऑडियो क्यों चुनौतीपूर्ण था, जैसे कि ध्वनि स्तर की धारणा या एक कम समझा जाने वाला लहजा।

अतिरिक्त पारदर्शिता एआई प्रशिक्षण और प्रदर्शन की मानव निगरानी में सुधार करेगी। जितना अधिक हम उन क्षेत्रों के बारे में खुले रहेंगे जहां हमें सुधार करने की आवश्यकता है, उतना ही अधिक हम उन सुधारों पर कार्रवाई करने के लिए जिम्मेदार होंगे। उदाहरण के लिए, एक शोधकर्ता यह जानना चाह सकता है कि गलत पाठ क्यों उत्पन्न हुआ ताकि वे समस्या को कम कर सकें, जबकि एक प्रतिलिपि करने वाला यह जानना चाह सकता है कि एएसआर ने इनपुट को गलत तरीके से क्यों व्याख्या किया ताकि वे इसकी वैधता का मूल्यांकन करने में मदद कर सकें। मानवों को लूप में रखने से एआई के बिना होने वाली सबसे明显 समस्याओं को कम किया जा सकता है। यह एआई को अपनी गलतियों को पकड़ने, सुधारने और अंततः वास्तविक समय में स्वयं को सही करने में तेजी लाने में भी मदद कर सकता है।

एआई लोगों के जीवन को बेहतर बनाने की क्षमता रखता है, लेकिन केवल तभी जब मनुष्य इसे ठीक से बनाते हैं। हमें न केवल इन प्रणालियों को जिम्मेदार ठहराने की आवश्यकता है, बल्कि नवाचार के पीछे लोगों को भी जिम्मेदार ठहराने की आवश्यकता है। भविष्य की एआई प्रणालियों को लोगों द्वारा निर्धारित सिद्धांतों का पालन करने की अपेक्षा की जाती है, और केवल तभी हमें एक ऐसी प्रणाली मिलेगी जिस पर लोग विश्वास करते हैं। यह समय है कि हम अब उन सिद्धांतों के लिए आधार तैयार करें और उनके लिए प्रयास करें, जबकि यह अंततः अभी भी स्वयं मनुष्यों की सेवा कर रहा है।