एआई मॉडल और प्लेटफ़ॉर्म
शोधकर्ताओं ने “डीपट्रस्ट” टूल विकसित किया है जो कृत्रिम बुद्धिमत्ता की विश्वसनीयता बढ़ाने में मदद करेगा
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
कृत्रिम बुद्धिमत्ता (एआई) की सुरक्षा और विश्वसनीयता इस प्रौद्योगिकी के सबसे बड़े पहलुओं में से एक है। यह लगातार सुधारा जा रहा है और विभिन्न क्षेत्रों के शीर्ष विशेषज्ञों द्वारा काम किया जा रहा है, और यह समाज में एआई के पूर्ण कार्यान्वयन के लिए महत्वपूर्ण होगा।
इस नए काम में से कुछ दक्षिण कैलिफोर्निया विश्वविद्यालय से आ रहा है, जहां यूएससी विटरबी इंजीनियरिंग शोधकर्ताओं ने एक नए टूल का विकास किया है जो एआई अल्गोरिदम के लिए स्वचालित संकेतक उत्पन्न करने में सक्षम है कि वे अपने डेटा और भविष्यवाणियों में विश्वसनीय हैं या नहीं।
शोध फ्रंटियर्स इन आर्टिफिशियल इंटेलिजेंस में प्रकाशित किया गया था, जिसका शीर्षक है “उम्मीद है कि सब कुछ ठीक हो जाएगा: न्यूरल नेटवर्क में राय और विश्वसनीयता को मापना”। इस पत्र के लेखकों में मिंगक्सी चेंग, शाहिन नज़ारियन और पॉल बोग्डान शामिल हैं, जो यूएससी साइबर फिजिकल सिस्टम्स ग्रुप के हैं।
न्यूरल नेटवर्क की विश्वसनीयता
इस क्षेत्र में सबसे बड़ा कार्य न्यूरल नेटवर्क को भविष्यवाणियां उत्पन्न करने में सक्षम बनाना है जिन पर भरोसा किया जा सकता है। कई मामलों में, यह वह है जो एआई पर निर्भर प्रौद्योगिकी के पूर्ण अपनाने को रोकता है।
उदाहरण के लिए, स्व-ड्राइविंग वाहनों को स्वतंत्र रूप से कार्य करने और स्वचालित पायलट पर सटीक निर्णय लेने की आवश्यकता होती है। उन्हें इन निर्णयों को बेहद तेजी से लेने में सक्षम होने की आवश्यकता है, जबकि सड़क पर वस्तुओं को समझने और पहचानने में। यह विशेष रूप से उन परिदृश्यों में महत्वपूर्ण है जहां प्रौद्योगिकी को यह तय करने की आवश्यकता है कि एक स्पीड बम्प, कोई अन्य वस्तु या एक जीवित प्राणी के बीच अंतर कैसे करें।
अन्य परिदृश्यों में स्व-ड्राइविंग वाहन का निर्णय लेना शामिल है जब कोई अन्य वाहन उसका सामना करता है, और सबसे जटिल निर्णय यह है कि यदि स्व-ड्राइविंग वाहन को यह तय करने की आवश्यकता है कि वह क्या मारा जाए, कोई अन्य वस्तु या एक जीवित प्राणी।
इसका अर्थ है कि हम स्व-ड्राइविंग वाहन के सॉफ्टवेयर की क्षमता में बहुत अधिक विश्वास कर रहे हैं कि वह सही निर्णय ले सके, बस कुछ सेकंड में। यह और भी मुश्किल हो जाता है जब विभिन्न सेंसरों से विरोधाभासी जानकारी होती है, जैसे कि कैमरों और लिडार से कंप्यूटर दृष्टि।
लीड लेखक मिंगक्सी चेंग ने इस परियोजना को तब शुरू किया जब उन्होंने सोचा कि “यहां तक कि मनुष्य भी निर्णय लेने के कुछ परिदृश्यों में अनिर्णायक हो सकते हैं। विरोधाभासी जानकारी के मामलों में, मशीनें हमें बता नहीं सकतीं कि वे नहीं जानतीं?”
डीपट्रस्ट
शोधकर्ताओं द्वारा बनाया गया टूल डीपट्रस्ट कहलाता है, और यह अनिश्चितता की मात्रा को मापने में सक्षम है, पॉल बोग्डान के अनुसार, जो मिंग ह्सीह डिपार्टमेंट ऑफ इलेक्ट्रिकल एंड कंप्यूटर इंजीनियरिंग में एक एसोसिएट प्रोफेसर हैं।
टीम ने डीपट्रस्ट को विकसित करने में लगभग दो साल बिताए, मुख्य रूप से विषयगत तर्क का उपयोग करके न्यूरल नेटवर्क का मूल्यांकन किया। एक उदाहरण में, यह टूल 2016 के राष्ट्रपति चुनाव के मतदान को देख सकता था और भविष्यवाणी कर सकता था कि हिलेरी क्लिंटन के जीतने के लिए एक बड़ा मार्जिन ऑफ एरर था।
डीपट्रस्ट टूल यह भी आसान बनाता है कि एआई अल्गोरिदम की विश्वसनीयता का परीक्षण किया जाए, जो आमतौर पर लाखों डेटा बिंदुओं पर प्रशिक्षित होते हैं। इसका एक अन्य तरीका यह है कि प्रत्येक डेटा बिंदु की सटीकता का परीक्षण करने के लिए स्वतंत्र रूप से जांच की जाए, जो एक बेहद समय लेने वाला कार्य है।
शोधकर्ताओं के अनुसार, न्यूरल नेटवर्क प्रणालियों का यह आर्किटेक्चर अधिक सटीक है, और सटीकता और विश्वसनीयता को एक साथ अधिकतम किया जा सकता है।
“हमारे ज्ञान के अनुसार, गहरे शिक्षण, कृत्रिम बुद्धिमत्ता और मशीन लर्निंग के लिए कोई विश्वसनीयता मॉडल या टूल नहीं है। यह पहला दृष्टिकोण है और नए शोध दिशाओं को खोलता है,” बोग्डान कहते हैं।
बोग्डान का मानना है कि डीपट्रस्ट एआई को आगे बढ़ाने में मदद कर सकता है जहां यह “जागरूक और अनुकूल” हो जाता है।
