मशीन लर्निंग मैलफंक्शन पर सामान्य धारणाएं गलत हो सकती हैं

गहरे न्यूरल नेटवर्क आर्टिफ़िशियल इंटेलिजेंस (एआई) के सबसे मूलभूत पहलुओं में से एक हैं, क्योंकि वे गणितीय मॉडलिंग के माध्यम से छवियों और डेटा को संसाधित करने के लिए उपयोग किए जाते हैं। वे क्षेत्र में कुछ सबसे बड़ी प्रगति के लिए जिम्मेदार हैं, लेकिन वे विभिन्न तरीकों से दोषपूर्ण भी हैं। इन दोषों का प्रभाव छोटा से लेकर गैर-मौजूद तक हो सकता है, जैसे कि एक सरल गलत पहचान, या अधिक नाटकीय और घातक, जैसे कि एक स्व-ड्राइविंग दोष।

ह्यूस्टन विश्वविद्यालय से आने वाले नए शोध से पता चलता है कि इन दोषों पर हमारी सामान्य धारणाएं गलत हो सकती हैं, जो भविष्य में नेटवर्क की विश्वसनीयता का मूल्यांकन करने में मदद कर सकती हैं।

इस पत्र को नवंबर में नेचर मशीन इंटेलिजेंस में प्रकाशित किया गया था।

“विरोधी उदाहरण”

मशीन लर्निंग और अन्य प्रकार के एआई कई क्षेत्रों और कार्यों में महत्वपूर्ण हैं, जैसे कि बैंकिंग और साइबर सुरक्षा प्रणाली। यूएच के एक एसोसिएट प्रोफेसर कैमरन बक्नर के अनुसार, “विरोधी उदाहरणों” द्वारा होने वाली विफलताओं को समझना आवश्यक है। ये विरोधी उदाहरण तब होते हैं जब एक गहरे न्यूरल नेटवर्क प्रणाली छवियों और अन्य डेटा को गलत तरीके से पहचानती है जब यह प्रशिक्षण इनपुट से बाहर की जानकारी का सामना करती है जिसका उपयोग नेटवर्क को विकसित करने के लिए किया गया था।

विरोधी उदाहरण दुर्लभ हैं क्योंकि अक्सर वे दूसरे मशीन लर्निंग नेटवर्क द्वारा बनाए या खोजे जाते हैं।

“कुछ विरोधी घटनाएं कलाकृतियों के बजाय हो सकती हैं, और हमें यह जानने की जरूरत है कि वे क्या हैं ताकि हम जान सकें कि नेटवर्क कितने विश्वसनीय हैं,” बक्नर ने लिखा।

बक्नर कह रहे हैं कि दोष वास्तविक पैटर्न और नेटवर्क द्वारा संसाधित किए जाने वाले पैटर्न के बीच परस्पर क्रिया के कारण हो सकता है, जिसका अर्थ है कि यह पूरी तरह से गलती नहीं है।

पैटर्न के रूप में कलाकृतियां

“विरोधी उदाहरणों के परिणामों को समझने के लिए एक तीसरी संभावना का अन्वेषण करना आवश्यक है: कि इनमें से कम से कम कुछ पैटर्न कलाकृतियां हैं,” बक्नर ने कहा। “इसलिए, वर्तमान में इन पैटर्नों को सीधे त्यागने में लागतें हैं और उन्हें सीधे उपयोग करने में खतरे हैं।”

हालांकि यह हमेशा ऐसा नहीं है, लेकिन विरोधी घटनाओं के कारण मशीन लर्निंग दोषों का सबसे बड़ा जोखिम जानबूझकर दुर्भावनापूर्ण कार्य है।

“इसका अर्थ है कि दुर्भावनापूर्ण अभिनेता उन प्रणालियों को धोखा दे सकते हैं जो अन्यथा विश्वसनीय नेटवर्क पर निर्भर करती हैं,” बक्नर ने कहा। “इसके सुरक्षा अनुप्रयोग हैं।”

यह फेसियल रिकग्निशन तकनीक पर आधारित सुरक्षा प्रणाली को हैक करने वाले हैकर्स या स्वायत्त वाहनों को भ्रमित करने के लिए गलत लेबल वाले ट्रैफिक संकेतों का मामला हो सकता है।

पिछले शोध ने दिखाया है कि विरोधी उदाहरणों में से कुछ स्वाभाविक रूप से होते हैं, जब एक मशीन लर्निंग प्रणाली अप्रत्याशित परस्पर क्रिया के माध्यम से डेटा को गलत तरीके से व्याख्या करती है, जो डेटा में त्रुटियों के कारण अलग है। ये स्वाभाविक रूप से होने वाले उदाहरण दुर्लभ हैं, और वर्तमान में उन्हें खोजने का एकमात्र तरीका एआई के माध्यम से है।

हालांकि, बक्नर कहते हैं कि शोधकर्ताओं को असामान्यताओं से निपटने के तरीके पर पुनर्विचार करने की आवश्यकता है।

इन असामान्यताओं, या कलाकृतियों, को बक्नर एक फोटोग्राफ में लेंस फ्लेयर के रूपक के माध्यम से समझाते हैं, जो कैमरा लेंस में दोष के कारण नहीं है, बल्कि प्रकाश और कैमरे के बीच परस्पर क्रिया के कारण है।

यदि कोई लेंस फ्लेयर की व्याख्या करना जानता है, तो सूर्य के स्थान जैसी महत्वपूर्ण जानकारी निकाली जा सकती है। इसके कारण, बक्नर सोचते हैं कि मशीन लर्निंग में कलाकृति के कारण होने वाली अप्रिय घटनाओं से भी समान रूप से मूल्यवान जानकारी निकाली जा सकती है।

बक्नर यह भी कहते हैं कि यह सब स्वचालित रूप से गहरे शिक्षण की वैधता को नकार नहीं देता है।

“कुछ विरोधी घटनाएं कलाकृतियों के बजाय हो सकती हैं,” उन्होंने कहा। “हमें यह जानने की जरूरत है कि वे कलाकृतियां क्या हैं ताकि हम जान सकें कि नेटवर्क कितने विश्वसनीय हैं।”