गूगल की नई न्यूरल टैंजेंट लाइब्रेरी डेटा वैज्ञानिकों को मॉडल्स में “अभूतपूर्व” अंतर्दृष्टि प्रदान करती है

गूगल ने एक नई ओपन-सोर्स लाइब्रेरी डिज़ाइन की है जिसका उद्देश्य मशीन लर्निंग के ब्लैक बॉक्स को खोलना है और इंजीनियरों को उनके मशीन लर्निंग सिस्टम के कार्यों में अधिक अंतर्दृष्टि प्रदान करना है। वेंचरबीट द्वारा रिपोर्ट के अनुसार, गूगल रिसर्च टीम का कहना है कि यह लाइब्रेरी मशीन लर्निंग मॉडल्स के कार्यों में “अभूतपूर्व” अंतर्दृष्टि प्रदान कर सकती है।

न्यूरल नेटवर्क्स न्यूरॉन्स के माध्यम से कार्य करते हैं जिनमें गणितीय फ़ंक्शन होते हैं जो डेटा को विभिन्न तरीकों से परिवर्तित करते हैं। नेटवर्क में न्यूरॉन्स परतों में जुड़े होते हैं, और न्यूरल नेटवर्क्स की गहराई और चौड़ाई होती है। न्यूरल नेटवर्क की गहराई परतों की संख्या से नियंत्रित होती है, और नेटवर्क की विभिन्न परतें न्यूरॉन्स के बीच संबंधों को समायोजित करती हैं, जिससे डेटा को परतों के बीच ले जाने पर इसका प्रभाव पड़ता है। परत में न्यूरॉन्स की संख्या परत की चौड़ाई है। गूगल रिसर्च इंजीनियर रोमन नोवाक और गूगल के वरिष्ठ रिसर्च वैज्ञानिक सैमुअल एस शोनहोल्ज़ के अनुसार, मॉडल्स की चौड़ाई नियमित, दोहराए जाने वाले व्यवहार से जुड़ी हुई है। एक ब्लॉग पोस्ट में, दोनों शोधकर्ताओं ने समझाया कि न्यूरल नेटवर्क्स को चौड़ा करने से उनका व्यवहार अधिक नियमित और व्याख्या करने में आसान हो जाता है।

एक अलग प्रकार का मशीन लर्निंग मॉडल है जिसे गॉसियन प्रोसेस कहा जाता है। गॉसियन प्रोसेस एक स्टोकेस्टिक प्रोसेस है जिसे एक बहु-वैरिएट नॉर्मल वितरण के रूप में प्रस्तुत किया जा सकता है। गॉसियन प्रोसेस के साथ, प्रत्येक सेट/परिमित रैखिक संयोजन चर सामान्य रूप से वितरित किया जाएगा। इसका मतलब है कि यह जटिल परस्पर क्रियाओं को व्याख्या योग्य रेखीय बीजगणित समीकरणों के रूप में प्रस्तुत करना संभव है, और इसलिए यह संभव है कि एआई के व्यवहार का अध्ययन इस लेंस के माध्यम से किया जा सकता है। मशीन लर्निंग मॉडल्स और गॉसियन प्रोसेस के बीच संबंध क्या है? अनंत चौड़ाई में मशीन लर्निंग मॉडल्स गॉसियन प्रोसेस पर अभिसरण करते हैं।

हालांकि, जबकि यह संभव है कि मशीन लर्निंग मॉडल्स को गॉसियन प्रोसेस के लेंस के माध्यम से व्याख्या किया जा सकता है, इसके लिए मॉडल की अनंत-चौड़ाई सीमा को व्युत्पन्न करना आवश्यक है। यह एक जटिल श्रृंखला की गणना है जो प्रत्येक अलग-अलग आर्किटेक्चर के लिए की जानी चाहिए। इन गणनाओं को आसान और तेज़ बनाने के लिए, गूगल रिसर्च टीम ने न्यूरल टैंजेंट्स डिज़ाइन किया है। न्यूरल टैंजेंट्स एक डेटा वैज्ञानिक को केवल कुछ पंक्तियों के कोड का उपयोग करके एक ही समय में कई अनंत-चौड़ाई नेटवर्क्स को प्रशिक्षित करने में सक्षम बनाता है। अक्सर कई न्यूरल नेटवर्क्स को एक ही डेटासेट पर प्रशिक्षित किया जाता है और उनकी भविष्यवाणियों को औसतन लिया जाता है, ताकि एक अधिक मजबूत भविष्यवाणी प्राप्त की जा सके जो किसी भी व्यक्तिगत मॉडल में होने वाली समस्याओं से प्रतिरक्षित हो। इस तरह की एक तकनीक को एन्सेम्बल लर्निंग कहा जाता है। एन्सेम्बल लर्निंग का एक नकारात्मक पक्ष यह है कि यह अक्सर गणनात्मक रूप से महंगा होता है। लेकिन जब एक नेटवर्क जो अनंत रूप से चौड़ा होता है, प्रशिक्षित किया जाता है, तो एन्सेम्बल को एक गॉसियन प्रोसेस द्वारा वर्णित किया जा सकता है और विचरण और माध्य की गणना की जा सकती है।

तीन अलग-अलग अनंत-चौड़ाई न्यूरल नेटवर्क आर्किटेक्चर्स की तुलना एक परीक्षण के रूप में की गई थी, और तुलना के परिणाम ब्लॉग पोस्ट में प्रकाशित किए गए थे। सामान्य तौर पर, गॉसियन प्रोसेस द्वारा संचालित एन्सेम्बल नेटवर्क्स के परिणाम नियमित, सीमित न्यूरल नेटवर्क प्रदर्शन के समान होते हैं:

जैसा कि रिसर्च टीम एक ब्लॉग पोस्ट में बताती है:

“हम देखते हैं कि सीमित न्यूरल नेटवर्क्स की नकल करते हुए, अनंत-चौड़ाई नेटवर्क्स एक समान प्रदर्शन की हाइरार्की का पालन करते हैं, पूरी तरह से जुड़े नेटवर्क्स का प्रदर्शन कन्वोल्यूशनल नेटवर्क्स की तुलना में खराब होता है, जो बदले में वाइड रेसिडुअल नेटवर्क्स के प्रदर्शन से खराब होता है। हालांकि, नियमित प्रशिक्षण के विपरीत, इन मॉडल्स की लर्निंग डायनामिक्स पूरी तरह से बंद-फ़ॉर्म में ट्रैक्टेबल है, जो उनके व्यवहार में [नई] अंतर्दृष्टि प्रदान करती है।”

न्यूरल टैंजेंट्स की रिलीज़ टेंसोरफ्लो डेव समिट के साथ मेल खाती है। डेव समिट में मशीन लर्निंग इंजीनियर्स जो गूगल के टेंसोरफ्लो प्लेटफ़ॉर्म का उपयोग करते हैं, मिलते हैं। न्यूरल टैंजेंट्स की घोषणा टेंसोरफ्लो क्वांटम की घोषणा के तुरंत बाद आती है।

न्यूरल टैंजेंट्स को गिटहब के माध्यम से उपलब्ध कराया गया है और एक गूगल कोलाबोरेटरी नोटबुक और ट्यूटोरियल है जिसे रुचि रखने वाले एक्सेस कर सकते हैं।