गूगल की नई न्यूरल टैंगेंट लाइब्रेरी डेटा वैज्ञानिकों को मॉडल्स में “अभूतपूर्व” अंतर्दृष्टि प्रदान करती है

गूगल ने एक नई ओपन-सोर्स लाइब्रेरी डिज़ाइन की है जिसका उद्देश्य मशीन लर्निंग के ब्लैक बॉक्स को खोलना और इंजीनियरों को अपने मशीन लर्निंग सिस्टम के कार्य करने के तरीके में अधिक अंतर्दृष्टि प्रदान करना है। वेंचरबीट द्वारा रिपोर्ट किए अनुसार, गूगल की रिसर्च टीम कहती है कि यह लाइब्रेरी मशीन लर्निंग मॉडल्स के कार्य करने के तरीके में “अभूतपूर्व” अंतर्दृष्टि प्रदान कर सकती है।

न्यूरल नेटवर्क्स गणितीय फंक्शन्स वाले न्यूरॉन्स के माध्यम से कार्य करते हैं जो डेटा को विभिन्न तरीकों से परिवर्तित करते हैं। नेटवर्क में न्यूरॉन्स को परतों में जोड़ा जाता है, और न्यूरल नेटवर्क्स की गहराई और चौड़ाई होती है। न्यूरल नेटवर्क की गहराई परतों की संख्या द्वारा नियंत्रित होती है, और नेटवर्क की विभिन्न परतें न्यूरॉन्स के बीच संबंधों को समायोजित करती हैं, जो डेटा को परतों के बीच ले जाने पर प्रभाव डालती हैं। परत में न्यूरॉन्स की संख्या परत की चौड़ाई है। गूगल के रिसर्च इंजीनियर रोमन नोवाक और सीनियर रिसर्च साइंटिस्ट सैमुअल एस. शोनहोल्ज़ के अनुसार, मॉडल्स की चौड़ाई नियमित, पुनरावृत्ति व्यवहार से जुड़ी हुई है। एक ब्लॉग पोस्ट में, दोनों शोधकर्ताओं ने समझाया कि न्यूरल नेटवर्क्स को चौड़ा करने से उनका व्यवहार अधिक नियमित और व्याख्या करने में आसान हो जाता है।

एक अलग प्रकार का मशीन लर्निंग मॉडल है जिसे गॉसियन प्रोसेस कहा जाता है। गॉसियन प्रोसेस एक स्टोकास्टिक प्रोसेस है जिसे एक मल्टीवेरिएट नॉर्मल वितरण के रूप में दर्शाया जा सकता है। गॉसियन प्रोसेस के साथ, प्रत्येक सेट/सीमित रेखीय संयोजन चर सामान्य रूप से वितरित किया जाता है। इसका अर्थ है कि यह जटिल परस्पर क्रियाओं को व्याख्या योग्य रेखीय बीजगणित समीकरणों के रूप में दर्शाना संभव है, और इसलिए यह संभव है कि एक एआई के व्यवहार का अध्ययन इस लेंस के माध्यम से किया जा सकता है। मशीन लर्निंग मॉडल्स और गॉसियन प्रोसेस के बीच क्या संबंध है? मशीन लर्निंग मॉडल्स जो चौड़ाई में अनंत हैं वे गॉसियन प्रोसेस पर अभिसरण करते हैं।

हालांकि, जबकि यह संभव है कि मशीन लर्निंग मॉडल्स को गॉसियन प्रोसेस के लेंस के माध्यम से व्याख्या किया जा सकता है, इसके लिए मॉडल की अनंत-चौड़ाई सीमा को व्युत्पन्न करना आवश्यक है। यह एक जटिल श्रृंखला की गणना है जो प्रत्येक अलग-अलग आर्किटेक्चर के लिए की जानी चाहिए। इन गणनाओं को आसान और तेज़ बनाने के लिए, गूगल की रिसर्च टीम ने न्यूरल टैंगेंट्स डिज़ाइन किया है। न्यूरल टैंगेंट्स एक डेटा वैज्ञानिक को केवल कुछ पंक्तियों के कोड का उपयोग करके एक साथ कई अनंत-चौड़ाई वाले नेटवर्क्स को प्रशिक्षित करने की अनुमति देता है। अक्सर कई न्यूरल नेटवर्क्स को एक ही डेटासेट पर प्रशिक्षित किया जाता है और उनकी भविष्यवाणियों को औसतन किया जाता है, ताकि एक अधिक मजबूत भविष्यवाणी प्राप्त की जा सके जो किसी भी व्यक्तिगत मॉडल में होने वाली समस्याओं से मुक्त हो। इस तकनीक को एंसेम्बल लर्निंग कहा जाता है। एंसेम्बल लर्निंग का एक नकारात्मक पहलू यह है कि यह अक्सर गणनात्मक रूप से महंगा होता है। हालांकि, जब एक नेटवर्क जो अनंत रूप से चौड़ा होता है प्रशिक्षित किया जाता है, तो एंसेम्बल को एक गॉसियन प्रोसेस द्वारा वर्णित किया जा सकता है और विचरण और माध्य की गणना की जा सकती है।

तीन अलग-अलग अनंत-चौड़ाई वाले न्यूरल नेटवर्क आर्किटेक्चर्स की तुलना एक परीक्षण के रूप में की गई, और तुलना के परिणाम ब्लॉग पोस्ट में प्रकाशित किए गए। सामान्य तौर पर, गॉसियन प्रोसेस द्वारा संचालित एंसेम्बल नेटवर्क्स के परिणाम नियमित, सीमित न्यूरल नेटवर्क प्रदर्शन के समान होते हैं:

जैसा कि रिसर्च टीम एक ब्लॉग पोस्ट में कहती है:

“हम देखते हैं कि सीमित न्यूरल नेटवर्क्स की तरह, अनंत-चौड़ाई वाले नेटवर्क्स एक समान प्रदर्शन की हाइरार्की का पालन करते हैं, जिसमें पूरी तरह से जुड़े हुए नेटवर्क्स कनवोल्यूशनल नेटवर्क्स की तुलना में खराब प्रदर्शन करते हैं, जो बदले में वाइड रेसिडुअल नेटवर्क्स की तुलना में खराब प्रदर्शन करते हैं। हालांकि, नियमित प्रशिक्षण के विपरीत, इन मॉडल्स की लर्निंग डायनामिक्स बंद-फॉर्म में पूरी तरह से ट्रैक्टेबल है, जो उनके व्यवहार में नए अंतर्दृष्टि प्रदान करती है।”

न्यूरल टैंगेंट्स की रिलीज़ टेंसोरफ्लो डेव समिट के साथ मेल खाती है। डेव समिट में मशीन लर्निंग इंजीनियर्स जो गूगल के टेंसोरफ्लो प्लेटफॉर्म का उपयोग करते हैं वे एक साथ मिलते हैं। न्यूरल टैंगेंट्स की घोषणा टेंसोरफ्लो क्वांटम की घोषणा के तुरंत बाद आती है।

न्यूरल टैंगेंट्स को गिटहब के माध्यम से उपलब्ध कराया गया है और एक गूगल कोलेबोरेटरी नोटबुक और ट्यूटोरियल है जिसे रुचि रखने वाले एक्सेस कर सकते हैं।