ट्रांसफर लर्निंग क्या है?

ट्रांसफर लर्निंग क्या है?

मशीन लर्निंग का अभ्यास करते समय, किसी मॉडल को प्रशिक्षित करने में लंबा समय लग सकता है। शुरुआत से एक मॉडल आर्किटेक्चर बनाना, मॉडल को प्रशिक्षित करना और फिर मॉडल में बदलाव करना बहुत समय और प्रयास का काम है। मशीन लर्निंग मॉडल को प्रशिक्षित करने का एक अधिक कुशल तरीका एक ऐसे आर्किटेक्चर का उपयोग करना है जिसे पहले ही परिभाषित किया जा चुका है, संभावित रूप से ऐसे वजन के साथ जिनकी गणना पहले ही की जा चुकी है। इसके पीछे मुख्य विचार यही है सीखने का स्थानांतरण, एक मॉडल लेना जो पहले से ही उपयोग किया जा चुका है और इसे एक नए कार्य के लिए पुन: उपयोग करना।

ट्रांसफर लर्निंग का उपयोग करने के विभिन्न तरीकों पर चर्चा करने से पहले, आइए यह समझने में थोड़ा समय लें कि ट्रांसफर लर्निंग इतनी शक्तिशाली और उपयोगी तकनीक क्यों है।

गहन शिक्षण समस्या का समाधान

जब आप एक गहरी सीखने की समस्या को हल करने का प्रयास कर रहे हैं, जैसे कि एक छवि क्लासिफायरियर बनाना, तो आपको एक मॉडल आर्किटेक्चर बनाना होगा और फिर अपने डेटा पर मॉडल को प्रशिक्षित करना होगा। मॉडल क्लासिफायरियर को प्रशिक्षित करने में नेटवर्क के वजन को समायोजित करना शामिल है, एक प्रक्रिया जिसमें मॉडल और डेटासेट दोनों की जटिलता के आधार पर घंटों या दिन भी लग सकते हैं। प्रशिक्षण का समय डेटासेट के आकार और मॉडल वास्तुकला की जटिलता के अनुसार तय होगा।

यदि मॉडल कार्य के लिए आवश्यक सटीकता प्राप्त नहीं करता है, तो मॉडल में बदलाव करने की आवश्यकता होगी और फिर मॉडल को फिर से प्रशिक्षित करने की आवश्यकता होगी। इसका मतलब है कि इष्टतम आर्किटेक्चर, प्रशिक्षण की लंबाई और डेटासेट विभाजन मिलने तक अधिक घंटों का प्रशिक्षण। जब आप विचार करते हैं कि एक क्लासिफायरियर के उपयोगी होने के लिए कितने वेरिएबल्स को एक-दूसरे के साथ संरेखित किया जाना चाहिए, तो यह समझ में आता है कि मशीन लर्निंग इंजीनियर हमेशा मॉडल को प्रशिक्षित करने और लागू करने के लिए आसान, अधिक कुशल तरीकों की तलाश में रहते हैं। इसी कारण से ट्रांसफर लर्निंग तकनीक का निर्माण किया गया।

किसी मॉडल को डिज़ाइन करने और परीक्षण करने के बाद, यदि मॉडल उपयोगी साबित होता है, तो इसे सहेजा जा सकता है और बाद में इसी तरह की समस्याओं के लिए पुन: उपयोग किया जा सकता है।

ट्रांसफर लर्निंग के प्रकार

सामान्य तौर पर, दो अलग-अलग होते हैं स्थानांतरण अधिगम के प्रकार: शुरुआत से एक मॉडल विकसित करना और पूर्व-प्रशिक्षित मॉडल का उपयोग करना।

जब आप स्क्रैच से एक मॉडल विकसित करते हैं, तो आपको एक मॉडल आर्किटेक्चर बनाने की आवश्यकता होगी जो आपके प्रशिक्षण डेटा की व्याख्या करने और उससे पैटर्न निकालने में सक्षम हो। मॉडल को पहली बार प्रशिक्षित करने के बाद, मॉडल से इष्टतम प्रदर्शन प्राप्त करने के लिए आपको संभवतः इसमें बदलाव करने की आवश्यकता होगी। फिर आप मॉडल आर्किटेक्चर को सहेज सकते हैं और इसे उस मॉडल के लिए शुरुआती बिंदु के रूप में उपयोग कर सकते हैं जिसका उपयोग समान कार्य पर किया जाएगा।

दूसरी स्थिति में - पूर्व-प्रशिक्षित मॉडल का उपयोग - आपको उपयोग करने के लिए केवल पूर्व-प्रशिक्षित मॉडल का चयन करना होगा। कई विश्वविद्यालय और अनुसंधान दल अपने मॉडल की विशिष्टताओं को सामान्य उपयोग के लिए उपलब्ध कराएंगे। मॉडल का आर्किटेक्चर वज़न के साथ डाउनलोड किया जा सकता है।

ट्रांसफर लर्निंग का संचालन करते समय, पूरे मॉडल आर्किटेक्चर और वज़न का उपयोग मौजूदा कार्य के लिए किया जा सकता है, या मॉडल के केवल कुछ हिस्सों/परतों का उपयोग किया जा सकता है। पूर्व-प्रशिक्षित मॉडल में से केवल कुछ का उपयोग करना और शेष मॉडल को प्रशिक्षित करना फाइन-ट्यूनिंग कहा जाता है।

एक नेटवर्क को ठीक से ट्यून करना

किसी नेटवर्क को फाइनट्यूनिंग करना नेटवर्क में केवल कुछ परतों को प्रशिक्षित करने की प्रक्रिया का वर्णन करता है। यदि एक नया प्रशिक्षण डेटासेट मूल मॉडल को प्रशिक्षित करने के लिए उपयोग किए गए डेटासेट के समान है, तो समान वजन का उपयोग किया जा सकता है।

नेटवर्क में परतों की संख्या, जिन्हें हटाया जाना चाहिए और पुनः प्रशिक्षित किया जाना चाहिए, नए डेटासेट के आकार के अनुसार स्केल होनी चाहिए। यदि जिस डेटासेट पर प्रशिक्षण दिया जा रहा है वह छोटा है, तो अधिकांश परतों को वैसे ही रखना और केवल अंतिम कुछ परतों को प्रशिक्षित करना एक बेहतर अभ्यास है। यह नेटवर्क को ओवरफिटिंग से रोकने के लिए है। वैकल्पिक रूप से, पूर्व-प्रशिक्षित नेटवर्क की अंतिम परतों को हटाया जा सकता है और नई परतें जोड़ी जा सकती हैं, जिन्हें फिर प्रशिक्षित किया जाता है। इसके विपरीत, यदि डेटासेट एक बड़ा डेटासेट है, जो संभावित रूप से मूल डेटासेट से बड़ा है, तो पूरे नेटवर्क को फिर से प्रशिक्षित किया जाना चाहिए। के रूप में नेटवर्क का उपयोग करें एक निश्चित सुविधा निकालने वाला, नेटवर्क के अधिकांश हिस्से का उपयोग सुविधाओं को निकालने के लिए किया जा सकता है, जबकि नेटवर्क की केवल अंतिम परत को अनफ्रोज़न और प्रशिक्षित किया जा सकता है।

जब आप किसी नेटवर्क को ठीक कर रहे हों, तो बस याद रखें कि कन्वनेट की पिछली परतों में छवियों की अधिक सामान्य विशेषताओं का प्रतिनिधित्व करने वाली जानकारी होती है। ये किनारे और रंग जैसी विशेषताएं हैं। इसके विपरीत, कन्वनेट की बाद की परतें उन विवरणों को रखती हैं जो उस डेटासेट के भीतर रखे गए व्यक्तिगत वर्गों के लिए अधिक विशिष्ट हैं जिन पर मॉडल को शुरू में प्रशिक्षित किया गया था। यदि आप एक मॉडल को ऐसे डेटासेट पर प्रशिक्षित कर रहे हैं जो मूल डेटासेट से काफी अलग है, तो आप संभवतः सुविधाओं को निकालने के लिए मॉडल की प्रारंभिक परतों का उपयोग करना चाहेंगे और मॉडल के बाकी हिस्सों को फिर से प्रशिक्षित करना चाहेंगे।

स्थानांतरण शिक्षण उदाहरण

ट्रांसफर लर्निंग के सबसे आम अनुप्रयोग संभवतः वे हैं जो छवि डेटा को इनपुट के रूप में उपयोग करते हैं। ये अक्सर भविष्यवाणी/वर्गीकरण कार्य होते हैं। रास्ता संवादी तंत्रिका नेटवर्क व्याख्या छवि डेटा मॉडल के पहलुओं का पुन: उपयोग करने के लिए खुद को उधार देता है, क्योंकि दृढ़ परतें अक्सर बहुत समान विशेषताओं को अलग करती हैं। आम स्थानांतरण सीखने की समस्या का एक उदाहरण इमेजनेट 1000 कार्य है, जो 1000 विभिन्न वर्गों की वस्तुओं से भरा एक विशाल डेटासेट है। जो कंपनियां इस डेटासेट पर उच्च प्रदर्शन प्राप्त करने वाले मॉडल विकसित करती हैं, वे अक्सर अपने मॉडल को लाइसेंस के तहत जारी करती हैं जो दूसरों को उनका पुन: उपयोग करने की अनुमति देता है। इस प्रक्रिया के परिणामस्वरूप उत्पन्न हुए कुछ मॉडलों में ये शामिल हैं माइक्रोसॉफ्ट रेसनेट मॉडल, Google इंसेप्शन मॉडल, और ऑक्सफोर्ड वीजीजी मॉडल समूह.