Anderson का एंगल

मशीन लर्निंग प्रदर्शन में सुधार करने के लिए सीएनएन-आधारित इमेज रीसाइजिंग

mm
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें

गूगल रिसर्च ने इमेज-आधारित कंप्यूटर विजन प्रशिक्षण वर्कफ्लो की दक्षता और सटीकता में सुधार करने के लिए एक नई विधि का प्रस्ताव किया है, जिसमें प्री-प्रोसेसिंग चरण में डेटा सेट में छवियों को कम करने के तरीके में सुधार किया जाता है।

पेपर में लर्निंग टू रीसाइज़ इमेजेज़ फॉर कंप्यूटर विजन टास्क्स, शोधकर्ता होसेन टेलेबी और पेमैन मिलानफार एक सीएनएन का उपयोग करके एक नई हाइब्रिड इमेज रीसाइजिंग आर्किटेक्चर बनाते हैं जो चार लोकप्रिय कंप्यूटर विजन डेटासेट पर मान्यता परिणामों में एक उल्लेखनीय सुधार प्रदान करता है।

मान्यता और रीसाइजिंग के लिए प्रस्तावित संयुक्त फ्रेमवर्क। स्रोत: https://arxiv.org/pdf/2103.09950.pdf

मान्यता और रीसाइजिंग के लिए प्रस्तावित संयुक्त फ्रेमवर्क। स्रोत: https://arxiv.org/pdf/2103.09950.pdf

पेपर यह देखता है कि स्वचालित मशीन लर्निंग पाइपलाइनों में वर्तमान में उपयोग किए जाने वाले रीस्केलिंग/रीसाइजिंग तरीके दशकों पुराने हैं और अक्सर केवल बुनियादी बिलिनियर, बाइक्यूबिक और निकटतम पड़ोसी रीसाइजिंग का उपयोग करते हैं – जो सभी पिक्सेलों को भेदभावपूर्ण तरीके से व्यवहार करते हैं।

इसके विपरीत, प्रस्तावित विधि सीएनएन के माध्यम से छवि डेटा को बढ़ाती है और उस इनपुट को अंततः मॉडल की आर्किटेक्चर से गुजरने वाली रीसाइज्ड छवियों में शामिल करती है।

एआई प्रशिक्षण में छवि प्रतिबंध

एक मॉडल को प्रशिक्षित करने के लिए जो छवियों को संभालता है, एक मशीन लर्निंग फ्रेमवर्क में एक प्री-प्रोसेसिंग चरण शामिल होगा, जहां विभिन्न आकारों, रंग स्थानों और रिज़ॉल्यूशन (जो प्रशिक्षण डेटासेट में योगदान देंगे) की एक विविध छवियों को व्यवस्थित रूप से फसल और रीसाइज़ किया जाता है सुसंगत आयामों और एक स्थिर, एकल प्रारूप में।

सामान्य तौर पर, इसमें पीएनजी प्रारूप के आसपास कुछ समझौता शामिल होगा, जहां प्रोसेसिंग समय/संसाधनों, फ़ाइल आकार और छवि गुणवत्ता के बीच एक समझौता स्थापित किया जाएगा।

आम तौर पर, प्रोसेस्ड छवि के अंतिम आयाम बहुत छोटे होते हैं। नीचे हम उनमें से एक को 80×80 रिज़ॉल्यूशन छवि के रूप में देख सकते हैं, जिस पर कुछ सबसे पहले डीपफेक्स डेटासेट उत्पन्न किए गए थे:

यह 80x80 रिज़ॉल्यूशन है जिस पर कुछ सबसे पहले डीपफेक्स डेटासेट उत्पन्न किए गए थे।

चूंकि चेहरे (और अन्य संभावित विषय) शायद ही कभी आवश्यक वर्ग अनुपात में फिट होते हैं, काले बार जोड़े जा सकते हैं (या बर्बाद स्थान की अनुमति दी जा सकती है) ताकि छवियों को होमोजेनाइज़ किया जा सके, जिससे वास्तविक उपयोगी छवि डेटा और कम हो जाए:

यहां चेहरे को एक बड़े छवि क्षेत्र से निकाला गया है जब तक कि यह आर्थिक रूप से फसल नहीं हो जाता है ताकि पूरे चेहरे को शामिल किया जा सके। हालांकि, जैसा कि बाईं ओर देखा गया है, शेष क्षेत्र का एक बड़ा हिस्सा प्रशिक्षण के दौरान उपयोग नहीं किया जाएगा, जो रीसाइज्ड डेटा की छवि गुणवत्ता के महत्व को और बढ़ा देता है।

यहां चेहरे को एक बड़े छवि क्षेत्र से निकाला गया है जब तक कि यह आर्थिक रूप से फसल नहीं हो जाता है ताकि पूरे चेहरे को शामिल किया जा सके। हालांकि, जैसा कि दाईं ओर देखा गया है, शेष क्षेत्र का एक बड़ा हिस्सा प्रशिक्षण के दौरान उपयोग नहीं किया जाएगा, जो रीसाइज्ड डेटा की छवि गुणवत्ता के महत्व को और बढ़ा देता है।

जैसा कि जीपीयू क्षमताएं हाल के वर्षों में बेहतर हुई हैं, नए पीढ़ी के एनवीडिया कार्ड के साथ वीडियो-रैम (वीआरएएम) की बढ़ती मात्रा के साथ, औसत योगदान छवि आकार बढ़ने लगे हैं, हालांकि 224×224 पिक्सेल अभी भी काफी मानक है (उदाहरण के लिए, यह रेसनेट-50 डेटासेट का आकार है)।

एक अनरेसाइज्ड 224x244 पिक्सेल छवि।

एक अनरेसाइज्ड 224×244 पिक्सेल छवि।

वीआरएएम में बैच फिट करना

छवियों को एक ही आकार का होना आवश्यक है क्योंकि ग्रेडिएंट डिसेंट, जिस तरीके से मॉडल समय के साथ बेहतर होता जाता है, एक समान प्रशिक्षण डेटा की आवश्यकता होती है।

छवियों को इतना छोटा होने का कारण यह है कि उन्हें प्रशिक्षण के दौरान वीआरएएम में लोड (पूरी तरह से डीकंप्रेस्ड) किया जाना चाहिए, आमतौर पर 6-24 छवियों के छोटे बैच में। बैच में बहुत कम छवियां, और पर्याप्त समूह सामग्री नहीं है जो अच्छी तरह से सामान्यीकृत हो; बहुत अधिक, और मॉडल आवश्यक विशेषताओं और विवरण (नीचे देखें) प्राप्त करने में विफल हो सकता है।

प्रशिक्षण आर्किटेक्चर का यह ‘लाइव लोडिंग’ अनुभाग लेटेंट स्पेस कहलाता है। यह वह जगह है जहां विशेषताएं बार-बार एक ही डेटा (अर्थात् एक ही छवियों) से निकाली जाती हैं जब तक कि मॉडल एक ऐसी स्थिति में अभिसरण नहीं कर लेता है जहां उसे आवश्यक सामान्य ज्ञान प्राप्त हो जाता है जिसे बाद में उसी प्रकार के अनदेखे डेटा पर परिवर्तन करने की आवश्यकता होती है।

यह प्रक्रिया आमतौर पर दिनों में लेती है, हालांकि यह एक उपयोगी सामान्यीकरण प्राप्त करने के लिए एक महीने या अधिक की निरंतर और अनवरत उच्च मात्रा में 24/7 संज्ञानात्मक प्रक्रिया ले सकती है। वीआरएएम आकार में वृद्धि केवल एक बिंदु तक ही सहायक है, क्योंकि छवि रिज़ॉल्यूशन में भी छोटे वृद्धि का प्रोसेसिंग क्षमता पर एक क्रम-परिमाण प्रभाव हो सकता है, और संबंधित प्रभाव जो हमेशा अनुकूल नहीं हो सकते हैं।

उच्च बैच आकार को समायोजित करने के लिए बड़ी वीआरएएम क्षमता का उपयोग करना भी एक मिश्रित आशीर्वाद है, क्योंकि इस द्वारा प्राप्त प्रशिक्षण गति में वृद्धि संभावित रूप से कम सटीक परिणामों से ऑफसेट हो सकती है।

अतः, चूंकि प्रशिक्षण आर्किटेक्चर इतना प्रतिबंधित है, इसलिए पाइपलाइन की मौजूदा सीमाओं के भीतर सुधार लाने वाला कुछ भी एक उल्लेखनीय उपलब्धि है।

सुपीरियर डाउनसाइजिंग कैसे मदद करती है

प्रशिक्षण डेटासेट में शामिल की जाने वाली छवि की अंतिम गुणवत्ता को प्रशिक्षण के परिणाम पर सुधार का प्रभाव पाया गया है, विशेष रूप से वस्तु मान्यता कार्यों में। 2018 में, मैक्स प्लैंक इंस्टीट्यूट फॉर इंटेलिजेंट सिस्टम के शोधकर्ताओं ने दावा किया कि रीसैंपलिंग विधि का चयन प्रशिक्षण प्रदर्शन और परिणामों पर उल्लेखनीय प्रभाव डालता है।

इसके अलावा, नए पेपर के लेखकों द्वारा सह-लिखित पिछले काम से पता चलता है कि डेटासेट छवियों में संपीड़न कलाकृतियों पर नियंत्रण बनाए रखने से वर्गीकरण सटीकता में सुधार हो सकता है।

गूगल रिसर्च प्रस्तावित डाउनसैंपलिंग एल्गोरिदम के लिए सीएनएन आर्किटेक्चर।

गूगल रिसर्च प्रस्तावित डाउनसैंपलिंग एल्गोरिदम के लिए सीएनएन आर्किटेक्चर।

नए रीसैंपलर में निर्मित सीएनएन मॉडल बिलिनियर रीसाइजिंग के साथ एक ‘स्किप कनेक्शन’ सुविधा को जोड़ती है जो रीसाइज्ड छवि में प्रशिक्षित नेटवर्क के आउटपुट को शामिल कर सकती है।

एक典型 एन्कोडर/डिकोडर आर्किटेक्चर के विपरीत, नया प्रस्ताव न केवल एक फीड-फॉरवर्ड बोतलनेक के रूप में कार्य कर सकता है, बल्कि किसी भी लक्ष्य आकार और/या पहलू अनुपात के लिए अपस्केलिंग के लिए एक इनवर्स बोतलनेक के रूप में भी कार्य कर सकता है। इसके अलावा, ‘मानक’ रीसैंपलिंग विधि को किसी अन्य उपयुक्त पारंपरिक विधि जैसे लांकोज़ के लिए स्वैप किया जा सकता है।

उच्च आवृत्ति विवरण

नई विधि ऐसी छवियों का उत्पादन करती है जो प्रभावी रूप से प्रशिक्षण प्रक्रिया द्वारा मान्यता प्राप्त होने वाली कुंजी विशेषताओं को स्रोत छवि में सीधे ‘बेक’ करती हैं। सौंदर्यशास्त्र के संदर्भ में, परिणाम असामान्य हैं:

चार नेटवर्क पर नई विधि - इन्सेप्शन वी2; डेन्सनेट-121; रेसनेट-50; और मोबाइलनेट-वी2। गूगल रिसर्च इमेज डाउनसैंपलिंग/रीसाइजिंग विधि के परिणाम प्रशिक्षण प्रक्रिया के दौरान निर्धारित की जाने वाली कुंजी विशेषताओं की प्रतीक्षा करते हुए पिक्सेल एग्रीगेशन के साथ छवियों का उत्पादन करते हैं।

चार नेटवर्क पर नई विधि – इन्सेप्शन वी2; डेन्सनेट-121; रेसनेट-50; और मोबाइलनेट-वी2। गूगल रिसर्च इमेज डाउनसैंपलिंग/रीसाइजिंग विधि के परिणाम प्रशिक्षण प्रक्रिया के दौरान निर्धारित की जाने वाली कुंजी विशेषताओं की प्रतीक्षा करते हुए पिक्सेल एग्रीगेशन के साथ छवियों का उत्पादन करते हैं।

शोधकर्ता यह ध्यान देते हैं कि इन प्रारंभिक प्रयोगों को विशेष रूप से छवि मान्यता कार्यों के लिए अनुकूलित किया गया है, और उनके सीएनएन-संचालित ‘सीखने वाले रीसाइज़र’ ने ऐसे कार्यों में सुधार की गई त्रुटि दर हासिल की है। शोधकर्ता भविष्य में इस विधि को अन्य प्रकार के छवि-आधारित कंप्यूटर विजन अनुप्रयोगों पर लागू करने का इरादा रखते हैं।

मशीन लर्निंग पर लेखक, मानव इमेज सिंथेसिस में डोमेन विशेषज्ञ। मेटाफिजिक.ai में रिसर्च कंटेंट के पूर्व प्रमुख, जब तक कि इसका डीएनजीई के ब्रह्मा.ai में विलय नहीं हो गया।
पोर्टफोलियो साइट: martinanderson.ai
संपर्क: martin@martinanderson.ai