10 सर्वश्रेष्ठ मशीन लर्निंग एल्गोरिदम

यद्यपि हम जीपीयू-त्वरित मशीन लर्निंग में असाधारण नवाचार के समय से गुजर रहे हैं, नवीनतम शोध पत्रों में अक्सर (और प्रमुख रूप से) दशकों पुराने, कुछ मामलों में 70 साल पुराने एल्गोरिदम शामिल होते हैं।

कुछ लोग यह तर्क दे सकते हैं कि इनमें से कई पुराने तरीके मशीन लर्निंग के बजाय 'सांख्यिकीय विश्लेषण' के शिविर में आते हैं, और इस क्षेत्र के आगमन की तारीख को केवल 1957 तक ही मानना ​​पसंद करते हैं। परसेप्ट्रॉन का आविष्कार.

यह देखते हुए कि ये पुराने एल्गोरिदम किस हद तक समर्थन करते हैं और मशीन लर्निंग में नवीनतम रुझानों और सुर्खियां बटोरने वाले विकास में उलझे हुए हैं, यह एक विवादास्पद रुख है। तो आइए नवीनतम नवाचारों को रेखांकित करने वाले कुछ 'क्लासिक' बिल्डिंग ब्लॉक्स के साथ-साथ कुछ नई प्रविष्टियों पर एक नज़र डालें जो एआई हॉल ऑफ फेम के लिए शुरुआती बोली लगा रही हैं।

1: ट्रांसफॉर्मर

2017 में Google रिसर्च ने एक शोध सहयोग का नेतृत्व किया जिसका समापन हुआ काग़ज़ ध्यान आप सभी की जरूरत है. कार्य ने एक नवीन वास्तुकला को रेखांकित किया जिसे बढ़ावा मिला ध्यान तंत्र एनकोडर/डिकोडर और आवर्ती नेटवर्क मॉडल में 'पाइपिंग' से लेकर अपने आप में एक केंद्रीय परिवर्तनकारी तकनीक तक।

दृष्टिकोण को डब किया गया था ट्रांसफार्मर, और तब से प्राकृतिक भाषा प्रसंस्करण (एनएलपी) में एक क्रांतिकारी पद्धति बन गई है, जो कई अन्य उदाहरणों के बीच, ऑटोरेग्रेसिव भाषा मॉडल और एआई पोस्टर-चाइल्ड जीपीटी -3 को सशक्त बनाती है।

ट्रांसफार्मर ने बड़ी खूबसूरती से समस्या का समाधान कर दिया अनुक्रम पारगमन, जिसे 'परिवर्तन' भी कहा जाता है, जो इनपुट अनुक्रमों को आउटपुट अनुक्रमों में संसाधित करने में व्यस्त है। एक ट्रांसफार्मर अनुक्रमिक बैचों के बजाय निरंतर तरीके से डेटा प्राप्त करता है और प्रबंधित करता है, जिससे 'मेमोरी की दृढ़ता' की अनुमति मिलती है जिसे आरएनएन आर्किटेक्चर प्राप्त करने के लिए डिज़ाइन नहीं किया गया है। ट्रांसफार्मर के अधिक विस्तृत अवलोकन के लिए, इस पर एक नज़र डालें हमारा संदर्भ आलेख.

आवर्ती तंत्रिका नेटवर्क (आरएनएन) के विपरीत, जिसने सीयूडीए युग में एमएल अनुसंधान पर हावी होना शुरू कर दिया था, ट्रांसफार्मर आर्किटेक्चर भी आसानी से किया जा सकता है समानांतर, आरएनएन की तुलना में डेटा के कहीं अधिक बड़े संग्रह को उत्पादक रूप से संबोधित करने का रास्ता खोल रहा है।

लोकप्रिय उपयोग

ट्रांसफॉर्मर्स ने 2020 में ओपनएआई के जीपीटी-3 की रिलीज के साथ सार्वजनिक कल्पना पर कब्जा कर लिया, जिसने तत्कालीन रिकॉर्ड तोड़ने का दावा किया 175 बिलियन पैरामीटर. यह स्पष्ट रूप से चौंका देने वाली उपलब्धि अंततः 2021 जैसी बाद की परियोजनाओं पर हावी हो गई और माइक्रोसॉफ्ट के मेगेट्रॉन-ट्यूरिंग एनएलजी 530बी, जो (जैसा कि नाम से पता चलता है) में 530 बिलियन से अधिक पैरामीटर हैं।

हाइपरस्केल ट्रांसफार्मर एनएलपी परियोजनाओं की समयरेखा। स्रोत: माइक्रोसॉफ्ट

ट्रांसफॉर्मर आर्किटेक्चर भी एनएलपी से कंप्यूटर विज़न तक पहुंच गया है, जिससे एक को शक्ति मिलती है नई पीढ़ी ओपनएआई जैसे छवि संश्लेषण ढांचे का क्लिप और DALL-E, जो संबंधित अनुप्रयोगों की बढ़ती संख्या के बीच, अधूरी छवियों को पूरा करने और प्रशिक्षित डोमेन से नई छवियों को संश्लेषित करने के लिए टेक्स्ट>इमेज डोमेन मैपिंग का उपयोग करते हैं।

DALL-E प्लेटो की प्रतिमा की आंशिक छवि को पूरा करने का प्रयास करता है। स्रोत: https://openai.com/blog/dall-e/

2: जनरेटिव एडवरसैरियल नेटवर्क (जीएएन)

हालाँकि, GPT-3 की रिलीज़ और अपनाने के माध्यम से ट्रांसफार्मरों को असाधारण मीडिया कवरेज प्राप्त हुआ है जनरेटिव एडवरसरी नेटवर्क (जीएएन) अपने आप में एक पहचानने योग्य ब्रांड बन गया है, और अंततः इसमें शामिल हो सकता है deepfake एक क्रिया के रूप में.

पहले प्रस्तावित 2014 में और मुख्य रूप से छवि संश्लेषण, एक जेनरेटिव एडवरसैरियल नेटवर्क के लिए उपयोग किया जाता है स्थापत्य ए से बना है जनक और एक discriminator. जेनरेटर एक डेटासेट में हजारों छवियों के माध्यम से चक्र करता है, उन्हें पुनरावृत्त रूप से पुनर्निर्माण करने का प्रयास करता है। प्रत्येक प्रयास के लिए, विवेचक जेनरेटर के काम को ग्रेड करता है, और जेनरेटर को बेहतर करने के लिए वापस भेजता है, लेकिन बिना किसी अंतर्दृष्टि के कि पिछले पुनर्निर्माण में किस तरह की गलती हुई।

स्रोत: https://developers.google.com/machine-learning/gan/gan_structure

यह जेनरेटर को संभावित अंधी गलियों का अनुसरण करने के बजाय कई रास्ते तलाशने के लिए मजबूर करता है, जिसके परिणामस्वरूप होता अगर डिस्क्रिमिनेटर ने उसे बताया होता कि वह कहां गलत हो रहा है (नीचे #8 देखें)। प्रशिक्षण समाप्त होने तक, जेनरेटर के पास डेटासेट में बिंदुओं के बीच संबंधों का एक विस्तृत और व्यापक मानचित्र होता है।

कागज से स्थानिक जागरूकता बढ़ाकर GAN संतुलन में सुधार करना: एक नया ढांचा जीएएन के कभी-कभी-रहस्यमय अव्यक्त स्थान के माध्यम से चक्र करता है, जो एक छवि संश्लेषण वास्तुकला के लिए उत्तरदायी उपकरण प्रदान करता है। स्रोत: https://genforce.github.io/eqgan/

सादृश्य से, यह मध्य लंदन के लिए एकल नीरस यात्रा सीखने, या श्रमसाध्य रूप से प्राप्त करने के बीच का अंतर है ज्ञान.

परिणाम प्रशिक्षित मॉडल के अव्यक्त स्थान में सुविधाओं का एक उच्च-स्तरीय संग्रह है। एक उच्च स्तरीय विशेषता के लिए अर्थ सूचक 'व्यक्ति' हो सकता है, जबकि सुविधा से संबंधित विशिष्टता के माध्यम से वंश अन्य सीखी गई विशेषताओं, जैसे 'पुरुष' और 'महिला' का पता लगा सकता है। निचले स्तरों पर उप-सुविधाएँ 'गोरा', 'कोकेशियान', आदि तक टूट सकती हैं।

उलझाव है एक उल्लेखनीय मुद्दा जीएएन और एनकोडर/डिकोडर फ्रेमवर्क के अव्यक्त स्थान में: क्या जीएएन-जनित महिला चेहरे पर मुस्कुराहट अव्यक्त स्थान में उसकी 'पहचान' की एक उलझी हुई विशेषता है, या यह एक समानांतर शाखा है?

इस व्यक्ति से GAN-जनित चेहरे मौजूद नहीं हैं। स्रोत: https://this-person-does-not-exist.com/en

पिछले कुछ वर्षों में इस संबंध में नई अनुसंधान पहलों की संख्या बढ़ रही है, जो शायद GAN के अव्यक्त स्थान के लिए फीचर-स्तर, फ़ोटोशॉप-शैली संपादन का मार्ग प्रशस्त कर रही है, लेकिन फिलहाल, कई परिवर्तन प्रभावी ढंग से हो रहे हैं। सभी या कुछ भी नहीं' पैकेज। विशेष रूप से, 2021 के अंत में NVIDIA की EditGAN रिलीज़ ने एक उपलब्धि हासिल की है उच्च स्तर की व्याख्या सिमेंटिक सेगमेंटेशन मास्क का उपयोग करके अव्यक्त स्थान में।

लोकप्रिय उपयोग

लोकप्रिय डीपफेक वीडियो में उनकी (वास्तव में काफी सीमित) भागीदारी के अलावा, पिछले चार वर्षों में छवि/वीडियो-केंद्रित जीएएन का प्रसार हुआ है, जो शोधकर्ताओं और जनता को समान रूप से रोमांचित कर रहा है। GitHub रिपॉजिटरी के बावजूद, नए रिलीज़ की चक्करदार दर और आवृत्ति को बनाए रखना एक चुनौती है अद्भुत GAN अनुप्रयोग एक व्यापक सूची प्रदान करने का लक्ष्य है।

जनरेटिव एडवरसैरियल नेटवर्क सैद्धांतिक रूप से किसी भी अच्छी तरह से तैयार किए गए डोमेन से सुविधाएँ प्राप्त कर सकते हैं, पाठ सहित.

3: एसवीएम

उत्पन्न हुई 1963 में, समर्थन वेक्टर यंत्र (एसवीएम) एक कोर एल्गोरिदम है जो नए शोध में बार-बार सामने आता है। एसवीएम के तहत, वैक्टर डेटासेट में डेटा बिंदुओं के सापेक्ष स्वभाव को मैप करते हैं समर्थन वेक्टर विभिन्न समूहों, विशेषताओं या लक्षणों के बीच की सीमाओं को चित्रित करते हैं।

समर्थन वैक्टर समूहों के बीच की सीमाओं को परिभाषित करते हैं। स्रोत: https://www.kdnuggets.com/2016/07/support-vector-machines-simple-explanation.html

व्युत्पन्न सीमा को a कहा जाता है हाइपरप्लेन.

निम्न सुविधा स्तरों पर, एसवीएम है दो आयामी (ऊपर की छवि), लेकिन जहां समूहों या प्रकारों की मान्यता प्राप्त संख्या अधिक है, वहां यह बन जाता है तीन आयामी.

बिंदुओं और समूहों की एक गहरी श्रृंखला के लिए त्रि-आयामी एसवीएम की आवश्यकता होती है। स्रोत: https://cml.rhul.ac.uk/svm.html

लोकप्रिय उपयोग

चूँकि समर्थन वेक्टर मशीनें कई प्रकार के उच्च-आयामी डेटा को प्रभावी ढंग से और अज्ञेयवादी रूप से संबोधित कर सकती हैं, वे विभिन्न प्रकार के मशीन लर्निंग क्षेत्रों में व्यापक रूप से सामने आती हैं, जिनमें शामिल हैं डीपफेक पहचान, छवि वर्गीकरण, घृणास्पद भाषण वर्गीकरण, डीएनए विश्लेषण और जनसंख्या संरचना की भविष्यवाणी, कई अन्य के बीच।

4: के-मीन्स क्लस्टरिंग

सामान्यतः क्लस्टरिंग एक है अप्रकाशित शिक्षा दृष्टिकोण जो डेटा बिंदुओं को वर्गीकृत करना चाहता है घनत्व अनुमान, अध्ययन किए जा रहे डेटा के वितरण का एक मानचित्र बनाना।

K- का अर्थ है डेटा में खंडों, समूहों और समुदायों को क्लस्टर करना। स्रोत: https://aws.amazon.com/blogs/machine-learning/k-means-clustering-with-amazon-sagemaker/

K- मीन्स क्लस्टरिंग इस दृष्टिकोण का सबसे लोकप्रिय कार्यान्वयन बन गया है, डेटा बिंदुओं को विशिष्ट 'के समूहों' में विभाजित करना, जो जनसांख्यिकीय क्षेत्रों, ऑनलाइन समुदायों, या किसी अन्य संभावित गुप्त एकत्रीकरण को इंगित कर सकता है जो कच्चे सांख्यिकीय डेटा में खोजे जाने की प्रतीक्षा कर रहा है।

के-मीन्स विश्लेषण में क्लस्टर बनते हैं। स्रोत: https://www.geeksforgeeks.org/ml-determine-the-optimal-value-of-k-in-k-means-clustering/

K मान स्वयं प्रक्रिया की उपयोगिता और क्लस्टर के लिए इष्टतम मान स्थापित करने में निर्धारक कारक है। प्रारंभ में, K मान को यादृच्छिक रूप से निर्दिष्ट किया जाता है, और इसकी विशेषताएं और वेक्टर विशेषताएं इसके पड़ोसियों की तुलना में होती हैं। वे पड़ोसी जो बेतरतीब ढंग से निर्दिष्ट मान के साथ डेटा बिंदु से सबसे अधिक मिलते जुलते हैं, उन्हें उसके क्लस्टर को तब तक असाइन किया जाता है जब तक कि डेटा उन सभी समूहों को प्राप्त नहीं कर लेता है जिन्हें प्रक्रिया अनुमति देती है।

वर्ग त्रुटि के लिए प्लॉट, या समूहों के बीच अलग-अलग मूल्यों की 'लागत' से पता चलेगा कोहनी बिंदु डेटा के लिए:

क्लस्टर ग्राफ़ में 'कोहनी बिंदु'। स्रोत: https://www.scikit-yb.org/en/latest/api/cluster/elbow.html

एल्बो पॉइंट उस अवधारणा के समान है जिस तरह से डेटासेट के लिए प्रशिक्षण सत्र के अंत में नुकसान घटते रिटर्न में बदल जाता है। यह उस बिंदु का प्रतिनिधित्व करता है जिस पर समूहों के बीच कोई और अंतर स्पष्ट नहीं होने वाला है, जो डेटा पाइपलाइन में बाद के चरणों पर आगे बढ़ने या फिर निष्कर्षों की रिपोर्ट करने के क्षण का संकेत देता है।

लोकप्रिय उपयोग

के-मीन्स क्लस्टरिंग, स्पष्ट कारणों से, ग्राहक विश्लेषण में एक प्राथमिक तकनीक है, क्योंकि यह बड़ी मात्रा में वाणिज्यिक रिकॉर्ड को जनसांख्यिकीय अंतर्दृष्टि और 'लीड' में अनुवाद करने के लिए एक स्पष्ट और व्याख्या करने योग्य पद्धति प्रदान करती है।

इस एप्लिकेशन के बाहर, के-मीन्स क्लस्टरिंग का भी उपयोग किया जाता है भूस्खलन की भविष्यवाणी, चिकित्सा छवि विभाजन, GANs के साथ छवि संश्लेषण, दस्तावेज़ वर्गीकरण, तथा शहर नियोजन, कई अन्य संभावित और वास्तविक उपयोगों के बीच।

5: यादृच्छिक वन

यादृच्छिक वन एक है सीखने को सुनिश्चित करना वह विधि जो किसी सारणी से परिणाम का औसत निकालती है निर्णय के पेड़ परिणाम के लिए एक समग्र पूर्वानुमान स्थापित करना।

स्रोत: https://www.tutorialandexample.com/wp-content/uploads/2019/10/Decision-Trees-Root-Node.png

यदि आपने इस पर थोड़ा सा भी शोध किया है, तो इसे देखकर भविष्य पर वापस करने के लिए त्रयी, एक निर्णय वृक्ष की संकल्पना स्वयं काफी आसान है: आपके सामने कई रास्ते हैं, और प्रत्येक पथ एक नए परिणाम की ओर बढ़ता है जिसमें बदले में आगे के संभावित पथ शामिल होते हैं।

In सुदृढीकरण सीखना, आप एक पथ से पीछे हट सकते हैं और पहले वाले रुख से फिर से शुरू कर सकते हैं, जबकि निर्णय वृक्ष अपनी यात्रा के लिए प्रतिबद्ध हैं।

इस प्रकार रैंडम फ़ॉरेस्ट एल्गोरिदम अनिवार्य रूप से निर्णयों के लिए स्प्रेड-बेटिंग है। एल्गोरिदम को 'यादृच्छिक' कहा जाता है क्योंकि यह बनाता है तदर्थ समझने के लिए चयन और अवलोकन मंझला निर्णय वृक्ष सरणी से परिणामों का योग।

चूँकि यह कारकों की बहुलता को ध्यान में रखता है, एक यादृच्छिक वन दृष्टिकोण को निर्णय वृक्ष की तुलना में सार्थक ग्राफ़ में परिवर्तित करना अधिक कठिन हो सकता है, लेकिन यह उल्लेखनीय रूप से अधिक उत्पादक होने की संभावना है।

निर्णय वृक्ष ओवरफिटिंग के अधीन हैं, जहां प्राप्त परिणाम डेटा-विशिष्ट होते हैं और सामान्यीकरण की संभावना नहीं होती है। रैंडम फ़ॉरेस्ट का डेटा बिंदुओं का मनमाना चयन इस प्रवृत्ति का मुकाबला करता है, डेटा में सार्थक और उपयोगी प्रतिनिधि रुझानों की खोज करता है।

निर्णय वृक्ष प्रतिगमन. स्रोत: https://scikit-learn.org/stable/auto_examples/tree/plot_tree_regression.html

लोकप्रिय उपयोग

इस सूची के कई एल्गोरिदम की तरह, रैंडम फ़ॉरेस्ट आमतौर पर डेटा के 'प्रारंभिक' सॉर्टर और फ़िल्टर के रूप में काम करता है, और इस तरह लगातार नए शोध पत्रों में सामने आता है। यादृच्छिक वन उपयोग के कुछ उदाहरणों में शामिल हैं चुंबकीय अनुनाद छवि संश्लेषण, बिटकॉइन की कीमत की भविष्यवाणी, जनगणना विभाजन, पाठ वर्गीकरण और क्रेडिट कार्ड धोखाधड़ी का पता लगाना.

चूंकि रैंडम फ़ॉरेस्ट मशीन लर्निंग आर्किटेक्चर में एक निम्न-स्तरीय एल्गोरिदम है, यह अन्य निम्न-स्तरीय तरीकों के साथ-साथ विज़ुअलाइज़ेशन एल्गोरिदम के प्रदर्शन में भी योगदान दे सकता है, जिसमें शामिल हैं आगमनात्मक क्लस्टरिंग, फ़ीचर परिवर्तन, पाठ दस्तावेजों का वर्गीकरण विरल सुविधाओं का उपयोग करना, तथा पाइपलाइन प्रदर्शित करना.

6: नाइव बेयस

घनत्व अनुमान के साथ युग्मित (देखें 4, इसके ऊपर भोली भाली बेयस क्लासिफायर एक शक्तिशाली लेकिन अपेक्षाकृत हल्का एल्गोरिदम है जो डेटा की गणना की गई विशेषताओं के आधार पर संभावनाओं का अनुमान लगाने में सक्षम है।

एक अनुभवहीन बेयस क्लासिफायरियर में फ़ीचर संबंध। स्रोत: https://www.sciencedirect.com/topics/computer-science/naive-bayes-model

'भोला' शब्द इस धारणा को संदर्भित करता है बेयस प्रमेय वे विशेषताएँ असंबंधित हैं, के रूप में जानी जाती हैं सशर्त स्वतंत्रता. यदि आप इस दृष्टिकोण को अपनाते हैं, तो बत्तख की तरह चलना और बात करना यह स्थापित करने के लिए पर्याप्त नहीं है कि हम एक बत्तख के साथ काम कर रहे हैं, और कोई भी 'स्पष्ट' धारणा समय से पहले नहीं अपनाई जाती है।

जहां 'सामान्य ज्ञान' उपलब्ध है, वहां शैक्षणिक और खोजी कठोरता का यह स्तर अत्यधिक होगा, लेकिन मशीन लर्निंग डेटासेट में मौजूद कई अस्पष्टताओं और संभावित असंबंधित सहसंबंधों का पता लगाते समय यह एक मूल्यवान मानक है।

मूल बायेसियन नेटवर्क में, सुविधाएँ इसके अधीन हैं स्कोरिंग कार्य, जिसमें न्यूनतम विवरण लंबाई और शामिल है बायेसियन स्कोरिंग, जो डेटा बिंदुओं के बीच पाए जाने वाले अनुमानित कनेक्शन और इन कनेक्शनों के प्रवाह की दिशा के संदर्भ में डेटा पर प्रतिबंध लगा सकता है।

इसके विपरीत, एक अनुभवहीन बेयस क्लासिफायर यह मानकर काम करता है कि किसी दिए गए ऑब्जेक्ट की विशेषताएं स्वतंत्र हैं, बाद में किसी दिए गए ऑब्जेक्ट की विशेषताओं के आधार पर उसकी संभावना की गणना करने के लिए बेयस प्रमेय का उपयोग किया जाता है।

लोकप्रिय उपयोग

Naive Bayes फ़िल्टर का अच्छी तरह से प्रतिनिधित्व किया गया है रोग की भविष्यवाणी और दस्तावेज़ वर्गीकरण, स्पैम फ़िल्टरिंग, भावना वर्गीकरण, सिफारिश प्रणाली, तथा धोखाधड़ी का पता लगाना, अन्य अनुप्रयोगों के बीच।

7: K- निकटतम पड़ोसी (KNN)

सबसे पहले यूएस एयर फ़ोर्स स्कूल ऑफ़ एविएशन मेडिसिन द्वारा प्रस्तावित 1951 में, और खुद को 20वीं सदी के मध्य के अत्याधुनिक कंप्यूटिंग हार्डवेयर में समायोजित करना, K-निकटतम पड़ोसी (केएनएन) एक लीन एल्गोरिदम है जो अभी भी अकादमिक पेपरों और निजी क्षेत्र की मशीन लर्निंग अनुसंधान पहलों में प्रमुखता से प्रदर्शित होता है।

केएनएन को 'आलसी शिक्षार्थी' कहा गया है, क्योंकि यह एक पूर्ण मशीन लर्निंग मॉडल के प्रशिक्षण की आवश्यकता के बजाय, डेटा बिंदुओं के बीच संबंधों का मूल्यांकन करने के लिए डेटासेट को विस्तृत रूप से स्कैन करता है।

एक केएनएन समूह। स्रोत: https://scikit-learn.org/stable/modules/neighbors.html

हालांकि केएनएन वास्तुशिल्प रूप से पतला है, लेकिन इसका व्यवस्थित दृष्टिकोण पढ़ने/लिखने के संचालन पर एक उल्लेखनीय मांग रखता है, और बहुत बड़े डेटासेट में इसका उपयोग प्रिंसिपल कंपोनेंट एनालिसिस (पीसीए) जैसी सहायक तकनीकों के बिना समस्याग्रस्त हो सकता है, जो जटिल और उच्च मात्रा डेटासेट को बदल सकता है। में प्रतिनिधि समूह केएनएन कम प्रयास से पार कर सकता है।

A हाल के एक अध्ययन यह भविष्यवाणी करने के लिए सौंपे गए कई एल्गोरिदम की प्रभावशीलता और मितव्ययिता का मूल्यांकन किया गया कि क्या कोई कर्मचारी कंपनी छोड़ देगा, और पाया कि सत्तर साल का केएनएन सटीकता और भविष्य कहनेवाला प्रभावशीलता के मामले में अधिक आधुनिक दावेदारों से बेहतर रहा।

लोकप्रिय उपयोग

अवधारणा और कार्यान्वयन की अपनी सभी लोकप्रिय सरलता के बावजूद, केएनएन 1950 के दशक में अटका हुआ नहीं है - इसे इसमें रूपांतरित किया गया है अधिक डीएनएन-केंद्रित दृष्टिकोण पेंसिल्वेनिया स्टेट यूनिवर्सिटी के 2018 के प्रस्ताव में, और कई अधिक जटिल मशीन लर्निंग फ्रेमवर्क में एक केंद्रीय प्रारंभिक चरण प्रक्रिया (या पोस्ट-प्रोसेसिंग विश्लेषणात्मक उपकरण) बनी हुई है।

विभिन्न विन्यासों में, KNN का उपयोग या के लिए किया गया है ऑनलाइन हस्ताक्षर सत्यापन, छवि वर्गीकरण, टेक्स्ट खनन, फसल की भविष्यवाणी, तथा चेहरे की पहचान, अन्य अनुप्रयोगों और निगमों के अलावा।

प्रशिक्षण में केएनएन-आधारित चेहरे की पहचान प्रणाली। Source: https://pdfs.semanticscholar.org/6f3d/d4c5ffeb3ce74bf57342861686944490f513.pdf

8: मार्कोव निर्णय प्रक्रिया (एमडीपी)

अमेरिकी गणितज्ञ रिचर्ड बेलमैन द्वारा प्रस्तुत एक गणितीय ढाँचा 1957 में, मार्कोव निर्णय प्रक्रिया (एमडीपी) सबसे बुनियादी ब्लॉकों में से एक है सुदृढीकरण सीखना आर्किटेक्चर. अपने आप में एक वैचारिक एल्गोरिदम, इसे बड़ी संख्या में अन्य एल्गोरिदम में अनुकूलित किया गया है, और एआई/एमएल अनुसंधान की वर्तमान फसल में बार-बार दोहराया जाता है।

एमडीपी डेटा के किस नोड को आगे एक्सप्लोर करना है, यह तय करने के लिए उसकी वर्तमान स्थिति (यानी यह डेटा में 'कहां' है) के मूल्यांकन का उपयोग करके डेटा वातावरण की खोज करता है।

स्रोत: https://www.sciencedirect.com/science/article/abs/pii/S0888613X18304420

एक बुनियादी मार्कोव निर्णय प्रक्रिया अधिक वांछनीय दीर्घकालिक उद्देश्यों पर निकट अवधि के लाभ को प्राथमिकता देगी। इस कारण से, यह आमतौर पर सुदृढीकरण सीखने में एक अधिक व्यापक नीति वास्तुकला के संदर्भ में अंतर्निहित है, और अक्सर छूट वाले इनाम और अन्य संशोधित पर्यावरणीय चर जैसे सीमित कारकों के अधीन है जो इसे बिना विचार किए तत्काल लक्ष्य तक पहुंचने से रोक देगा। व्यापक वांछित परिणाम का.

लोकप्रिय उपयोग

एमडीपी की निम्न-स्तरीय अवधारणा अनुसंधान और मशीन लर्निंग की सक्रिय तैनाती दोनों में व्यापक है। इसके लिए प्रस्ताव दिया गया है IoT सुरक्षा रक्षा प्रणालियाँ, मछली कटाई, तथा बाजार पूर्वानुमान.

इसके अलावा स्पष्ट प्रयोज्यता शतरंज और अन्य कड़ाई से अनुक्रमिक खेलों के लिए, एमडीपी भी एक स्वाभाविक दावेदार है रोबोटिक्स प्रणालियों का प्रक्रियात्मक प्रशिक्षण, जैसा कि हम नीचे दिए गए वीडियो में देख सकते हैं।

9: टर्म फ़्रीक्वेंसी-व्युत्क्रम दस्तावेज़ फ़्रीक्वेंसी

अवधि आवृत्ति (TF) किसी दस्तावेज़ में किसी शब्द के प्रकट होने की संख्या को उस दस्तावेज़ में शब्दों की कुल संख्या से विभाजित करता है। इस प्रकार शब्द सील एक हजार शब्दों के लेख में एक बार प्रदर्शित होने की अवधि आवृत्ति 0.001 है। अपने आप में, टीएफ शब्द के महत्व के संकेतक के रूप में काफी हद तक बेकार है, इस तथ्य के कारण कि अर्थहीन लेख (जैसे a, और, la, तथा it) प्रबल होना।

किसी शब्द के लिए सार्थक मान प्राप्त करने के लिए, व्युत्क्रम दस्तावेज़ आवृत्ति (आईडीएफ) एक डेटासेट में कई दस्तावेजों में एक शब्द के टीएफ की गणना करता है, बहुत उच्च आवृत्ति को कम रेटिंग प्रदान करता है। रोक, जैसे लेख। परिणामी फ़ीचर वैक्टर को संपूर्ण मानों के लिए सामान्यीकृत किया जाता है, प्रत्येक शब्द को एक उचित भार दिया जाता है।

टीएफ-आईडीएफ कई दस्तावेजों में आवृत्ति के आधार पर शब्दों की प्रासंगिकता को महत्व देता है, दुर्लभ घटना प्रमुखता का संकेतक है। स्रोत: https://moz.com/blog/invers-document-frequence-and-the-importance-of-uniqueness

यद्यपि यह दृष्टिकोण शब्दार्थ की दृष्टि से महत्वपूर्ण शब्दों को लुप्त होने से बचाता है बाहरी कारकों के कारण, आवृत्ति भार को उलटने का मतलब स्वचालित रूप से यह नहीं है कि कम-आवृत्ति शब्द है नहीं एक बाह्य, क्योंकि कुछ चीजें दुर्लभ हैं और बेकार। इसलिए कम आवृत्ति वाले शब्द को डेटासेट में कई दस्तावेजों में (प्रति दस्तावेज़ कम आवृत्ति पर भी) प्रदर्शित करके व्यापक वास्तुशिल्प संदर्भ में अपना मूल्य साबित करने की आवश्यकता होगी।

बावजूद इसके उम्र, टीएफ-आईडीएफ प्राकृतिक भाषा प्रसंस्करण ढांचे में प्रारंभिक फ़िल्टरिंग पास के लिए एक शक्तिशाली और लोकप्रिय तरीका है।

लोकप्रिय उपयोग

क्योंकि TF-IDF ने पिछले बीस वर्षों में Google के बड़े पैमाने पर गुप्त पेजरैंक एल्गोरिदम के विकास में कम से कम कुछ भूमिका निभाई है, यह बन गया है बहुत व्यापक रूप से अपनाया गया जॉन मुलर के 2019 के बावजूद, एक जोड़-तोड़ वाली एसईओ रणनीति के रूप में इनकार खोज परिणामों के लिए इसका महत्व।

पेजरैंक के आसपास गोपनीयता के कारण, इसका कोई स्पष्ट प्रमाण नहीं है कि टीएफ-आईडीएफ है नहीं यह वर्तमान में Google की रैंकिंग में वृद्धि के लिए एक प्रभावी रणनीति है। आग लगानेवाला चर्चा आईटी पेशेवरों के बीच हाल ही में एक लोकप्रिय समझ का संकेत मिलता है, चाहे वह सही हो या नहीं, शब्द के दुरुपयोग के परिणामस्वरूप अभी भी एसईओ प्लेसमेंट में सुधार हो सकता है (हालांकि अतिरिक्त) एकाधिकार के दुरुपयोग का आरोप और अत्यधिक विज्ञापन इस सिद्धांत की सीमाओं को धुंधला करें)।

10: स्टोकेस्टिक ग्रेडिएंट डिसेंट

स्टोकेस्टिक ग्रेडिएंट डिसेंट (एसजीडी) मशीन लर्निंग मॉडल के प्रशिक्षण को अनुकूलित करने के लिए एक तेजी से लोकप्रिय तरीका है।

ग्रेडिएंट डिसेंट अपने आप में प्रशिक्षण के दौरान एक मॉडल द्वारा किए जा रहे सुधार को अनुकूलित करने और उसके बाद उसे मापने की एक विधि है।

इस अर्थ में, 'ग्रेडिएंट' नीचे की ओर ढलान को इंगित करता है (रंग-आधारित ग्रेडेशन के बजाय, नीचे दी गई छवि देखें), जहां बाईं ओर 'पहाड़ी' का उच्चतम बिंदु, प्रशिक्षण प्रक्रिया की शुरुआत का प्रतिनिधित्व करता है। इस स्तर पर मॉडल ने अभी तक संपूर्ण डेटा को एक बार भी नहीं देखा है, और प्रभावी परिवर्तन उत्पन्न करने के लिए डेटा के बीच संबंधों के बारे में पर्याप्त नहीं सीखा है।

फेसस्वैप प्रशिक्षण सत्र पर एक क्रमिक अवतरण। हम देख सकते हैं कि दूसरे भाग में कुछ समय के लिए प्रशिक्षण रुका हुआ है, लेकिन अंततः एक स्वीकार्य अभिसरण की ओर धीरे-धीरे नीचे आ गया है।

सबसे निचला बिंदु, दाईं ओर, अभिसरण का प्रतिनिधित्व करता है (वह बिंदु जिस पर मॉडल उतना प्रभावी होता है जितना कि यह कभी भी लगाए गए बाधाओं और सेटिंग्स के तहत आने वाला है)।

ग्रेडिएंट त्रुटि दर (मॉडल ने वर्तमान में डेटा संबंधों को कितनी सटीकता से मैप किया है) और वजन (सेटिंग्स जो मॉडल सीखने के तरीके को प्रभावित करती हैं) के बीच असमानता के लिए एक रिकॉर्ड और भविष्यवक्ता के रूप में कार्य करता है।

प्रगति के इस रिकॉर्ड का उपयोग सूचित करने के लिए किया जा सकता है सीखने की दर अनुसूची, एक स्वचालित प्रक्रिया जो आर्किटेक्चर को अधिक विस्तृत और सटीक बनने के लिए कहती है क्योंकि शुरुआती अस्पष्ट विवरण स्पष्ट संबंधों और मैपिंग में बदल जाते हैं। वास्तव में, ग्रेडिएंट लॉस एक समय-समय पर मानचित्र प्रदान करता है कि प्रशिक्षण आगे कहाँ जाना चाहिए, और इसे कैसे आगे बढ़ना चाहिए।

स्टोचैस्टिक ग्रेडिएंट डिसेंट का नवाचार यह है कि यह प्रत्येक प्रशिक्षण उदाहरण पर प्रति पुनरावृत्ति मॉडल के मापदंडों को अद्यतन करता है, जो आम तौर पर अभिसरण की यात्रा को गति देता है। हाल के वर्षों में हाइपरस्केल डेटासेट के आगमन के कारण, आगामी लॉजिस्टिक मुद्दों के समाधान के लिए एक संभावित विधि के रूप में एसजीडी की लोकप्रियता हाल ही में बढ़ी है।

दूसरी ओर, SGD के पास है नकारात्मक प्रभाव फीचर स्केलिंग के लिए, और नियमित ग्रेडिएंट डिसेंट की तुलना में, समान परिणाम प्राप्त करने के लिए अधिक पुनरावृत्तियों की आवश्यकता हो सकती है, जिसके लिए अतिरिक्त योजना और अतिरिक्त मापदंडों की आवश्यकता होती है।

लोकप्रिय उपयोग

इसकी विन्यास क्षमता के कारण, और इसकी कमियों के बावजूद, SGD तंत्रिका नेटवर्क को फिट करने के लिए सबसे लोकप्रिय अनुकूलन एल्गोरिदम बन गया है। एसजीडी का एक विन्यास जो नए एआई/एमएल शोध पत्रों में प्रमुख होता जा रहा है, वह है एडेप्टिव मोमेंट एस्टीमेशन (एडीएएम) का विकल्प, जिसे पेश किया गया है। 2015 में) अनुकूलक.

ADAM प्रत्येक पैरामीटर के लिए सीखने की दर को गतिशील रूप से अनुकूलित करता है ('अनुकूली सीखने की दर'), साथ ही पिछले अपडेट के परिणामों को बाद के कॉन्फ़िगरेशन ('मोमेंटम') में शामिल करता है। इसके अतिरिक्त, इसे बाद के नवाचारों का उपयोग करने के लिए कॉन्फ़िगर किया जा सकता है, जैसे नेस्टरोव मोमेंटम.

हालाँकि, कुछ का मानना ​​है कि संवेग के उपयोग से ADAM (और समान एल्गोरिदम) की गति भी बढ़ सकती है उप-इष्टतम निष्कर्ष. मशीन लर्निंग अनुसंधान क्षेत्र के अधिकांश ब्लीडिंग एज की तरह, SGD पर भी कार्य प्रगति पर है।

पहली बार 10 फरवरी 2022 को प्रकाशित। संशोधित 10 फरवरी 20.05 ईईटी - फ़ॉर्मेटिंग।