जनरेटिव बनाम विभेदक मशीन लर्निंग मॉडल

कुछ मशीन लर्निंग मॉडल “जनरेटिव” या “विभेदक” मॉडल श्रेणियों में से एक के अंतर्गत आते हैं। लेकिन इन दो मॉडल श्रेणियों के बीच क्या अंतर है? किसी मॉडल के लिए विभेदक या जनरेटिव होने का क्या अर्थ है?

संक्षिप्त उत्तर यह है कि जनरेटिव मॉडल वे हैं जो डेटा सेट के वितरण को शामिल करते हैं, और एक दिए गए उदाहरण के लिए एक संभावना लौटाते हैं। जनरेटिव मॉडल अक्सर एक क्रम में आगे क्या होगा इसकी भविष्यवाणी करने के लिए उपयोग किए जाते हैं। दूसरी ओर, विभेदक मॉडल वर्गीकरण या प्रतिगमन के लिए उपयोग किए जाते हैं और वे एक सशर्त संभावना के आधार पर एक भविष्यवाणी लौटाते हैं। आइए जनरेटिव और विभेदक मॉडलों के बीच के अंतरों को विस्तार से समझने का प्रयास करें, ताकि हम दोनों प्रकार के मॉडलों को अलग कर सकें और यह जान सकें कि कब कौन सा मॉडल उपयोग करना चाहिए।

जनरेटिव बनाम विभेदक मॉडल

मशीन लर्निंग मॉडल को विभिन्न तरीकों से वर्गीकृत किया जा सकता है। एक मॉडल को विभिन्न श्रेणियों में से एक के रूप में वर्गीकृत किया जा सकता है, जैसे कि जनरेटिव मॉडल, विभेदक मॉडल, पैरामेट्रिक मॉडल, गैर-पैरामेट्रिक मॉडल, ट्री आधारित मॉडल, और गैर-ट्री आधारित मॉडल।

इस लेख में हम जनरेटिव मॉडल और विभेदक मॉडल के बीच के अंतरों पर ध्यान केंद्रित करेंगे। हम जनरेटिव और विभेदक मॉडल दोनों को परिभाषित करना शुरू करेंगे, और फिर हम दोनों प्रकार के मॉडलों के कुछ उदाहरणों का अन्वेषण करेंगे।

जनरेटिव मॉडल

जनरेटिव मॉडल वे हैं जो डेटा सेट के भीतर वर्गों के वितरण पर केंद्रित होते हैं। मशीन लर्निंग अल्गोरिदम आमतौर पर डेटा बिंदुओं के वितरण को मॉडल करते हैं। जनरेटिव मॉडल संयुक्त संभावना पर निर्भर करते हैं। एक दिए गए इनपुट सुविधा और एक वांछित आउटपुट/लेबल के साथ बिंदुओं का निर्माण करना।

जनरेटिव मॉडल आमतौर पर संभावनाओं और संभाव्यता का अनुमान लगाने के लिए उपयोग किए जाते हैं, डेटा बिंदुओं को मॉडल करते हैं और इन संभावनाओं के आधार पर वर्गों के बीच भेदभाव करते हैं। चूंकि मॉडल डेटा सेट के लिए एक संभावना वितरण सीखता है, यह नए डेटा उदाहरणों को उत्पन्न करने के लिए इस संभावना वितरण का संदर्भ ले सकता है। जनरेटिव मॉडल अक्सर बायेस प्रमेय पर निर्भर करते हैं संयुक्त संभावना खोजने के लिए, p(x,y) खोजने के लिए। मूल रूप से, जनरेटिव मॉडल डेटा कैसे उत्पन्न हुआ, इसका उत्तर देते हैं:

“क्या यह संभावना है कि यह वर्ग या किसी अन्य वर्ग ने इस डेटा बिंदु/उदाहरण को उत्पन्न किया है?”

जनरेटिव मशीन लर्निंग मॉडल के उदाहरणों में रेखीय विभेदक विश्लेषण (एलडीए), हिडन मार्कोव मॉडल और नेव बेस जैसे बेयसियन नेटवर्क शामिल हैं।

विभेदक मॉडल

जबकि जनरेटिव मॉडल डेटा सेट के वितरण के बारे में सीखते हैं, विभेदक मॉडल डेटा सेट के भीतर वर्गों के बीच सीमा के बारे में सीखते हैं। विभेदक मॉडल के साथ, लक्ष्य वर्गों के बीच निर्णय सीमा की पहचान करना है ताकि डेटा उदाहरणों को विश्वसनीय वर्ग लेबल दिए जा सकें। विभेदक मॉडल सशर्त संभावना का उपयोग करके वर्गों को अलग करते हैं, और वे व्यक्तिगत डेटा बिंदुओं के बारे में कोई धारणा नहीं बनाते हैं।

विभेदक मॉडल निम्नलिखित प्रश्न का उत्तर देने का प्रयास करते हैं:

“यह उदाहरण निर्णय सीमा के किस पक्ष पर पाया जाता है?”

मशीन लर्निंग में विभेदक मॉडल के उदाहरणों में सहायता वेक्टर मशीन, लॉजिस्टिक प्रतिगमन, निर्णय पेड़ और रैंडम फॉरेस्ट शामिल हैं।

जनरेटिव और विभेदक के बीच अंतर

जनरेटिव और विभेदक मॉडल के बीच के मुख्य अंतरों का एक त्वरित अवलोकन यह है:

जनरेटिव मॉडल:

• जनरेटिव मॉडल डेटा सेट में वर्गों के वितरण को पकड़ने का प्रयास करते हैं।
• जनरेटिव मॉडल संयुक्त संभावना वितरण की भविष्यवाणी करते हैं – p(x,y) – बायेस प्रमेय का उपयोग करके।
• जनरेटिव मॉडल विभेदक मॉडल की तुलना में गणनात्मक रूप से महंगे होते हैं।
• जनरेटिव मॉडल अनुप्रविष्ट मशीन लर्निंग कार्यों के लिए उपयोगी होते हैं।
• जनरेटिव मॉडल विभेदक मॉडल की तुलना में आउटलियर की उपस्थिति से अधिक प्रभावित होते हैं।

विभेदक मॉडल:

• विभेदक मॉडल डेटा सेट के वर्गों के लिए निर्णय सीमा को मॉडल करते हैं।
• विभेदक मॉडल सशर्त संभावना सीखते हैं – p(y|x)।
• विभेदक मॉडल जनरेटिव मॉडल की तुलना में गणनात्मक रूप से सस्ते होते हैं।
• विभेदक मॉडल पर्यविष्ट मशीन लर्निंग कार्यों के लिए उपयोगी होते हैं।
• विभेदक मॉडल आउटलियर के प्रति अधिक मजबूत होते हैं, जनरेटिव मॉडल की तुलना में।
• विभेदक मॉडल जनरेटिव मॉडल की तुलना में आउटलियर के प्रति अधिक मजबूत होते हैं।

अब हम जनरेटिव और विभेदक मशीन लर्निंग मॉडल के कुछ विभिन्न उदाहरणों का अन्वेषण करेंगे।

जनरेटिव मॉडल के उदाहरण

रेखीय विभेदक विश्लेषण (एलडीए)

एलडीए मॉडल डेटा सेट में प्रत्येक वर्ग के लिए विचरण और माध्य का अनुमान लगाकर कार्य करते हैं। एक बार जब प्रत्येक वर्ग के लिए माध्य और विचरण गणना किए जाते हैं, तो एक दिए गए इनपुट सेट के एक दिए गए वर्ग से संबंधित होने की संभावना का अनुमान लगाने के लिए भविष्यवाणियां की जा सकती हैं।

हिडन मार्कोव मॉडल

मार्कोव श्रृंखला को एक ग्राफ के रूप में सोचा जा सकता है जिसमें संभावनाएं होती हैं जो यह दर्शाती हैं कि एक राज्य से दूसरे राज्य में जाने की कितनी संभावना है। मार्कोव श्रृंखला का उपयोग यह निर्धारित करने के लिए किया जाता है कि एक राज्य i से राज्य j में जाने की संभावना क्या है, जिसे p(i,j) के रूप में दर्शाया जा सकता है। यह संयुक्त संभावना है जिसका उल्लेख ऊपर किया गया था। एक हिडन मार्कोव मॉडल में एक अदृश्य, अवलोकनीय मार्कोव श्रृंखला होती है। डेटा इनपुट मॉडल को दिए जाते हैं और वर्तमान राज्य और तुरंत पहले के राज्य की संभावनाओं का उपयोग सबसे संभावित परिणाम की गणना करने के लिए किया जाता है।

बेयसियन नेटवर्क

बेयसियन नेटवर्क एक प्रकार का संभाव्य ग्राफिकल मॉडल है। वे चरों के बीच सशर्त निर्भरताओं का प्रतिनिधित्व करते हैं, जैसा कि एक निर्देशित एसाइक्लिक ग्राफ द्वारा दर्शाया गया है। एक बेयसियन नेटवर्क में, ग्राफ के प्रत्येक एज का प्रतिनिधित्व एक सशर्त निर्भरता के रूप में किया जाता है, और प्रत्येक नोड एक अद्वितीय चर से मेल खाता है। ग्राफ में विशिष्ट संबंधों की सशर्त स्वतंत्रता का उपयोग चरों के संयुक्त वितरण को निर्धारित करने और संयुक्त संभावना की गणना करने के लिए किया जा सकता है। दूसरे शब्दों में, एक बेयसियन नेटवर्क एक विशिष्ट संयुक्त संभावना वितरण में स्वतंत्र संबंधों के एक उपसेट को पकड़ता है।

एक बार जब एक बेयसियन नेटवर्क बनाया और ठीक से परिभाषित किया जाता है, तो यादृच्छिक चर, सशर्त संबंध, और संभावना वितरण ज्ञात होने के साथ, इसका उपयोग घटनाओं या परिणामों की संभावना का अनुमान लगाने के लिए किया जा सकता है।

बेयसियन नेटवर्क के सबसे आम प्रकारों में से एक नेव बेस मॉडल है। एक नेव बेस मॉडल कई पैरामीटर/विशेषताओं वाले डेटा सेट के लिए संभावना की गणना करने की चुनौती को पूरा करने के लिए विशेषताओं को एक दूसरे से स्वतंत्र मानता है।

विभेदक मॉडल के उदाहरण

सहायता वेक्टर मशीन

सहायता वेक्टर मशीन डेटा बिंदुओं के बीच एक निर्णय सीमा खींचकर काम करती है, डेटा सेट में विभिन्न वर्गों को अलग करने के लिए सबसे अच्छी निर्णय सीमा की तलाश में है। एसवीएम अल्गोरिदम 2-आयामी स्थानों के लिए रेखाएं और 3D स्थानों के लिए हाइपरप्लेन खींचता है। एसवीएम वर्गों को अलग करने के लिए सबसे अच्छी रेखा/हाइपरप्लेन की तलाश में है, जो अंतराल को अधिकतम करने का प्रयास करता है, या रेखा/हाइपरप्लेन से निकटतम बिंदुओं तक की दूरी। एसवीएम मॉडल भी गैर-रेखीय रूप से अलग किए जा सकने वाले डेटा सेट पर “कर्नल ट्रिक” का उपयोग करके गैर-रेखीय निर्णय सीमा की पहचान करने के लिए उपयोग किए जा सकते हैं।

लॉजिस्टिक प्रतिगमन

लॉजिस्टिक प्रतिगमन एक अल्गोरिदम है जो एक लॉगिट (लॉग-ओड्स) फंक्शन का उपयोग यह निर्धारित करने के लिए करता है कि एक इनपुट की संभावना दो स्थितियों में से एक में होने की है। एक सिग्मॉइड फंक्शन का उपयोग संभावना को 0 या 1 की ओर “स्क्वैश” करने के लिए किया जाता है। 0.50 से अधिक संभावनाएं वर्ग 1 मानी जाती हैं, जबकि 0.49 या उससे कम संभावनाएं 0 मानी जाती हैं। इस कारण से, लॉजिस्टिक प्रतिगमन आमतौर पर द्विआयामी वर्गीकरण समस्याओं में उपयोग किया जाता है। हालांकि, लॉजिस्टिक प्रतिगमन को बहु-वर्ग समस्याओं पर लागू किया जा सकता है एक-विरुद्ध-सभी दृष्टिकोण का उपयोग करके, प्रत्येक वर्ग के लिए एक द्विआयामी वर्गीकरण मॉडल बनाना और यह निर्धारित करना कि एक उदाहरण किसी लक्ष्य वर्ग या डेटा सेट में किसी अन्य वर्ग की तुलना में किस संभावना से मेल खाता है।

निर्णय पेड़

एक निर्णय पेड़ मॉडल डेटा सेट को छोटे और छोटे हिस्सों में विभाजित करके कार्य करता है, और एक बार जब उप-सेट विभाजित नहीं किए जा सकते हैं, तो परिणाम एक पेड़ है जिसमें नोड और पत्तियां होती हैं। निर्णय पेड़ में नोड वह स्थान होते हैं जहां डेटा बिंदुओं के बारे में निर्णय लिए जाते हैं, विभिन्न फिल्टरिंग मानदंडों का उपयोग करके। निर्णय पेड़ की पत्तियां वर्गीकृत डेटा बिंदु होती हैं। निर्णय पेड़ अल्गोरिदम दोनों संख्यात्मक और श्रेणीबद्ध डेटा को संभाल सकते हैं, और पेड़ में विभाजन विशिष्ट चर/विशेषताओं पर आधारित होते हैं।

रैंडम फॉरेस्ट

एक रैंडम फॉरेस्ट मॉडल मूल रूप से व्यक्तिगत पेड़ों का एक संग्रह है जहां व्यक्तिगत पेड़ों की भविष्यवाणियों को एक अंतिम निर्णय पर पहुंचने के लिए औसतन किया जाता है। रैंडम फॉरेस्ट अल्गोरिदम अवलोकनों और विशेषताओं का यादृच्छिक रूप से चयन करता है, इन चयनों के आधार पर व्यक्तिगत पेड़ बनाता है।

यह ट्यूटोरियल लेख मैटप्लॉटलिब में एक बॉक्स प्लॉट बनाने के तरीके का अन्वेषण करेगा। बॉक्स प्लॉट का उपयोग डेटा सेट के सारांश आंकड़ों को दृश्य化 करने के लिए किया जाता है, जैसे कि डेटा की सीमा और वितरण जैसे वितरण की विशेषताओं को प्रदर्शित करता है।