एआई मॉडल और प्लेटफ़ॉर्म

ज़ेफर: भाषा मॉडलों में संरेखण का प्रत्यक्ष आसवन

mm
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें

हाल के वर्षों में, छोटे, खुले बड़े भाषा मॉडलों की क्षमता और प्रदर्शन में काफी सुधार हुआ है, और हमने शुरुआती जीपीटी-2 मॉडल से अधिक कॉम्पैक्ट, सटीक और प्रभावी एलएलएम फ्रेमवर्क तक की प्रगति देखी है जो चिंचिला स्केलिंग कानूनों द्वारा अनुशंसित “गणना-अनुकूल” टोकन की मात्रा से काफी अधिक टोकन का उपयोग करते हैं। इसके अलावा, डेवलपर्स ने प्रदर्शित किया है कि इन छोटे एलएलएम फ्रेमवर्क को स्वामित्व वाले मॉडलों पर आधारित dSFT या डिस्टिल्ड सुपरवाइज्ड फाइन-ट्यूनिंग दृष्टिकोण का उपयोग करके आगे प्रशिक्षित किया जा सकता है, जो एक प्रभावी शिक्षक मॉडल के आउटपुट का उपयोग छात्र मॉडल के लिए पर्यवेक्षित डेटा के रूप में करता है ताकि सटीकता में सुधार किया जा सके।

इस लेख में, हम ज़ेफर-7बी फ्रेमवर्क के बारे में बात करेंगे, जो 7बी पैरामीटर मॉडल के लिए एक अत्याधुनिक चैट बेंचमार्क है जिसके लिए मानव एनोटेशन की आवश्यकता नहीं है। फ्रेमवर्क का प्राथमिक उद्देश्य डेवलपर्स को छोटे बड़े भाषा मॉडल तैयार करने में सक्षम बनाना है जो उपयोगकर्ता के इरादे के साथ पहले से कहीं अधिक जुड़े हुए हैं। ज़ेफर-7बी फ्रेमवर्क न केवल बड़े एलएलएम फ्रेमवर्क जैसे dSFT के लिए वर्तमान दृष्टिकोणों की जांच करता है, बल्कि उपयोगकर्ता के इरादे के साथ बेहतर जुड़ाव वाले चैट मॉडल सीखने के लिए अन्य दृष्टिकोणों की संभावना का भी अन्वेषण करता है। हम ज़ेफर फ्रेमवर्क की गहराई से जांच करेंगे, और इसकी वास्तुकला, कार्य, और परिणामों का अन्वेषण करेंगे। तो आइए शुरू करें।

ज़ेफर-7बी: भाषा मॉडल्स में संरेखण के प्रत्यक्ष आसवन का परिचय

जैसा कि पहले उल्लेख किया गया है, भाषा मॉडल हाल के वर्षों में तेजी से आगे बढ़े हैं, शुरुआती जीपीटी-2 फ्रेमवर्क से लेकर वर्तमान जीपीटी-4 और मिनी जीपीटी-5 एलएलएम फ्रेमवर्क तक, जो उच्च टोकन समावेशी होने के बावजूद अधिक सटीक और अधिक कुशल हैं। इन उन्नत एलएलएम फ्रेमवर्क की एक प्रमुख विशेषता यह है कि वे चिंचिला स्केलिंग कानूनों के तहत पहले माने जाने वाले गणना-अनुकूल टोकन की संख्या से काफी अधिक टोकन शामिल करते हैं। इसके अलावा, एलएलएम फ्रेमवर्क पर काम करने वाले डेवलपर्स और शोधकर्ताओं ने सीखा है कि इन छोटे एलएलएम फ्रेमवर्क को स्वामित्व वाले मॉडलों पर आधारित dSFT या डिस्टिल्ड सुपरवाइज्ड फाइन-ट्यूनिंग दृष्टिकोण का उपयोग करके आगे प्रशिक्षित किया जा सकता है, जो एक प्रभावी शिक्षक मॉडल के आउटपुट का उपयोग छात्र मॉडल के लिए पर्यवेक्षित डेटा के रूप में करता है ताकि सटीकता में सुधार किया जा सके। dSFT दृष्टिकोण साबित हुआ है कि यह एक अत्यधिक प्रभावी और उपयोगी उपकरण है जो खुले मॉडलों की क्षमता और क्षमताओं को अधिकतम करने के लिए एक विस्तृत श्रृंखला के कार्यों पर। हालांकि, यह अभी भी शिक्षक मॉडल द्वारा प्राप्त प्रदर्शन को प्रतिबिंबित नहीं कर सकता है। इसके अलावा, उपयोगकर्ताओं ने अक्सर बताया है कि ये मॉडल अक्सर “इरादा विचलन” प्रदर्शित करते हैं, जिसका अर्थ है कि मॉडल उपयोगकर्ता की आवश्यकताओं के अनुरूप व्यवहार नहीं करते हैं, जिससे उपयोगकर्ता के इनपुट या प्रश्नों के लिए सही आउटपुट या प्रतिक्रिया प्रदान नहीं की जा सकती है।

इरादा संरेखण हमेशा डेवलपर्स के लिए एक बड़ी चुनौती रही है, और हाल के कार्यों ने अल्पाका-इवल और एमटी-बेंच जैसे बेंचमार्क के विकास पर ध्यान केंद्रित किया है, जो विचलन को लक्षित करने के लिए विकसित किए गए हैं। ज़ेफर फ्रेमवर्क के विकास की प्रेरणा आसवन का उपयोग करके एक छोटे खुले एलएलएम फ्रेमवर्क को पूरी तरह से संरेखित करने की समस्या को दिया जा सकता है, जहां प्राथमिक चरण एक एआईएफ या कृत्रिम बुद्धिमत्ता प्रतिक्रिया का उपयोग करके शिक्षक मॉडल के एक समूह से प्राथमिकता डेटा प्राप्त करना है, और फिर सीधे प्रमुख प्रशिक्षण उद्देश्य के रूप में आसवित वरीयता अनुकूलन लागू करना है, जिसे dDPO या डेनोइज़िंग डिफ्यूजन पॉलिसी ऑप्टिमाइजेशन के रूप में जाना जाता है। dDPO दृष्टिकोण की मुख्य विशेषता यह है कि यह अपने पूर्ववर्तियों जैसे पीपीओ या प्रॉक्सिमल प्राथमिकता अनुकूलन के विपरीत, मानव नमूनाकरण या एनोटेशन की आवश्यकता नहीं है, और यह भाषा मॉडल को प्रशिक्षित करने में लगने वाले समय को भी कम करता है। इसके अलावा, यह डेवलपर्स को अंतिम नमूने के पुरस्कार को शोर कम करने के चरणों की श्रृंखला पर ध्यान केंद्रित करके अधिकतम करने की अनुमति देता है, अर्थात् इसकी पूरी अवधि में।

डेवलपर्स ने ज़ेफर-7बी फ्रेमवर्क को इस दृष्टिकोण को सत्यापित करने के लिए विकसित किया है, और कुछ तरीकों से, यह अत्याधुनिक मिस्ट्रल-7बी फ्रेमवर्क का एक संरेखित संस्करण है। फ्रेमवर्क पहले अल्ट्राचैट डेटासेट पर dSFT या डिस्टिल्ड सुपरवाइज्ड फाइन-ट्यूनिंग का उपयोग करता है, और फिर dDPO या डेनोइज़िंग डिफ्यूजन पॉलिसी ऑप्टिमाइजेशन दृष्टिकोण को प्रतिक्रिया डेटा पर लागू करता है। प्रयोग से पता चलता है कि ज़ेफर-7बी फ्रेमवर्क 7 बिलियन पैरामीटर के साथ परिणाम प्रदान करता है जो मानव-प्रतिक्रिया-संरेखित चैट मॉडल के साथ 70 बिलियन पैरामीटर के साथ तुलनीय है। इसके अलावा, प्रयोग यह भी दर्शाते हैं कि परिणाम बातचीत क्षमताओं को ध्यान में रखते हुए बेंचमार्क के साथ-साथ मानक अकादमिक बेंचमार्क में भी सुधार किए जा सकते हैं, और प्राथमिकता सीखने का उपयोग वांछित परिणाम प्राप्त करने के लिए महत्वपूर्ण है।

उपरोक्त आंकड़ा एमटी-बेंच बेंचमार्क पर विभिन्न भाषा मॉडलों के प्रदर्शन को दर्शाता है। ज़ेफर-7बी फ्रेमवर्क, जो dDPO दृष्टिकोण का उपयोग करता है, को प्रोप्राइटरी और खुले बड़े भाषा मॉडल जैसे जीपीटी-3.5 टर्बो, Llama-2-70B, और अधिक के साथ तुलना की जाती है, जो अतिरिक्त पुनर्बलन अधिगम और बड़ी मात्रा में मानव प्रतिक्रिया का उपयोग करके प्रशिक्षित किए गए हैं। जैसा कि स्पष्ट रूप से देखा जा सकता है, ज़ेफर-7बी फ्रेमवर्क न केवल खुले 7बी मॉडल के खिलाफ महत्वपूर्ण रूप से बेहतर प्रदर्शन करता है, बल्कि दो बेंचमार्क पर नए अत्याधुनिक मानक भी स्थापित करता है। इसके अलावा, ज़ेफर-7बी फ्रेमवर्क dPPO या डिस्टिल्ड पीपीओ दृष्टिकोण पर प्रशिक्षित एक दुर्लभ मॉडल, एक्सविन-एलएम-7बी को भी पार करता है। ज़ेफर-7बी फ्रेमवर्क द्वारा प्रदान किए गए प्रदर्शन 70बी पैरामीटर के साथ बड़े भाषा मॉडल जैसे Llama2-Chat के परिणामों के साथ तुलनीय हैं।

ज़ेफर-7बी: विधि, कार्य और वास्तुकला

ज़ेफर-7बी फ्रेमवर्क का प्राथमिक उद्देश्य एक खुले बड़े भाषा मॉडल को उपयोगकर्ता के इरादे के साथ यथासंभव करीब लाना है, और इसके दौरान, ज़ेफर-7बी फ्रेमवर्क एक बड़े शिक्षक मॉडल तक पहुंच की मान्यता करता है जो प्रॉम्प्ट जेनरेशन का उपयोग करके पूछा जाता है। ज़ेफर-7बी इन्सट्रक्टजीपीटी फ्रेमवर्क में उपयोग किए जाने वाले दृष्टिकोण के समान एक दृष्टिकोण का अनुसरण करता है, और एक प्रभावी और सटीक छात्र मॉडल उत्पन्न करने का लक्ष्य रखता है।

निम्नलिखित आंकड़ा ज़ेफर-7बी फ्रेमवर्क के कार्य में शामिल तीन प्राथमिक चरणों को संक्षेप में प्रस्तुत करता है।

  1. स्व-निर्देश शैली का उपयोग करके बड़े पैमाने पर डेटासेट निर्माण के लिए dSFT।
  2. उत्तर पूरा करने वाले चैट मॉडलों के समूह का उपयोग करके एआईएफ संग्रह, उसके बाद प्राथमिकता द्विआधारीकरण और जीपीटी-4 द्वारा स्कोरिंग।
  3. प्रतिक्रिया डेटा का उपयोग करके dSFT मॉडल का dPO।

dSFT या डिस्टिल्ड सुपरवाइज्ड फाइन-ट्यूनिंग

फ्रेमवर्क एक मूल बड़े भाषा मॉडल से शुरू होता है जिसे उपयोगकर्ता के प्रॉम्प्ट का उत्तर देना सिखाया जाता है। परंपरागत रूप से उच्च गुणवत्ता वाले निर्देशों और उनके उत्तरों के डेटासेट पर SFT, यानी पर्यवेक्षित फाइन-ट्यूनिंग, की जाती है। Zephyr-7B शिक्षक मॉडल तक पहुँच होने के कारण निर्देश और उत्तर उत्पन्न करके सीधे उन पर छात्र को प्रशिक्षित कर सकता है; इसे dSFT या आसवित SFT कहते हैं। अगले चित्र में x विविध विषयों के शुरुआती प्रॉम्प्ट का समूह है, y नमूना उत्तर है जिसे नए नमूना निर्देश x1 से परिष्कृत किया जाता है, और C अंतिम डेटासेट को दर्शाता है।

एआई प्रतिक्रिया के माध्यम से प्राथमिकता

मानव प्रतिक्रिया का उपयोग बड़े भाषा मॉडलों को संरेखित करने के लिए किया जाता है क्योंकि वे आवश्यक अतिरिक्त संकेत प्रदान कर सकते हैं, और ये मानव प्रतिक्रियाएं आमतौर पर प्रतिक्रियाओं की गुणवत्ता पर प्राथमिकताओं के माध्यम से प्रदान की जाती हैं जो एलएलएम फ्रेमवर्क द्वारा उत्पन्न की जाती हैं। हालांकि, ज़ेफर फ्रेमवर्क संक्षेपण के उद्देश्यों के लिए मानव प्रतिक्रिया के बजाय अन्य मॉडलों के आउटपुट पर शिक्षक मॉडल से प्राप्त एआई प्रतिक्रिया का उपयोग करता है। ज़ेफर फ्रेमवर्क द्वारा अपनाया गया दृष्टिकोण अल्ट्राफीडबैक फ्रेमवर्क द्वारा उपयोग किए जाने वाले दृष्टिकोण से प्रभावित है, जो मॉडल के आउटपुट पर शिक्षक मॉडल को प्राथमिकताएं प्रदान करने के लिए उपयोग किया जाता है।

एसएफटी या सुपरवाइज्ड फाइन-ट्यूनिंग दृष्टिकोण के समान, यह एक सेट प्रॉम्प्ट से शुरू होता है, जहां एक्स प्रत्येक व्यक्तिगत प्रॉम्प्ट को चार मॉडल जैसे लामा, फाल्कन, क्लाउड, और अधिक में फीड किया जाता है, प्रत्येक मॉडल अपनी प्रतिक्रिया उत्पन्न करता है। ये प्रतिक्रियाएं फिर जीपीटी-3 या जीपीटी-4 जैसे शिक्षक मॉडल को इनपुट के रूप में दी जाती हैं, और मॉडल प्रतिक्रिया के लिए एक स्कोर आउटपुट करता है। स्कोर को एकत्र करने के बाद, मॉडल उच्चतम स्कोर वाली प्रतिक्रिया को सहेजता है।

dDPO या डिस्टिल्ड डायरेक्ट प्राथमिकता अनुकूलन

dDPO ज़ेफर फ्रेमवर्क का अंतिम चरण है, और इसका प्राथमिक उद्देश्य dSFT शिक्षक मॉडल को dSFT मॉडल का उपयोग करके प्राथमिकता मॉडल में वांछित प्रतिक्रिया को रैंक करने की संभावना को अधिकतम करने के लिए पर्यवेक्षित भाषा मॉडल के रूप में प्रशिक्षित करना है। पिछले चरण में एआई प्रतिक्रिया का उपयोग करने पर केंद्रित किया गया था, जो प्रॉक्सिमल पॉलिसी ऑप्टिमाइजेशन जैसे प्रतिक्रिया सीखने के तरीकों का उपयोग करके अधिकतम अनुकूलन के लिए किया जाता है। इस चरण में, पुरस्कार पहले प्रशिक्षित किया जाता है, और फिर वर्तमान नीति से नमूनाकरण किया जाता है ताकि अद्यतनों की गणना की जा सके, और इस प्रकार अनुकूलन को अधिकतम किया जा सके। डीपीओ या डायरेक्ट प्राथमिकता अनुकूलन एक समान दृष्टिकोण का पालन करता है ताकि स्थिर डेटा का उपयोग करके प्राथमिकता मॉडल को सीधे अनुकूलित किया जा सके। पुरस्कार फंक्शन को प्राथमिकता मॉडल में प्लग करने के बाद लिखा जा सकता है

ज़ेफर-7बी: प्रयोग, बेंचमार्क और परिणाम

ज़ेफर फ्रेमवर्क अपने फाइन-ट्यूनिंग प्रयोगों को वर्तमान अत्याधुनिक मिस्ट्रल-7बी फ्रेमवर्क पर करता है, जो एक विस्तृत श्रृंखला के प्राकृतिक भाषा प्रसंस्करण या एनएलपी कार्यों पर बड़े भाषा मॉडल के साथ तुलनीय प्रदर्शन प्रदान करता है।

डेटासेट

ज़ेफर फ्रेमवर्क दो संवाद डेटासेट का उपयोग करता है जो प्रोप्राइटरी और खुले मॉडलों के मिश्रण से संक्षिप्त किए गए हैं, जो पहले प्रभावी चैट मॉडल का उत्पादन करने में खुद को प्रभावी साबित कर चुके हैं।

अल्ट्राचैट

अल्ट्राचैट एक स्व-परिष्करण डेटासेट है जिसमें लगभग 1.5 मिलियन मल्टी-टर्न संवाद शामिल हैं जो 30 विषयों और 20 पाठ सामग्री पर फैले हुए हैं जो जीपीटी-3.5-टर्बो फ्रेमवर्क द्वारा उत्पन्न किए गए हैं। अल्ट्राचैट डेटासेट द्वारा सामना की जाने वाली अक्षरों के गलत बड़े-छोटे रूप की समस्या को दूर करने के लिए, फ्रेमवर्क एक सच्चे केसिंग ह्यूरिस्टिक्स दृष्टिकोण को लागू करता है ताकि व्याकरण संबंधी त्रुटियों को दूर किया जा सके।

अल्ट्राफीडबैक

अल्ट्राफीडबैक एक प्रॉम्प्ट डेटासेट है जिसमें 64k प्रॉम्प्ट शामिल हैं, प्रत्येक प्रॉम्प्ट में चार व्यक्तिगत एलएलएम प्रतिक्रियाएं हैं। ज़ेफर फ्रेमवर्क अल्ट्राफीडबैक डेटासेट से प्राप्त उच्चतम माध्य स्कोर का उपयोग करके द्विआधारी प्राथमिकताएं निर्माण करता है, और शेष तीन एलएलएम प्रतिक्रियाओं में से एक को यादृच्छिक रूप से अस्वीकार कर दिया जाता है।

मूल्यांकन

ज़ेफर फ्रेमवर्क के प्रदर्शन का मूल्यांकन करने के लिए, डेवलपर्स ने उपयोगकर्ता निर्देशों का पालन करने और उनके अनुसार प्रतिक्रिया देने की मॉडल की क्षमता का मूल्यांकन करने के प्रयास में, एक एकल-मोड़ और एक बहु-मोड़ चैट बेंचमार्क का चयन किया है।

एमटी-बेंच

एमटी-बेंच मूल्यांकन बेंचमार्क में 160 प्रश्न शामिल हैं जो 8 विशिष्ट ज्ञान क्षेत्रों में फैले हुए हैं, और एमटी-बेंच बेंचमार्क के तहत, मॉडल को एक प्रारंभिक प्रश्न का उत्तर देना होता है और फिर एक अनुवर्ती प्रश्न पर प्रतिक्रिया देनी होती है।

अल्पाका-इवल

अल्पाका-इवल एक एकल-मोड़ बेंचमार्क है जिसके तहत मॉडल को 800 से अधिक प्रश्नों के उत्तर देने होते हैं जो विभिन्न विषयों पर फैले हुए हैं और जिनका मुख्य ध्यान उपयोगकर्ता की सहायता पर है।

इन दो प्राथमिक बेंचमार्क के अलावा, ज़ेफर-7बी फ्रेमवर्क का मूल्यांकन ओपन एलएलएम लीडरबोर्ड पर मल्टीक्लास वर्गीकरण कार्यों के लिए भी किया जाता है, ARC, HellaSwag, MMLU, और अधिक। इसके अलावा, ज़ेफर-7बी फ्रेमवर्क किसी भी बेंचमार्क पर मूल्यांकन किया जाता है, यह प्रोप्राइटरी और खुले मॉडलों की एक श्रृंखला के साथ तुलना की जाती है, जिनकी संरेखण प्रक्रियाएं एकमात्र अंतर हैं।

परिणाम

आइए अब देखें कि ज़ेफर-7बी फ्रेमवर्क कैसा प्रदर्शन करता है और वर्तमान अत्याधुनिक भाषा मॉडल के साथ तुलना करता है।

dDPO दृष्टिकोण के कार्यान्वयन से चैट क्षमता में वृद्धि

निम्नलिखित तालिका अल्पाका-इवल और एमटी-बेंच बेंचमार्क पर ज़ेफर-7बी फ्रेमवर्क के प्रदर्शन की तुलना अत्याधुनिक भाषा मॉडल के साथ करती है।

जैसा कि स्पष्ट रूप से देखा जा सकता है, जब खुले 7बी मॉडल के साथ तुलना की जाती है, तो ज़ेफर-7बी फ्रेमवर्क न केवल dSFT मॉडल को महत्वपूर्ण रूप से बेहतर प्रदर्शन करता है, बल्कि दो बेंचमार्क पर नए अत्याधुनिक मानक भी स्थापित करता है। इसके अलावा, ज़ेफर-7बी फ्रेमवर्क dPPO या डिस्टिल्ड पीपीओ दृष्टिकोण पर प्रशिक्षित एक दुर्लभ मॉडल, एक्सविन-एलएम-7बी को भी पार करता है। ज़ेफर-7बी फ्रेमवर्क द्वारा प्रदान किए गए प्रदर्शन 70बी पैरामीटर के साथ बड़े भाषा मॉडल जैसे Llama2-Chat के परिणामों के साथ तुलनीय हैं।

dDPO अकादमिक कार्य प्रदर्शन में वृद्धि

निम्नलिखित आंकड़ा ज़ेफर-7बी फ्रेमवर्क के प्रदर्शन की तुलना एक विस्तृत श्रृंखला के खुले और प्रोप्राइटरी एलएलएम फ्रेमवर्क के साथ करता है।

जैसा कि देखा जा सकता है, ज़ेफर-7बी फ्रेमवर्क 7बी पैरामीटर के साथ एलएलएम फ्रेमवर्क को महत्वपूर्ण रूप से बेहतर प्रदर्शन करता है, और dSFT मॉडल के बीच का अंतर भी ध्यान देने योग्य है। जैसा कि पैरामीटर की संख्या बढ़ती है, ज़ेफर-7बी फ्रेमवर्क पीछे रहता है, हालांकि यह 40 बिलियन पैरामीटर के साथ फ्रेमवर्क के प्रदर्शन की बराबरी करता है।

प्राथमिकता अनुकूलन

निम्नलिखित आंकड़े में, हम यह मूल्यांकन करते हैं कि संरेखण प्रक्रिया में शामिल विभिन्न चरणों का प्रदर्शन पर क्या प्रभाव पड़ता है। जैसा कि देखा जा सकता है, dSFT के साथ dDPO दृष्टिकोण को जोड़ने से एमटी-बेंच और अल्पाका-इवल डेटासेट दोनों पर प्रदर्शन में महत्वपूर्ण वृद्धि होती है।

अंत में, निम्नलिखित आंकड़े में, हम देख सकते हैं कि डीपीओ कार्यान्वयन के दौरान परीक्षण और प्रशिक्षण सटीकता। जैसा कि देखा जा सकता है, डीपीओ दृष्टिकोण मॉडल के प्रदर्शन को डाउनस्ट्रीम कार्यों पर प्रभावित नहीं करता है।

निष्कर्ष

इस लेख में, हमने ज़ेफर-7बी फ्रेमवर्क के बारे में बात की है, जो वर्तमान अत्याधुनिक मिस्ट्रल-7बी फ्रेमवर्क पर आधारित है और एक बड़े भाषा मॉडल से एक छोटे पूर्व-प्रशिक्षित फ्रेमवर्क में संरेखण के संक्षेपण की वर्तमान चुनौती को हल करने का लक्ष्य रखता है। फ्रेमवर्क का प्राथमिक उद्देश्य डेवलपर्स को उपयोगकर्ता के इरादे के साथ पहले से कहीं अधिक जुड़े हुए छोटे बड़े भाषा मॉडल तैयार करने में सक्षम बनाना है। ज़ेफर-7बी फ्रेमवर्क न केवल बड़े एलएलएम फ्रेमवर्क जैसे dSFT के लिए वर्तमान दृष्टिकोणों की जांच करता है, बल्कि उपयोगकर्ता के इरादे के साथ बेहतर जुड़ाव वाले चैट मॉडल सीखने के लिए अन्य दृष्टिकोणों की संभावना का भी अन्वेषण करता है।

हालांकि, ज़ेफर-7बी फ्रेमवर्क अभी भी पूर्ण नहीं है, और कुछ काम अभी भी किया जाना चाहिए। एक स्पष्ट सीमा यह है कि एमटी-बेंच और अल्पाका-इवल बेंचमार्क का मूल्यांकन जीपीटी-4 फ्रेमवर्क का उपयोग करके किया जाता है, जो अक्सर अपने द्वारा संक्षिप्त किए गए मॉडलों के प्रति पक्षपातपूर्ण होता है। हालांकि, ज़ेफर-7बी फ्रेमवर्क उपयोगकर्ता के इरादे और इंटरैक्शन के साथ जुड़ने में सक्षम छोटे खुले मॉडलों की क्षमताओं का अन्वेषण करने के लिए एक मार्ग बनाने की उम्मीद करता है।

mm
medium

कुणाल केजरीवाल एक बैकएंड इंजीनियर हैं जो Python, PostgreSQL, Redis और GCP व AWS पर क्लाउड इन्फ्रास्ट्रक्चर में विशेषज्ञता रखते हैं। उन्हें वास्तविक उपयोग में चलने वाली प्रणालियों को बनाने और उनका विस्तार करने का तीन वर्षों का अनुभव है। वे एआई इन्फ्रास्ट्रक्चर, वितरित प्रणालियों और मशीन लर्निंग वर्कलोड को डिप्लॉय करने की आर्किटेक्चर के बारे में लिखते हैं।