जेब में रखी गई शक्ति: माइक्रोसॉफ्ट के Phi-3 का अनावरण, जो आपके फोन में फिट होने वाला भाषा मॉडल है

कृत्रिम बुद्धिमत्ता के तेजी से विकसित हो रहे क्षेत्र में, जबकि रुझान अक्सर बड़े और अधिक जटिल मॉडल की ओर बढ़ रहा है, माइक्रोसॉफ्ट अपने Phi-3 Mini के साथ एक अलग दृष्टिकोण अपना रहा है। यह छोटा भाषा मॉडल (SLM), अब अपने तीसरे पीढ़ी में, बड़े मॉडलों की मजबूत क्षमताओं को स्मार्टफोन की सख्त संसाधन सीमाओं के भीतर फिट होने वाले फ्रेमवर्क में पैक करता है। 3.8 बिलियन पैरामीटर के साथ, Phi-3 Mini विभिन्न कार्यों में बड़े भाषा मॉडल (LLM) के प्रदर्शन को मैच करता है, जिसमें भाषा प्रसंस्करण, तर्क, कोडिंग और गणित शामिल हैं, और मोबाइल डिवाइस पर कुशल संचालन के लिए क्वांटीकरण के माध्यम से डिज़ाइन किया गया है।

बड़े भाषा मॉडल की चुनौतियाँ

माइक्रोसॉफ्ट के Phi SLM का विकास LLM द्वारा प्रस्तुत की जाने वाली महत्वपूर्ण चुनौतियों के प्रतिक्रिया में है, जो उपभोक्ता डिवाइस पर आम तौर पर उपलब्ध से अधिक गणना शक्ति की आवश्यकता होती है। यह उच्च मांग उनके उपयोग को मानक कंप्यूटर और मोबाइल डिवाइस पर जटिल बनाती है, पर्यावरण संबंधी चिंताओं को बढ़ाती है और उनके प्रशिक्षण और संचालन के दौरान ऊर्जा की खपत के कारण, और उनके बड़े और जटिल प्रशिक्षण डेटासेट के साथ पूर्वाग्रह को बढ़ावा देने का जोखिम है। ये कारक वास्तविक समय के अनुप्रयोगों में मॉडल की प्रतिक्रिया को भी बाधित कर सकते हैं और अद्यतनों को अधिक चुनौतीपूर्ण बना सकते हैं।

Phi-3 Mini: व्यक्तिगत डिवाइस पर AI को स्ट्रीमलाइनिंग करना

Phi-3 Mini फोन और लैपटॉप जैसे व्यक्तिगत डिवाइस पर उन्नत AI को एकीकृत करने के लिए एक लागत-प्रभावी और कुशल विकल्प प्रदान करने के लिए रणनीतिक रूप से डिज़ाइन किया गया है। यह डिज़ाइन तेज़, अधिक तात्कालिक प्रतिक्रियाओं की सुविधा प्रदान करता है, जो प्रौद्योगिकी के साथ उपयोगकर्ता की बातचीत को बढ़ाता है।
Phi-3 Mini मोबाइल डिवाइस पर जटिल AI कार्यक्षमता को सीधे प्रसंस्करण करने में सक्षम बनाता है, जो क्लाउड सेवाओं पर निर्भरता को कम करता है और वास्तविक समय डेटा हैंडलिंग को बढ़ाता है। यह क्षमता त्वरित डेटा प्रसंस्करण की आवश्यकता वाले अनुप्रयोगों के लिए महत्वपूर्ण है, जैसे कि मोबाइल स्वास्थ्य सेवा, वास्तविक समय भाषा अनुवाद, और व्यक्तिगत शिक्षा, जो इन क्षेत्रों में प्रगति को सुविधाजनक बनाता है। मॉडल की लागत-प्रभावशीलता न केवल परिचालन लागत को कम करती है, बल्कि विभिन्न उद्योगों में AI एकीकरण की संभावना को भी बढ़ाती है, जिसमें वियरेबल टेक्नोलॉजी और होम ऑटोमेशन जैसे नए बाजार शामिल हैं। Phi-3 Mini स्थानीय डिवाइस पर डेटा प्रसंस्करण को सक्षम बनाता है, जो उपयोगकर्ता गोपनीयता को बढ़ावा देता है। यह स्वास्थ्य सेवा और वित्तीय सेवाओं जैसे क्षेत्रों में संवेदनशील जानकारी के प्रबंधन के लिए महत्वपूर्ण हो सकता है। इसके अलावा, मॉडल की कम ऊर्जा आवश्यकताएं पर्यावरण संबंधी टिकाऊ AI संचालन में योगदान करती हैं, जो वैश्विक स्थिरता प्रयासों के साथ संरेखित होती हैं।

Phi का डिज़ाइन दर्शन और विकास

Phi का डिज़ाइन दर्शन पाठ्यक्रम सीखने की अवधारणा पर आधारित है, जो बच्चों को प्रगतिशील रूप से अधिक चुनौतीपूर्ण उदाहरणों के माध्यम से सीखने के शैक्षिक दृष्टिकोण से प्रेरित है। मुख्य विचार AI को प्रशिक्षित करना शुरू करना आसान उदाहरणों के साथ है और प्रशिक्षण डेटा की जटिलता को बढ़ाना जैसे जैसे सीखने की प्रक्रिया आगे बढ़ती है। माइक्रोसॉफ्ट ने इस शैक्षिक रणनीति को लागू किया है bằng एक डेटासेट बनाने के लिए जो पाठ्य पुस्तकों से बना है, जैसा कि उनके अध्ययन “पाठ्य पुस्तकें सभी आपको चाहिए” में विस्तृत है। Phi श्रृंखला जून 2023 में शुरू की गई थी, जो Phi-1 से शुरू हुई, जो 1.3 बिलियन पैरामीटर वाला एक कompact मॉडल था। यह मॉडल जल्द ही अपनी प्रभावशीलता का प्रदर्शन किया, विशेष रूप से पाइथन कोडिंग कार्यों में, जहां यह बड़े, अधिक जटिल मॉडलों को पार कर गया। इस सफलता पर निर्माण करते हुए, माइक्रोसॉफ्ट ने बाद में Phi-1.5 विकसित किया, जो同じ संख्या में पैरामीटर रखता है लेकिन सामान्य ज्ञान तर्क और भाषा समझ जैसे क्षेत्रों में अपनी क्षमताओं को बढ़ाता है। श्रृंखला Phi-2 के रिलीज़ के साथ चमकती है, जो दिसंबर 2023 में 2.7 बिलियन पैरामीटर के साथ आया था। तर्क और भाषा समझ में इसकी प्रभावशीलता ने इसे बड़े मॉडलों के खिलाफ एक मजबूत प्रतिद्वंद्वी के रूप में स्थापित किया।

Phi-3 अन्य छोटे भाषा मॉडल की तुलना में

अपने पूर्ववर्तियों पर विस्तार करते हुए, Phi-3 Mini Phi-2 की उन्नति को आगे बढ़ाता है, जो विभिन्न औद्योगिक अनुप्रयोगों में अन्य SLM जैसे गूगल के Gemma, मिस्ट्रल के मिस्ट्रल, मेटा के लामा3-इन्स्ट्रक्ट, और जीपीटी 3.5 से आगे निकल जाता है। इन अनुप्रयोगों में भाषा समझ और अनुमान, सामान्य ज्ञान, सामान्य ज्ञान तर्क, ग्रेड स्कूल गणित शब्द समस्याएं, और चिकित्सा प्रश्न उत्तर शामिल हैं, जो इन मॉडलों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है। Phi-3 Mini को विभिन्न कार्यों के लिए एक आईफ़ोन 14 पर ऑफ़लाइन परीक्षण के लिए भी संघनित किया गया है, जिसमें सामग्री निर्माण और विशिष्ट स्थानों के लिए अनुकूलित गतिविधि सुझाव शामिल हैं। इस उद्देश्य के लिए, Phi-3 Mini को क्वांटीकरण प्रक्रिया का उपयोग करके 1.8GB तक संकुचित किया गया है, जो सीमित संसाधन वाले डिवाइस के लिए मॉडल को अनुकूलित करता है bằng 32-बिट फ्लोटिंग-पॉइंट संख्याओं से अधिक कॉम्पैक्ट प्रारूप जैसे 4-बिट पूर्णांक में मॉडल के संख्यात्मक डेटा को परिवर्तित करके। यह न केवल मॉडल के मेमोरी फुटप्रिंट को कम करता है, बल्कि प्रोसेसिंग गति और शक्ति दक्षता में भी सुधार करता है, जो मोबाइल डिवाइस के लिए महत्वपूर्ण है। डेवलपर्स आमतौर पर टेंसोरफ्लो लाइट या पाइरटॉर्च मोबाइल जैसे फ्रेमवर्क का उपयोग करते हैं, जो निर्माण और रिफाइन करने के लिए निर्मित क्वांटीकरण टूल को एकीकृत करते हैं।

विशेषता तुलना: Phi-3 Mini बनाम Phi-2 Mini

नीचे, हम Phi-3 और इसके पूर्ववर्ती Phi-2 की कुछ विशेषताओं की तुलना करते हैं।

• मॉडल आर्किटेक्चर: Phi-2 एक ट्रांसफॉर्मर-आधारित आर्किटेक्चर पर काम करता है जो अगले शब्द की भविष्यवाणी करने के लिए डिज़ाइन किया गया है। Phi-3 Mini भी एक ट्रांसफॉर्मर डिकोडर आर्किटेक्चर का उपयोग करता है, लेकिन यह लामा -2 मॉडल संरचना के साथ अधिक संरेखित है, जो 320,641 के शब्दावली आकार के साथ एक ही टोकनाइज़र का उपयोग करता है। यह संगतता सुनिश्चित करती है कि लामा -2 के लिए विकसित टूल आसानी से Phi-3 Mini के साथ उपयोग के लिए अनुकूलित किए जा सकते हैं।
• संदर्भ लंबाई: Phi-3 Mini 8,000 टोकन की संदर्भ लंबाई का समर्थन करता है, जो Phi-2 के 2,048 टोकन से काफी बड़ा है। यह वृद्धि Phi-3 Mini को अधिक विस्तृत बातचीत और लंबे पाठ के टुकड़ों को संसाधित करने में सक्षम बनाती है।
• मोबाइल डिवाइस पर स्थानीय रूप से चलना: Phi-3 Mini को 4-बिट तक संकुचित किया जा सकता है, जो लगभग 1.8GB मेमोरी का कब्जा करता है, जो Phi-2 के समान है। यह एक आईफ़ोन 14 पर एक ए16 बायोनिक चिप के साथ ऑफ़लाइन परीक्षण किया गया था, जहां यह 12 टोकन प्रति सेकंड से अधिक की प्रोसेसिंग गति हासिल की, जो समान परिस्थितियों में Phi-2 के प्रदर्शन को मैच करता है।
• मॉडल आकार: 3.8 बिलियन पैरामीटर के साथ, Phi-3 Mini का आकार Phi-2 से बड़ा है, जो 2.7 बिलियन पैरामीटर है। यह इसकी बढ़ी हुई क्षमताओं को दर्शाता है।
• प्रशिक्षण डेटा: Phi-2 के विपरीत, जिसे 1.4 ट्रिलियन टोकन पर प्रशिक्षित किया गया था, Phi-3 Mini को 3.3 ट्रिलियन टोकन के एक बहुत बड़े सेट पर प्रशिक्षित किया गया है, जो जटिल भाषा पैटर्न को समझने में इसकी क्षमता को बेहतर बनाने में मदद करता है।

Phi-3 Mini की सीमाओं को संबोधित करना

जबकि Phi-3 Mini छोटे भाषा मॉडल के क्षेत्र में महत्वपूर्ण प्रगति दिखाता है, यह अपनी सीमाओं से मुक्त नहीं है। Phi-3 Mini की एक प्राथमिक सीमा, इसके आकार को बड़े भाषा मॉडल की तुलना में छोटा होने के कारण, व्यापक तथ्यात्मक ज्ञान को संग्रहीत करने की इसकी सीमित क्षमता है। यह उन प्रश्नों को स्वतंत्र रूप से संभालने में इसकी क्षमता को प्रभावित कर सकता है जिन्हें विशिष्ट तथ्यात्मक डेटा या विस्तृत विशेषज्ञ ज्ञान की आवश्यकता होती है। हालांकि, इसे एक खोज इंजन के साथ एकीकरण करके कम किया जा सकता है। इस तरह, मॉडल वास्तविक समय में व्यापक जानकारी तक पहुंच सकता है, प्रभावी रूप से इसकी निहित ज्ञान सीमाओं के लिए क्षतिपूर्ति करता है। यह एकीकरण Phi-3 Mini को एक उच्च क्षमता वाले बातचीतकर्ता के रूप में कार्य करने में सक्षम बनाता है, जो भाषा और संदर्भ की गहरी समझ रखता है, लेकिन कभी-कभी सटीक और अद्यतन प्रतिक्रियाएं प्रदान करने के लिए जानकारी “देखने” की आवश्यकता हो सकती है।

उपलब्धता

Phi-3 अब कई प्लेटफार्मों पर उपलब्ध है, जिनमें माइक्रोसॉफ्ट एज़्योर AI स्टूडियो, हगिंग फ़ेस, और ओलामा शामिल हैं। Azure AI पर, मॉडल में एक तैनाती-मूल्यांकन-फ़ाइनट्यूनिंग कार्यप्रवाह शामिल है, और Ollama पर, इसे लैपटॉप पर स्थानीय रूप से चलाया जा सकता है। मॉडल को ONNX रनटाइम के लिए तैयार किया गया है और विंडोज़ डायरेक्टएमएल का समर्थन करता है, जो विभिन्न हार्डवेयर प्रकार जैसे जीपीयू, सीपीयू और मोबाइल डिवाइस पर इसकी कार्यक्षमता सुनिश्चित करता है। इसके अलावा, Phi-3 को एनवीडिया एनआईएम के माध्यम से एक माइक्रोसेवाइस के रूप में पेश किया जाता है, जो आसान तैनाती के लिए एक मानक एपीआई के साथ आता है और विशेष रूप से एनवीडिया जीपीयू के लिए अनुकूलित है। माइक्रोसॉफ्ट जल्द ही Phi-3 श्रृंखला का विस्तार करने की योजना बना रहा है, जिसमें Phi-3-स्मॉल (7B) और Phi-3-मध्यम (14B) मॉडल शामिल हैं, जो उपयोगकर्ताओं को गुणवत्ता और लागत के बीच संतुलन बनाने के लिए अतिरिक्त विकल्प प्रदान करते हैं।

नीचे की रेखा

माइक्रोसॉफ्ट का Phi-3 Mini कृत्रिम बुद्धिमत्ता के क्षेत्र में महत्वपूर्ण प्रगति कर रहा है bằng बड़े भाषा मॉडल की शक्ति को मोबाइल उपयोग के लिए अनुकूलित करना। यह मॉडल डिवाइस के साथ उपयोगकर्ता की बातचीत में सुधार करता है bằng तेज़, वास्तविक समय प्रसंस्करण और उन्नत गोपनीयता सुविधाओं के साथ। यह क्लाउड-आधारित सेवाओं की आवश्यकता को कम करता है, परिचालन लागत को कम करता है, और स्वास्थ्य सेवा और होम ऑटोमेशन जैसे क्षेत्रों में AI अनुप्रयोगों के लिए संभावनाओं को बढ़ाता है। पाठ्यक्रम सीखने के माध्यम से पूर्वाग्रह को कम करने और प्रतिस्पर्धी प्रदर्शन बनाए रखने पर ध्यान केंद्रित करते हुए, Phi-3 Mini कुशल और टिकाऊ मोबाइल AI के लिए एक महत्वपूर्ण उपकरण बन रहा है, जो हमारे दैनिक जीवन में प्रौद्योगिकी के साथ हमारी बातचीत को सूक्ष्म रूप से बदल रहा है।