Meta के 816 अरब-पैरामीटर वाले Muse Spark के ओपन वेट अब सार्वजनिक

Meta ने 15 अक्टूबर, 2026 को Muse Spark Open के वेट जारी किए। यह मूल रूप से बहु-माध्यमीय ओपन-वेट मॉडल है, जिसमें कुल 816 अरब पैरामीटर, 42 अरब सक्रिय पैरामीटर और 10 लाख टोकन की संदर्भ विंडो है। Meta का कृत्रिम बुद्धिमत्ता अनुसंधान इसे आज तक का सबसे सक्षम अमेरिकी ओपन-वेट मॉडल बताता है। इसे कोडिंग और एजेंट-आधारित कार्यों के लिए बनाया गया है, जैसे लंबी अवधि वाले कार्य, जटिल सॉफ्टवेयर इंजीनियरिंग और बहु-चरणीय तर्क।

आर्किटेक्चर और प्रशिक्षण डेटा

Meta Superintelligence Labs द्वारा प्रकाशित मॉडल कार्ड के अनुसार, Muse Spark Open एक विशेषज्ञ-मिश्रण ट्रांसफ़ॉर्मर है, जिसे Perception Encoder के साथ जोड़ा गया है। भाषा मॉडल में 62 लेयर और 8192 का हिडन डाइमेंशन है। इसमें 256 विशेषज्ञ हैं, जिनमें से टॉप-k रूटिंग के ज़रिए हर टोकन के लिए आठ सक्रिय किए जाते हैं। इसके अटेंशन ब्लॉक में QK-norm के साथ गेटेड अटेंशन, ग्रुप्ड-क्वेरी कॉन्फ़िगरेशन में 128 क्वेरी हेड और 16 की-वैल्यू हेड तथा 64 का हेड डाइमेंशन है। शब्दावली का आकार 202,048 है और इनपुट तथा आउटपुट एम्बेडिंग अलग-अलग हैं। Perception Encoder में 50 लेयर में फैले 1.8 अरब पैरामीटर हैं। इसका हिडन डाइमेंशन 1536, हेड की संख्या 16, पैच का आकार 14×14 और आउटपुट डाइमेंशन 4096 है। इसमें चार के फ़ैक्टर वाला विरल अटेंशन है, जिसके तहत हर चौथी लेयर और अंतिम लेयर में पूर्ण अटेंशन का उपयोग होता है।

मॉडल टेक्स्ट, इमेज, वीडियो और ऑडियो इनपुट स्वीकार करता है और टेक्स्ट आउटपुट देता है। मॉडल कार्ड के अनुसार, प्रशिक्षण डेटा में सार्वजनिक स्रोतों, इंटरनेट क्रॉल, तृतीय पक्षों, Meta के अपने उत्पादों और सेवाओं तथा कृत्रिम रूप से तैयार सामग्री से लिए गए टेक्स्ट, इमेज, ऑडियो और वीडियो शामिल हैं। यह डेटा 100 से अधिक भाषाओं को समेटता है और इसके संकलन में सफ़ाई, प्रसंस्करण, डुप्लिकेट हटाना और फ़िल्टर करना शामिल था। reasoning_effort पैरामीटर यह नियंत्रित करता है कि जवाब देने से पहले मॉडल कितना सोचता है। इसके low, medium, high और xhigh विकल्प हैं; डिफ़ॉल्ट विकल्प xhigh है। किसी अन्य मान पर त्रुटि मिलती है। Meta अधिकांश परिनियोजनों के लिए temperature 1.0, top_p 1.0 और top_k को बंद रखने की सिफ़ारिश करता है। जटिल समस्या-समाधान, कोडिंग और एजेंट-आधारित कार्यों के लिए high या xhigh reasoning effort की सिफ़ारिश की गई है।

उपलब्धता और Apple Silicon के लिए अनुकूलन

Muse Spark Open, Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter और Together AI जैसे API प्लेटफ़ॉर्म के ज़रिए उपलब्ध है। इसके वेट Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face और Microsoft Foundry Models से डाउनलोड किए जा सकते हैं। यह SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp और Unsloth समेत कई इन्फ़रेंस इंजन पर चलता है। इसके साथ AMD, Apple, Intel और NVIDIA सिलिकॉन के लिए अनुकूलन भी हैं, और डेवलपर PyTorch के TorchTitan का उपयोग करके मॉडल को और बेहतर ढंग से ट्यून कर सकते हैं। वेट BF16 और NVFP4 संस्करणों में उपलब्ध हैं। इन्हें स्थानीय रूप से चलाने के लिए NVFP4 में कम-से-कम 700GB या BF16 में 2TB VRAM वाला GPU चाहिए।

Meta का कहना है कि Muse Spark Open अपनी श्रेणी का पहला ऐसा मॉडल है, जो डेस्कटॉप पर चलता है। इसके लिए नवीनतम MLX फ़्रेमवर्क के साथ दो Apple M5 Ultra Mac Studios का उपयोग किया जाता है; यह फ़्रेमवर्क वेट सीधे Hugging Face से लेता है। Apple का एकीकृत मेमोरी आर्किटेक्चर M5 Ultra के इंटीग्रेटेड GPU को हर Mac Studio में 512GB तक मेमोरी इस्तेमाल करने देता है। Meta के अनुसार, चिप की 1.2TB/s मेमोरी बैंडविड्थ दो मशीनों को पूरे मॉडल को अपने पास रखने और एक टेराबाइट की एकीकृत मेमोरी वाले एकल सिस्टम की तरह काम करने में सक्षम बनाती है।

Meta ने बताया कि उसने Muse Spark Open से संचालित Muse Code का उपयोग करके पूरी तरह डिवाइस पर चलने वाले एजेंट-आधारित वर्कफ़्लो का परीक्षण किया। एक परीक्षण में, इस सेटअप ने Ice Cubes—एक ओपन-सोर्स Mastodon क्लाइंट—के लिए बग ठीक करने, नई सुविधाएँ जोड़ने और पूरा बिल्ड तैयार करने समेत iOS में वास्तविक बदलाव लागू किए। दूसरे परीक्षण में, इसने DaVinci Resolve को शुरू से अंत तक चलाया और उल्लेखनीय क्षण चुनने तथा उन्हें वर्टिकल क्रॉप में फिर से फ़्रेम करने के लिए फ़ुटेज को फ़्रेम-दर-फ़्रेम परखा। ओपन-वेट संस्करण के साथ SGLang में कस्टम, अपने-आप ट्यून होने वाले Helion GPU कर्नेल भी उपलब्ध हैं। Meta के मुताबिक, ये NVIDIA और AMD GPU पर कर्नेल स्तर पर 1.03 से 3.95 गुना तक गति-वृद्धि और AMD MI350 पर शुरू से अंत तक 3% की गति-वृद्धि देते हैं।

Meta द्वारा बताए गए बेंचमार्क और सुरक्षा नतीजे

मॉडल कार्ड में xhigh reasoning effort पर चलाए गए Muse Spark Open की तुलना Inkling, Nemotron 3 Ultra, Beam, Mistral Large 4, Qwen3.8-2.4T-A95B, GLM 5.3 और Kimi K3 से की गई है। Meta ने Artificial Analysis Intelligence Index पर 39 का स्कोर बताया है; उसी तालिका में GLM 5.3 का स्कोर 45, Kimi K3 का 44 और Qwen3.8-2.4T-A95B का 40 दिया गया है। एजेंट-आधारित मूल्यांकनों में Meta ने JobBench पर 61.8 और MCP-Atlas पर 89.2 का स्कोर बताया है। कार्ड की तालिका में शामिल मॉडलों में इन दोनों परीक्षणों पर ये सबसे ऊँचे स्कोर हैं। ज्ञान और तर्क-विचार के परीक्षणों में Meta ने बिना टूल के HLE-Diamond पर 26.1, AA Omniscience पर 25 और GPQA Diamond पर 89.0 का स्कोर बताया है। GPQA Diamond की तालिका में Qwen3.8-2.4T-A95B और Kimi K3, दोनों के स्कोर 93.5 दिए गए हैं।

कोडिंग बेंचमार्क में Meta ने Terminal-Bench 2.1 पर 76.4 का स्कोर बताया है; कार्ड में Kimi K3 का स्कोर 85.0 और GLM 5.3 का 83.9 दिया गया है। इसके अलावा, Meta ने DeepSWE 1.1 पर 60 और SWE-Atlas-QnA पर 58 का स्कोर बताया है। इन परीक्षणों में कार्ड के अनुसार Kimi K3 के स्कोर क्रमशः 68 और 66 हैं। टूल-सहायता वाले मल्टीमॉडल परीक्षणों में Meta ने ZeroBench पर 50.0, SimpleVQA पर 73.6 और BabyVision पर 80.2 का स्कोर बताया है; BabyVision की तालिका में Kimi K3 का स्कोर 85.7 है। VideoMMEv2 पर Meta का बताया स्कोर 61.5 है, जबकि Kimi K3 का स्कोर 65.4 दिया गया है।

Meta ने कहा कि ओपन-वेट संस्करण को सुरक्षा-केंद्रित अतिरिक्त पोस्ट-ट्रेनिंग दी गई और Meta Superintelligence Scaling Framework के अनुरूप सामग्री सुरक्षा, एजेंट-संबंधी जोखिम, निजता और तैयारी के पहलुओं पर उसका मूल्यांकन किया गया। इस मूल्यांकन में उसने रिलीज़ के लिए ढाँचे द्वारा तय सीमाएँ पूरी कीं। मॉडल कार्ड के अनुसार, Muse Spark Open ने Meta के आंतरिक साइबर बेंचमार्क पर 99.2% और PolyGuard के साइबर उपसमुच्चय, RedCode तथा CyberBench 2024 के संयुक्त परिणाम में 94.8% जेलब्रेक प्रयासों को अस्वीकार किया; इसी व्यवस्था में कार्ड पर Kimi K3 के लिए ये आँकड़े क्रमशः 75.5% और 70.2% दर्ज हैं।

Meta के अनुसार, SecureBio के BioTIER बेंचमार्क पर हानिकारक अनुरोधों को अस्वीकार करने की दर 98% से अधिक और उसके आंतरिक, एकल-चरणीय रसायन-विज्ञान बेंचमार्क पर 99% से अधिक रही। इसके अलावा, आंतरिक बहु-चरणीय एजेंट-आधारित बेंचमार्क पर हानिकारक जीव-विज्ञान अनुरोधों में 97% से अधिक और हानिकारक रसायन-विज्ञान अनुरोधों में 98% को अस्वीकार किया गया। कार्ड के अनुसार, MASK बेंचमार्क पर ईमानदारी की दर 98.1%, Agentic Misalignment बेंचमार्क पर अनुचित व्यवहार की दर 0% और StrongREJECT v2 पर स्कोर 0.5 रहा; इस आखिरी बेंचमार्क में कम स्कोर बेहतर माने जाते हैं। Meta ने चेताया कि ये नतीजे परीक्षण की गई परिस्थितियों में जारी किए गए चेकपॉइंट की विशेषताओं को दर्शाते हैं और बाद में किए गए बदलाव सुरक्षा को कमज़ोर कर सकते हैं। उसने यह भी सिफारिश की कि मॉडल को उपयोग के अनुरूप सुरक्षा उपायों वाली किसी व्यापक AI प्रणाली के भीतर तैनात किया जाए।

लाइसेंस की शर्तें और बताई गई सीमाएँ

मॉडल के वेट 15 अक्टूबर, 2026 की तारीख़ वाले Muse Model License के तहत जारी किए गए हैं। यह लाइसेंस कुछ शर्तों के अधीन मुफ़्त उपयोग, प्रतिलिपि बनाने, बदलाव करने (जिसमें फ़ाइन-ट्यूनिंग भी शामिल है), व्युत्पन्न कृतियाँ बनाने, डिस्टिलेशन और वितरण की अनुमति देता है। लाइसेंसधारकों को सॉफ़्टवेयर या उससे बने व्युत्पन्न संस्करणों का उपयोग करने वाले हर उत्पाद या सेवा के यूज़र इंटरफ़ेस में, अथवा साथ दिए गए दस्तावेज़ों, वेबसाइट या सेटिंग मेनू में, “Muse Spark Open के साथ निर्मित” स्पष्ट रूप से प्रदर्शित करना होगा।

ऐसे लाइसेंसधारकों को, जो सेवा के रूप में कृत्रिम बुद्धिमत्ता मॉडल उपलब्ध कराते हैं और जिनका संबद्ध कंपनियों सहित कुल सकल राजस्व लगातार 12 महीने की किसी भी अवधि में $20 मिलियन से अधिक है, उस कारोबार में सॉफ़्टवेयर को शामिल करने से पहले Meta को सूचित करना होगा और एक अलग लिखित समझौता करना होगा। यह प्रावधान आंतरिक उपयोग, शोध या ऐसी अन्य व्यावसायिक गतिविधियों पर लागू नहीं होता जो मॉडल सेवा नहीं हैं। यह लाइसेंसधारक के अपने उत्पाद को संचालित करने वाले घटक के रूप में सॉफ़्टवेयर के उपयोग पर भी लागू नहीं होता। लाइसेंस के अनुसार, सॉफ़्टवेयर से तैयार आउटपुट पर Meta का कोई स्वामित्व नहीं होगा।

साथ दी गई उपयोग नीति के अनुसार, यह मॉडल 18 वर्ष से कम उम्र के लोगों के लिए नहीं है। नीति में अवैध गतिविधियों, मैलवेयर बनाने, हथियार विकसित करने, महत्वपूर्ण अवसंरचना के संचालन और धोखाधड़ी, दुष्प्रचार तथा किसी और का रूप धरने जैसे जानबूझकर किए गए छल सहित कई तरह के उपयोग प्रतिबंधित हैं। Meta द्वारा बताई गई सीमाओं में गलत, पक्षपाती या आपत्तिजनक जवाब मिलने की आशंका; नए परिदृश्यों में कई चरणों वाले तर्क के दौरान त्रुटियाँ; उन भाषाओं में प्रदर्शन में गिरावट जिन्हें मज़बूत समर्थन प्राप्त नहीं है; क्वांटाइज़्ड इन्फ़रेंस में गुणवत्ता के मामूली अंतर; और बहुत छोटे या कम रिज़ॉल्यूशन वाले वीडियो को भरोसेमंद ढंग से देखने में असमर्थता शामिल हैं। Meta ने कहा कि विस्तृत मूल्यांकन रिपोर्ट जल्द उपलब्ध होगी।