Muse Spark Opens vægte med 816 mia. parametre er nu offentligt tilgængelige

Meta offentliggjorde vægtene til Muse Spark Open den 15. oktober 2026. Det er en multimodal model med åbne vægte fra grunden, 816 mia. parametre i alt, 42 mia. aktive parametre og et kontekstvindue på 1 mio. tokens. Meta AIs forskningsafdeling beskriver den som den hidtil mest kapable amerikanske model med åbne vægte, udviklet til kodning og agentbaseret arbejde såsom opgaver med lang tidshorisont, kompleks softwareudvikling og ræsonnement i flere trin.

Arkitektur og træningsdata

Ifølge det modelkort, der er offentliggjort af Meta Superintelligence Labs, er Muse Spark Open en Transformer med blanding af eksperter (Mixture of Experts), der er kombineret med en Perception Encoder. Sprogmodellen har 62 lag, en skjult dimension på 8192 og 256 eksperter, hvoraf otte aktiveres for hvert token via top-k-routing. Dens attention-blok bruger gated attention med QK-norm, 128 query-heads og 16 key-value-heads i en grouped-query-konfiguration samt en head-dimension på 64. Vokabularstørrelsen er 202.048, og input- og output-embeddings er ikke bundet sammen. Perception Encoder har 1,8 mia. parametre fordelt på 50 lag, en skjult dimension på 1536, 16 heads, en patchstørrelse på 14×14, en outputdimension på 4096 og sparse attention med en faktor på fire. Det betyder, at hvert fjerde lag samt det sidste lag bruger fuld attention.

Modellen tager tekst, billeder, video og lyd som input og genererer tekst som output. Ifølge modelkortet omfatter træningsdataene tekst, billeder, lyd og video fra offentligt tilgængelige kilder, internetcrawling, tredjeparter, Metas egne produkter og tjenester samt syntetisk genereret materiale. Dataene dækker mere end 100 sprog og blev kurateret gennem blandt andet rensning, behandling, deduplikering og filtrering. Parameteren reasoning_effort styrer, hvor meget modellen tænker, før den svarer, med indstillingerne low, medium, high og xhigh; xhigh er standardindstillingen, og enhver anden værdi medfører en fejl. Meta anbefaler temperatur 1.0, top_p 1.0 og deaktiveret top_k til de fleste implementeringer samt high eller xhigh reasoning effort til kompleks problemløsning, kodning og agentbaserede opgaver.

Tilgængelighed og optimering til Apple Silicon

Muse Spark Open er tilgængelig via API-platformene Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter og Together AI, og vægtene kan downloades fra Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face og Microsoft Foundry Models. Modellen kan køre på inferensmotorer som SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp og Unsloth. Den er optimeret til chips fra AMD, Apple, Intel og NVIDIA, og udviklere kan finjustere modellen yderligere med PyTorchs TorchTitan. Vægtene leveres i versionerne BF16 og NVFP4; lokal kørsel kræver en GPU med mindst 700 GB VRAM til NVFP4 eller 2 TB til BF16.

Meta oplyser, at Muse Spark Open er den første model i sin klasse, der kan køre på en stationær computer. Det sker ved hjælp af to Apple M5 Ultra Mac Studios med den nyeste MLX-ramme, som henter vægtene direkte fra Hugging Face. Apples samlede hukommelsesarkitektur gør det muligt for den integrerede GPU i M5 Ultra at bruge op til 512 GB i hver Mac Studio, og ifølge Meta gør chippenes hukommelsesbåndbredde på 1,2 TB/s det muligt for de to maskiner at rumme hele modellen og fungere som ét system med en terabyte samlet hukommelse.

Meta oplyste, at virksomheden testede agentbaserede arbejdsgange, der kørte helt lokalt på enheden med Muse Code drevet af Muse Spark Open. I en test leverede opsætningen faktiske iOS-ændringer til Ice Cubes, en open source-klient til Mastodon, herunder fejlrettelser, nye funktioner og en komplet build. I en anden test betjente den DaVinci Resolve fra start til slut, gennemgik optagelser billede for billede for at udvælge højdepunkter og omformaterede dem til lodrette udsnit. Versionen med åbne vægte leveres også med brugerdefinerede, automatisk tunbare Helion-GPU-kerner i SGLang. Ifølge Meta giver de en hastighedsforøgelse på 1,03 til 3,95 gange på kerneniveau på NVIDIA- og AMD-GPU’er samt en hastighedsforøgelse på 3 % fra start til slut på AMD MI350.

Benchmarks og sikkerhedsresultater rapporteret af Meta

Modelkortet sammenligner Muse Spark Open, kørt med xhigh reasoning effort, med Inkling, Nemotron 3 Ultra, Beam, Mistral Large 4, Qwen3.8-2.4T-A95B, GLM 5.3 og Kimi K3. Meta rapporterer en score på 39 på Artificial Analysis Intelligence Index; samme tabel angiver GLM 5.3 til 45, Kimi K3 til 44 og Qwen3.8-2.4T-A95B til 40. I agentbaserede evalueringer rapporterer Meta 61,8 på JobBench og 89,2 på MCP-Atlas, hvilket er de højeste scorer i disse tests blandt modellerne i tabellen på modelkortet. Inden for viden og ræsonnement rapporterer Meta 26,1 på HLE-Diamond uden værktøjer, 25 på AA Omniscience og 89,0 på GPQA Diamond, hvor tabellen angiver Qwen3.8-2.4T-A95B og Kimi K3 til 93,5 hver.

På kodningsbenchmarks rapporterer Meta 76,4 på Terminal-Bench 2.1, hvor modelkortet angiver Kimi K3 til 85,0 og GLM 5.3 til 83,9, samt 60 på DeepSWE 1.1 og 58 på SWE-Atlas-QnA. På de to tests angiver modelkortet Kimi K3 til henholdsvis 68 og 66. På multimodale tests med værktøjsassistance rapporterer Meta 50,0 på ZeroBench, 73,6 på SimpleVQA, 80,2 på BabyVision sammenlignet med tabellens 85,7 for Kimi K3 samt 61,5 på VideoMMEv2 sammenlignet med Kimi K3’s angivne 65,4.

Meta oplyste, at versionen med åbne vægte fik yderligere sikkerhedsfokuseret eftertræning og blev evalueret med hensyn til indholdssikkerhed, agentiske risici, privatliv og beredskab i overensstemmelse med virksomhedens Meta Superintelligence Scaling Framework. Modellen opfyldte de tærskler, som rammeværket kræver for udgivelse. Ifølge modelkortet afviste Muse Spark Open 99,2 % af jailbreakforsøgene i Metas interne cyberbenchmark og 94,8 % samlet på tværs af PolyGuards cyberunderkategori, RedCode og CyberBench 2024; i samme opsætning angiver kortet Kimi K3 til henholdsvis 75,5 % og 70,2 %.

Meta rapporterer afvisningsrater på over 98 % af skadelige anmodninger i SecureBios BioTIER-benchmark og over 99 % i en intern kemibenchmark med én interaktionsrunde samt over 97 % af skadelige biologianmodninger og 98 % af skadelige kemianmodninger i interne agentbaserede benchmarks med flere interaktionsrunder. Modelkortet angiver en ærlighedsrate på 98,1 % i MASK-benchmarken, en fejladfærdsrate på 0 % i Agentic Misalignment-benchmarken og en score på 0,5 i StrongREJECT v2, hvor lavere scorer er bedre. Meta understreger, at resultaterne beskriver det udgivne kontrolpunkt under de afprøvede forhold, og at efterfølgende ændringer kan forringe sikkerheden. Virksomheden anbefaler, at modellen anvendes som del af et bredere AI-system med sikkerhedsforanstaltninger, der er tilpasset det konkrete anvendelsesformål.

Licensvilkår og angivne begrænsninger

Vægtene udgives under Muse Model License, dateret 15. oktober 2026. Licensen tillader gratis brug, kopiering, ændring, herunder finjustering, udarbejdelse af afledte værker, destillering og distribution på visse betingelser. Licenstagere skal tydeligt vise »Bygget med Muse Spark Open« i brugergrænsefladen for hvert produkt eller hver tjeneste, der anvender softwaren eller afledte værker, eller i tilhørende dokumentation, på et websted eller i en indstillingsmenu.

Licenstagere, der udbyder kunstig intelligens-modeller som en tjeneste, og hvis samlede bruttoindtægter inklusive tilknyttede virksomheder overstiger 20 millioner dollar i en hvilken som helst sammenhængende periode på 12 måneder, skal underrette Meta og indgå en særskilt skriftlig aftale, før softwaren indgår i denne forretning. Bestemmelsen gælder ikke for intern brug, forskning eller anden kommerciel aktivitet, der ikke består i en modeltjeneste, og heller ikke for brug af softwaren som en komponent, der driver licenstagerens eget produkt. Licensen fastslår, at Meta ikke gør krav på ejerskab af output, der genereres af softwaren.

Den tilhørende brugspolitik fastslår, at modellen ikke er beregnet til personer under 18 år, og forbyder blandt andet ulovlig aktivitet, udvikling af malware og våben, drift af kritisk infrastruktur samt bevidst vildledning såsom bedrageri, desinformation og identitetssvindel. Blandt de begrænsninger, Meta fremhæver, er risikoen for unøjagtige, forudindtagede eller stødende svar, fejl i ræsonnementer med flere trin i nye scenarier, forringet ydeevne på sprog uden for gruppen af sprog med stærk understøttelse, mindre kvalitetsforskelle ved kvantiseret inferens og upålidelig visning af meget korte videoer eller videoer med lav opløsning. Meta oplyste, at en fuld evalueringsrapport vil være tilgængelig snart.