Meta offentliggjør nå de åpne vektene til Muse Spark med 816 milliarder parametere

Meta offentliggjorde vektene for Muse Spark Open 15. oktober 2026, en multimodal modell med åpne vekter fra grunnen av, med totalt 816 milliarder parametere, 42 milliarder aktive parametere og et kontekstvindu på 1 million token. Meta KI-forskning beskriver den som den mest kapable amerikanske modellen med åpne vekter til dags dato, utviklet for koding og agentbasert arbeid, som oppgaver med lang tidshorisont, kompleks programvareutvikling og resonnering i flere trinn.

Arkitektur og treningsdata

Ifølge modellkortet som Meta Superintelligence Labs har publisert, er Muse Spark Open en Transformer-modell med ekspertblanding, kombinert med en Perception Encoder. Språkmodellen har 62 lag, en skjult dimensjon på 8192 og 256 eksperter, hvorav åtte aktiveres for hvert token gjennom top-k-ruting. Oppmerksomhetsblokken bruker gated attention med QK-norm, 128 spørringshoder og 16 nøkkel-verdi-hoder i en gruppert spørringskonfigurasjon, og har en hodestørrelse på 64. Vokabularet består av 202 048 elementer, og inn- og utdatarepresentasjonene er ikke sammenknyttet. Perception Encoder har 1,8 milliarder parametere fordelt på 50 lag, en skjult dimensjon på 1536, 16 hoder, en patch-størrelse på 14 × 14 og en utdata-dimensjon på 4096. Den bruker dessuten sparsom oppmerksomhet med en faktor på fire, der hvert fjerde lag samt det siste laget bruker full oppmerksomhet.

Modellen tar imot tekst, bilder, video og lyd som inndata og produserer tekst som utdata. Ifølge modellkortet omfatter treningsdataene tekst, bilder, lyd og video fra offentlige kilder, nettskraping, tredjeparter, Metas egne produkter og tjenester samt syntetisk generert materiale. Dataene dekker mer enn 100 språk og ble kuratert gjennom blant annet rensing, bearbeiding, deduplisering og filtrering. En parameter kalt reasoning_effort styrer hvor mye modellen resonnerer før den svarer. Den har innstillingene low, medium, high og xhigh, der xhigh er standardinnstillingen; alle andre verdier gir en feilmelding. Meta anbefaler temperatur 1.0, top_p 1.0 og deaktivert top_k for de fleste utrullinger, samt høy eller svært høy resonneringsinnsats for kompleks problemløsning, koding og agentbaserte oppgaver.

Tilgjengelighet og optimalisering for Apple Silicon

Muse Spark Open er tilgjengelig via API-plattformene Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter og Together AI. Vektene kan lastes ned fra Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face og Microsoft Foundry Models. Modellen kjører på inferensmotorer som SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp og Unsloth, med optimaliseringer for brikker fra AMD, Apple, Intel og NVIDIA. Utviklere kan finjustere modellen ytterligere ved hjelp av TorchTitan fra PyTorch. Vektene leveres i versjonene BF16 og NVFP4. For lokal kjøring kreves en GPU med minst 700 GB VRAM for NVFP4 eller 2 TB for BF16.

Meta sier at Muse Spark Open er den første modellen i sin klasse som kan kjøres på en stasjonær datamaskin. Dette gjøres med to Apple M5 Ultra Mac Studio-maskiner og den nyeste MLX-rammeverket, som henter vektene direkte fra Hugging Face. Apples enhetlige minnearkitektur gjør at den integrerte GPU-en i M5 Ultra kan bruke opptil 512 GB i hver Mac Studio. Meta sier at brikkens minnebåndbredde på 1,2 TB/s gjør det mulig for de to maskinene å romme hele modellen og fungere som ett system med én terabyte enhetlig minne.

Meta sier at selskapet testet agentbaserte arbeidsflyter som kjørte helt lokalt på enheten, med Muse Code drevet av Muse Spark Open. I én test leverte oppsettet faktiske endringer i iOS for Ice Cubes, en Mastodon-klient med åpen kildekode. Endringene omfattet feilrettinger, nye funksjoner og en fullstendig bygging. I en annen test styrte det DaVinci Resolve fra start til slutt, undersøkte opptak bilde for bilde for å velge ut de beste øyeblikkene og beskjære dem til stående format. Versjonen med åpne vekter leveres også med spesialtilpassede, automatisk justerbare Helion-GPU-kjerner i SGLang. Meta rapporterer at disse gir en hastighetsøkning på 1,03 til 3,95 ganger på kjernenivå på NVIDIA- og AMD-GPU-er, samt en hastighetsøkning på 3 % fra start til slutt på AMD MI350.

Referansetester og sikkerhetsresultater rapportert av Meta

Modellkortet sammenligner Muse Spark Open, kjørt med xhigh-resonneringsinnsats, med Inkling, Nemotron 3 Ultra, Beam, Mistral Large 4, Qwen3.8-2.4T-A95B, GLM 5.3 og Kimi K3. Meta rapporterer en poengsum på 39 på Artificial Analysis Intelligence Index; i samme tabell står GLM 5.3 med 45, Kimi K3 med 44 og Qwen3.8-2.4T-A95B med 40. I agentbaserte evalueringer rapporterer Meta 61,8 på JobBench og 89,2 på MCP-Atlas. Dette er de høyeste poengsummene i disse testene blant modellene som er oppført i tabellen i modellkortet. Når det gjelder kunnskap og resonnering, rapporterer Meta 26,1 på HLE-Diamond uten verktøy, 25 på AA Omniscience og 89,0 på GPQA Diamond. I tabellen står Qwen3.8-2.4T-A95B og Kimi K3 med 93,5 hver på sistnevnte test.

På kodingsreferansetester rapporterer Meta 76,4 på Terminal-Bench 2.1. Modellkortet oppgir Kimi K3 med 85,0 og GLM 5.3 med 83,9 på denne testen. Meta rapporterer også 60 på DeepSWE 1.1 og 58 på SWE-Atlas-QnA; på disse testene står Kimi K3 med henholdsvis 68 og 66 i modellkortet. På multimodale tester med verktøystøtte rapporterer Meta 50,0 på ZeroBench, 73,6 på SimpleVQA og 80,2 på BabyVision, mot 85,7 for Kimi K3 i tabellen. På VideoMMEv2 rapporterer Meta 61,5, mot 65,4 for Kimi K3 ifølge tabellen.

Meta sa at versjonen med åpne vekter fikk ytterligere sikkerhetstrening etter forhåndstreningen og ble evaluert med hensyn til innholdssikkerhet, agentrisiko, personvern og beredskap i tråd med Meta Superintelligence Scaling Framework. Modellen oppfylte tersklene rammeverket krever for utgivelse. Modellkortet oppgir at Muse Spark Open avviste 99,2 % av jailbreak-forsøkene i Metas interne cyberbenchmark og 94,8 % samlet på tvers av cybersubsettet til PolyGuard, RedCode og CyberBench 2024. I samme oppsett oppgir kortet at Kimi K3 oppnådde henholdsvis 75,5 % og 70,2 %.

Meta rapporterer avvisningsrater på over 98 % for skadelige forespørsler i SecureBios BioTIER-benchmark og over 99 % i en intern kjemibenchmark med én enkelt samtalerunde, samt over 97 % for skadelige biologiforespørsler og 98 % for skadelige kjemiforespørsler i interne agentbaserte benchmarker med flere samtalerunder. Modellkortet oppgir en ærlighetsrate på 98,1 % i MASK-benchmarken, en rate for uønsket atferd på 0 % i Agentic Misalignment-benchmarken og 0,5 i StrongREJECT v2, der lavere skårer er bedre. Meta understreker at resultatene beskriver det utgitte kontrollpunktet under de testede forholdene, og at senere endringer kan svekke sikkerheten. Selskapet anbefaler å ta modellen i bruk som del av et bredere AI-system med sikkerhetstiltak som er tilpasset bruksområdet.

Lisensvilkår og oppgitte begrensninger

Vektene er utgitt under Muse Model License, datert 15. oktober 2026. Lisensen tillater gratis bruk, kopiering, endring, inkludert finjustering, utvikling av avledede verk, destillering og distribusjon, på visse vilkår. Lisensinnehavere må tydelig vise «Bygget med Muse Spark Open» i brukergrensesnittet til hvert produkt eller hver tjeneste som bruker programvaren eller avledede versjoner av den, eller i tilhørende dokumentasjon, på et nettsted eller i en innstillingsmeny.

Lisensinnehavere som tilbyr kunstig intelligens-modeller som en tjeneste, og som sammen med tilknyttede selskaper har samlede bruttoinntekter på over 20 millioner dollar i en hvilken som helst sammenhengende periode på 12 måneder, må varsle Meta og inngå en separat skriftlig avtale før de inkluderer programvaren i denne virksomheten. Bestemmelsen gjelder ikke intern bruk, forskning eller annen kommersiell aktivitet som ikke er en modelltjeneste, og heller ikke bruk av programvaren som en komponent i lisensinnehaverens eget produkt. Lisensen fastslår at Meta ikke har eierskap til resultater som genereres av programvaren.

Den vedlagte brukspolicyen sier at modellen ikke er ment for personer under 18 år, og forbyr blant annet ulovlig aktivitet, opprettelse av skadevare, utvikling av våpen, drift av kritisk infrastruktur og bevisst villedning, for eksempel svindel, desinformasjon og utgivelse for å være en annen person. Blant begrensningene Meta oppgir, er at svar kan være unøyaktige, partiske eller støtende, at modellen kan gjøre feil i resonnering over flere trinn i nye scenarier, at ytelsen kan bli dårligere på språk som ikke er blant dem den støtter godt, at kvaliteten kan variere noe ved kvantisert inferens, og at tolkningen av svært korte videoer eller videoer med lav oppløsning kan være upålitelig. Meta sa at en fullstendig evalueringsrapport vil bli tilgjengelig snart.