Les poids ouverts de Muse Spark, un modèle de 816 milliards de paramètres, sont désormais publics

Meta a publié les poids de Muse Spark Open le 15 octobre 2026. Ce modèle à poids ouverts, nativement multimodal, compte 816 milliards de paramètres au total, dont 42 milliards actifs, et dispose d’une fenêtre de contexte d’un million de jetons. L’équipe de recherche en IA de Meta le décrit comme le modèle américain à poids ouverts le plus performant à ce jour, conçu pour le codage et les tâches faisant appel à des agents, notamment les tâches à long horizon, l’ingénierie logicielle complexe et le raisonnement en plusieurs étapes.

Architecture et données d’entraînement

Selon la fiche du modèle publiée par Meta Superintelligence Labs, Muse Spark Open est un Transformer à mélange d’experts associé à un encodeur de perception. Le modèle de langage compte 62 couches, une dimension cachée de 8 192 et 256 experts, dont huit sont activés pour chaque jeton par un routage top-k. Son bloc d’attention utilise une attention à portes avec normalisation QK, 128 têtes de requête et 16 têtes clé-valeur selon une configuration à requêtes groupées, ainsi qu’une dimension de tête de 64. Le vocabulaire compte 202 048 éléments, avec des plongements d’entrée et de sortie non liés. L’encodeur de perception compte 1,8 milliard de paramètres répartis sur 50 couches, avec une dimension cachée de 1 536, 16 têtes, une taille de patch de 14 × 14, une dimension de sortie de 4 096 et une attention parcimonieuse de facteur quatre, dans laquelle une couche sur quatre ainsi que la dernière couche utilisent une attention complète.

Le modèle accepte en entrée du texte, des images, des vidéos et de l’audio, et génère du texte. Selon la fiche du modèle, les données d’entraînement comprennent du texte, des images, de l’audio et des vidéos provenant de sources publiques, de collectes sur Internet, de tiers, des produits et services de Meta, ainsi que de contenus générés synthétiquement. Elles couvrent plus de 100 langues et ont fait l’objet d’un travail de curation incluant le nettoyage, le traitement, la déduplication et le filtrage. Un paramètre reasoning_effort contrôle l’intensité du raisonnement du modèle avant sa réponse. Il propose les niveaux low, medium, high et xhigh, ce dernier étant le niveau par défaut ; toute autre valeur renvoie une erreur. Pour la plupart des déploiements, Meta recommande une température de 1.0, un top_p de 1.0 et la désactivation de top_k. Pour les problèmes complexes, le codage et les tâches agentiques, Meta préconise un niveau de raisonnement high ou xhigh.

Disponibilité et optimisation pour les puces Apple

Muse Spark Open est disponible sur les plateformes d’API Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter et Together AI. Ses poids sont téléchargeables sur Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face et Microsoft Foundry Models. Le modèle fonctionne avec des moteurs d’inférence tels que SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp et Unsloth, et bénéficie d’optimisations pour les puces AMD, Apple, Intel et NVIDIA. Les développeurs peuvent également l’ajuster avec TorchTitan de PyTorch. Les poids sont proposés en versions BF16 et NVFP4 ; une exécution locale nécessite un processeur graphique doté d’au moins 700 Go de mémoire vidéo pour NVFP4 ou de 2 To pour BF16.

Meta affirme que Muse Spark Open est le premier modèle de sa catégorie à fonctionner sur un ordinateur de bureau, avec deux Mac Studio équipés de puces Apple M5 Ultra et de la dernière version du framework MLX, qui récupère directement les poids sur Hugging Face. L’architecture de mémoire unifiée d’Apple permet au processeur graphique intégré de la puce M5 Ultra d’utiliser jusqu’à 512 Go par Mac Studio. Selon Meta, la bande passante mémoire de 1,2 To/s de la puce permet à deux machines d’héberger le modèle entier et de fonctionner comme un seul système doté d’un téraoctet de mémoire unifiée.

Meta a indiqué avoir testé des flux de travail agentiques exécutés entièrement sur l’appareil avec Muse Code, propulsé par Muse Spark Open. Lors d’un test, cette configuration a apporté de véritables modifications iOS à Ice Cubes, un client Mastodon open source : corrections de bogues, nouvelles fonctionnalités et compilation complète. Lors d’un autre test, elle a piloté DaVinci Resolve du début à la fin, en examinant les séquences image par image pour sélectionner les moments marquants et les recadrer au format vertical. La version à poids ouverts est également fournie avec des noyaux GPU Helion personnalisés et réglables automatiquement dans SGLang. Selon Meta, ceux-ci offrent des accélérations au niveau des noyaux de 1,03 à 3,95 fois sur les processeurs graphiques NVIDIA et AMD, ainsi qu’une accélération de bout en bout de 3 % sur AMD MI350.

Résultats des tests de performance et de sécurité communiqués par Meta

La fiche du modèle compare Muse Spark Open, exécuté avec un niveau de raisonnement xhigh, à Inkling, Nemotron 3 Ultra, Beam, Mistral Large 4, Qwen3.8-2.4T-A95B, GLM 5.3 et Kimi K3. Meta indique un score de 39 à l’Artificial Analysis Intelligence Index ; le même tableau attribue 45 à GLM 5.3, 44 à Kimi K3 et 40 à Qwen3.8-2.4T-A95B. Dans les évaluations agentiques, Meta rapporte des scores de 61,8 à JobBench et de 89,2 à MCP-Atlas, les meilleurs résultats à ces tests parmi les modèles figurant dans le tableau de la fiche. Pour les connaissances et le raisonnement, Meta rapporte un score de 26,1 à HLE-Diamond sans outils, de 25 à AA Omniscience et de 89,0 à GPQA Diamond ; le tableau attribue 93,5 à Qwen3.8-2.4T-A95B et 93,5 à Kimi K3 pour ce dernier test.

Aux tests de codage, Meta rapporte un score de 76,4 à Terminal-Bench 2.1, où la fiche attribue 85,0 à Kimi K3 et 83,9 à GLM 5.3, ainsi que des scores de 60 à DeepSWE 1.1 et de 58 à SWE-Atlas-QnA, des tests pour lesquels la fiche attribue respectivement 68 et 66 à Kimi K3. Aux tests multimodaux avec outils, Meta rapporte un score de 50,0 à ZeroBench, de 73,6 à SimpleVQA, de 80,2 à BabyVision, contre 85,7 pour Kimi K3 dans le tableau, et de 61,5 à VideoMMEv2, contre 65,4 pour Kimi K3.

Meta a indiqué que la version à poids ouverts avait bénéficié d’un post-entraînement supplémentaire axé sur la sécurité et avait été évaluée en matière de sécurité des contenus, de risques liés aux agents, de confidentialité et de préparation, conformément à son Meta Superintelligence Scaling Framework, et qu’elle satisfaisait aux seuils exigés par ce cadre pour sa publication. La fiche du modèle indique que Muse Spark Open a refusé 99,2 % des tentatives de jailbreak sur le benchmark cyber interne de Meta et 94,8 % des tentatives, en moyenne, sur le sous-ensemble cyber de PolyGuard, RedCode et CyberBench 2024 ; dans le même cadre d’évaluation, la fiche indique Kimi K3 à 75,5 % et 70,2 %.

Meta fait état de taux de refus supérieurs à 98 % des demandes nuisibles sur le benchmark BioTIER de SecureBio et à 99 % sur un benchmark interne de chimie à un seul tour, ainsi que de taux supérieurs à 97 % pour les demandes nuisibles en biologie et de 98 % pour celles en chimie sur des benchmarks internes d’agents à plusieurs tours. La fiche indique un taux d’honnêteté de 98,1 % sur le benchmark MASK, un taux de comportement fautif de 0 % sur le benchmark Agentic Misalignment et un score de 0,5 sur StrongREJECT v2, où les scores les plus faibles sont les meilleurs. Meta précise que ces résultats caractérisent le point de contrôle publié dans les conditions de test et que des modifications ultérieures pourraient dégrader la sécurité. Elle recommande de déployer le modèle au sein d’un système d’IA plus large, doté de garde-fous adaptés au cas d’usage.

Conditions de licence et limites déclarées

Les poids sont publiés sous la licence Muse Model License, datée du 15 octobre 2026, qui autorise, sous réserve de certaines conditions, l’utilisation gratuite, la copie, la modification — y compris le réglage fin —, la création d’œuvres dérivées, la distillation et la distribution. Les titulaires de licence doivent afficher bien en évidence la mention « Built with Muse Spark Open » dans l’interface utilisateur de chaque produit ou service utilisant le logiciel ou ses dérivés, ou dans la documentation, sur un site web ou dans un menu de paramètres.

Les titulaires de licence qui proposent des modèles d’intelligence artificielle en tant que service et dont le chiffre d’affaires brut cumulé avec celui de leurs sociétés affiliées dépasse 20 millions de dollars au cours d’une période consécutive de 12 mois doivent en informer Meta et conclure un accord écrit distinct avant d’intégrer le logiciel à cette activité. Cette disposition ne s’applique ni à l’utilisation interne, ni à la recherche, ni aux autres activités commerciales qui ne constituent pas un service de modèles, ni à l’utilisation du logiciel comme composant alimentant le propre produit du titulaire de licence. La licence stipule que Meta ne détient aucun droit de propriété sur les résultats générés par le logiciel.

La politique d’utilisation jointe indique que le modèle n’est pas destiné aux personnes de moins de 18 ans et interdit notamment les usages liés aux activités illégales, à la création de logiciels malveillants, au développement d’armes, à l’exploitation d’infrastructures critiques et à la tromperie intentionnelle, comme la fraude, la désinformation et l’usurpation d’identité. Parmi les limites signalées par Meta figurent la possibilité de réponses inexactes, biaisées ou choquantes ; des erreurs de raisonnement en plusieurs étapes dans des situations inédites ; une baisse des performances dans les langues qui ne font pas partie de celles fortement prises en charge ; de légères différences de qualité avec l’inférence quantifiée ; et une capacité peu fiable à analyser des vidéos très courtes ou de faible résolution. Meta a indiqué qu’un rapport d’évaluation complet serait bientôt disponible.