Metaの816Bパラメータモデル「Muse Spark Open」の重みが公開

Metaは2026年10月15日、総パラメータ数816B、アクティブパラメータ数42B、コンテキストウィンドウ1Mトークンのネイティブなマルチモーダル対応オープンウェイトモデル、Muse Spark Openの重みを公開した。MetaのAI研究部門は、これを現時点で最も高性能な米国のオープンウェイトモデルと説明しており、長期にわたるタスク、複雑なソフトウェアエンジニアリング、多段階推論など、コーディングやエージェント型の作業向けに構築されている。

アーキテクチャと学習データ

Meta Superintelligence Labsが公開したモデルカードによると、Muse Spark Openは、Perception Encoderを組み合わせたMixture-of-Experts Transformerだ。言語モデルは62層で、隠れ次元は8192。256個のエキスパートを備え、top-kルーティングによってトークンごとに8個が活性化される。アテンションブロックには、QK-normを用いたゲート付きアテンションを採用し、グループ化クエリアテンション構成でクエリヘッド128個、キー・バリューヘッド16個を備える。ヘッド次元は64だ。語彙数は202,048で、入力埋め込みと出力埋め込みは共有されていない。Perception Encoderは50層でパラメータ数1.8B、隠れ次元1536、ヘッド数16、パッチサイズ14×14、出力次元4096。さらに、スパースアテンションの係数は4で、4層ごとの層と最終層では全アテンションを使用する。

このモデルはテキスト、画像、動画、音声を入力として受け付け、テキストを出力する。モデルカードによると、学習データには、公開情報、インターネット上のクロールデータ、第三者、Metaの自社製品・サービス、および合成生成された素材から収集したテキスト、画像、音声、動画が含まれ、100を超える言語を網羅している。データの選定にあたっては、クリーニング、処理、重複除去、フィルタリングも行われた。reasoning_effortパラメーターは、応答前にモデルがどの程度考えるかを制御するもので、low、medium、high、xhighの設定があり、デフォルトはxhighだ。それ以外の値を指定するとエラーが返される。Metaは、ほとんどの導入環境でtemperature 1.0、top_p 1.0、top_k無効を推奨している。また、複雑な問題解決、コーディング、エージェント型タスクには、highまたはxhighの推論レベルを推奨している。

提供状況とApple Silicon向け最適化

Muse Spark Openは、APIプラットフォームのBaseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Together AIを通じて利用できる。また、重みはAmazon SageMaker AI、Google Cloud Model Garden、Hugging Face、Microsoft Foundry Modelsからダウンロードできる。SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp、Unslothなどの推論エンジンで動作し、AMD、Apple、Intel、NVIDIAのシリコン向けに最適化されている。開発者はPyTorchのTorchTitanを使って、モデルをさらに調整することもできる。重みはBF16版とNVFP4版で提供される。ローカルで実行するには、NVFP4の場合は少なくとも700GB、BF16の場合は2TBのVRAMを搭載したGPUが必要だ。

Metaによると、Muse Spark Openは同クラスで初めてデスクトップ上で動作するモデルで、最新のMLXフレームワークを使い、Apple M5 Ultra Mac Studio 2台で実行できる。MLXは重みをHugging Faceから直接取得する。Appleのユニファイドメモリアーキテクチャにより、M5 Ultraの統合GPUはMac Studio 1台あたり最大512GBのメモリを利用できる。Metaによると、チップのメモリ帯域幅は1.2TB/sで、2台のマシンにモデル全体を格納し、1TBのユニファイドメモリを備えた単一システムとして動作させられる。

Metaは、Muse Spark Openを搭載したMuse Codeを使い、すべてデバイス上で実行するエージェント型ワークフローをテストしたと述べている。あるテストでは、オープンソースのMastodonクライアントIce Cubesに対し、バグ修正、新機能の追加、完全なビルドにわたる実際のiOS変更を適用した。別のテストでは、DaVinci Resolveを最初から最後まで操作し、映像をフレームごとに確認して際立った場面を選び、縦長の映像に切り抜いた。オープンウェイト版には、SGLangで利用できる、カスタムの自動調整対応Helion GPUカーネルも含まれている。Metaの報告によると、これによりNVIDIAおよびAMDのGPUでカーネルレベルの速度が1.03～3.95倍向上し、AMD MI350ではエンドツーエンドの速度が3%向上する。

Metaが報告したベンチマークと安全性の結果

モデルカードでは、推論レベルをxhighに設定したMuse Spark Openを、Inkling、Nemotron 3 Ultra、Beam、Mistral Large 4、Qwen3.8-2.4T-A95B、GLM 5.3、Kimi K3と比較している。Metaによると、Artificial Analysis Intelligence Indexのスコアは39だった。同じ表では、GLM 5.3は45、Kimi K3は44、Qwen3.8-2.4T-A95Bは40とされている。エージェント型評価では、Metaの報告によるとJobBenchで61.8、MCP-Atlasで89.2を記録し、モデルカードの表に掲載されたモデルの中で、これらのテストにおける最高スコアとなった。知識と推論の評価では、Metaの報告によると、ツールを使わないHLE-Diamondで26.1、AA Omniscienceで25、GPQA Diamondで89.0を記録した。GPQA Diamondについては、同じ表でQwen3.8-2.4T-A95BとKimi K3がともに93.5とされている。

コーディングベンチマークでは、Metaの報告によると、Terminal-Bench 2.1で76.4を記録した。モデルカードでは同テストのスコアとしてKimi K3が85.0、GLM 5.3が83.9とされている。また、DeepSWE 1.1で60、SWE-Atlas-QnAで58を記録した。これらのテストについて、モデルカードではKimi K3のスコアをそれぞれ68、66としている。ツール支援型のマルチモーダルテストでは、Metaの報告によると、ZeroBenchで50.0、SimpleVQAで73.6、BabyVisionで80.2を記録した。BabyVisionでは、表に記載されたKimi K3のスコアは85.7だった。VideoMMEv2では61.5を記録し、表に記載されたKimi K3のスコア65.4を下回った。

Metaによると、オープンウェイト版には安全性を高める追加の事後学習が施され、Meta Superintelligence Scaling Frameworkに沿って、コンテンツの安全性、エージェント型のリスク、プライバシー、リリース準備状況の各項目で評価された。その結果、同フレームワークがリリースに求める基準を満たした。モデルカードによると、Muse Spark OpenはMeta社内のサイバーセキュリティベンチマークでジェイルブレイクの99.2％を拒否し、PolyGuardのサイバー関連サブセット、RedCode、CyberBench 2024を集計した結果では94.8％を拒否した。同じ条件でのモデルカードの記載では、Kimi K3はそれぞれ75.5％、70.2％だった。

Metaによると、SecureBioのBioTIERベンチマークでは有害なリクエストの98％超、社内の単一ターン化学ベンチマークでは99％超を拒否した。また、社内の複数ターン型エージェントベンチマークでは、有害な生物学関連リクエストの97％超、有害な化学関連リクエストの98％を拒否した。モデルカードには、MASKベンチマークでの誠実性のスコアが98.1％、Agentic Misalignmentベンチマークでの不適切動作率が0％、StrongREJECT v2のスコアが0.5と記載されている。StrongREJECT v2では、スコアが低いほど優れている。Metaは、これらの結果はテスト条件下で公開されたチェックポイントの特性を示すものであり、後続の改変によって安全性が損なわれる可能性があると注意を促している。また、用途に適したガードレールを備えた、より広範なAIシステムの一部としてモデルを導入することを推奨している。

ライセンス条件と明示されている制限事項

モデルの重みは、2026年10月15日付のMuse Model Licenseに基づいて公開されている。このライセンスでは、条件に従うことを前提に、無償での利用、複製、ファインチューニングを含む改変、派生物の作成、蒸留、配布が認められている。ライセンシーは、ソフトウェアまたはその派生物を使用する各製品・サービスのユーザーインターフェース、または付属文書、ウェブサイト、設定メニューに、「Built with Muse Spark Open」と目立つ形で表示しなければならない。

人工知能モデルをサービスとして提供し、関連会社との合算総収入が連続する任意の12カ月間に2,000万ドルを超えるライセンシーは、その事業に本ソフトウェアを含める前にMetaへ通知し、別途書面による契約を締結しなければならない。この規定は、社内利用、研究、モデルサービスに該当しないその他の商業活動には適用されない。また、ライセンシー自身の製品を動かす構成要素として本ソフトウェアを使用する場合も適用対象外となる。ライセンスでは、本ソフトウェアによって生成された出力について、Metaが所有権を取得しないと定めている。

付属の利用ポリシーでは、このモデルは18歳未満の人を対象としておらず、違法行為、マルウェアの作成、兵器の開発、重要インフラの運用、詐欺、偽情報の拡散、なりすましなどの意図的な欺瞞行為を含む用途を禁止している。Metaが挙げる制限事項には、不正確、偏向、または不快な回答を生成する可能性、新しい状況での複数段階の推論における誤り、十分に対応している言語以外での性能低下、量子化推論による品質のわずかな違い、極端に短い動画や解像度の低い動画を安定して認識できないことが含まれる。Metaによると、評価の全報告書は近日中に公開される予定だ。