Відкриті ваги Muse Spark Open від Meta із 816 млрд параметрів стали загальнодоступними

15 жовтня 2026 року Meta опублікувала ваги Muse Spark Open — нативно мультимодальної моделі з відкритими вагами, що має загалом 816 млрд параметрів, з яких 42 млрд активні, та контекстне вікно на 1 млн токенів. Дослідницька команда Meta AI називає її найпотужнішою американською моделлю з відкритими вагами на сьогодні. Її створено для програмування та агентної роботи, зокрема для виконання довготривалих завдань, складної розробки програмного забезпечення й багатокрокових міркувань.

Архітектура та навчальні дані

Згідно з карткою моделі, опублікованою Meta Superintelligence Labs, Muse Spark Open — це трансформер із сумішшю експертів, поєднаний із Perception Encoder. Мовна модель має 62 шари, розмірність прихованого шару 8192 і 256 експертів, з яких для кожного токена активуються вісім за допомогою маршрутизації top-k. У блоці уваги використовується керована увага з QK-нормалізацією, 128 головами запитів і 16 головами ключів-значень у конфігурації групованих запитів; розмірність голови становить 64. Розмір словника — 202 048; вхідні та вихідні вбудовування не пов’язані між собою. Perception Encoder має 1,8 млрд параметрів у 50 шарах, розмірність прихованого шару 1536, 16 голів, розмір патча 14 × 14 і вихідну розмірність 4096. Також він використовує розріджену увагу з коефіцієнтом чотири: повну увагу застосовано в кожному четвертому шарі та в останньому шарі.

Модель приймає на вхід текст, зображення, відео й аудіо та генерує текст. Згідно з карткою моделі, навчальні дані охоплюють текст, зображення, аудіо й відео з відкритих джерел, зібрані під час сканування інтернету матеріали, дані від третіх сторін, власні продукти й послуги Meta, а також синтетично згенеровані матеріали. Дані охоплюють понад 100 мов; під час їх підготовки виконували очищення, обробку, дедуплікацію та фільтрацію. Параметр reasoning_effort визначає, наскільки інтенсивно модель міркує перед відповіддю. Доступні рівні low, medium, high і xhigh; за замовчуванням установлено xhigh. Будь-яке інше значення викликає помилку. Для більшості розгортань Meta рекомендує temperature 1.0, top_p 1.0 і вимкнений top_k, а для складного розв’язання задач, програмування й агентних завдань — рівень міркування high або xhigh.

Доступність та оптимізація для Apple Silicon

Muse Spark Open доступна на API-платформах Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter і Together AI, а ваги можна завантажити з Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face та Microsoft Foundry Models. Модель працює на рушіях інференсу, зокрема SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp та Unsloth, і має оптимізації для чипів AMD, Apple, Intel і NVIDIA. Розробники також можуть додатково налаштовувати модель за допомогою TorchTitan від PyTorch. Ваги доступні у версіях BF16 і NVFP4; для локального запуску потрібен графічний процесор із щонайменше 700 ГБ відеопам’яті для NVFP4 або 2 ТБ для BF16.

За словами Meta, Muse Spark Open — перша модель у своєму класі, яку вдалося запустити на настільному комп’ютері: для цього використали два комп’ютери Apple M5 Ultra Mac Studio з найновішим фреймворком MLX, який завантажує ваги безпосередньо з Hugging Face. Архітектура уніфікованої пам’яті Apple дає змогу інтегрованому графічному процесору M5 Ultra використовувати до 512 ГБ пам’яті на кожен Mac Studio. За даними Meta, пропускна здатність пам’яті чипа, що становить 1,2 ТБ/с, дає змогу двом комп’ютерам умістити всю модель і працювати як єдина система з терабайтом уніфікованої пам’яті.

Meta повідомила, що випробувала агентні робочі процеси, які повністю виконувалися на пристрої за допомогою Muse Code на базі Muse Spark Open. Під час одного випробування конфігурація внесла реальні зміни для iOS у Ice Cubes — клієнт Mastodon із відкритим вихідним кодом: виправила помилки, додала нові функції та виконала повне складання. В іншому випробуванні вона від початку до кінця працювала в DaVinci Resolve: аналізувала відеоматеріал кадр за кадром, щоб вибрати найяскравіші моменти й перекадрувати їх у вертикальний формат. Версія з відкритими вагами також містить спеціальні GPU-ядра Helion в SGLang, які можна автоматично налаштовувати. За даними Meta, вони забезпечують прискорення на рівні ядер від 1,03 до 3,95 раза на графічних процесорах NVIDIA й AMD, а загальне прискорення на AMD MI350 становить 3%.

Бенчмарки та результати з безпеки за даними Meta

У картці моделі Muse Spark Open, запущену з рівнем міркування xhigh, порівнюють з Inkling, Nemotron 3 Ultra, Beam, Mistral Large 4, Qwen3.8-2.4T-A95B, GLM 5.3 і Kimi K3. За даними Meta, модель набрала 39 балів в індексі Artificial Analysis Intelligence Index; у тій самій таблиці наведено результати GLM 5.3 — 45 балів, Kimi K3 — 44, а Qwen3.8-2.4T-A95B — 40. У тестах агентних можливостей Meta повідомляє про результати 61,8 у JobBench і 89,2 у MCP-Atlas — найвищі показники в цих тестах серед моделей, наведених у таблиці картки. У тестах на знання та міркування, за даними Meta, модель набрала 26,1 у HLE-Diamond без інструментів, 25 в AA Omniscience і 89,0 у GPQA Diamond. У таблиці для Qwen3.8-2.4T-A95B і Kimi K3 у тесті GPQA Diamond наведено по 93,5 бала.

У тестах програмування Meta повідомляє про результат 76,4 у Terminal-Bench 2.1; у картці для Kimi K3 наведено 85,0, а для GLM 5.3 — 83,9. Крім того, модель набрала 60 у DeepSWE 1.1 і 58 у SWE-Atlas-QnA; у цих тестах у картці для Kimi K3 наведено відповідно 68 і 66 балів. У мультимодальних тестах із використанням інструментів Meta повідомляє про результати 50,0 у ZeroBench, 73,6 у SimpleVQA, 80,2 у BabyVision (у таблиці для Kimi K3 наведено 85,7) і 61,5 у VideoMMEv2 (для Kimi K3 у таблиці зазначено 65,4).

Meta повідомила, що версія з відкритими вагами пройшла додаткове післянавчання з безпеки та оцінювання за напрямами безпеки контенту, агентних ризиків, конфіденційності й готовності відповідно до її Meta Superintelligence Scaling Framework і досягла порогових значень, необхідних для випуску згідно з цією системою. У картці моделі зазначено, що Muse Spark Open відхилила 99,2% спроб обходу захисту у внутрішньому тесті Meta з кібербезпеки та 94,8% таких спроб у сукупності підмножини з кібербезпеки PolyGuard, RedCode і CyberBench 2024; у тих самих умовах у картці наведено показники Kimi K3 — 75,5% і 70,2%.

Meta повідомляє, що модель відхиляє понад 98% шкідливих запитів у тесті SecureBio BioTIER і понад 99% — у внутрішньому тесті з хімії з одним раундом взаємодії, а також понад 97% шкідливих запитів із біології та 98% шкідливих запитів із хімії у внутрішніх багатоетапних агентних тестах. У картці зазначено показник чесності 98,1% у тесті MASK, частку випадків неналежної поведінки 0% у тесті Agentic Misalignment і результат 0,5 у StrongREJECT v2, де нижчі оцінки кращі. Meta застерігає, що ці результати характеризують випущену контрольну версію моделі в умовах проведеного тестування, а подальші модифікації можуть знизити рівень безпеки. Компанія рекомендує розгортати модель у складі ширшої системи ШІ із захисними механізмами, адаптованими до конкретного сценарію використання.

Умови ліцензії та зазначені обмеження

Ваги випущено за ліцензією Muse Model License від 15 жовтня 2026 року. Вона дозволяє безоплатно використовувати, копіювати й модифікувати програмне забезпечення, зокрема налаштовувати його, створювати похідні роботи, дистилювати та розповсюджувати його за певних умов. Ліцензіати мають помітно розміщувати напис «Створено за допомогою Muse Spark Open» в інтерфейсі кожного продукту чи сервісу, що використовує це програмне забезпечення або його похідні, або в супровідній документації, на вебсайті чи в меню налаштувань.

Ліцензіати, які надають моделі штучного інтелекту як сервіс і чий сукупний валовий дохід разом із доходом афілійованих осіб перевищує $20 млн протягом будь-якого послідовного 12-місячного періоду, мають повідомити Meta й укласти окрему письмову угоду до того, як використовувати це програмне забезпечення в такій діяльності. Це положення не поширюється на внутрішнє використання, дослідження чи іншу комерційну діяльність, яка не є наданням модельного сервісу, а також на використання програмного забезпечення як компонента власного продукту ліцензіата. Ліцензія передбачає, що Meta не набуває права власності на результати, створені за допомогою цього програмного забезпечення.

У доданій політиці використання зазначено, що модель не призначена для осіб віком до 18 років, а також заборонено використовувати її для незаконної діяльності, створення шкідливого програмного забезпечення, розроблення зброї, управління критичною інфраструктурою та навмисного введення в оману, зокрема шахрайства, поширення дезінформації й видавання себе за інших осіб. За словами Meta, модель може давати неточні, упереджені або неприйнятні відповіді; помилятися під час багатокрокових міркувань у нових сценаріях; гірше працювати мовами, що не належать до переліку мов із надійною підтримкою; демонструвати незначні відмінності в якості за квантованого виведення; а також ненадійно сприймати дуже короткі відео або відео з низькою роздільною здатністю. Meta повідомила, що повний звіт про оцінювання буде опубліковано найближчим часом.