Muse Spark Open: открытая модель Meta на 816 млрд параметров помещается на двух Mac Studio, с условиями

Факты проверены 16 октября 2026

15 октября Meta выложила веса Muse Spark Open: 816 млрд параметров всего, 42 млрд активных на токен, контекст 1 млн токенов, мультимодальный вход. Meta утверждает, что модель работает на двух Apple M5 Ultra Mac Studio через MLX. Лицензия называется Muse Model License: она свободная, но не OSI open source. Я прочитал блог Meta, карточку модели на Hugging Face и пост vLLM о поддержке в день релиза. блог релиза Meta

Что выпустила Meta

Muse Spark Open это разреженная модель смеси экспертов: 816 млрд параметров всего, 42 млрд активных на токен, 62 слоя, 256 экспертов в слое, 8 выбираются на токен, контекст 1 млн токенов при инференсе. Вход: текст, изображения, видео и аудио; выход: текст. Веса лежат на Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden и Microsoft Foundry в BF16 и NVFP4, а MXFP4-веса выпустила AMD. Доступ по API идёт через Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter и Together AI. карточка модели

Тезис про два Mac

Заголовок для энтузиастов это локальный инференс: Meta говорит, что Muse Spark Open первая модель своего класса, работающая на настольной машине, а именно на двух Apple M5 Ultra Mac Studio с последним MLX. Каждый M5 Ultra даёт встроенному GPU до 512 ГБ общей памяти, так что две машины вмещают модель, а пропускная способность 1,2 ТБ/с её питает. В демо Meta на устройстве Muse Code на этой модели внёс настоящие изменения для iOS в Ice Cubes, открытый клиент Mastodon, и вёл DaVinci Resolve от начала до конца, выбирая кадры и обрезая их вертикально.

Это демо самой Meta. В прочитанном мной Meta не опубликовала скорость в токенах в секунду для связки из двух Mac, и никто вне Meta её пока не повторил. Цену двух M5 Ultra Mac Studio тоже оставили читателю.

Как 1 млн токенов стал доступным

Команда vLLM в посте ко дню релиза, написанном вместе с Meta Superintelligence Labs, объясняет архитектуру. Все 62 слоя это слои смеси экспертов. Обучаемая матрица pooler вдвое сужает представление токена с 8192 до 4096 перед экспертами, а unpooler возвращает ширину, что вдвое уменьшает число параметров в проекциях экспертов. Внимание чередуется циклом из четырёх: три слоя смотрят в скользящее окно на 2048 токенов, четвёртый видит весь контекст, и цикл привязан так, что последний слой всегда полный. Из 62 слоёв выходит 46 узких и 16 широких, и на 1 млн токенов KV-кэш занимает чуть больше четверти того, что потребовало бы полное внимание везде. Именно это делает такую длину контекста достаточно дешёвой для обслуживания.

vLLM также обучила черновую модель спекулятивного декодирования DSpark, предлагающую до семи токенов за проход, на CUDA и ROCm. Поддержка в день релиза идёт как готовые образы vLLM для NVIDIA и AMD; кодовый PR ещё был на ревью, а ночную сборку PyPI ждали примерно через неделю. пост vLLM ко дню релиза

Таблица бенчмарков, читаем трезво

Карточка Meta сравнивает Muse Spark Open на усилии рассуждения xhigh с Inkling, Nemotron 3 Ultra, Beam, Mistral Large 4, Qwen3.8-2.4T-A95B, GLM 5.3 и Kimi K3. Muse Spark Open даёт лучшее число на MCP-Atlas (89,2 против 84,5 у следующего) и наименьший, то есть лучший, результат StrongREJECT v2 (0,5 против 62,9-86,4). На HLE с инструментами модель близка к лидеру (61,0 против 62,5 у GLM 5.3).

В других строках собственная таблица Meta ставит её позади. Terminal-Bench 2.1 с агентом Terminus 2: 76,4 против 85,0 у Kimi K3 и 83,9 у GLM 5.3. DeepSWE 1.1: 60 против 68 и 67. GPQA Diamond: 89,0 против 93,5. GDPVal-AA v2: 1401 против 1653. Формулировка «самая способная открытая модель США на сегодня» принадлежит Meta, и строки её же карточки показывают, почему географическое уточнение делает всю работу: несколько открытых моделей не из США набирают больше в кодовых и агентных тестах. Все числа принадлежат Meta и получены на выбранных ею стендах.

Лицензия, читаем трезво

Веса идут под Muse Model License, а не под одобренной OSI открытой лицензией. Права широкие: использовать, копировать, менять, дообучать, дистиллировать, объединять, публиковать, распространять, сублицензировать и продавать. Два условия важны. Продукты с моделью или её производными должны показывать надпись «Built with Muse Spark Open». И если вы предоставляете модели как услугу и выручка вашей группы превышает 20 млн долларов США за любые двенадцать месяцев, сначала нужно уведомить Meta и подписать отдельное соглашение. Политика использования ограничивает часть применений. Точное слово здесь «открытые веса», а для большинства отдельных разработчиков и небольших компаний условия фактически бесплатны.

Безопасность по оценкам самой Meta

Карточка сообщает сильные показатели отказов: 99,2% джейлбрейков отклонено на внутреннем кибербенчмарке Meta, 94,8% в совокупности по киберподмножеству PolyGuard, RedCode и CyberBench 2024, при этом у Kimi K3 в той же постановке, по данным Meta, 75,5% и 70,2%. Заявлены отказы более 98% на BioTIER от SecureBio, 98,1% честности на MASK и 0% нарушений на Agentic Misalignment. Meta говорит, что модель получила дополнительное обучение безопасности именно из-за открытых весов и что она прошла пороги её Superintelligence Scaling Framework. Полный отчёт об оценках ещё не вышел на момент проверки, так что каждое число здесь принадлежит Meta и никем не проверено.

Анализ: моё прочтение

Настоящая новость это порог настольной машины. Модель такого класса, работающая на двух компьютерах под столом, меняет расчёт приватности и стоимости агентной разработки: код остаётся в комнате. Трезвое чтение карточки менее триумфально. Модель конкурентна, но не доминирует, а её самые явные преимущества лежат в строках про отказы, которые Meta и придумала, и измерила. Лицензия держит крючок ровно в одной группе: крупных поставщиках моделей как услуги. Все остальные получают условия, близкие к свободе в стиле Apache, со строкой атрибуции.

Что я не смог подтвердить

Я не скачивал и не запускал модель. Демо на Mac Studio это видео и заявления Meta, без опубликованных чисел производительности в прочитанных мной источниках. Стенды бенчмарков названы по строкам, но полный отчёт о методологии ещё не вышел. Я не читал весь список ограничений политики использования, только текст лицензии в карточке модели.

Проверка, которую можно выполнить

Утверждение про гибридное внимание это арифметика, которую можно пересчитать. Возьмите 16 KV-голов с размерностью 64 в BF16, 62 слоя, из них 16 с полным вниманием и 46 со скользящим окном на 2048 токенов. Код ниже считает KV-кэш на 1 млн токенов обоими способами. Выходит около четверти, как и сказано в посте vLLM. Если планируете обслуживать модель, посчитайте то же со своей длиной контекста до покупки железа.

Иллюстративная оценка, а не код Meta

# Illustrative estimator, not Meta's code. Hybrid-attention KV cache at 1M tokens.
layers_total = 62
full_layers = 16        # vLLM day-0 post: 46 sliding-window + 16 full
window = 2048
tokens = 1_000_000
kv_per_token_layer = 16 * 64 * 2 * 2   # 16 KV heads, head dim 64, K+V, BF16
all_full = layers_total * tokens * kv_per_token_layer
hybrid = (full_layers * tokens + (layers_total - full_layers) * window) * kv_per_token_layer
print(f"all-full: {all_full/2**30:.0f} GiB   hybrid: {hybrid/2**30:.0f} GiB   ratio: {hybrid/all_full:.2f}")
# -> all-full: 236 GiB   hybrid: 61 GiB   ratio: 0.26  (vLLM says "just over a quarter")

Источники и свежесть

• блог релиза Meta, 15 октября
• карточка модели Hugging Face
• пост vLLM ко дню релиза, 15 октября