Meta представила Muse Glimmer: 30‑млрд ИИ‑модель для ноутбука

Новая модель Muse Glimmer

Компания Meta представила модель искусственного интеллекта под названием Muse Glimmer. Она включает 30 млрд параметров и рассчитана на запуск в локальном режиме на персональных компьютерах и ноутбуках под управлением Windows или macOS. Модель не требует постоянного доступа к облачным сервисам и уже доступна разработчикам через открытые SDK.

Технология обучения

Для создания Muse Glimmer использовалась методика дистилляции знаний от более крупной модели‑учителя Muse Spark. Обучение проходило в три основных этапа:

• Pre‑Training – начальное обучение на базовых данных Muse Spark с применением дистилляции логитов;
• Mid‑Training – дообучение на специализированных наборах, содержащих длинные контексты и сложные цепочки рассуждений;
• Post‑Training – комбинация fine‑tuning и обучения с подкреплением в областях программирования, логики и работы с внешними инструментами.

Функциональные возможности

Muse Glimmer ориентирована на выполнение длительных сценариев, где ИИ‑агент выступает персональным помощником: планирует встречи, пишет код, обрабатывает файлы, анализирует данные. Ключевые свойства модели включают:

• Автономный вызов функций (function calling) в многошаговых процессах;
• Восстановление после ошибок – модель диагностирует сбой инструмента и повторно пытается выполнить задачу;
• Мультимодальность – одновременный анализ текста и изображений (скриншотов, графиков, документов);
• Поддержка более 100 языков мира;
• Совместимость с оркестраторами агентов, включая OpenClaw и аналогичные фреймворки.

Оптимизация под пользовательское железо

Для того чтобы 30‑млрд‑параметровую модель можно было запускать на потребительских устройствах, разработчики применили две ключевые технологии:

• K‑Quant – 4‑битовое квантование, которое уменьшило размер модели до менее 20 ГБ, позволяя разместить её в пределах 24‑32 ГБ оперативной или видеопамяти вместе с KV‑кэшем;
• DFlash – спекулятивное декодирование с помощью компактной сети‑драфтера, предлагающей блоки токенов заранее и ускоряющей генерацию текста на платформах Mac M4/M5 Max и видеокартах RTX 5090.

Перспективы интеграции

Разработчики сообщили, что в ближайшее время поддержка Muse Glimmer будет добавлена в популярные инструменты и движки, такие как Ollama, LM Studio, Unsloth, Llama.cpp, ExecuTorch, MLX, vLLM и SGLang. Это откроет возможности локального использования продвинутых ИИ‑агентов широкому кругу специалистов без необходимости инвестировать в дорогое серверное оборудование.