Meta запускает Muse Glimmer для локальных ИИ-агентов на персональных устройствах

Muse Glimmer выводит ИИ-агенты непосредственно на потребительское оборудование

10 августа Meta Superintelligence Labs, подразделение компании, занимающееся передовыми исследованиями в области ИИ, представило Muse Glimmer — агентную модель с открытыми весами, предназначенную для работы непосредственно на персональных устройствах, и опубликовало её веса под либеральной лицензией Apache 2.0. Открытые веса позволяют разработчикам загружать базовые параметры модели, а термин «агентная» относится к системам, которые выполняют многоэтапные задачи с использованием инструментов при ограниченном участии человека. Модель создана на основе Muse Spark — более крупной закрытой модели Meta — и работает на Mac или ПК с одним потребительским графическим процессором (GPU).

Компания пояснила:

«Muse Glimmer — это модель с 30 миллиардами параметров, оптимизированная для постоянно работающих локальных агентских рабочих процессов».

Muse Glimmer выполняет задачи от начала до конца, использует программные инструменты, пишет код, следует нескольким шагам рассуждений и восстанавливает работу при сбое попытки выполнения действия. По данным Meta, модель обрабатывает текст и изображения, работает с данными на более чем 100 языках и, учитывая свой размер, показала высокие результаты по сравнению с моделями Gemma4-31B и Qwen3.6-27B в тестах по агентным задачам, программированию, мультимодальности, безопасности и логическому мышлению.

ИИ-агенты отличаются от традиционных чат-ботов способностью выполнять задачи, использовать внешние инструменты и принимать решения в рамках расширенных рабочих процессов с различными уровнями автономности.

Meta сжала модель с 30 миллиардами параметров до размера менее 20 ГБ

Для запуска модели размером с Muse Glimmer на потребительском оборудовании компании Meta потребовалось снизить требования к памяти, сохранив при этом производительность при выполнении задач, обрабатываемых ИИ-агентами. Модель с 30 миллиардами параметров при полной точности превысила бы 55 ГБ, но 4-битное квантование, при котором данные модели хранятся в более компактном числовом формате, позволило сжать языковую модель до размера менее 20 ГБ и разместить её компоненты в рамках 24- или 32-гигабайтного контейнера.

Более компактная сопутствующая модель, поставляемая вместе с Muse Glimmer, прогнозирует последующие фрагменты текста, что позволяет основной модели проверять несколько прогнозов одновременно и реагировать быстрее. Эта техника, известная как спекулятивное декодирование, позволила увеличить скорость генерации в 3,1 раза на RTX 5090, в 1,8 раза на M5 Max и в 1,5 раза на M4 Max в ходе тестирования, проведенного компанией.

Стремление к созданию локальных агентов происходит на фоне того, как Meta увеличивает расходы и реорганизует команды, ориентируясь на автономные продукты ИИ и более быстрые циклы разработки. Ожидается, что капитальные затраты на 2026 год достигнут 130–145 млрд долларов — этот диапазон был сужен с 125–145 млрд долларов, указанных компанией при публикации результатов за второй квартал 29 июля.

В мае около 7 000 сотрудников были переведены в четыре подразделения, специализирующиеся на ИИ, включая «Applied AI Engineering» и команду «Agent Transformation Accelerator», в то время как около 8 000 сотрудников были уволены, а 6 000 вакансий закрыты. Позже Meta сообщила переведенным сотрудникам, что они могут сами решить, оставаться ли им в компании.

Локальная обработка снижает зависимость от постоянного доступа к облаку

Сохранение рабочих процессов агентов на личном оборудовании позволяет избежать маршрутизации каждого запроса через удаленные центры обработки данных, благодаря чему задачи могут выполняться даже при ограниченном или отсутствующем подключении. Локальное выполнение также подходит для сценариев использования, основанных на сохраненном контексте, таких как расписания, сообщения и файлы, где модель оперирует личными данными в течение длительных сеансов.

Стандарты безопасности становятся всё более актуальными по мере того, как автономное программное обеспечение получает разрешение на взаимодействие с учетными записями, приложениями и конфиденциальной информацией. Национальный институт стандартов и технологий запустил Инициативу по стандартам ИИ-агентов, охватывающую безопасную коммуникацию между агентами, надежные цифровые идентификаторы, средства контроля доступа и общие технические стандарты.

В Meta подчеркнули:

«Локальное выполнение моделей позволяет использовать ИИ где угодно и когда угодно, как с подключением к Интернету, так и без него».

Помимо локальных моделей, Meta перешла к платформам, построенным на взаимодействии между независимыми программными агентами. В марте компания приобрела Moltbook — социальную сеть агентов ИИ, насчитывающую по состоянию на июнь более 206 000 агентов, проверенных людьми, из почти 2,9 миллиона зарегистрированных учетных записей, и пригласила ее соучредителей в Meta Superintelligence Labs.

Muse Glimmer вписывается в более широкую стратегию Meta по обеспечению широкой доступности ИИ

10 августа генеральный директор Meta Марк Цукерберг отдельно изложил стратегию по широкому распространению персонального суперинтеллекта и предоставлению бесплатных версий миллиардам людей. В видео в Instagram, опубликованном в тот же день, Цукерберг заявил, что Meta также обнародует весовые коэффициенты модели Muse Spark 1.2, обосновав этот шаг в эссе объемом 6 500 слов как ответ на публикацию весовых коэффициентов китайскими разработчиками.

Поддержка всё более мощных моделей по-прежнему требует обширных централизованных вычислительных ресурсов для обучения, даже если готовая модель работает на собственном устройстве пользователя. Meta подписала пятилетнее соглашение с Nebius на сумму до 27 млрд долларов, включая 12 млрд долларов на выделенные вычислительные мощности и опционы ещё на 15 млрд долларов.

Разработчики уже могут загрузить веса модели Muse Glimmer, а в ближайшие дни ожидается появление оптимизированной поддержки для llama.cpp, MLX и ExecuTorch — программного обеспечения, используемого для эффективного запуска моделей ИИ на различном оборудовании. Meta также сотрудничает с AMD, Arm, Dell, Intel и Nvidia с целью оптимизации производительности на различных устройствах.