Meta запускає Muse Glimmer для локальних ШІ-агентів на персональних пристроях

Muse Glimmer переносить агенти ШІ безпосередньо на споживче обладнання

10 серпня Meta Superintelligence Labs, підрозділ компанії, що займається передовими дослідженнями в галузі штучного інтелекту, представив Muse Glimmer — агентну модель з відкритими вагами, призначену для роботи безпосередньо на персональних пристроях, опублікувавши її ваги під ліцензією Apache 2.0 з широкими правами. Відкриті ваги дозволяють розробникам завантажувати базові параметри моделі, а термін «агентна» стосується систем, які виконують багатоетапні завдання за допомогою інструментів з обмеженим втручанням людини. Модель створено на основі Muse Spark — більшої закритої моделі Meta — і працює на Mac або ПК з одним споживчим графічним процесором (GPU).

Компанія зазначила:

«Muse Glimmer — це модель із 30 мільярдами параметрів, оптимізована для постійно активних локальних робочих процесів агентів».

Muse Glimmer виконує завдання від початку до кінця, використовує програмні інструменти, пише код, дотримується декількох етапів міркування та відновлює роботу після невдалої спроби виконання дії. За даними Meta, модель обробляє текст та зображення, працює з даними на понад 100 мовах і, з огляду на свій розмір, показала високі результати у порівнянні з Gemma4-31B та Qwen3.6-27B у тестах на агентські функції, кодування, мультимодальність, безпеку та міркування.

Агенти ШІ відрізняються від звичайних чат-ботів своєю здатністю виконувати завдання, використовувати зовнішні інструменти та приймати рішення в рамках розширених робочих процесів із різним рівнем автономності.

Meta стиснула модель із 30 мільярдами параметрів до розміру менше 20 ГБ

Для запуску моделі розміру Muse Glimmer на споживчому обладнанні компанії Meta довелося зменшити вимоги до пам’яті, зберігши при цьому продуктивність під час виконання завдань, які обробляють агенти ШІ. Модель із 30 мільярдами параметрів при повній точності перевищувала б 55 ГБ, але 4-бітне квантування, яке зберігає дані моделі в більш компактному числовому форматі, дозволило зменшити розмір мовної моделі до менше ніж 20 ГБ і вмістити її компоненти в межі 24 або 32 ГБ.

Менша супутня модель, що постачається разом із Muse Glimmer, прогнозує наступні фрагменти тексту, що дозволяє основній моделі перевіряти кілька прогнозів одночасно та швидше реагувати. Ця техніка, відома як спекулятивне декодування, під час тестування компанією збільшила швидкість генерації в 3,1 раза на RTX 5090, в 1,8 раза на M5 Max та в 1,5 раза на M4 Max.

Поштовх до розвитку локальних агентів з’являється на тлі того, як Meta збільшує видатки та реорганізовує команди навколо автономних продуктів штучного інтелекту та прискорених циклів розробки. Очікується, що капітальні витрати на 2026 рік становитимуть від 130 до 145 млрд доларів — цей діапазон звузився з 125–145 млрд доларів, які компанія вказала під час оприлюднення результатів за другий квартал 29 липня.

У травні приблизно 7 000 співробітників перейшли до чотирьох підрозділів, орієнтованих на штучний інтелект, зокрема до «Applied AI Engineering» та команди «Agent Transformation Accelerator», тоді як близько 8 000 працівників було звільнено, а 6 000 вакансій — закрито. Пізніше Meta повідомила переведеним співробітникам, що вони можуть самостійно вирішити, чи залишатися на нових посадах.

Локальна обробка даних зменшує залежність від постійного доступу до хмари

Збереження робочих процесів агентів на особистому обладнанні дозволяє уникнути маршрутизації кожного запиту через віддалені центри обробки даних, що дає змогу продовжувати виконання завдань навіть за умови обмеженого або відсутнього підключення до мережі. Локальне виконання також підходить для сценаріїв використання, що базуються на збереженому контексті, такому як розклади, повідомлення та файли, де модель оперує особистими даними протягом тривалих сеансів роботи.

Стандарти безпеки стають дедалі актуальнішими, оскільки автономне програмне забезпечення отримує дозвіл на взаємодію з обліковими записами, додатками та конфіденційною інформацією. Національний інститут стандартів і технологій запустив Ініціативу зі стандартів штучного інтелекту для агентів, що охоплює безпечну комунікацію між агентами, надійні цифрові ідентичності, контроль доступу та загальні технічні стандарти.

У Meta наголосили:

«Локальне виконання моделей дає змогу використовувати ШІ будь-де, будь-коли, незалежно від наявності інтернет-з’єднання».

Окрім локальних моделей, Meta перейшла до платформ, побудованих на взаємодії між незалежними програмними агентами. У березні компанія придбала Moltbook — соціальну мережу на базі агентів штучного інтелекту, яка станом на червень налічувала понад 206 000 агентів, перевірених людьми, із майже 2,9 мільйона зареєстрованих облікових записів, а її співзасновників залучила до складу Meta Superintelligence Labs.

Muse Glimmer відповідає більш широкій стратегії Meta щодо поширення ШІ

10 серпня генеральний директор Meta Марк Цукерберг окремо окреслив стратегію широкого поширення персональної суперінтелектуальної системи та надання безкоштовних версій мільярдам людей. У відео в Instagram, опублікованому того ж дня, Цукерберг заявив, що Meta також оприлюднить вагові коефіцієнти для Muse Spark 1.2, пояснивши цей крок у есе обсягом 6 500 слів як відповідь на оприлюднення вагових коефіцієнтів китайськими розробниками.

Підтримка моделей із дедалі більшими можливостями все ще вимагає значних централізованих обчислювальних потужностей для навчання, навіть якщо готова модель працює на власному пристрої користувача. Meta підписала п’ятирічну угоду з Nebius на суму до 27 млрд доларів, що включає 12 млрд доларів на виділені обчислювальні потужності та опціони ще на 15 млрд доларів.

Розробники вже можуть завантажити вагові матриці Muse Glimmer, а в найближчі дні очікується оптимізована підтримка llama.cpp, MLX та ExecuTorch — програмного забезпечення, що використовується для ефективного запуску моделей штучного інтелекту на різному апаратному забезпеченні. Meta також співпрацює з AMD, Arm, Dell, Intel та Nvidia з метою оптимізації продуктивності на різних пристроях.