Meta lansează Muse Glimmer pentru agenții AI locali de pe dispozitivele personale

Muse Glimmer aduce agenții de IA direct pe hardware-ul de consum

Meta Superintelligence Labs, divizia de cercetare avansată în domeniul IA a companiei, a lansat pe 10 august Muse Glimmer ca model agentic cu greutăți deschise, conceput pentru a rula direct pe dispozitive personale, publicând greutățile sale sub licența permisivă Apache 2.0. Parametrii deschisi permit dezvoltatorilor să descarce parametrii de bază ai unui model, în timp ce termenul „agent” se referă la sisteme care îndeplinesc sarcini în mai mulți pași folosind instrumente cu intervenție umană limitată. Modelul este derivat din Muse Spark, modelul închis mai mare al Meta, și rulează pe un Mac sau PC cu o singură unitate de procesare grafică (GPU) de consum.

Compania a descris:

„Muse Glimmer este un model cu 30 de miliarde de parametri, optimizat pentru fluxuri de lucru locale ale agenților, care funcționează permanent.”

Muse Glimmer finalizează sarcinile de la început până la sfârșit, utilizează instrumente software, scrie cod, urmează mai mulți pași de raționament și se redresează atunci când o acțiune încercată eșuează. Modelul procesează text și imagini, gestionează date în peste 100 de limbi și, potrivit Meta, a înregistrat performanțe remarcabile pentru clasa sa de dimensiune în comparație cu Gemma4-31B și Qwen3.6-27B în cadrul testelor de referință privind agenții, programarea, funcționalitatea multimodală, siguranța și raționamentul.

Agenții AI se deosebesc de chatbot-urile convenționale prin capacitatea lor de a executa sarcini, de a utiliza instrumente externe și de a lua decizii în cadrul unor fluxuri de lucru extinse, cu niveluri variabile de autonomie.

Meta comprimă un model cu 30 de miliarde de parametri sub 20 GB

Rularea unui model de dimensiunea celui al Muse Glimmer pe hardware de uz general a impus companiei Meta să reducă cerințele de memorie, menținând în același timp performanța în toate sarcinile gestionate de agenții AI. Un model cu 30 de miliarde de parametri la precizie maximă ar depăși 55 GB, dar cuantificarea pe 4 biți, care stochează datele modelului într-un format numeric mai compact, a redus modelul lingvistic sub 20 GB și a încadrat componentele acestuia într-un spațiu de 24 GB sau 32 GB.

Un model auxiliar mai mic, livrat împreună cu Muse Glimmer, prezice fragmente de text viitoare, permițând modelului principal să verifice mai multe predicții simultan și să răspundă mai rapid. Tehnica, cunoscută sub numele de decodare speculativă, a crescut viteza de generare de 3,1 ori pe un RTX 5090, de 1,8 ori pe un M5 Max și de 1,5 ori pe un M4 Max în cadrul testelor efectuate de companie.

Eforturile în direcția agenților locali vin pe fondul extinderii cheltuielilor de către Meta și al reorganizării echipelor în jurul produselor de IA autonome și al ciclurilor de dezvoltare mai rapide. Se preconizează că cheltuielile de capital pentru 2026 vor ajunge la 130–145 miliarde de dolari, un interval restrâns de la 125–145 miliarde de dolari, față de momentul în care compania a raportat rezultatele pentru al doilea trimestru, pe 29 iulie.

Aproximativ 7.000 de angajați au fost transferați în luna mai în patru organizații axate pe IA, printre care Applied AI Engineering și o echipă Agent Transformation Accelerator, în timp ce aproximativ 8.000 de angajați au fost concediați și 6.000 de posturi vacante au fost desființate. Ulterior, Meta le-a comunicat angajaților transferați că pot decide dacă doresc să rămână.

Procesarea locală reduce dependența de accesul continuu la cloud

Menținerea fluxurilor de lucru ale agenților pe hardware personal evită redirecționarea fiecărei solicitări prin centre de date la distanță, permițând continuarea sarcinilor atunci când conectivitatea este limitată sau indisponibilă. Executarea locală se potrivește, de asemenea, cazurilor de utilizare bazate pe context stocat, cum ar fi programări, mesaje și fișiere, în care modelul acționează asupra datelor personale pe parcursul unor sesiuni prelungite.

Standardele de securitate devin din ce în ce mai relevante pe măsură ce software-ul autonom primește permisiunea de a interacționa cu conturi, aplicații și informații sensibile. Institutul Național de Standarde și Tehnologie a lansat o Inițiativă privind standardele agenților de IA care acoperă comunicarea securizată între agenți, identitățile digitale fiabile, controalele de acces și standardele tehnice comune.

Meta a subliniat:

„Rularea modelelor la nivel local vă permite să utilizați IA oriunde, oricând, cu sau fără conexiune la internet.”

Dincolo de modelele locale, Meta s-a orientat către platforme construite în jurul interacțiunilor dintre agenți software independenți. Compania a achiziționat în martie Moltbook, o rețea socială de agenți de IA cu peste 206.000 de agenți verificați de oameni din totalul de aproape 2,9 milioane de conturi înregistrate în luna iunie, și i-a adus pe cofondatorii acesteia în cadrul Meta Superintelligence Labs.

Muse Glimmer se înscrie în efortul mai amplu al Meta de a face IA accesibilă la scară largă

Mark Zuckerberg, directorul executiv al Meta, a prezentat separat, pe 10 august, o strategie de distribuire pe scară largă a superinteligenței personale și de oferire a unor versiuni gratuite către miliarde de oameni. Zuckerberg a declarat într-un videoclip de pe Instagram, publicat în aceeași zi, că Meta va face publice și ponderile pentru Muse Spark 1.2, prezentând această mișcare într-un eseu de 6.500 de cuvinte ca un răspuns la lansările de ponderi deschise ale dezvoltatorilor chinezi.

Susținerea unor modele din ce în ce mai performante necesită în continuare o putere de calcul centralizată extinsă pentru antrenare, chiar și atunci când modelul final rulează pe propriul dispozitiv al utilizatorului. Meta a semnat un acord pe cinci ani cu Nebius în valoare de până la 27 de miliarde de dolari, incluzând 12 miliarde de dolari în capacitate dedicată și opțiuni pentru încă 15 miliarde de dolari.

Dezvoltatorii pot descărca acum ponderile modelului Muse Glimmer, iar în zilele următoare este așteptată o compatibilitate optimizată cu llama.cpp, MLX și ExecuTorch, software-uri utilizate pentru a rula eficient modelele de IA pe diverse tipuri de hardware. De asemenea, Meta colaborează cu AMD, Arm, Dell, Intel și Nvidia pentru a optimiza performanța pe diverse dispozitive.