Meta lanceert Muse Glimmer voor lokale AI-agenten op persoonlijke apparaten

Muse Glimmer brengt AI-agenten rechtstreeks naar consumentenhardware

Meta Superintelligence Labs, de afdeling voor geavanceerd AI-onderzoek van het bedrijf, heeft op 10 augustus Muse Glimmer gelanceerd als een agentisch model met open gewichten dat is ontworpen om rechtstreeks op persoonlijke apparaten te draaien. De gewichten zijn vrijgegeven onder de soepele Apache 2.0-licentie. Dankzij de open gewichten kunnen ontwikkelaars de onderliggende parameters van een model downloaden, terwijl ‘agentisch’ verwijst naar systemen die meerstaps-taken uitvoeren met behulp van tools waarbij menselijke input beperkt is. Het model is afgeleid van Muse Spark, het grotere gesloten model van Meta, en draait op een Mac of pc met één consumenten-GPU (grafische verwerkingseenheid).

Het bedrijf verklaarde:

"Muse Glimmer is een model met 30 miljard parameters dat is geoptimaliseerd voor altijd actieve lokale agent-workflows."

Muse Glimmer voert taken van begin tot eind uit, maakt gebruik van softwaretools, schrijft code, volgt meerdere redeneringsstappen en herstelt zich wanneer een poging tot actie mislukt. Het model verwerkt tekst en afbeeldingen, verwerkt gegevens in meer dan 100 talen en presteerde volgens Meta, gezien zijn grootteklasse, uitstekend ten opzichte van Gemma4-31B en Qwen3.6-27B bij benchmarks op het gebied van agentic, coderen, multimodaliteit, veiligheid en redeneren.

AI-agenten onderscheiden zich van conventionele chatbots door hun vermogen om taken uit te voeren, externe tools te gebruiken en beslissingen te nemen binnen uitgebreide workflows met verschillende niveaus van autonomie.

Meta comprimeert een model met 30 miljard parameters tot minder dan 20 GB

Om een model van de omvang van Muse Glimmer op consumentenhardware te kunnen draaien, moest Meta de geheugenvereisten verlagen met behoud van de prestaties bij taken die door AI-agenten worden uitgevoerd. Een model met 30 miljard parameters bij volledige precisie zou meer dan 55 GB in beslag nemen, maar dankzij 4-bits kwantisering – waarbij modelgegevens in een compacter numeriek formaat worden opgeslagen – kon het taalmodel tot onder de 20 GB worden teruggebracht en passen de componenten ervan binnen een ruimte van 24 GB of 32 GB.

Een kleiner begeleidend model dat samen met Muse Glimmer wordt geleverd, voorspelt komende stukken tekst, waardoor het hoofdmodel meerdere voorspellingen tegelijk kan verifiëren en sneller kan reageren. Deze techniek, bekend als speculatieve decodering, verhoogde de generatiesnelheid met een factor 3,1 op een RTX 5090, met een factor 1,8 op een M5 Max en met een factor 1,5 op een M4 Max tijdens bedrijfstests.

De focus op lokale agents komt op het moment dat Meta zijn uitgaven uitbreidt en teams reorganiseert rond autonome AI-producten en snellere ontwikkelingscycli. De kapitaaluitgaven voor 2026 zullen naar verwachting 130 tot 145 miljard dollar bedragen, een bandbreedte die is versmald ten opzichte van de 125 tot 145 miljard dollar die het bedrijf op 29 juli bij de bekendmaking van de resultaten over het tweede kwartaal had aangegeven.

In mei zijn ongeveer 7.000 medewerkers overgeplaatst naar vier op AI gerichte organisaties, waaronder Applied AI Engineering en een Agent Transformation Accelerator-team, terwijl ongeveer 8.000 werknemers werden ontslagen en 6.000 vacatures werden gesloten. Meta liet de overgeplaatste medewerkers later weten dat zij zelf konden beslissen of ze wilden blijven.

Lokale verwerking vermindert de afhankelijkheid van continue toegang tot de cloud

Door de workflows van agenten op persoonlijke hardware te houden, hoeft niet elk verzoek via externe datacenters te worden gerouteerd, waardoor taken kunnen doorgaan wanneer de verbinding beperkt of niet beschikbaar is. Lokale uitvoering is ook geschikt voor gebruiksscenario’s die zijn gebaseerd op opgeslagen context, zoals schema’s, berichten en bestanden, waarbij het model gedurende langere sessies op persoonlijke gegevens reageert.

Beveiligingsnormen worden steeds relevanter naarmate autonome software toestemming krijgt om te communiceren met accounts, applicaties en gevoelige informatie. Het National Institute of Standards and Technology heeft een AI Agent Standards Initiative gelanceerd dat betrekking heeft op veilige communicatie tussen agents, betrouwbare digitale identiteiten, toegangscontroles en gemeenschappelijke technische normen.

Meta benadrukte:

"Door modellen lokaal uit te voeren, kun je AI overal en altijd gebruiken, met of zonder internetverbinding."

Naast lokale modellen heeft Meta zich toegelegd op platforms die zijn opgebouwd rond interacties tussen onafhankelijke softwareagenten. Het bedrijf nam in maart Moltbook over, een sociaal netwerk voor AI-agenten met meer dan 206.000 door mensen geverifieerde agenten op een totaal van bijna 2,9 miljoen geregistreerde accounts (stand juni), en haalde de medeoprichters ervan naar Meta Superintelligence Labs.

Muse Glimmer past in Meta’s bredere streven naar algemeen beschikbare AI

Mark Zuckerberg, CEO van Meta, schetste op 10 augustus afzonderlijk een strategie om persoonlijke superintelligentie op grote schaal te verspreiden en gratis versies aan miljarden mensen aan te bieden. Zuckerberg verklaarde in een Instagram-video die dezelfde dag werd gedeeld dat Meta ook de gewichten voor Muse Spark 1.2 openbaar zou maken; in een essay van 6.500 woorden omschreef hij deze stap als een reactie op eerdere open-weight-releases van Chinese ontwikkelaars.

Het ondersteunen van steeds krachtigere modellen vereist nog steeds uitgebreide gecentraliseerde rekenkracht voor het trainen, zelfs wanneer het voltooide model op het eigen apparaat van de gebruiker draait. Meta heeft een vijfjarige overeenkomst gesloten met Nebius ter waarde van maximaal 27 miljard dollar, inclusief 12 miljard dollar aan gereserveerde capaciteit en opties voor nog eens 15 miljard dollar.

Ontwikkelaars kunnen de gewichten van Muse Glimmer nu al downloaden, terwijl geoptimaliseerde ondersteuning voor llama.cpp, MLX en ExecuTorch – software die wordt gebruikt om AI-modellen efficiënt op verschillende hardware te draaien – in de komende dagen wordt verwacht. Meta werkt ook samen met AMD, Arm, Dell, Intel en Nvidia om de prestaties op verschillende apparaten te optimaliseren.