Meta lansira Muse Glimmer za lokalne AI agente na osobnim uređajima

Muse Glimmer donosi AI agente izravno na potrošački hardver

Meta Superintelligence Labs, tvrtkin odjel za napredna AI istraživanja, 10. kolovoza lansirao je Muse Glimmer kao agentički model s otvorenim težinama osmišljen da radi izravno na osobnim uređajima, objavivši njegove težine pod permisivnom licencom Apache 2.0. Otvorene težine omogućuju programerima preuzimanje temeljnih parametara modela, dok “agentički” označava sustave koji dovršavaju višekoračne zadatke koristeći alate uz ograničen ljudski unos. Model je destiliran iz Muse Sparka, Metina većeg zatvorenog modela, i radi na Macu ili PC-u s jednom potrošačkom grafičkom procesorskom jedinicom, odnosno GPU-om.

Tvrtka je opisala:

“Muse Glimmer je model s 30 milijardi parametara optimiziran za uvijek uključene lokalne tijekove rada agenata.”

Muse Glimmer dovršava zadatke od početka do kraja, koristi softverske alate, piše kod, slijedi više koraka zaključivanja i oporavlja se kada pokušaj radnje ne uspije. Model obrađuje tekst i slike, rukuje podacima koji obuhvaćaju više od 100 jezika te je, prema Meti, u svojoj veličinskoj klasi ostvario snažne rezultate u odnosu na Gemma4-31B i Qwen3.6-27B kroz agentičke, programerske, multimodalne, sigurnosne i testove zaključivanja.

AI agenti razlikuju se od konvencionalnih chatbotova po svojoj sposobnosti izvršavanja zadataka, korištenja vanjskih alata i donošenja odluka kroz produljene tijekove rada uz različite razine autonomije.

Meta komprimira model s 30 milijardi parametara ispod 20 GB

Pokretanje modela veličine Muse Glimmera na potrošačkom hardveru zahtijevalo je da Meta smanji memorijske zahtjeve uz zadržavanje performansi kroz zadatke koje rješavaju AI agenti. Model s 30 milijardi parametara u punoj preciznosti premašio bi 55 GB, no 4-bitna kvantizacija, koja pohranjuje podatke modela u kompaktnijem numeričkom formatu, smanjila je jezični model ispod 20 GB i uklopila njegove komponente unutar okvira od 24 GB ili 32 GB.

Manji prateći model koji se isporučuje uz Muse Glimmer predviđa nadolazeće dijelove teksta, omogućujući glavnom modelu da istodobno provjeri više predviđanja i brže odgovori. Tehnika, poznata kao spekulativno dekodiranje, povećala je brzinu generiranja 3,1 puta na RTX 5090, 1,8 puta na M5 Max i 1,5 puta na M4 Max u testiranju tvrtke.

Potisak prema lokalnim agentima dolazi u trenutku kada Meta širi potrošnju i reorganizira timove oko autonomnih AI proizvoda i bržih razvojnih ciklusa. Kapitalni izdaci za 2026. očekuje se da će dosegnuti 130 do 145 milijardi dolara, raspon sužen s 125 do 145 milijardi dolara kada je tvrtka 29. srpnja objavila rezultate za drugo tromjesečje.

Oko 7.000 zaposlenika prešlo je u četiri organizacije usmjerene na AI u svibnju, uključujući Applied AI Engineering i tim Agent Transformation Accelerator, dok je oko 8.000 radnika otpušteno, a 6.000 otvorenih pozicija zatvoreno. Meta je kasnije premještenom osoblju rekao da mogu odlučiti žele li ostati.

Lokalna obrada smanjuje ovisnost o kontinuiranom pristupu oblaku

Zadržavanje tijekova rada agenata na osobnom hardveru izbjegava usmjeravanje svakog zahtjeva kroz udaljene podatkovne centre, omogućujući nastavak zadataka kada je povezivost ograničena ili nedostupna. Lokalno izvršavanje također odgovara slučajevima upotrebe koji se oslanjaju na pohranjeni kontekst poput rasporeda, poruka i datoteka, gdje model djeluje na osobnim podacima kroz produljene sesije.

Sigurnosni standardi postaju sve relevantniji kako autonomni softver dobiva dopuštenje za interakciju s računima, aplikacijama i osjetljivim informacijama. Nacionalni institut za standarde i tehnologiju pokrenuo je Inicijativu za standarde AI agenata koja obuhvaća sigurnu komunikaciju među agentima, pouzdane digitalne identitete, kontrole pristupa i zajedničke tehničke standarde.

Meta je naglasio:

“Pokretanje modela lokalno omogućuje vam da koristite AI bilo gdje, bilo kada, s internetskom vezom ili bez nje.”

Osim lokalnih modela, Meta se usmjerio i na platforme izgrađene oko interakcija među neovisnim softverskim agentima. Tvrtka je u ožujku kupila Moltbook, društvenu mrežu AI agenata s više od 206.000 agenata verificiranih od strane ljudi od gotovo 2,9 milijuna registriranih računa do lipnja, te je njegove suosnivače dovela u Meta Superintelligence Labs.

Muse Glimmer uklapa se u Metin širi poticaj za široko dostupnu AI

Mark Zuckerberg, Metin glavni izvršni direktor, zasebno je 10. kolovoza iznio strategiju kako bi široko distribuirao osobnu superinteligenciju i osigurao besplatne verzije milijardama ljudi. Zuckerberg je istog dana u Instagram videu izjavio da će Meta također otvoriti težine za Muse Spark 1.2, uokvirivši taj potez u eseju od 6.500 riječi kao odgovor na izdanja s otvorenim težinama kineskih programera.

Podrška sve sposobnijim modelima i dalje zahtijeva opsežno centralizirano računalstvo za treniranje, čak i kada gotov model radi na korisnikovom vlastitom uređaju. Meta je potpisao petogodišnji sporazum s Nebiusom vrijedan do 27 milijardi dolara, uključujući 12 milijardi dolara namjenskog kapaciteta i opcije za dodatnih 15 milijardi dolara.

Programeri već sada mogu preuzeti težine Muse Glimmera, dok se optimizirana podrška za llama.cpp, MLX i ExecuTorch, softver koji se koristi za učinkovito pokretanje AI modela na različitom hardveru, očekuje u narednim danima. Meta također surađuje s AMD-om, Armom, Dellom, Intelom i Nvidijom kako bi optimizirao performanse na različitim uređajima.