Meta predstavlja Muse Glimmer za lokalne AI-agente na osebnih napravah

Muse Glimmer prinaša AI-agente neposredno na potrošniško strojno opremo

Meta Superintelligence Labs, oddelek podjetja za napredne raziskave na področju umetne inteligence, je 10. avgusta predstavil Muse Glimmer kot model z odprtimi utežmi, zasnovan za neposredno delovanje na osebnih napravah, pri čemer je njegove uteži objavil pod liberalno licenco Apache 2.0. Odprti parametri omogočajo razvijalcem, da prenesejo osnovne parametre modela, medtem ko izraz »agentski« označuje sisteme, ki izvajajo večstopenjske naloge z uporabo orodij z omejenim človeškim vnosom. Model je izpeljan iz Muse Spark, večjega zaprtega modela podjetja Meta, in deluje na računalnikih Mac ali PC z enim potrošniškim grafičnim procesorjem (GPU).

Podjetje je pojasnilo:

»Muse Glimmer je model s 30 milijardami parametrov, optimiziran za lokalne delovne tokove agentov, ki so vedno vklopljeni.«

Muse Glimmer opravlja naloge od začetka do konca, uporablja programska orodja, piše kodo, sledi več korakom sklepanja in se obnovi, ko poskus izvedbe akcije ne uspe. Model obdeluje besedilo in slike, obdeluje podatke v več kot 100 jezikih ter je glede na svojo velikostno razredno skupino dosegel odlične rezultate v primerjavi z modeloma Gemma4-31B in Qwen3.6-27B v merilih za agencijsko delovanje, programiranje, multimodalnost, varnost in sklepanje, kot navaja Meta.

AI-agenti se od običajnih klepetalnih robotov razlikujejo po sposobnosti izvajanja nalog, uporabe zunanjih orodij in sprejemanja odločitev v razširjenih delovnih tokovih z različnimi stopnjami avtonomije.

Meta stisne model s 30 milijardami parametrov pod 20 GB

Za zagon modela velikosti Muse Glimmer na potrošniški strojni opremi je Meta morala zmanjšati zahteve po pomnilniku, hkrati pa ohraniti zmogljivost pri nalogah, ki jih obdelujejo AI-agenti. Model s 30 milijardami parametrov bi pri polni natančnosti presegel 55 GB, vendar je 4-bitna kvantizacija, ki podatke modela shranjuje v bolj kompaktnem numeričnem formatu, zmanjšala jezikovni model pod 20 GB in njegove komponente prilagodila v okvir 24 GB ali 32 GB.

Manjši spremljevalni model, ki se dobavlja skupaj z Muse Glimmerjem, napoveduje prihajajoče dele besedila, kar glavnemu modelu omogoča, da hkrati preveri več napovedi in se hitreje odzove. Ta tehnika, znana kot spekulativno dekodiranje, je v testih podjetja povečala hitrost generiranja za 3,1-krat na kartici RTX 5090, za 1,8-krat na kartici M5 Max in za 1,5-krat na kartici M4 Max.

Prizadevanja za lokalne agente sovpadajo z dejstvom, da Meta povečuje porabo sredstev in reorganizira ekipe okoli avtonomnih izdelkov umetne inteligence ter hitrejših razvojnih ciklov. Pričakuje se, da bodo naložbe v osnovna sredstva za leto 2026 dosegle 130 do 145 milijard dolarjev, kar je ožji razpon v primerjavi s 125 do 145 milijardami dolarjev, ki jih je podjetje navedlo ob objavi rezultatov za drugo četrtletje 29. julija.

Približno 7.000 zaposlenih se je maja preselilo v štiri organizacije, osredotočene na umetno inteligenco, vključno z oddelkom Applied AI Engineering in ekipo Agent Transformation Accelerator, medtem ko je bilo odpuščenih okoli 8.000 delavcev in zaprtih 6.000 prostih delovnih mest. Meta je kasneje prenesenim zaposlenim sporočila, da se lahko sami odločijo, ali bodo ostali.

Lokalna obdelava zmanjšuje odvisnost od neprekinjenega dostopa do oblaka

Ohranjanje delovnih tokov agentov na osebni strojni opremi preprečuje usmerjanje vsake zahteve prek oddaljenih podatkovnih centrov, kar omogoča nadaljevanje nalog, ko je povezljivost omejena ali ni na voljo. Lokalno izvajanje je primerno tudi za primere uporabe, ki temeljijo na shranjenem kontekstu, kot so urniki, sporočila in datoteke, kjer model deluje na osebnih podatkih v podaljšanih sejah.

Varnostni standardi postajajo vse pomembnejši, saj avtonomna programska oprema dobiva dovoljenje za interakcijo z računi, aplikacijami in občutljivimi podatki. Nacionalni inštitut za standarde in tehnologijo (NIST) je sprožil pobudo za standarde AI-agentov, ki zajema varno komunikacijo med agenti, zanesljive digitalne identitete, nadzor dostopa in skupne tehnične standarde.

Meta je poudarila:

»Lokalno izvajanje modelov vam omogoča uporabo umetne inteligence kjerkoli in kadarkoli, z internetno povezavo ali brez nje.«

Poleg lokalnih modelov se je Meta usmerila v platforme, zgrajene okoli interakcij med neodvisnimi programskimi agenti. Podjetje je marca prevzelo Moltbook, družbeno omrežje AI-agentov z več kot 206.000 človeško preverjenimi agenti od skoraj 2,9 milijona registriranih računov (stanje junija), njegove soustanovitelje pa je vključilo v Meta Superintelligence Labs.

Muse Glimmer se ujema s širšim prizadevanjem podjetja Meta za splošno dostopno umetno inteligenco

Mark Zuckerberg, izvršni direktor Meta, je 10. avgusta ločeno predstavil strategijo za široko razširjanje osebne superinteligence in zagotavljanje brezplačnih različic milijardam ljudi. Zuckerberg je v videoposnetku na Instagramu, objavljenem istega dne, izjavil, da bo Meta odprla tudi uteži za Muse Spark 1.2, pri čemer je ta poteza v eseju dolžine 6.500 besed predstavil kot odgovor na objave odprtih uteži s strani kitajskih razvijalcev.

Podpora vedno zmogljivejšim modelom še vedno zahteva obsežno centralizirano računalniško obdelavo za usposabljanje, tudi če končni model deluje na uporabnikovi lastni napravi. Meta je s podjetjem Nebius podpisala petletno pogodbo v vrednosti do 27 milijard dolarjev, vključno z 12 milijardami dolarjev namenske zmogljivosti in opcijami za dodatnih 15 milijard dolarjev.

Razvijalci lahko že zdaj prenesejo uteži modela Muse Glimmer, v prihodnjih dneh pa se pričakuje optimizirana podpora za llama.cpp, MLX in ExecuTorch – programsko opremo, ki se uporablja za učinkovito izvajanje modelov umetne inteligence na različni strojni opremi. Meta sodeluje tudi z AMD, Arm, Dell, Intel in Nvidia pri optimizaciji zmogljivosti na različnih napravah.