Spoločnosť Meta uvádza na trh Muse Glimmer pre lokálnych agentov umelej inteligencie na osobných zariadeniach

Muse Glimmer prináša agentov umelej inteligencie priamo na spotrebiteľský hardvér

Meta Superintelligence Labs, divízia spoločnosti zameraná na pokročilý výskum umelej inteligencie, 10. augusta uviedla na trh Muse Glimmer ako agentický model s otvorenými váhami, navrhnutý na priamy beh na osobných zariadeniach, pričom jeho váhy uverejnila pod liberálnou licenciou Apache 2.0. Otvorené váhy umožňujú vývojárom stiahnuť základné parametre modelu, zatiaľ čo pojem „agentický“ sa vzťahuje na systémy, ktoré vykonávajú viacstupňové úlohy pomocou nástrojov s obmedzeným ľudským zásahom. Model je odvodený od Muse Spark, väčšieho uzavretého modelu spoločnosti Meta, a beží na počítačoch Mac alebo PC s jedným spotrebiteľským grafickým procesorom (GPU).

Spoločnosť uviedla:

„Muse Glimmer je model s 30 miliardami parametrov optimalizovaný pre neustále aktívne lokálne agentné pracovné postupy.“

Muse Glimmer vykonáva úlohy od začiatku do konca, používa softvérové nástroje, píše kód, postupuje podľa viacerých krokov uvažovania a obnovuje činnosť, keď sa pokus o akciu nepodarí. Model spracováva text a obrázky, pracuje s údajmi vo viac ako 100 jazykoch a podľa spoločnosti Meta dosiahol vo svojej veľkostnej triede vynikajúce výsledky v porovnaní s modelmi Gemma4-31B a Qwen3.6-27B v testoch zameraných na agentické funkcie, kódovanie, multimodálnosť, bezpečnosť a uvažovanie.

AI agenti sa od bežných chatbotov líšia schopnosťou vykonávať úlohy, používať externé nástroje a prijímať rozhodnutia v rámci rozsiahlych pracovných postupov s rôznymi úrovňami autonómie.

Meta komprimuje model s 30 miliardami parametrov pod hranicu 20 GB

Spustenie modelu veľkosti Muse Glimmer na bežnom hardvéri si vyžiadalo, aby spoločnosť Meta znížila nároky na pamäť a zároveň zachovala výkon pri úlohách spracovávaných agentmi umelej inteligencie. Model s 30 miliardami parametrov pri plnej presnosti by presiahol 55 GB, ale 4-bitová kvantizácia, ktorá ukladá údaje modelu v kompaktnejšom numerickom formáte, zmenšila jazykový model pod 20 GB a jeho komponenty sa zmestili do obálky s kapacitou 24 GB alebo 32 GB.

Menší doplnkový model, dodávaný spolu s Muse Glimmer, predpovedá nasledujúce časti textu, čo umožňuje hlavnému modelu overiť niekoľko predpovedí naraz a reagovať rýchlejšie. Táto technika, známa ako špekulatívne dekódovanie, zvýšila rýchlosť generovania v testoch spoločnosti 3,1-násobne na RTX 5090, 1,8-násobne na M5 Max a 1,5-násobne na M4 Max.

Tento posun smerom k lokálnym agentom prichádza v čase, keď spoločnosť Meta zvyšuje výdavky a reorganizuje tímy zamerané na autonómne produkty umelej inteligencie a rýchlejšie vývojové cykly. Očakáva sa, že kapitálové výdavky na rok 2026 dosiahnu 130 až 145 miliárd dolárov, čo je užší rozsah v porovnaní s pôvodným odhadom 125 až 145 miliárd dolárov, ktorý spoločnosť uviedla pri zverejnení výsledkov za druhý štvrťrok 29. júla.

V máji bolo približne 7 000 zamestnancov presunutých do štyroch organizácií zameraných na umelú inteligenciu, vrátane Applied AI Engineering a tímu Agent Transformation Accelerator, zatiaľ čo bolo prepustených približne 8 000 pracovníkov a zrušených 6 000 voľných pracovných miest. Spoločnosť Meta neskôr oznámila presunutým zamestnancom, že sa môžu rozhodnúť, či zostanú.

Lokálne spracovanie znižuje závislosť od nepretržitého prístupu k cloudu

Udržanie pracovných postupov agentov na osobnom hardvéri zabraňuje smerovaniu každej požiadavky cez vzdialené dátové centrá, čo umožňuje pokračovanie úloh aj v prípade obmedzeného alebo nedostupného pripojenia. Lokálne vykonávanie je vhodné aj pre prípady použitia založené na uloženom kontexte, ako sú rozvrhy, správy a súbory, kde model pracuje s osobnými údajmi v priebehu dlhších relácií.

Bezpečnostné štandardy nadobúdajú čoraz väčší význam, keďže autonómny softvér získava povolenie na interakciu s účtami, aplikáciami a citlivými informáciami. Národný inštitút pre štandardy a technológie (NIST) spustil iniciatívu AI Agent Standards Initiative, ktorá sa zameriava na bezpečnú komunikáciu medzi agentmi, spoľahlivé digitálne identity, kontrolu prístupu a spoločné technické štandardy.

Spoločnosť Meta zdôraznila:

„Lokálne spúšťanie modelov vám umožňuje používať umelú inteligenciu kdekoľvek a kedykoľvek, s internetovým pripojením aj bez neho.“

Okrem lokálnych modelov sa spoločnosť Meta zamerala na platformy postavené na interakciách medzi nezávislými softvérovými agentmi. Spoločnosť v marci získala Moltbook, sociálnu sieť agentov umelej inteligencie s viac ako 206 000 ľuďmi overenými agentmi z takmer 2,9 milióna registrovaných účtov (stav k júnu), a jej spoluzakladateľov začlenila do Meta Superintelligence Labs.

Muse Glimmer zapadá do širšej snahy spoločnosti Meta o širokú dostupnosť umelej inteligencie

Mark Zuckerberg, generálny riaditeľ spoločnosti Meta, 10. augusta samostatne načrtol stratégiu na široké šírenie osobnej superinteligencie a poskytovanie bezplatných verzií miliardám ľudí. Zuckerberg v videu na Instagrame, ktoré zdieľal v ten istý deň, uviedol, že Meta sprístupní aj váhy pre model Muse Spark 1.2, pričom tento krok v eseji s dĺžkou 6 500 slov označil za odpoveď na zverejnenie váh čínskymi vývojármi.

Podpora čoraz výkonnejších modelov si naďalej vyžaduje rozsiahle centralizované výpočtové kapacity na trénovanie, aj keď hotový model beží na vlastnom zariadení používateľa. Spoločnosť Meta podpísala s firmou Nebius päťročnú zmluvu v hodnote až 27 miliárd dolárov, vrátane 12 miliárd dolárov na vyhradenú kapacitu a opcií na ďalších 15 miliárd dolárov.

Vývojári si môžu váhy modelu Muse Glimmer stiahnuť už teraz, pričom v najbližších dňoch sa očakáva optimalizovaná podpora pre llama.cpp, MLX a ExecuTorch – softvér používaný na efektívne spúšťanie modelov umelej inteligencie na rôznych hardvérových platformách. Spoločnosť Meta tiež spolupracuje s firmami AMD, Arm, Dell, Intel a Nvidia na optimalizácii výkonu na rôznych zariadeniach.