Inilunsad ng Meta ang Muse Glimmer para sa mga Lokal na AI Agent sa mga Personal na Device

Dinadala ng Muse Glimmer ang Mga AI Agent Diretso sa Consumer Hardware

Ang Meta Superintelligence Labs, ang advanced AI research division ng kumpanya, noong Ago. 10 ay inilunsad ang Muse Glimmer bilang isang open-weight agentic model na idinisenyong tumakbo mismo sa mga personal na device, at inilabas ang mga weight nito sa ilalim ng permisibong lisensyang Apache 2.0. Pinapahintulutan ng open weights ang mga developer na i-download ang mga nakapailalim na parameter ng isang model, habang ang agentic ay tumutukoy sa mga sistemang kumukumpleto ng mga multi-step na gawain gamit ang mga tool na may limitadong input ng tao. Ang model ay distilled mula sa Muse Spark, ang mas malaking closed model ng Meta, at tumatakbo sa Mac o PC na may iisang consumer graphics processing unit, o GPU.

Inilarawan ng kumpanya:

“Ang Muse Glimmer ay isang 30-bilyong-parameter na model na in-optimize para sa palaging naka-on na lokal na agent workflow.”

Kinukumpleto ng Muse Glimmer ang mga gawain mula simula hanggang dulo, gumagamit ng mga software tool, nagsusulat ng code, sumusunod sa maraming hakbang ng pangangatwiran, at bumabawi kapag pumalya ang isang sinubukang aksyon. Pinoproseso ng model ang teksto at mga larawan, humahawak ng datos na sumasaklaw sa mahigit 100 wika, at nagpakita ng malakas na performance para sa klase ng laki nito laban sa Gemma4-31B at Qwen3.6-27B sa mga benchmark para sa agentic, coding, multimodal, safety, at reasoning, ayon sa Meta.

Naiiba ang mga AI agent sa mga karaniwang chatbot dahil sa kakayahan nilang magsagawa ng mga gawain, gumamit ng mga panlabas na tool, at gumawa ng mga desisyon sa mas mahahabang workflow na may iba’t ibang antas ng awtonomiya.

Kinokompress ng Meta ang Isang 30-Bilyong-Parameter na Model na Mas Mababa sa 20 GB

Ang pagpapatakbo ng model na kasinglaki ng Muse Glimmer sa consumer hardware ay nangailangan sa Meta na bawasan ang pangangailangan sa memory habang pinananatili ang performance sa mga gawain na hinahawakan ng mga AI agent. Ang isang 30-bilyong-parameter na model sa full precision ay lalampas sa 55 GB, ngunit ang 4-bit quantization, na nag-iimbak ng datos ng model sa mas compact na numerikal na format, ay nagpaikli sa language model nang mas mababa sa 20 GB at naipasok ang mga bahagi nito sa loob ng 24 GB o 32 GB na envelope.

Isang mas maliit na kasamang model na kasabay na ipinapadala kasama ng Muse Glimmer ang naghuhula ng mga susunod na piraso ng teksto, na nagbibigay-daan sa pangunahing model na i-verify ang ilang hula nang sabay-sabay at tumugon nang mas mabilis. Ang teknik na ito, na kilala bilang speculative decoding, ay nagpaangat ng bilis ng generation nang 3.1 beses sa RTX 5090, 1.8 beses sa M5 Max, at 1.5 beses sa M4 Max sa mga pagsusuri ng kumpanya.

Dumarating ang pagtulak tungo sa mga lokal na agent habang pinalalawak ng Meta ang paggastos at nire-reorganisa ang mga team sa paligid ng mga autonomous AI product at mas mabilis na development cycle. Ang capital expenditures para sa 2026 ay inaasahang aabot sa $130 bilyon hanggang $145 bilyon, isang saklaw na pinakitid mula $125 bilyon hanggang $145 bilyon nang iulat ng kumpanya ang mga resulta sa ikalawang quarter noong Hulyo 29.

Humigit-kumulang 7,000 empleyado ang inilipat sa apat na AI-focused na organisasyon noong Mayo, kabilang ang Applied AI Engineering at isang Agent Transformation Accelerator team, habang humigit-kumulang 8,000 manggagawa ang natanggal sa trabaho at 6,000 bukas na posisyon ang isinara. Kalaunan, sinabi ng Meta sa mga inilipat na staff na maaari nilang pagpasiyahan kung mananatili sila.

Binabawasan ng Lokal na Pagpoproseso ang Pag-asa sa Tuloy-tuloy na Cloud Access

Ang pagpapanatili ng mga agent workflow sa personal na hardware ay umiiwas sa pag-ruta ng bawat request sa mga remote data center, kaya nakakapagpatuloy ang mga gawain kapag limitado o wala ang koneksyon. Ang lokal na execution ay angkop din sa mga use case na nakabatay sa nakaimbak na konteksto gaya ng mga iskedyul, mensahe, at file, kung saan kumikilos ang model sa personal na datos sa mas mahahabang session.

Nagiging lalong mahalaga ang mga pamantayan sa seguridad habang ang autonomous na software ay binibigyan ng pahintulot na makipag-ugnayan sa mga account, aplikasyon, at sensitibong impormasyon. Ang National Institute of Standards and Technology ay naglunsad ng AI Agent Standards Initiative na sumasaklaw sa secure na komunikasyon sa pagitan ng mga agent, maaasahang digital identity, access controls, at mga karaniwang teknikal na pamantayan.

Binigyang-diin ng Meta:

“Ang pagpapatakbo ng mga model nang lokal ay nagbibigay-daan sa iyong gumamit ng AI kahit saan, anumang oras, may internet man o wala.”

Bukod sa mga lokal na model, lumipat na rin ang Meta sa mga platform na nakatuon sa mga interaksiyon sa pagitan ng mga independiyenteng software agent. Ang kumpanya ay binili ang Moltbook noong Marso, isang social network ng AI agent na may mahigit 206,000 human-verified agent mula sa halos 2.9 milyong rehistradong account noong Hunyo, at isinama ang mga co-founder nito sa Meta Superintelligence Labs.

Akma ang Muse Glimmer sa Mas Malawak na Pagtulak ng Meta para sa Malawakang Magagamit na AI

Si Mark Zuckerberg, ang chief executive ng Meta, ay hiwalay na naglatag ng estratehiya noong Ago. 10 upang ipamahagi nang malawakan ang personal superintelligence at magbigay ng mga libreng bersyon sa bilyun-bilyong tao. Sinabi ni Zuckerberg sa isang Instagram video na ibinahagi rin sa parehong araw na bubuksan din ng Meta ang mga weight para sa Muse Spark 1.2, at inilagay ang hakbang sa isang 6,500-salitang sanaysay bilang sagot sa mga open-weight release mula sa mga developer sa China.

Ang pagsuporta sa mas lalong may kakayahang mga model ay nangangailangan pa rin ng malawak na sentralisadong computing para sa training kahit tumatakbo na ang natapos na model sa sariling device ng user. Lumagda ang Meta ng limang-taong kasunduan sa Nebius na nagkakahalaga ng hanggang $27 bilyon, kabilang ang $12 bilyon sa nakalaang capacity at mga opsyon para sa isa pang $15 bilyon.

Maida-download na ngayon ng mga developer ang mga weight ng Muse Glimmer, habang ang optimized na suporta para sa llama.cpp, MLX, at ExecuTorch, mga software na ginagamit upang patakbuhin ang mga AI model nang mahusay sa iba’t ibang hardware, ay inaasahan sa mga susunod na araw. Nakikipagtulungan din ang Meta sa AMD, Arm, Dell, Intel, at Nvidia upang i-optimize ang performance sa iba’t ibang device.