Meta toob turule rakenduse „Muse Glimmer”, mis on mõeldud isiklikel seadmetel töötavatele kohalikele tehisintellekti agentidele

Muse Glimmer toob tehisintellekti agendid otse tarbijatele mõeldud riistvarale

Meta Superintelligence Labs, ettevõtte tehisintellekti uurimisosakond, tõi 10. augustil turule Muse Glimmeri – avatud kaaludega agendimudeli, mis on loodud töötama otse isiklikel seadmetel, avaldades selle kaalud vabameelse Apache 2.0 litsentsi alusel. Avatud kaalud võimaldavad arendajatel alla laadida mudeli alusparameetreid, samas kui agentlik viitab süsteemidele, mis täidavad mitmeastmelisi ülesandeid, kasutades tööriistu, mis vajavad inimese sekkumist vaid piiratud määral. Mudel on tuletatud Meta suuremast suletud mudelist Muse Spark ning töötab Mac- või PC-arvutitel, millel on üks tarbijatele mõeldud graafikaprotsessor ehk GPU.

Ettevõte kirjeldas:

„Muse Glimmer on 30 miljardi parameetriga mudel, mis on optimeeritud pidevalt töötavate kohalike agendipõhiste töövoogude jaoks.”

Muse Glimmer viib ülesandeid lõpule algusest lõpuni, kasutab tarkvaravahendeid, kirjutab koodi, järgib mitmeid järeldusetappe ja taastub, kui tegevuskatse ebaõnnestub. Meta andmetel töötleb mudel teksti ja pilte, käsitleb andmeid enam kui 100 keeles ning saavutas oma suurusklassis tugevaid tulemusi võrreldes mudelitega „Gemma4-31B“ ja „Qwen3.6-27B“ agendiliste, programmeerimis-, multimodaalsete, ohutus- ja järeldamisvõime võrdluskatseid arvestades.

Tehisintellekti agendid erinevad tavapärastest chatbotitest oma võime poolest täita ülesandeid, kasutada väliseid tööriistu ja teha otsuseid laiendatud töövoogudes erineva autonoomsuse tasemega.

Meta surub 30 miljardi parameetriga mudeli alla 20 GB

Muse Glimmeri suurusega mudeli käitamiseks tarbijatele mõeldud riistvaral pidi Meta vähendama mälunõudeid, säilitades samal ajal AI-agentide poolt täidetavate ülesannete jõudluse. Täis täpsusega 30 miljardi parameetriga mudel ületaks 55 GB, kuid 4-bitine kvantiseerimine, mis salvestab mudeli andmed kompaktsemas numbrilises formaadis, vähendas keelemudeli alla 20 GB ja mahutas selle komponendid 24 GB või 32 GB mahu piiresse.

Muse Glimmeriga kaasas olev väiksem abimudel ennustab järgnevaid tekstilõike, võimaldades peamudelil kontrollida mitut ennustust korraga ja reageerida kiiremini. See tehnika, mida nimetatakse spekulatiivseks dekodeerimiseks, suurendas ettevõtte testide kohaselt genereerimiskiirust 3,1 korda RTX 5090-l, 1,8 korda M5 Max-il ja 1,5 korda M4 Max-il.

Liikumine kohalike agentide suunas toimub ajal, mil Meta suurendab kulutusi ja korraldab ümber meeskonnad, keskendudes autonoomsetele tehisintellekti toodetele ja kiirematele arendusetsüklitele. 2026. aasta kapitalikulutused peaksid ulatuma 130–145 miljardi dollarini; see vahemik kitsenes 125–145 miljardilt dollarilt, kui ettevõte avaldas 29. juulil teise kvartali tulemused.

Mais viidi ligikaudu 7 000 töötajat üle nelja tehisintellektile keskendunud organisatsiooni, sealhulgas Applied AI Engineering ja Agent Transformation Accelerator meeskonda, samal ajal kui umbes 8 000 töötajat koondati ja 6 000 vaba ametikohta suleti. Meta teatas hiljem üleviidud töötajatele, et nad võivad ise otsustada, kas jääda või mitte.

Kohalik töötlemine vähendab sõltuvust pidevast pilvejuurdepääsust

Agendi töövoogude hoidmine isiklikul riistvaral väldib iga päringu suunamist kaugandmekeskuste kaudu, võimaldades ülesannete jätkamist ka siis, kui ühendus on piiratud või puudub. Kohalik täitmine sobib ka kasutuse juhtudele, mis põhinevad salvestatud kontekstil, nagu ajakavad, sõnumid ja failid, kus mudel tegutseb isiklike andmete põhjal pikemaajaliste sessioonide jooksul.

Turvastandardid muutuvad üha olulisemaks, kuna autonoomne tarkvara saab loa suhelda kontode, rakenduste ja tundliku teabega. Ameerika Ühendriikide Riiklik Standardite ja Tehnoloogia Instituut (NIST) käivitas tehisintellekti agentide standardite algatuse, mis hõlmab agentidevahelist turvalist suhtlust, usaldusväärseid digitaalseid identiteete, juurdepääsukontrolli ja ühiseid tehnilisi standardeid.

Meta rõhutas:

„Mudelite kohalik käitamine võimaldab teil kasutada tehisintellekti igal pool ja igal ajal, nii internetiühendusega kui ka ilma.“

Lisaks kohalikele mudelitele on Meta liikunud platvormide suunas, mis on üles ehitatud sõltumatute tarkvaraagentide vahelise suhtluse ümber. Ettevõte omandas märtsis Moltbooki, tehisintellekti agentide sotsiaalvõrgustiku, millel oli juuni seisuga ligi 2,9 miljonist registreeritud kontost üle 206 000 inimeste poolt kinnitatud agenti, ning võttis selle kaasasutajad tööle Meta Superintelligence Labsi.

„Muse Glimmer“ sobib Meta laiemasse püüdlusse muuta tehisintellekt laialdaselt kättesaadavaks

Meta tegevjuht Mark Zuckerberg esitas 10. augustil eraldi strateegia, mille eesmärk on levitada isiklikku superintelligentsust laialdaselt ja pakkuda tasuta versioone miljarditele inimestele. Zuckerberg märkis samal päeval jagatud Instagrami videos, et Meta avalikustab ka „Muse Spark 1.2“ kaalud, põhjendades seda sammu 6500-sõnalises essees vastusena Hiina arendajate poolt avaldatud kaaludele.

Üha võimekamate mudelite toetamine nõuab endiselt ulatuslikku tsentraliseeritud arvutusvõimsust koolitamiseks, isegi kui valmis mudel töötab kasutaja enda seadmel. Meta sõlmis Nebiusega viieaastase lepingu koguväärtusega kuni 27 miljardit dollarit, millest 12 miljardit dollarit on eraldatud võimsus ja lisaks on võimalus veel 15 miljardi dollari ulatuses.

Arendajad saavad Muse Glimmeri kaalud juba praegu alla laadida, samas kui lähiajal on oodata optimeeritud tuge llama.cpp-le, MLX-ile ja ExecuTorchile – tarkvarale, mida kasutatakse tehisintellekti mudelite tõhusaks käitamiseks erinevatel riistvaradel. Meta teeb koostööd ka AMD, Arm, Dell, Intel ja Nvidia-ga, et optimeerida jõudlust erinevatel seadmetel.