Meta lanseeraa Muse Glimmerin henkilökohtaisten laitteiden paikallisia tekoälyagentteja varten

Muse Glimmer tuo tekoälyagentit suoraan kuluttajalaitteille

Yhtiön edistyksellinen tekoälytutkimusyksikkö Meta Superintelligence Labs julkaisi 10. elokuuta Muse Glimmerin, joka on avoimien painojen agenttimalli, joka on suunniteltu toimimaan suoraan henkilökohtaisilla laitteilla. Mallin painot on julkaistu sallivalla Apache 2.0 -lisenssillä. Avoimet painot antavat kehittäjille mahdollisuuden ladata mallin taustalla olevat parametrit, kun taas agenttinen viittaa järjestelmiin, jotka suorittavat monivaiheisia tehtäviä työkaluilla, joissa ihmisen panos on rajallista. Malli on johdettu Metan laajemmasta suljetusta Muse Spark -mallista, ja se toimii Mac- tai PC-tietokoneella, jossa on yksi kuluttajaluokan grafiikkaprosessori (GPU).

Yhtiö kuvaili:

”Muse Glimmer on 30 miljardin parametrin malli, joka on optimoitu jatkuvasti käynnissä oleviin paikallisiin agenttityönkulkuihin.”

Muse Glimmer suorittaa tehtävät alusta loppuun, käyttää ohjelmistotyökaluja, kirjoittaa koodia, seuraa useita päättelyvaiheita ja toipuu, kun yritetty toiminto epäonnistuu. Malli käsittelee tekstiä ja kuvia, hallitsee yli 100 kielellä olevaa dataa ja suoriutui kokoluokassaan erinomaisesti verrattuna malleihin Gemma4-31B ja Qwen3.6-27B agentti-, koodaus-, multimodaali-, turvallisuus- ja päättelyvertailuissa, Meta kertoo.

Tekoälyagentit eroavat perinteisistä chatboteista kykynsä ansiosta suorittaa tehtäviä, käyttää ulkoisia työkaluja ja tehdä päätöksiä laajennetuissa työnkulkuissa vaihtelevalla autonomian tasolla.

Meta pakkaa 30 miljardin parametrin mallin alle 20 gigatavuun

Muse Glimmerin kokoisen mallin ajaminen kuluttajalaitteistolla vaati Metaa vähentämään muistivaatimuksia säilyttäen samalla suorituskyvyn tekoälyagenttien hoitamissa tehtävissä. Täydellä tarkkuudella 30 miljardin parametrin malli ylittäisi 55 GB:n rajan, mutta 4-bittinen kvantisointi, joka tallentaa mallitiedot kompaktimmassa numeerisessa muodossa, pienensi kielimallin alle 20 GB:n ja mahtui sen komponentit 24 GB:n tai 32 GB:n tilaan.

Muse Glimmerin mukana toimitettava pienempi liitännäismalli ennustaa tulevaa tekstiä, jolloin päämalli voi tarkistaa useita ennusteita kerralla ja reagoida nopeammin. Tämä spekulatiivisena dekoodauksena tunnettu tekniikka lisäsi tuotantonopeutta 3,1-kertaiseksi RTX 5090:llä, 1,8-kertaiseksi M5 Maxilla ja 1,5-kertaiseksi M4 Maxilla yrityksen testeissä.

Siirtyminen paikallisiin agentteihin tapahtuu samaan aikaan, kun Meta lisää investointejaan ja uudelleenorganisoida tiimejään autonomisten tekoälytuotteiden ja nopeampien kehityssyklien ympärille. Vuoden 2026 investointimenojen odotetaan nousevan 130–145 miljardiin dollariin. Tämä vaihteluväli on kaventunut aiemmasta 125–145 miljardista dollarista, kun yhtiö julkisti toisen vuosineljänneksen tuloksensa 29. heinäkuuta.

Noin 7 000 työntekijää siirrettiin toukokuussa neljään tekoälyyn keskittyvään organisaatioon, mukaan lukien Applied AI Engineering ja Agent Transformation Accelerator -tiimi, kun taas noin 8 000 työntekijää irtisanottiin ja 6 000 avointa työpaikkaa lakkautettiin. Meta ilmoitti myöhemmin siirretyille työntekijöille, että he voivat itse päättää, jäävätkö he yritykseen.

Paikallinen käsittely vähentää riippuvuutta jatkuvasta pilvipalveluyhteydestä

Agenttien työnkulkujen pitäminen henkilökohtaisella laitteistolla välttää jokaisen pyynnön reitittämisen etätietokeskusten kautta, jolloin tehtävät voivat jatkua myös silloin, kun verkkoyhteys on rajoitettu tai poissa käytöstä. Paikallinen suorittaminen sopii myös käyttötapauksiin, jotka perustuvat tallennettuun kontekstiin, kuten aikatauluihin, viesteihin ja tiedostoihin, joissa malli toimii henkilökohtaisten tietojen perusteella pitkien istuntojen aikana.

Turvallisuusstandardit ovat yhä merkittävämpiä, kun autonomiset ohjelmistot saavat luvan olla vuorovaikutuksessa tilien, sovellusten ja arkaluonteisten tietojen kanssa. Yhdysvaltain kansallinen standardi- ja teknologiainstituutti (NIST) käynnisti tekoälyagenttien standardointihankkeen, joka kattaa agenttien välisen turvallisen viestinnän, luotettavat digitaaliset identiteetit, pääsynhallinnan ja yhteiset tekniset standardit.

Meta korosti:

”Mallien paikallinen suorittaminen mahdollistaa tekoälyn käytön missä ja milloin tahansa, riippumatta siitä, onko internetyhteyttä vai ei.”

Paikallisten mallien lisäksi Meta on laajentanut toimintaansa alustoihin, jotka perustuvat itsenäisten ohjelmistoagenttien väliseen vuorovaikutukseen. Yhtiö osti maaliskuussa Moltbookin, tekoälyagenttien sosiaalisen verkoston, jossa oli kesäkuussa lähes 2,9 miljoonasta rekisteröidystä tilistä yli 206 000 ihmisten vahvistamaa agenttia, ja otti sen perustajat mukaan Meta Superintelligence Labsiin.

Muse Glimmer sopii Metan laajempaan pyrkimykseen tehdä tekoäly laajasti saataville

Metan toimitusjohtaja Mark Zuckerberg esitteli 10. elokuuta erillisen strategian, jonka tavoitteena on levittää henkilökohtaista superälyä laajasti ja tarjota ilmaisia versioita miljardeille ihmisille. Zuckerberg totesi samana päivänä jaetussa Instagram-videossa, että Meta julkaisee myös Muse Spark 1.2:n painot, ja perusteli liikettä 6 500 sanan esseessä vastauksena kiinalaisten kehittäjien painojen avoimiin julkaisuihin.

Yhä suorituskykyisempien mallien tukeminen vaatii edelleen laajaa keskitettyä laskentatehoa koulutusta varten, vaikka valmis malli toimisikin käyttäjän omalla laitteella. Meta allekirjoitti Nebiusin kanssa viisivuotisen sopimuksen, jonka arvo on jopa 27 miljardia dollaria, mukaan lukien 12 miljardia dollaria varattua kapasiteettia ja optioita vielä 15 miljardista dollarista.

Kehittäjät voivat ladata Muse Glimmerin painoarvot jo nyt, ja optimoitua tukea llama.cpp:lle, MLX:lle ja ExecuTorchille – ohjelmistoille, joita käytetään tekoälymallien tehokkaaseen suorittamiseen eri laitteistoilla – odotetaan saataville lähipäivinä. Meta tekee myös yhteistyötä AMD:n, Armin, Dellin, Intelin ja Nvidian kanssa suorituskyvyn optimoimiseksi eri laitteilla.