A Meta elindítja a Muse Glimmer szolgáltatást a személyi eszközökön futó helyi mesterséges intelligencia-ügynökök számára

A Muse Glimmer közvetlenül a fogyasztói hardverekre hozza az AI-ügynököket

A Meta Superintelligence Labs, a vállalat fejlett mesterséges intelligencia kutatási részlege, augusztus 10-én elindította a Muse Glimmert, egy nyílt súlyú, ügynöki modellt, amelyet úgy terveztek, hogy közvetlenül személyi eszközökön futtatható legyen, és súlyait a rugalmas Apache 2.0 licenc alatt tette közzé. A nyílt súlyok lehetővé teszik a fejlesztők számára, hogy letöltsék a modell alapjául szolgáló paramétereket, míg az „agentikus” kifejezés olyan rendszerekre utal, amelyek korlátozott emberi beavatkozás mellett, eszközök segítségével hajtanak végre több lépésből álló feladatokat. A modell a Meta nagyobb, zárt modelljéből, a Muse Sparkból származik, és egyetlen fogyasztói grafikus processzorral (GPU) felszerelt Mac vagy PC-n fut.

A vállalat így fogalmazott:

„A Muse Glimmer egy 30 milliárd paraméteres modell, amelyet az állandóan aktív helyi ügynöki munkafolyamatokra optimalizáltak.”

A Muse Glimmer a feladatokat elejétől a végéig elvégzi, szoftveres eszközöket használ, kódot ír, több lépésből álló érvelési folyamatokat követ, és helyreáll, ha egy megkísérelt művelet sikertelenül végződik. A modell szövegeket és képeket dolgoz fel, több mint 100 nyelven rendelkezésre álló adatokat kezel, és a Meta szerint méretosztályához képest kiemelkedő teljesítményt nyújtott a Gemma4-31B és a Qwen3.6-27B modellekkel szemben az ügynöki, kódolási, multimodális, biztonsági és érvelési teljesítménymérőkben.

Az AI-ügynökök abban különböznek a hagyományos csevegőrobotoktól, hogy képesek feladatokat végrehajtani, külső eszközöket használni és döntéseket hozni kiterjedt munkafolyamatok során, különböző szintű autonómiával.

A Meta 20 GB alá tömörítette a 30 milliárd paraméteres modellt

Ahhoz, hogy a Muse Glimmer méretű modellt fogyasztói hardveren futtathassa, a Meta-nak csökkentenie kellett a memóriaigényt, miközben meg kellett őriznie a teljesítményt az AI-ügynökök által kezelt feladatok során. Egy 30 milliárd paraméteres modell teljes pontossággal meghaladná az 55 GB-ot, de a 4-bites kvantálás – amely a modelladatokat kompaktabb numerikus formátumban tárolja – 20 GB alá zsugorította a nyelvi modellt, és annak komponenseit 24 GB-os vagy 32 GB-os keretbe sűrítette.

A Muse Glimmerrel együtt szállított kisebb kiegészítő modell előre jelzi a következő szövegrészeket, így a főmodell egyszerre több előrejelzést is ellenőrizhet, és gyorsabban reagálhat. A spekulatív dekódolás néven ismert technika a vállalat tesztjei során 3,1-szeresére növelte a generálási sebességet egy RTX 5090-en, 1,8-szeresére egy M5 Max-on és 1,5-szeresére egy M4 Max-on.

A helyi ügynökök felé történő elmozdulás azzal párhuzamosan történik, hogy a Meta növeli a kiadásokat, és átszervezi a csapatokat az autonóm AI-termékek és a gyorsabb fejlesztési ciklusok köré. A 2026-ra vonatkozó beruházási kiadások várhatóan 130–145 milliárd dollárt fognak elérni; ez a tartomány szűkült a július 29-én közzétett második negyedéves eredmények idején még 125–145 milliárd dollár volt.

Májusban körülbelül 7 000 alkalmazottat helyeztek át négy, mesterséges intelligenciára összpontosító szervezetbe, köztük az Applied AI Engineering és az Agent Transformation Accelerator csapatba, miközben körülbelül 8 000 munkavállalót elbocsátottak, és 6 000 betöltetlen álláshelyet szüntettek meg. A Meta később közölte az áthelyezett munkatársakkal, hogy ők dönthetik el, maradnak-e.

A helyi feldolgozás csökkenti a folyamatos felhőhozzáférés iránti függőséget

Az ügynökök munkafolyamainak személyes hardveren való futtatása elkerüli, hogy minden kérést távoli adatközpontokon keresztül továbbítsanak, így a feladatok akkor is folytathatók, ha a kapcsolat korlátozott vagy nem elérhető. A helyi végrehajtás olyan, tárolt kontextusra épülő felhasználási esetekhez is alkalmas, mint az ütemtervek, üzenetek és fájlok, ahol a modell hosszabb munkamenetek során személyes adatokra hat.

A biztonsági szabványok egyre nagyobb jelentőségre tesznek szert, mivel az autonóm szoftverek engedélyt kapnak a fiókokkal, alkalmazásokkal és érzékeny információkkal való interakcióra. A Nemzeti Szabványügyi és Technológiai Intézet (NIST) elindította az AI-ügynökök szabványaira vonatkozó kezdeményezést, amely kiterjed az ügynökök közötti biztonságos kommunikációra, a megbízható digitális identitásokra, a hozzáférés-vezérlésre és a közös műszaki szabványokra.

A Meta hangsúlyozta:

„A modellek helyi futtatása lehetővé teszi, hogy az AI-t bárhol, bármikor, internetkapcsolattal vagy anélkül is használhassa.”

A helyi modelleken túl a Meta olyan platformok felé is elindult, amelyek független szoftverügynökök közötti interakciókra épülnek. A vállalat márciusban felvásárolta a Moltbookot, egy mesterséges intelligencia-ügynökökből álló közösségi hálózatot, amelynek júniusban közel 2,9 millió regisztrált fiókja közül több mint 206 000-et emberi ellenőrzés alá vontak, és társalapítóit bevonta a Meta Superintelligence Labs csapatába.

A Muse Glimmer illeszkedik a Meta széles körű, mindenki számára elérhető mesterséges intelligencia iránti törekvéseihez

Mark Zuckerberg, a Meta vezérigazgatója augusztus 10-én külön vázolta fel azt a stratégiát, amelynek célja a személyes szuperintelligencia széles körű terjesztése és ingyenes verziók biztosítása milliárdok számára. Zuckerberg egy ugyanazon a napon megosztott Instagram-videóban kijelentette, hogy a Meta a Muse Spark 1.2 súlyozási paramétereit is nyilvánosságra hozza, és egy 6 500 szavas esszében ezt a lépést a kínai fejlesztők által közzétett nyílt súlyozási paraméterekre adott válaszként fogalmazta meg.

Az egyre nagyobb teljesítményű modellek támogatása továbbra is kiterjedt, központosított számítási kapacitást igényel a betanításhoz, még akkor is, ha a kész modell a felhasználó saját eszközén fut. A Meta ötéves megállapodást írt alá a Nebius-szal, amelynek értéke akár 27 milliárd dollár is lehet, beleértve a 12 milliárd dollár értékű dedikált kapacitást és további 15 milliárd dollárra szóló opciókat.

A fejlesztők már letölthetik a Muse Glimmer súlyait, míg a llama.cpp, az MLX és az ExecuTorch – amelyek az AI-modellek különböző hardverekkel való hatékony futtatására szolgáló szoftverek – optimalizált támogatása a következő napokban várható. A Meta emellett az AMD-vel, az Armmal, a Dell-lel, az Intel-lel és az Nvidiával is együttműködik a teljesítmény eszközök közötti optimalizálása érdekében.