Meta wprowadza Muse Glimmer – rozwiązanie dla lokalnych agentów AI na urządzeniach osobistych

Muse Glimmer przenosi agenty AI bezpośrednio na sprzęt konsumencki

Meta Superintelligence Labs, dział firmy zajmujący się zaawansowanymi badaniami nad sztuczną inteligencją, 10 sierpnia wprowadził na rynek Muse Glimmer jako model agentyczny o otwartych wagach, zaprojektowany do działania bezpośrednio na urządzeniach osobistych, udostępniając jego wagi na liberalnej licencji Apache 2.0. Otwarte wagi pozwalają programistom pobrać parametry leżące u podstaw modelu, natomiast termin „agentowy” odnosi się do systemów, które wykonują wieloetapowe zadania przy użyciu narzędzi wymagających ograniczonego wkładu człowieka. Model ten powstał na bazie Muse Spark, większego modelu zamkniętego firmy Meta, i działa na komputerach Mac lub PC wyposażonych w jedną konsumencką kartę graficzną (GPU).

Firma opisała:

„Muse Glimmer to model zawierający 30 miliardów parametrów, zoptymalizowany pod kątem nieprzerwanych lokalnych procesów agentowych”.

Muse Glimmer realizuje zadania od początku do końca, korzysta z narzędzi programowych, pisze kod, wykonuje wieloetapowe procesy wnioskowania oraz odzyskuje sprawność w przypadku niepowodzenia próby wykonania działania. Model przetwarza tekst i obrazy, obsługuje dane w ponad 100 językach i, według Meta, osiągnął bardzo dobre wyniki w swojej klasie wielkości w porównaniu z modelami Gemma4-31B i Qwen3.6-27B w testach porównawczych dotyczących agentowości, kodowania, wielomodalności, bezpieczeństwa i rozumowania.

Agenci AI różnią się od konwencjonalnych chatbotów zdolnością do wykonywania zadań, korzystania z narzędzi zewnętrznych oraz podejmowania decyzji w ramach rozbudowanych przepływów pracy o zróżnicowanym poziomie autonomii.

Meta kompresuje model o 30 miliardach parametrów do rozmiaru poniżej 20 GB

Uruchomienie modelu o rozmiarze Muse Glimmer na sprzęcie konsumenckim wymagało od Meta zmniejszenia zapotrzebowania na pamięć przy jednoczesnym zachowaniu wydajności w zadaniach obsługiwanych przez agenty AI. Model o 30 miliardach parametrów przy pełnej precyzji przekroczyłby 55 GB, ale kwantyzacja 4-bitowa, która przechowuje dane modelu w bardziej kompaktowym formacie numerycznym, zmniejszyła rozmiar modelu językowego poniżej 20 GB i pozwoliła zmieścić jego komponenty w pakiecie o pojemności 24 GB lub 32 GB.

Mniejszy model towarzyszący, dostarczany wraz z Muse Glimmer, przewiduje kolejne fragmenty tekstu, umożliwiając modelowi głównemu weryfikację kilku prognoz jednocześnie i szybszą reakcję. Technika ta, znana jako dekodowanie spekulatywne, zwiększyła prędkość generowania o 3,1 razy na karcie RTX 5090, o 1,8 razy na karcie M5 Max i o 1,5 razy na karcie M4 Max w testach przeprowadzonych przez firmę.

Dążenie do wprowadzenia lokalnych agentów następuje w momencie, gdy Meta zwiększa wydatki i reorganizuje zespoły wokół autonomicznych produktów AI oraz szybszych cykli rozwoju. Oczekuje się, że nakłady inwestycyjne w 2026 r. osiągną poziom od 130 do 145 mld dolarów, co stanowi zawężenie przedziału z 125–145 mld dolarów podanego przez firmę podczas ogłoszenia wyników za drugi kwartał 29 lipca.

W maju około 7 000 pracowników zostało przeniesionych do czterech organizacji skupiających się na sztucznej inteligencji, w tym do działu Applied AI Engineering oraz zespołu Agent Transformation Accelerator, podczas gdy około 8 000 pracowników zostało zwolnionych, a 6 000 wolnych stanowisk zostało zamkniętych. Meta poinformowała później przeniesionych pracowników, że mogą zdecydować, czy chcą pozostać w firmie.

Lokalne przetwarzanie zmniejsza zależność od stałego dostępu do chmury

Utrzymywanie przepływów pracy agentów na sprzęcie osobistym pozwala uniknąć kierowania każdego żądania przez zdalne centra danych, umożliwiając kontynuowanie zadań nawet w przypadku ograniczonej lub braku łączności. Lokalne wykonywanie zadań sprawdza się również w przypadkach opartych na przechowywanym kontekście, takim jak harmonogramy, wiadomości i pliki, gdzie model działa na danych osobistych w ramach rozciągniętych sesji.

Standardy bezpieczeństwa zyskują na znaczeniu w miarę jak autonomiczne oprogramowanie otrzymuje uprawnienia do interakcji z kontami, aplikacjami i poufnymi informacjami. Narodowy Instytut Standardów i Technologii (NIST) uruchomił inicjatywę AI Agent Standards Initiative, obejmującą bezpieczną komunikację między agentami, niezawodne tożsamości cyfrowe, kontrolę dostępu oraz wspólne standardy techniczne.

Meta podkreśliła:

„Lokalne uruchamianie modeli pozwala korzystać ze sztucznej inteligencji w dowolnym miejscu i czasie, niezależnie od dostępności połączenia internetowego”.

Oprócz modeli lokalnych firma Meta zajęła się platformami opartymi na interakcjach między niezależnymi agentami programowymi. W marcu firma przejęła Moltbook – sieć społecznościową opartą na agentach AI, która w czerwcu liczyła ponad 206 000 agentów zweryfikowanych przez ludzi spośród prawie 2,9 miliona zarejestrowanych kont – i zatrudniła jej współzałożycieli w Meta Superintelligence Labs.

Muse Glimmer wpisuje się w szerszą strategię Meta na rzecz powszechnie dostępnej sztucznej inteligencji

Mark Zuckerberg, dyrektor generalny Meta, 10 sierpnia osobno nakreślił strategię szerokiego rozpowszechniania osobistej superinteligencji i udostępniania bezpłatnych wersji miliardom ludzi. W filmie opublikowanym tego samego dnia na Instagramie Zuckerberg oświadczył, że Meta udostępni również wagi modelu Muse Spark 1.2, uzasadniając to posunięcie w eseju liczącym 6 500 słów jako odpowiedź na publikacje wag przez chińskich programistów.

Obsługa coraz bardziej zaawansowanych modeli nadal wymaga rozległych, scentralizowanych zasobów obliczeniowych do szkolenia, nawet jeśli gotowy model działa na urządzeniu użytkownika. Meta podpisała pięcioletnią umowę z firmą Nebius o wartości do 27 miliardów dolarów, obejmującą 12 miliardów dolarów dedykowanej mocy obliczeniowej oraz opcje na kolejne 15 miliardów dolarów.

Programiści mogą już pobrać wagi modelu Muse Glimmer, a w najbliższych dniach spodziewane jest wprowadzenie zoptymalizowanej obsługi bibliotek llama.cpp, MLX i ExecuTorch – oprogramowania służącego do wydajnego uruchamiania modeli sztucznej inteligencji na różnym sprzęcie. Meta współpracuje również z firmami AMD, Arm, Dell, Intel i Nvidia nad optymalizacją wydajności na różnych urządzeniach.