Meta, Kişisel Cihazlarda Yerel Yapay Zeka Ajanları için Muse Glimmer’ı Piyasaya Sürdü

Muse Glimmer, Yapay Zeka Ajanlarını Doğrudan Tüketici Donanımına Getiriyor

Şirketin ileri düzey yapay zeka araştırma bölümü olan Meta Superintelligence Labs, 10 Ağustos'ta kişisel cihazlarda doğrudan çalışmak üzere tasarlanmış açık ağırlıklı ajanik bir model olan Muse Glimmer'ı piyasaya sürdü ve modelin ağırlıklarını izin verici Apache 2.0 lisansı altında yayınladı. Açık ağırlıklar, geliştiricilerin bir modelin temel parametrelerini indirmesine olanak tanırken, "ajansal" terimi, sınırlı insan girdisiyle araçlar kullanarak çok adımlı görevleri tamamlayan sistemleri ifade eder. Model, Meta'nın daha büyük kapalı modeli olan Muse Spark'tan türetilmiştir ve tek bir tüketici grafik işlem birimi (GPU) bulunan bir Mac veya PC'de çalışır.

Şirket şu açıklamayı yaptı:

"Muse Glimmer, sürekli aktif yerel ajan iş akışları için optimize edilmiş, 30 milyar parametreli bir modeldir."

Muse Glimmer, görevleri baştan sona tamamlar, yazılım araçlarını kullanır, kod yazar, çoklu akıl yürütme adımlarını izler ve denenen bir eylem başarısız olduğunda toparlanır. Meta’ya göre, model metin ve görüntüleri işliyor, 100’den fazla dili kapsayan verileri işliyor ve ajanlık, kodlama, çok modlu, güvenlik ve akıl yürütme karşılaştırma testlerinde, boyut sınıfı göz önüne alındığında Gemma4-31B ve Qwen3.6-27B’ye karşı güçlü bir performans sergiledi.

AI ajanları, görevleri yürütme, harici araçları kullanma ve farklı özerklik düzeylerine sahip genişletilmiş iş akışları boyunca karar verme yetenekleri sayesinde geleneksel sohbet robotlarından ayrılır.

Meta, 30 Milyar Parametreli Bir Modeli 20 GB'nin Altına Sığdırdı

Muse Glimmer büyüklüğündeki bir modeli tüketici donanımında çalıştırmak için Meta'nın, AI ajanları tarafından yürütülen görevlerde performansı korurken bellek gereksinimlerini azaltması gerekiyordu. Tam hassasiyette 30 milyar parametreli bir model 55 GB'yi aşardı, ancak model verilerini daha kompakt bir sayısal formatta depolayan 4 bitlik niceleme, dil modelini 20 GB'nin altına indirdi ve bileşenlerini 24 GB veya 32 GB'lik bir alana sığdırdı.

Muse Glimmer ile birlikte sunulan daha küçük bir yardımcı model, gelecek metin parçalarını tahmin ederek ana modelin birden fazla tahmini aynı anda doğrulamasını ve daha hızlı yanıt vermesini sağlıyor. "Spekülatif kod çözme" olarak bilinen bu teknik, şirketin yaptığı testlerde RTX 5090'da üretim hızını 3,1 kat, M5 Max'te 1,8 kat ve M4 Max'te 1,5 kat artırdı.

Yerel ajanlara yönelik bu adım, Meta’nın harcamalarını artırması ve ekipleri otonom yapay zeka ürünleri ile daha hızlı geliştirme döngüleri etrafında yeniden yapılandırmasıyla birlikte geliyor. 2026 yılına ilişkin sermaye harcamalarının 130 milyar ila 145 milyar dolar aralığına ulaşması bekleniyor; bu aralık, şirketin 29 Temmuz’da ikinci çeyrek sonuçlarını açıkladığı sırada 125 milyar ila 145 milyar dolar olarak belirtilmişti.

Mayıs ayında, Uygulamalı Yapay Zeka Mühendisliği ve Ajan Dönüşüm Hızlandırıcı ekibi dahil olmak üzere yaklaşık 7.000 çalışan, yapay zeka odaklı dört organizasyona transfer edildi; buna karşılık yaklaşık 8.000 çalışan işten çıkarıldı ve 6.000 açık pozisyon kapatıldı. Meta daha sonra transfer edilen personele, kalıp kalmamaya kendilerinin karar verebileceğini bildirdi.

Yerel İşleme, Sürekli Bulut Erişimine Olan Bağımlılığı Azaltır

Temsilci iş akışlarını kişisel donanım üzerinde tutmak, her isteğin uzak veri merkezleri üzerinden yönlendirilmesini önler ve bağlantı sınırlı veya mevcut olmadığında görevlerin devam etmesini sağlar. Yerel yürütme, modelin uzun oturumlar boyunca kişisel veriler üzerinde işlem yaptığı, zaman çizelgeleri, mesajlar ve dosyalar gibi depolanmış bağlam üzerine kurulu kullanım durumlarına da uygundur.

Otonom yazılımların hesaplar, uygulamalar ve hassas bilgilerle etkileşime girme izni almasıyla birlikte güvenlik standartları giderek daha fazla önem kazanıyor. Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), ajanlar arasındaki güvenli iletişim, güvenilir dijital kimlikler, erişim kontrolleri ve ortak teknik standartları kapsayan bir Yapay Zeka Ajan Standartları Girişimi başlattı.

Meta şunları vurguladı:

"Modelleri yerel olarak çalıştırmak, internet bağlantısı olsun ya da olmasın, yapay zekayı her yerde, her zaman kullanmanıza olanak tanır."

Yerel modellerin ötesinde Meta, bağımsız yazılım ajanları arasındaki etkileşimler üzerine kurulu platformlara yöneldi. Şirket, Mart ayında Moltbook'u satın aldı. Moltbook, Haziran ayı itibarıyla yaklaşık 2,9 milyon kayıtlı hesaptan 206.000'den fazlası insan tarafından doğrulanmış AI ajanı barındıran bir sosyal ağdır ve şirket, Moltbook'un kurucu ortaklarını Meta Superintelligence Labs'a dahil etti.

Muse Glimmer, Meta'nın Yapay Zekayı Geniş Kitlelere Ulaştırma Çabalarına Uyuyor

Meta'nın CEO'su Mark Zuckerberg, 10 Ağustos'ta kişisel süper zekayı geniş çapta yaygınlaştırmak ve milyarlarca insana ücretsiz sürümler sunmak için ayrı bir strateji açıkladı. Zuckerberg, aynı gün paylaştığı bir Instagram videosunda Meta’nın Muse Spark 1.2’nin ağırlık matrislerini de açacağını belirtti ve 6.500 kelimelik bir makalede bu hamleyi, Çinli geliştiricilerin ağırlık matrislerini açık hale getirmelerine bir yanıt olarak çerçevelendirdi.

Giderek daha yetenekli modelleri desteklemek, bitmiş model kullanıcının kendi cihazında çalışsa bile, eğitim için hâlâ kapsamlı merkezi hesaplama gerektiriyor. Meta, Nebius ile 12 milyar dolarlık özel kapasite ve 15 milyar dolarlık opsiyonlar dahil olmak üzere toplam değeri 27 milyar dolara varan beş yıllık bir anlaşma imzaladı.

Geliştiriciler, Muse Glimmer’ın ağırlıklarını şimdiden indirebilirler; farklı donanımlarda yapay zeka modellerini verimli bir şekilde çalıştırmak için kullanılan llama.cpp, MLX ve ExecuTorch yazılımlarına yönelik optimize edilmiş desteğin ise önümüzdeki günlerde sunulması bekleniyor. Meta ayrıca, cihazlar arasında performansı optimize etmek için AMD, Arm, Dell, Intel ve Nvidia ile birlikte çalışıyor.