Meta Meluncurkan Muse Glimmer untuk Agen AI Lokal di Perangkat Pribadi

Muse Glimmer Hadirkan Agen AI Langsung ke Perangkat Konsumen

Meta Superintelligence Labs, divisi penelitian AI tingkat lanjut perusahaan tersebut, pada 10 Agustus meluncurkan Muse Glimmer sebagai model agenik bobot terbuka yang dirancang untuk berjalan langsung di perangkat pribadi, dengan merilis bobotnya di bawah lisensi Apache 2.0 yang permisif. Bobot terbuka memungkinkan pengembang mengunduh parameter dasar model, sedangkan agen mengacu pada sistem yang menyelesaikan tugas multi-langkah menggunakan alat dengan input manusia yang terbatas. Model ini disaring dari Muse Spark, model tertutup Meta yang lebih besar, dan dapat dijalankan pada Mac atau PC dengan satu unit pemrosesan grafis konsumen, atau GPU.

Perusahaan tersebut menjelaskan:

"Muse Glimmer adalah model dengan 30 miliar parameter yang dioptimalkan untuk alur kerja agen lokal yang selalu aktif."

Muse Glimmer menyelesaikan tugas dari awal hingga akhir, menggunakan alat perangkat lunak, menulis kode, mengikuti beberapa langkah penalaran, dan memulihkan diri ketika tindakan yang dicoba gagal. Model ini memproses teks dan gambar, menangani data yang mencakup lebih dari 100 bahasa, dan menunjukkan kinerja yang sangat baik untuk kelas ukurannya dibandingkan dengan Gemma4-31B dan Qwen3.6-27B dalam berbagai tolok ukur agen, pengkodean, multimodal, keamanan, dan penalaran, menurut Meta.

Agen AI berbeda dari chatbot konvensional karena kemampuannya untuk menjalankan tugas, menggunakan alat eksternal, dan mengambil keputusan dalam alur kerja yang luas dengan tingkat otonomi yang bervariasi.

Meta Mengompres Model dengan 30 Miliar Parameter Menjadi Kurang dari 20 GB

Untuk menjalankan model sebesar Muse Glimmer pada perangkat keras konsumen, Meta harus mengurangi kebutuhan memori sambil tetap mempertahankan kinerja pada berbagai tugas yang ditangani oleh agen AI. Model dengan 30 miliar parameter pada presisi penuh akan melebihi 55 GB, tetapi kuantisasi 4-bit—yang menyimpan data model dalam format numerik yang lebih ringkas—menyusutkan model bahasa tersebut di bawah 20 GB dan membuat komponen-komponennya muat dalam ruang penyimpanan 24 GB atau 32 GB.

Model pendamping yang lebih kecil, yang disertakan bersama Muse Glimmer, memprediksi potongan teks berikutnya, sehingga model utama dapat memverifikasi beberapa prediksi sekaligus dan merespons lebih cepat. Teknik yang dikenal sebagai decoding spekulatif ini meningkatkan kecepatan generasi sebesar 3,1 kali lipat pada RTX 5090, 1,8 kali lipat pada M5 Max, dan 1,5 kali lipat pada M4 Max dalam pengujian internal perusahaan.

Upaya pengembangan agen lokal ini dilakukan seiring dengan ekspansi pengeluaran Meta dan reorganisasi tim di sekitar produk AI otonom serta siklus pengembangan yang lebih cepat. Belanja modal untuk tahun 2026 diperkirakan akan mencapai $130 miliar hingga $145 miliar, rentang yang sebelumnya diperkirakan antara $125 miliar hingga $145 miliar saat perusahaan melaporkan hasil kuartal kedua pada 29 Juli.

Sekitar 7.000 karyawan dipindahkan ke empat organisasi yang berfokus pada AI pada bulan Mei, termasuk Applied AI Engineering dan tim Agent Transformation Accelerator, sementara sekitar 8.000 pekerja di-PHK dan 6.000 lowongan ditutup. Meta kemudian memberi tahu staf yang dipindahkan bahwa mereka dapat memutuskan apakah akan tetap tinggal atau tidak.

Pemrosesan Lokal Mengurangi Ketergantungan pada Akses Cloud yang Berkelanjutan

Menjaga alur kerja agen di perangkat keras pribadi menghindari pengalihan setiap permintaan melalui pusat data jarak jauh, sehingga memungkinkan tugas-tugas tetap berjalan ketika konektivitas terbatas atau tidak tersedia. Eksekusi lokal juga sesuai untuk kasus penggunaan yang dibangun di atas konteks yang tersimpan seperti jadwal, pesan, dan file, di mana model bertindak berdasarkan data pribadi selama sesi yang diperpanjang.

Standar keamanan menjadi semakin relevan seiring dengan pemberian izin kepada perangkat lunak otonom untuk berinteraksi dengan akun, aplikasi, dan informasi sensitif. Institut Standar dan Teknologi Nasional (NIST) meluncurkan Inisiatif Standar Agen AI yang mencakup komunikasi aman antar agen, identitas digital yang andal, kontrol akses, dan standar teknis umum.

Meta menekankan:

"Menjalankan model secara lokal memungkinkan Anda menggunakan AI di mana saja, kapan saja, dengan atau tanpa koneksi internet."

Selain model lokal, Meta telah merambah ke platform yang dibangun di sekitar interaksi antar agen perangkat lunak independen. Perusahaan ini mengakuisisi Moltbook pada bulan Maret, sebuah jejaring sosial agen AI dengan lebih dari 206.000 agen yang diverifikasi oleh manusia dari hampir 2,9 juta akun terdaftar per Juni, dan membawa para pendiri bersama perusahaan tersebut ke Meta Superintelligence Labs.

Muse Glimmer Sesuai dengan Upaya Meta yang Lebih Luas untuk Menyediakan AI yang Tersedia Secara Luas

Mark Zuckerberg, CEO Meta, secara terpisah memaparkan strategi pada 10 Agustus untuk mendistribusikan kecerdasan super pribadi secara luas dan menyediakan versi gratis kepada miliaran orang. Zuckerberg menyatakan dalam sebuah video Instagram yang dibagikan pada hari yang sama bahwa Meta juga akan membuka bobot model untuk Muse Spark 1.2, dan dalam esai sepanjang 6.500 kata, ia menggambarkan langkah tersebut sebagai respons terhadap rilis bobot model terbuka dari para pengembang Tiongkok.

Mendukung model-model yang semakin canggih masih memerlukan komputasi terpusat yang ekstensif untuk pelatihan, meskipun model yang sudah jadi dijalankan di perangkat pengguna sendiri. Meta menandatangani perjanjian lima tahun dengan Nebius senilai hingga $27 miliar, termasuk $12 miliar untuk kapasitas khusus dan opsi tambahan sebesar $15 miliar.

Pengembang kini dapat mengunduh bobot Muse Glimmer, sementara dukungan yang dioptimalkan untuk llama.cpp, MLX, dan ExecuTorch—perangkat lunak yang digunakan untuk menjalankan model AI secara efisien di berbagai perangkat keras—diperkirakan akan tersedia dalam beberapa hari ke depan. Meta juga bekerja sama dengan AMD, Arm, Dell, Intel, dan Nvidia untuk mengoptimalkan kinerja di berbagai perangkat.