Meta bringt „Muse Glimmer“ für lokale KI-Agenten auf privaten Geräten auf den Markt

Muse Glimmer bringt KI-Agenten direkt auf Verbraucherhardware

Meta Superintelligence Labs, die Abteilung für fortgeschrittene KI-Forschung des Unternehmens, hat am 10. August Muse Glimmer als agentisches Modell mit offenen Gewichten vorgestellt, das direkt auf privaten Geräten laufen soll, und dessen Gewichte unter der freizügigen Apache-2.0-Lizenz veröffentlicht wurden. Offene Gewichte ermöglichen es Entwicklern, die zugrunde liegenden Parameter eines Modells herunterzuladen, während der Begriff „agentisch“ sich auf Systeme bezieht, die mehrstufige Aufgaben mithilfe von Tools und mit begrenztem menschlichem Eingriff ausführen. Das Modell wurde aus „Muse Spark“, dem größeren geschlossenen Modell von Meta, abgeleitet und läuft auf einem Mac oder PC mit einer einzigen Consumer-Grafikkarte (GPU).

Das Unternehmen erklärte:

„Muse Glimmer ist ein Modell mit 30 Milliarden Parametern, das für ständig aktive lokale Agenten-Workflows optimiert ist.“

Muse Glimmer führt Aufgaben von Anfang bis Ende durch, nutzt Softwaretools, schreibt Code, durchläuft mehrere Schlussfolgerungsschritte und erholt sich, wenn eine versuchte Aktion fehlschlägt. Das Modell verarbeitet Text und Bilder, verarbeitet Daten in mehr als 100 Sprachen und schnitt laut Meta in seiner Größenklasse bei Benchmarks in den Bereichen Agentenverhalten, Programmierung, Multimodalität, Sicherheit und Schlussfolgerung im Vergleich zu Gemma4-31B und Qwen3.6-27B sehr gut ab.

KI-Agenten unterscheiden sich von herkömmlichen Chatbots durch ihre Fähigkeit, Aufgaben auszuführen, externe Tools zu nutzen und Entscheidungen über erweiterte Arbeitsabläufe hinweg mit unterschiedlichen Autonomiegraden zu treffen.

Meta komprimiert ein Modell mit 30 Milliarden Parametern auf unter 20 GB

Um ein Modell von der Größe von Muse Glimmer auf handelsüblicher Hardware ausführen zu können, musste Meta den Speicherbedarf reduzieren und gleichzeitig die Leistung bei allen von KI-Agenten bearbeiteten Aufgaben aufrechterhalten. Ein Modell mit 30 Milliarden Parametern bei voller Präzision würde 55 GB überschreiten, doch durch die 4-Bit-Quantisierung, bei der Modelldaten in einem kompakteren numerischen Format gespeichert werden, konnte das Sprachmodell auf unter 20 GB verkleinert und seine Komponenten in einen Speicherrahmen von 24 GB oder 32 GB untergebracht werden.

Ein kleineres Begleitmodell, das zusammen mit Muse Glimmer ausgeliefert wird, sagt kommende Textabschnitte voraus, sodass das Hauptmodell mehrere Vorhersagen gleichzeitig überprüfen und schneller reagieren kann. Diese als „spekulatives Dekodieren“ bezeichnete Technik steigerte die Generierungsgeschwindigkeit in firmeneigenen Tests auf einer RTX 5090 um das 3,1-Fache, auf einer M5 Max um das 1,8-Fache und auf einer M4 Max um das 1,5-Fache.

Der Vorstoß in Richtung lokaler Agenten erfolgt zu einem Zeitpunkt, an dem Meta seine Ausgaben erhöht und seine Teams im Hinblick auf autonome KI-Produkte und schnellere Entwicklungszyklen umstrukturiert. Die Investitionsausgaben für 2026 werden voraussichtlich 130 bis 145 Milliarden US-Dollar erreichen – eine Spanne, die gegenüber den am 29. Juli bei der Bekanntgabe der Ergebnisse für das zweite Quartal genannten 125 bis 145 Milliarden US-Dollar eingegrenzt wurde.

Im Mai wurden rund 7.000 Mitarbeiter in vier auf KI spezialisierte Organisationseinheiten versetzt, darunter „Applied AI Engineering“ und ein „Agent Transformation Accelerator“-Team, während etwa 8.000 Mitarbeiter entlassen und 6.000 offene Stellen gestrichen wurden. Meta teilte den versetzten Mitarbeitern später mit, dass sie selbst entscheiden könnten, ob sie bleiben wollten.

Lokale Verarbeitung verringert die Abhängigkeit vom ständigen Cloud-Zugang

Durch die Ausführung von Agenten-Workflows auf persönlicher Hardware wird vermieden, dass jede Anfrage über entfernte Rechenzentren geleitet werden muss, sodass Aufgaben auch dann fortgesetzt werden können, wenn die Konnektivität eingeschränkt oder nicht verfügbar ist. Die lokale Ausführung eignet sich zudem für Anwendungsfälle, die auf gespeicherten Kontextdaten wie Zeitplänen, Nachrichten und Dateien basieren, bei denen das Modell über längere Sitzungen hinweg auf persönliche Daten zugreift.

Sicherheitsstandards gewinnen zunehmend an Bedeutung, da autonome Software die Berechtigung erhält, mit Konten, Anwendungen und sensiblen Informationen zu interagieren. Das National Institute of Standards and Technology hat eine „AI Agent Standards Initiative“ ins Leben gerufen, die sich mit sicherer Kommunikation zwischen Agenten, zuverlässigen digitalen Identitäten, Zugriffskontrollen und gemeinsamen technischen Standards befasst. Meta betonte:

„Durch die lokale Ausführung von Modellen können Sie KI überall und jederzeit nutzen – mit oder ohne Internetverbindung.“

Über lokale Modelle hinaus hat Meta den Schritt zu Plattformen vollzogen, die auf der Interaktion zwischen unabhängigen Software-Agenten basieren. Das Unternehmen übernahm im März Moltbook, ein soziales Netzwerk für KI-Agenten mit mehr als 206.000 von Menschen verifizierten Agenten bei insgesamt fast 2,9 Millionen registrierten Konten (Stand: Juni), und holte dessen Mitbegründer in die Meta Superintelligence Labs.

Muse Glimmer passt zu Metas umfassenderem Bestreben nach einer weit verbreiteten KI

Mark Zuckerberg, Geschäftsführer von Meta, skizzierte am 10. August in einem separaten Beitrag eine Strategie zur breiten Verbreitung persönlicher Superintelligenz und zur Bereitstellung kostenloser Versionen für Milliarden von Menschen. Zuckerberg erklärte in einem am selben Tag geteilten Instagram-Video, dass Meta auch die Gewichte für „Muse Spark 1.2“ veröffentlichen werde, und begründete diesen Schritt in einem 6.500 Wörter langen Essay als Antwort auf die Veröffentlichung offener Gewichte durch chinesische Entwickler.

Die Unterstützung immer leistungsfähigerer Modelle erfordert nach wie vor umfangreiche zentralisierte Rechenkapazitäten für das Training, selbst wenn das fertige Modell auf dem eigenen Gerät des Nutzers läuft. Meta unterzeichnete einen Fünfjahresvertrag mit Nebius im Wert von bis zu 27 Milliarden US-Dollar, einschließlich 12 Milliarden US-Dollar an dedizierter Kapazität und Optionen für weitere 15 Milliarden US-Dollar.

Entwickler können die Gewichte von Muse Glimmer bereits jetzt herunterladen, während eine optimierte Unterstützung für llama.cpp, MLX und ExecuTorch – Software, mit der KI-Modelle effizient auf unterschiedlicher Hardware ausgeführt werden können – in den kommenden Tagen erwartet wird. Meta arbeitet zudem mit AMD, Arm, Dell, Intel und Nvidia zusammen, um die Leistung geräteübergreifend zu optimieren.