מטא משיקה את Muse Glimmer עבור סוכני בינה מלאכותית מקומיים במכשירים אישיים

Muse Glimmer מביא סוכני בינה מלאכותית ישירות לחומרה צרכנית

Meta Superintelligence Labs, חטיבת המחקר המתקדמת של החברה בתחום הבינה המלאכותית, ב-10 באוגוסט השיקה את Muse Glimmer כמודל סוכני במשקלים פתוחים שנועד לרוץ ישירות על מכשירים אישיים, תוך פרסום משקליו תחת רישיון Apache 2.0 המתירני. משקלים פתוחים מאפשרים למפתחים להוריד את הפרמטרים הבסיסיים של המודל, בעוד שמונח “סוכני” מתייחס למערכות שמבצעות משימות מרובות שלבים באמצעות כלים עם מעורבות אנושית מוגבלת. המודל עבר זיקוק מ-Muse Spark, המודל הגדול והסגור יותר של מטא, והוא רץ על Mac או PC עם יחידת עיבוד גרפית צרכנית יחידה, או GPU.

החברה תיארה:

“Muse Glimmer הוא מודל עם 30 מיליארד פרמטרים שמותאם לזרימות עבודה של סוכנים מקומיים שפועלים תמיד.”

Muse Glimmer משלים משימות מתחילה ועד סוף, משתמש בכלי תוכנה, כותב קוד, עוקב אחר מספר שלבי הסקה ומתאושש כאשר פעולה שנוסתה נכשלת. המודל מעבד טקסט ותמונות, מטפל בנתונים המשתרעים על יותר מ-100 שפות, והציג ביצועים חזקים ביחס לקבוצת הגודל שלו מול Gemma4-31B ו-Qwen3.6-27B במדדי סוכנים, קידוד, רב-מודאליות, בטיחות והסקה, לפי מטא.

סוכני בינה מלאכותית שונים מצ’אטבוטים קונבנציונליים ביכולתם לבצע משימות, להשתמש בכלים חיצוניים ולקבל החלטות לאורך זרימות עבודה ממושכות עם רמות שונות של אוטונומיה.

מטא דוחסת מודל עם 30 מיליארד פרמטרים אל מתחת ל-20 ג׳יגה-בייט

הרצת מודל בגודל של Muse Glimmer על חומרה צרכנית חייבה את מטא להפחית את דרישות הזיכרון תוך שמירה על ביצועים במגוון משימות שמטופלות בידי סוכני בינה מלאכותית. מודל עם 30 מיליארד פרמטרים בדיוק מלא היה חוצה את ה-55 ג׳יגה-בייט, אך קוונטיזציה ל-4 ביט, המאחסנת את נתוני המודל בפורמט מספרי קומפקטי יותר, צמצמה את מודל השפה אל מתחת ל-20 ג׳יגה-בייט והתאימה את רכיביו למסגרת של 24 ג׳יגה-בייט או 32 ג׳יגה-בייט.

מודל נלווה קטן יותר שנשלח לצד Muse Glimmer מנבא מקטעים עתידיים של טקסט, ומאפשר למודל הראשי לאמת כמה ניבויים בו-זמנית ולהגיב מהר יותר. הטכניקה, הידועה בשם speculative decoding, הגדילה את מהירות ההפקה פי 3.1 על RTX 5090, פי 1.8 על M5 Max ופי 1.5 על M4 Max בבדיקות החברה.

הדחיפה לעבר סוכנים מקומיים מגיעה בזמן שמטא מרחיבה הוצאות ומארגנת מחדש צוותים סביב מוצרי בינה מלאכותית אוטונומיים ומחזורי פיתוח מהירים יותר. הוצאות ההון לשנת 2026 צפויות להגיע ל-130 עד 145 מיליארד דולר, טווח שצומצם מ-125 עד 145 מיליארד דולר כאשר החברה דיווחה על תוצאות הרבעון השני ב-29 ביולי.

כ-7,000 עובדים הועברו במאי לארבעה ארגונים ממוקדי בינה מלאכותית, כולל Applied AI Engineering וצוות Agent Transformation Accelerator, בעוד שכ-8,000 עובדים פוטרו ו-6,000 תפקידים פתוחים נסגרו. בהמשך מטא אמרה לעובדים שהועברו שהם יכולים להחליט אם להישאר.

עיבוד מקומי מפחית תלות בגישה רציפה לענן

שמירה על זרימות עבודה של סוכנים על חומרה אישית מונעת ניתוב של כל בקשה דרך מרכזי נתונים מרוחקים, ומאפשרת למשימות להימשך כאשר הקישוריות מוגבלת או לא זמינה. ביצוע מקומי מתאים גם למקרי שימוש המבוססים על הקשר מאוחסן כגון לוחות זמנים, הודעות וקבצים, שבהם המודל פועל על נתונים אישיים לאורך סשנים ממושכים.

תקני אבטחה הופכים לרלוונטיים יותר ויותר כאשר תוכנה אוטונומית מקבלת הרשאה ליצור אינטראקציה עם חשבונות, יישומים ומידע רגיש. ה-המכון הלאומי לתקנים וטכנולוגיה השיק יוזמת תקני סוכני בינה מלאכותית המכסה תקשורת מאובטחת בין סוכנים, זהויות דיגיטליות אמינות, בקרות גישה ותקנים טכניים משותפים.

מטא הדגישה:

“הרצת מודלים מקומית מאפשרת לך להשתמש בבינה מלאכותית בכל מקום, בכל זמן, עם או בלי חיבור לאינטרנט.”

מעבר למודלים מקומיים, מטא נכנסה לפלטפורמות הבנויות סביב אינטראקציות בין סוכני תוכנה עצמאיים. החברה רכשה במרץ את Moltbook, רשת חברתית של סוכני בינה מלאכותית עם יותר מ-206,000 סוכנים מאומתים-אנושית מתוך כמעט 2.9 מיליון חשבונות רשומים נכון ליוני, והביאה את המייסדים-שותפים שלה אל Meta Superintelligence Labs.

Muse Glimmer משתלב בדחיפה הרחבה יותר של מטא לבינה מלאכותית זמינה באופן נרחב

מארק צוקרברג, מנכ”ל מטא, תיאר בנפרד אסטרטגיה ב-10 באוגוסט ל-הפצה רחבה של סופר-אינטליגנציה אישית ולהעניק גרסאות חינמיות למיליארדי אנשים. צוקרברג אמר בסרטון אינסטגרם ששותף באותו יום שמטא תפתח גם את המשקלים עבור Muse Spark 1.2, ומסגר את המהלך במאמר בן 6,500 מילים כתשובה לשחרורי משקלים פתוחים ממפתחים סיניים.

תמיכה במודלים בעלי יכולת הולכת וגוברת עדיין דורשת מחשוב מרכזי נרחב לאימון, גם כאשר המודל המוגמר רץ על מכשירו של המשתמש. מטא חתמה על הסכם לחמש שנים עם Nebius בשווי של עד 27 מיליארד דולר, כולל 12 מיליארד דולר בקיבולת ייעודית ואפשרויות לעוד 15 מיליארד דולר.

מפתחים יכולים להוריד כעת את המשקלים של Muse Glimmer, בעוד שתמיכה מיטבית עבור llama.cpp, MLX ו-ExecuTorch, תוכנות המשמשות להרצת מודלי בינה מלאכותית ביעילות על פני חומרות שונות, צפויה בימים הקרובים. מטא גם עובדת עם AMD, Arm, Dell, Intel ו-Nvidia כדי למטב ביצועים בין מכשירים.