Tether משיקה את מסגרת ה-AI Bitnet לסמארטפונים, ומפחיתה את הצורך במעבדי GPU של Nvidia

מסגרת הבינה המלאכותית של Tether מקטינה שימוש ב‑VRAM ביותר מ‑70%, ומרחיבה את מחשוב הקצה

ביום שלישי, Tether חשפה מסגרת כוונון עדין (fine-tuning) מסוג LoRA חוצת פלטפורמות עבור מודלי Bitnet של מיקרוסופט, והציגה את מה שתיארה כמערכת הראשונה שמסוגלת לאמן ולהריץ מודלי שפה גדולים ב‑1 ביט על גבי מכשירי צרכנים, כולל סמארטפונים ומחשבים ניידים.

ההכרזה היא חלק מערימת QVAC Fabric של Tether ונועדה להפחית את דרישות החישוב והזיכרון הכבדות שבדרך כלל קשורות לפיתוח בינה מלאכותית, שלרוב הוגבל לספקי ענן ולחומרת Nvidia מתקדמת.

באמצעות תמיכה בחומרה הטרוגנית—כולל שבבים של Intel, AMD ו‑Apple, וכן מעבדים גרפיים ניידים—המסגרת מאפשרת למפתחים לבצע כוונון עדין של מודלים מקומית ללא הסתמכות על תשתית מרכזית.

בפועל, המשמעות היא שעומסי עבודה של בינה מלאכותית שבעבר היו שמורים למרכזי נתונים יכולים כעת לרוץ על מכשירים שיושבים בתיק גב או בכיס—שינוי שעשוי להוזיל עלויות ולהרחיב את הגישה עבור מפתחים ברחבי ארצות הברית וברחבי העולם.

Tether מסרה כי המהנדסים שלה הדגימו בהצלחה כוונון עדין של Bitnet על גבי מעבדים גרפיים ניידים, כולל שבבי Adreno, Mali ו‑Apple Bionic, תוך ציון הישג ראשון עבור ארכיטקטורת המודלים המתהווה של 1 ביט.

מדדי ביצועים שפרסמה החברה מראים שניתן לבצע כוונון עדין למודל עם 125 מיליון פרמטרים בתוך כ‑10 דקות על מכשיר Samsung S25, בעוד שמודל עם מיליארד פרמטרים משלים אותה משימה בכ‑1 שעה ו‑18 דקות על אותה חומרה.

במכשירי Apple, החברה דיווחה על תוצאות דומות, כאשר מודל עם מיליארד פרמטרים עבר כוונון עדין בכ‑1 שעה ו‑45 דקות על iPhone 16, והרצות ניסיוניות דחפו את המודלים עד ל‑13 מיליארד פרמטרים על גבי המכשיר.

המסגרת גם הראתה שיפורים מדידים במהירות האינפרנס (inference), כאשר מעבדים גרפיים ניידים סיפקו ביצועים הגבוהים פי שניים עד פי 11 מאלה של מעבדים מרכזיים (CPU), לפי מדדי הבדיקה הפנימיים של Tether.

יעילות זיכרון היא נקודת מכירה מרכזית נוספת, כאשר Bitnet-1B משתמש בעד 77.8% פחות VRAM בהשוואה למודלים דומים בני 16 ביט, ויותר מ‑65% פחות מארכיטקטורות נפוצות אחרות—מה שמאפשר למודלים גדולים יותר לרוץ על חומרה מוגבלת.

Tether מסרה כי המערכת מאפשרת גם כוונון עדין מסוג LoRA על חומרה שאינה של Nvidia לראשונה בקטגוריה זו—מהלך שעשוי להפחית את התלות בשבבים ייעודיים ובשירותי ענן, תוך שמירה על נתונים רגישים המאוחסנים מקומית על מכשירי המשתמשים.

החברה הוסיפה כי הגישה עשויה להפוך למידה פדרטיבית (federated learning) למעשית יותר, בכך שהיא מאפשרת לאמן מודלים על פני מכשירים מבוזרים מבלי לרכז את הנתונים—תחום שמושך עניין גובר בפיתוח בינה מלאכותית ממוקד פרטיות.

“באמצעות אפשרות לאימון משמעותי של מודלים גדולים על חומרת צרכנים, כולל סמארטפונים, QVAC של Tether מוכיח שבינה מלאכותית מתקדמת יכולה להיות מבוזרת, מכילה ומעצימה עבור כולם,” אמר מנכ”ל Tether, פאולו ארדואינו, בהצהרה, והוסיף כי החברה מתכננת המשך השקעה בתשתיות בינה מלאכותית על גבי מכשירים.

הפרסום הטכני, כולל מדדי ביצועים ופרטי יישום, פורסם דרך Hugging Face, מה שמאותת על מאמץ להגיע ישירות למפתחים במקום להציב את הטכנולוגיה מאחורי מערכות קנייניות.

שאלות נפוצות 🔎

• מהי מסגרת הבינה המלאכותית החדשה של Tether?
  QVAC Fabric של Tether מציגה מערכת חוצת פלטפורמות לאימון ולהרצה של מודלי Bitnet AI על מכשירי צרכנים כמו טלפונים ומחשבים ניידים.
• האם סמארטפונים באמת יכולים לאמן מודלי בינה מלאכותית?
  כן, מדדי הבדיקה של Tether מראים שניתן לבצע כוונון עדין למודלים עם מיליארד פרמטרים על מכשירים כמו Samsung S25 ו‑iPhone 16 בתוך שעות.
• למה זה חשוב למפתחים בארה”ב?
  זה מפחית את התלות בתשתיות ענן יקרות וב‑GPU ייעודיים, מוריד עלויות ומגדיל את הנגישות לפיתוח בינה מלאכותית.
• מה הופך את Bitnet לשונה ממודלים אחרים?
  BitNet משתמש בארכיטקטורה של 1 ביט שמפחיתה משמעותית את השימוש בזיכרון ומשפרת את היעילות בהשוואה למודלים מסורתיים של 16 ביט.