אבן דרך באימון Bittensor מושכת את תשומת הלב מצד צ'אמת' פאליהאפיטיה ומנכ"ל Nvidia ג'נסן הואנג

המומנטום של בינה מלאכותית בקוד פתוח נבנה עם תמיכת מנכ”ל Nvidia

צ’אמאט פאליהפיטיה האיר זרקור על Covenant-72B של Bittensor במהלך פרק של הפודקאסט All-In, והציג זאת כדוגמה מוחשית לכך שבינה מלאכותית מבוזרת (AI) יוצאת מעבר לתיאוריה. Bittensor פועלת כרשת מבוזרת המונעת בבלוקצ’יין, שמקימה שוק עמית-לעמית שבו מחליפים ומתגמלים מודלים של למידת מכונה ומשאבי חישוב לבינה מלאכותית.

פאליהפיטיה תיאר את המאמץ במילים פשוטות: מודל שפה רחב-היקף (LLM) שאומן ללא תשתית מרכזית, אלא באמצעות רשת של תורמים עצמאיים. “הם הצליחו לאמן מודל LLaMA עם 4 מיליארד פרמטרים, כולו מבוזר, כשחבורה של אנשים תורמים עודפי חישוב”, אמר, וכינה זאת “הישג טכני די מטורף”.

ההשוואה נקשרה לאנלוגיה מוכרת. “יש אנשים אקראיים, וכל אדם מקבל חלק קטן”, הוסיף פאליהפיטיה, בהתייחסו לפרויקט המחשוב המבוזר המוקדם שרתם חומרה פנויה ברחבי העולם.

הואנג לא דחה את הרעיון. במקום זאת, הוא הציב אותו בתוך מסגור רחב יותר של שוק ה-AI, והציע שגישות מבוזרות וקנייניות אינן סותרות זו את זו. “שני הדברים האלה אינם A או B; זה A וגם B”, אמר הואנג. “אין שום ספק לגבי זה”.

החזון הדו-מסלולי הזה משקף פער—וגם חפיפה—הולכים וגדלים בתוך עולם ה-AI. מצד אחד יש מערכות סגורות ומלוטשות מאוד כמו ChatGPT, Claude, ו-Gemini. מצד שני יש מודלים בעלי משקולות פתוחות ומודלים מבוזרים שמאפשרים למפתחים ולארגונים להתאים מערכות לצרכים ספציפיים.

הואנג הבהיר שהוא רואה בשני המסלולים חיוניים. “מודלים הם טכנולוגיה, לא מוצר”, אמר, וציין שרוב המשתמשים ימשיכו להסתמך על מערכות כלליות ומלוטשות במקום לבנות משלהם מאפס.

בו-בזמן, הוא הצביע על תעשיות שבהן התאמה אישית אינה אופציונלית. “יש את כל התעשיות הללו שבהן המומחיות הדומיינית שלהם… חייבת להיתפס באופן שהם יכולים לשלוט בו”, הסביר הואנג, והוסיף ש”זה יכול לבוא רק ממודלים פתוחים”.

האמירה הזו נוחתת בדיוק במגרש הביתי של Bittensor. Covenant-72B, שפותח באמצעות Subnet 3 (Templar) שלה, מייצג אחד מהגדולים ביותר מבצעי האימון המבוזר עד היום, תוך תיאום של יותר מ-70 תורמים דרך חיבורי אינטרנט סטנדרטיים וללא סמכות מרכזית.

מבחינה טכנית, המודל דוחף גבולות. הוא בנוי עם 72 מיליארד פרמטרים ואומן על כ-1.1 טריליון טוקנים, והוא נשען על חידושים כגון פרוטוקולי תקשורת דחוסים ומקביליות נתונים מבוזרת כדי להפוך את האימון לבר-קיימא מחוץ למרכזי נתונים מסורתיים.

מדדי הביצועים מצביעים על כך שזה לא רק ניסוי. תוצאות הבנצ’מרק מציבות אותו בתחרות מול מודלים מרכזיים מבוססים, פרט שמסייע להסביר מדוע הפרויקט משך תשומת לב מעבר לקהלים ילידי-קריפטו.

גם השוק שם לב. בעקבות ההכרזה, הטוקן של הפרויקט TAO עלה ב-24% מאז שהסרטון של פאליהפיטיה והואנג הופץ ברשתות החברתיות.

ובכל זאת, דבריו של הואנג מרמזים שהסיפור האמיתי אינו שיבוש, אלא דו-קיום בין השניים. מערכות AI קנייניות ככל הנראה יישארו דומיננטיות עבור משתמשים כלליים, בעוד שמודלים פתוחים ומבוזרים ימצאו לעצמם תפקידים ביישומים ייעודיים, רגישי-עלות או מונעי-ריבונות.

עבור סטארטאפים, מנכ”ל Nvidia התווה ספר משחק פרגמטי: להתחיל פתוח, ואז להוסיף שכבות של יתרונות קנייניים. “כל סטארטאפ שאנחנו משקיעים בו עכשיו הוא קודם כול קוד פתוח, ואז עובר למודל הקנייני”, אמר.

במילים אחרות, עתיד ה-AI אולי לא יהיה שייך לארכיטקטורה אחת או לפילוסופיה אחת. הוא עשוי להיות שייך למי שיודעים לנווט בין שתיהן—ויודעים מתי להשתמש בכל אחת.

שאלות נפוצות 🔎

• מהו Covenant-72B של Bittensor?
  מודל שפה עם 72 מיליארד פרמטרים שאומן באמצעות רשת מבוזרת של תורמים ללא תשתית מרכזית.
• מה אמר ג’נסן הואנג על בינה מלאכותית מבוזרת?
  הוא אמר שמודלי AI פתוחים וקנייניים יתקיימו זה לצד זה, ותיאר את הקשר כ-“A וגם B”, ולא כבחירה ביניהם.
• למה ההתפתחות הזו חשובה?
  היא מראה שניתן לאמן מודלי AI בקנה מידה גדול מחוץ למרכזי נתונים מסורתיים, ומאתגרת הנחות לגבי צורכי תשתית.
• איך זה משפיע על תעשיית ה-AI?
  זה תומך בעתיד היברידי שבו פלטפורמות מרכזיות ומודלים מבוזרים ממלאים תפקידים שונים בתעשיות שונות.