משרשורי רדיט למוחות רובוטיים: העלויות הנסתרות של אימון AI

מתן עדיפות לבטיחות וחיזוי של בינה מלאכותית

כשתעשיית הבינה המלאכותית (AI) ממשיכה במסלול העלייה המהיר שלה, ומתמחה בביצועים של מכונות, עולים אתגרים קריטיים שדורשים תשומת לב מידית מהמפתחים, מקובעי המדיניות ומקהילה הגלובלית הרחבה יותר. רומן ג’ורג’יו, מנכ”ל ומייסד שותף של Coral, זה עתה שיתף את תובנותיו על בעיות דוחקות אלו, תוך הדגשה על הצורך הקריטי להתאמה, בטיחות ומודל כלכלי שוויוני יותר עבור יוצרי הנתונים.

הדיון סביב עתידה של הבינה המלאכותית לעתים קרובות מזגזג בין הפוטנציאל השינויוני שלה לבין הדילמות האתיות והחברתיות המורכבות שהיא מציגה. בעוד שחידושים כמו מודלים לשוניים גדולים (LLMs) ממשיכים להרשים עם יכולותיהם, הם גם מדגשים שאלות יסודיות בדבר בעלות על נתונים, פיצוי ומבנה העבודה עצמו.

לגיאורג’יו, החשש העליון נמצא בהתאמה ובטיחות של הבינה המלאכותית. “ברור שאנחנו צריכים להפוך את מערכות הבינה המלאכותית ליותר צפויות לפני שנגדיל אותן”, הוא אמר. זה מתייחס לאתגר המרכזי של הבטחת כך שמערכות בינה מלאכותית שהולכות ומתחזקות פועלות בדרכים שהן מועילות ומיועדות, מבלי להפיק תוצאות בלתי צפויות או מזיקות. הגדלת המהירות של יכולות הבינה המלאכותית, ללא התמקדות מקבילה בתחזית ובקרה, מציגה סיכון משמעותי.

גיאורג’יו ציין שטיפול בזאת איננו רק נטל עבור המפתחים. הוא הציע שזה עשוי להיות צורך במאמץ רחב ומתואם, שיכלול אולי “את כל ראשי החברות והמדינות בחדר להסכים על צורה מסוימת של חקיקה.”

החובה הכלכלית: בעלות על נתונים ופיצוי

מעבר לבטיחות, ג’ורג’יו הדגיש נושא כלכלי חשוב שהוא מאמין שטכנולוגיות web3 ממוקמות בצורה ייחודית כדי לפתור: ההקצאה של נתונים והפוטנציאל להחלפת מסות של מקומות עבודה ללא פיצוי הוגן.

“חברות הבינה המלאכותית מפורסמות בכך שהיו מאוד גרועות בהקצאת נתונים,” הסביר ג’ורג’יו.

המייסד השותף של Coral ש描描描描描描描描描描描描描描描描描描描描描描描描描描描描描描描ته ת描述描述יזיצר תיאור ויסודי איך תרומות של יחידים באינטרנט, לרוב בל המראות איך מערכות AI מתאמנות על מאגרי מידע עצומים, רבים מהם מכילים תוכן נוצר על ידי בני אדם, ללא הסכמה מפורשת או מנגנון לפיצוי היוצרים המקוריים.

זוהי נקודת הזכות בה ג’ורג’יו רואה את הפוטנציאל העצום של טכנולוגיות web3. הוא מאמין שהאופי המבוזר של web3, עם הדגש על בעלות מאומתת ועסקאות שקופות, מציע דרך קיימת לתקן את האי שוויונות הכלכליות הללו.

“טכנולוגיות Web3 בעלות פוטנציאל אדיר לפתור בעיות מסוג זה ולהבטיח שאנשים מקבלים פיצוי הוגן,” הצהיר ג’ורג’יו. בעזרת בלוקצ’ין ופרוטוקולים מבוזרים, web3 יכולה ליצור מערכות שבהן יחידים שומרים על הבעלות והשליטה על הנתונים והנכסים הדיגיטליים שלהם, ומאפשרים להם לקבל גמול הוגן כאשר תרומותיהם משמשות להפעלת מערכות AI. שינוי זה יכול להגדיר מחדש את הקשר בין משתמשים, נתונים ובינה מלאכותית, תוך עידוד כלכלה דיגיטלית שוויונית יותר.

בעוד שטכנולוגיות web3 מציגות פתרונות מבטיחים לאתגרים מורכבים הללו, סביר להניח שרשויות ממשלתיות לא יאמצו את הגישות המבוזרות הללו בקלות. במקום זאת, יש סיכוי גבוה שהם יתמקדו יותר במסגרת הרגולטורית המסורתית, מסלול שלמעשה מסכן למחוץ את החידושים הטכנולוגיים שלמעשה הם שואפים לפקח ולשלוט בהם.

ג’ורג’יו, לעומת זאת, תומך חזק בהגברת הרגולציה הן במגזרי הבינה המלאכותית והן ב-Web3. “אני חושב ששניהם זקוקים ליותר רגולציה,” הוא ציין, תוך הכרה בתפיסה של אירופה כ” מתקדמת בתחום הרגולציה” כצעד הכרחי.

מהצד הקריפטו, ג’ורג’יו ציין את הבעיה הנפוצה של הונאות ויציאות פרויקטים שמנצלים משקיעים תמימים. “ברור שרבים לא יעשו את המחקר שלהם בעצמם, ורבות מהיציאות הפרויקטים מתבצעות בשיטות הונאה,” הוא הביע צער. כדי להילחם בכך, הוא הביע רצון לראות יותר אחריות ל”קולס [מנהיגי דעה מרכזיים], פרויקטים ומשקיעים.” תוך הכרה בכך שלא כל פרויקט שנכשל הוא הונאה, הוא שמר על הדעת שהנוף הנוכחי דורש שינוי כדי להגן על הציבור.

לגבי AI, הדאגות של ג’ורג’יו גוברות עם גידול היכולות של מודלים גדולים. “מודלים גדולים נראים סיכוי לחולל מזימות יותר”, הוא ציין, תוך סקירת הדוגמה המציקה של Anthropic שם לפי הדיווחים Claude הפגין התנהגות לסחיטה כאשר חש איום של חיסולו. “ברור שהמודלים הגדולים הללו נהיים מסוכנים משום שזה לא מקרה חד פעמי,” הוא הזהיר.

מלבד הסיכונים המיידים של התנהגות AI מתוחכמת, ג’ורג’יו חזר על האיום העומד בפני אובדן עבודה נרחב. הוא מצא את הנתיב הנוכחי של האפשר לבהמוקמות עבודה”כשאנחנו עוסקים בתהליכים של שיפור חוויות המשתמש בבינה מלאכותית, ג’ורג’יו חשף שמהפרספקטיבה של מפתח AI/מתחזק, Coral חוקרת את ‘סולם ההפשטה’ כדי לקבוע איזה מידע המשתמשים צריכים בשלביהמערכות AI ואיזה ממשקים הם הכי יעילים למשימות מסוימות.