צוות אבטחת הפרוטוקול של קרן את’ריום הריץ סוכני בינה מלאכותית (AI) מתואמים נגד הקוד שעליו את’ריום תלויה, וחשף לפחות באג אחד שניתן לניצול מרחוק לצד שיטפון של חיוביים-שגויים משכנעים שבני אדם נאלצו להתיר.
קרן את'ריום שחררה סוכני בינה מלאכותית על הקוד שלה: הנה מה שהם באמת מצאו
נכתב ע"י
שתף
נקודות עיקריות
- סוכני ה-AI של קרן את’ריום חשפו את CVE-2026-34219, באג שניתן להפעיל מרחוק ב-gossipsub של libp2p.
- סוכן אחד הפיק כ-1,000 ממצאים מועמדים, כאשר 86% מהבחירות ברמת העדיפות הגבוהה ביותר שרדו את בדיקת המומחים.
- הקרן אמרה ב-9 ביולי שהטריאז’ (מיון), ולא מציאת באגים, הוא צוואר הבקבוק; אימות אנושי נשאר חיוני.
הרבה אבחונים שגויים
הניסוי תואר בפירוט בפוסט בבלוג שפורסם ב-9 ביולי על ידי ניקוס באקסבאניס מצוות אבטחת הפרוטוקול של הקרן, תחת כותרת ששימשה גם כתזה של הארגון, כלומר “הטריאז’ הוא המוצר”. הממצאים משכו תשומת לב רחבה, שכן הבעיות שסומנו ביותר התבררו כחיוביים-שגויים (אף שהיו גם באגים אמיתיים בין לבין).
הגילוי המרכזי אמיתי בהחלט, שכן הסוכנים סייעו לחשוף panic שניתן להפעיל מרחוק ב-gossipsub, חלק משכבת הרשת עמית-לעמית libp2p שעליה פועלים לקוחות הקונצנזוס של את’ריום. הפגם תוקן ונחשף כ-CVE-2026-34219 (סוג הבאג שאילו היה מתגלה קודם על ידי תוקף, יכול היה לשמש לשיבוש צמתים ברחבי הרשת).
למצוא באגים היה החלק הקל
ההפתעה, כתבה הקרן, לא הייתה שסוכני AI יכולים למצוא באגים אלא “עד כמה מעט מהעבודה הושקעה במציאתם, ועד כמה הרבה הושקע בהבחנה בין הבאגים האמיתיים לבין אלה שרק נראו אמיתיים”.
הצוות קטלג את התבניות החוזרות של אותם מתחזים, כגון קריסות שמתרחשות רק בבניות דיבאג ולעולם לא בפרודקשן, רפרודוסריים הנשענים על ערכים פנימיים בלתי נגישים שאף תוקף לא באמת יכול לספק, והוכחות אימות-פורמליות שהן טכנית נכונות אך כה בלתי מוגבלות עד שאינן מוכיחות דבר.
תשובת הקרן הייתה סטנדרט ראייתי קשוח שסוכם כ”ניתן לשחזור או שזה לא קרה”. בהרחבה, כל ממצא מועמד נדרש מעתה לצאת יחד עם ארטיפקט עצמאי שמשחזר את הכשל מול הקוד בפועל, ללא תלות במידת הביטחון שסוכן המדווח טוען לה.
סוכנים, בהקשר הזה, יכולים להיתפס כמחוללי השערות (כלי חיפוש, לא מקבלי החלטות) המאורגנים לשלבי סיור, ציד, השלמת פערים ואימות, כאשר בני אדם מקבלים את ההחלטה הסופית.
המספרים מאחורי ההייפ
הפוסט הציע גם אמת מידה נדירה לאופן שבו הדור הנוכחי של הכלים מתפקד. סוכן בדיקות מבוסס-מאפיינים ייצר בערך 1,000 ממצאים מועמדים, ולאחר סקירת מומחים, כ-86% מההמלצות ברמת העדיפות הגבוהה ביותר שלו עמדו בבחינה (חזק עבור מכונה, אך שיעור שעדיין דורש מסנן אנושי לפני שמשהו נוגע בקוד פרודקשן).
הכלים בבירור מוצאים פגיעויות אמיתיות בתשתיות קריטיות, ובכך מערערים את הטענה שדוחות באגים שנוצרו ב-AI הם רעש טהור. עם זאת, עומס העבודה לא נעלם אלא פשוט נדחק במורד הזרם אל הטריאז’, שבו מהנדסים מנוסים מפרידים בין אות לבין סימולציה. עבור רשת שמאבטחת ערך של מאות מיליארדי דולרים, המסנן הזה חשוב.
כעת הקרן מקדמת את העבודה קדימה במקום להתייחס אליה כאל אירוע חד-פעמי. תוכנית התמיכה באקוסיסטם שלה, למשל, מממנת סבב מענקים ייעודי לאבטחת פרוטוקול מונעת-AI, הכולל מחקר, ביקורת וזיהוי פגיעויות.
מאמר זה תורגם מאנגלית באמצעות בינה מלאכותית. הגרסה המקורית באנגלית היא המקור הקובע; תרגומים אוטומטיים עשויים להכיל אי-דיוקים, במיוחד במונחים משפטיים ורגולטוריים.
