Certik השיקה פלטפורמת אבטחה חדשה המתוארת כ״אנטי-וירוס לסוכני בינה מלאכותית״, שנועדה להתמודד עם הסיכונים ההולכים וגוברים של שווקים של מיומנויות בינה מלאכותית מצדדים שלישיים שאינם נבדקים.
Certik חושפת “אנטי-וירוס לסוכני בינה מלאכותית” כאשר שוקי מיומנויות מתמודדים עם איומים נסתרים
נכתב ע"י
שתף
נקודות מרכזיות
- Certik השיקה פלטפורמת אבטחה כדי לספק שכבת ״אנטי-וירוס״ עבור אקו-סיסטמות של סוכנים.
- ביקורות מגזריות חושפות סיכונים גבוהים, אך CertiK שואפת להגן על שווקים עם דיוק סריקה של 90.5%.
- Finchip.ai היא בין הפלטפורמות שמרחיבות אינטגרציות לקראת עדכוני סריקה עתידיים המיועדים למשתמשי קצה.
אתגר האבטחה
חברת אבטחת הבלוקצ׳יין והבינה המלאכותית Certik חשפה ב-27 במאי פלטפורמת אבטחה חדשה שנועדה להעריך סיכונים במיומנויות בינה מלאכותית (AI) של צדדים שלישיים. ההשקה, שכונתה ״אנטי-וירוס לסוכני בינה מלאכותית״, מגיעה על רקע דאגה גוברת בתעשייה לגבי אבטחת שווקי מיומנויות בינה מלאכותית.
חוקרי אבטחה הזהירו שרבות מהמיומנויות הללו אינן נבדקות, יכולות לבצע פעולות ברמת מערכת ועשויות להכיל התנהגות זדונית נסתרת — מה שיוצר סיכון חדש בשרשרת אספקת תוכנה לעידן הבינה המלאכותית. ביקורות אבטחה ברחבי המגזר זיהו סיכונים הנעים מאיסוף פרטי גישה וגניבת אישורים והדלפת נתונים, ועד מניפולציה של העברות כספים והתקפות עקיפה המבוססות על פרומפטים.
למרות החששות הללו, שווקי מיומנויות בינה מלאכותית התרחבו במהירות ככל שאקו-סיסטמות של סוכנים מתבגרות. עם זאת, בניגוד לחנויות אפליקציות מסורתיות, רוב המיומנויות מקורן במאגרים ציבוריים עם מעט או ללא בדיקה. אנליסטים אומרים שזה יוצר הזדמנויות לתוקפים לשתול הוראות מזיקות, להפעיל גישה לא מורשית לנתונים או לתמרן זרימות ביצוע אוטונומיות.
בפוסט בבלוג שפורסם לאחרונה, אמרה Certik שפלטפורמת סורק המיומנויות שלה נועדה במיוחד להעריך סיכונים שעולים במהלך הביצוע, כולל תרחישים הכוללים עסקאות פיננסיות או קריאות להעברת כספים. הסורק מפיק ציון מספרי מ-0 עד 100, לצד פסקי דין ״עבר״, ״אזהרה״ או ״נכשל״ וממצאים מסווגים. לפי החברה, המערכת מגיעה עד לדיוק של 90.5% בזיהוי סיכוני אבטחה.
״ככל שסוכני בינה מלאכותית משתלבים עמוק יותר במערכות פיננסיות, בתהליכי עבודה ארגוניים ובאינטראקציות דיגיטליות יומיומיות, מודל האבטחה סביב מיומנויות של צדדים שלישיים הופך לקריטי,״ אמר רונגהוי גו, מנכ״ל Certik ומייסד-שותף. ״CertiK Skill Scanner נבנה כדי לבסס שכבת אמון סטנדרטית לפני הביצוע, ולסייע למשתמשים ולפלטפורמות לזהות סיכונים נסתרים לפני שייחשפו נתונים רגישים, נכסים או מערכות.״
Certik אמרה ששוקי מיומנויות בינה מלאכותית יכולים לשלב את הסורק ישירות בצינורות הפרסום, לבצע סקירה אוטומטית של מיומנויות לפני שהן עולות לאוויר ולהציג למשתמשים פסקי דין אבטחתיים. ארגונים יכולים לפרוס את הכלי כחלק מתהליכי עבודה פנימיים של ציות וניהול סיכונים, בעוד שמפתחים עצמאיים יכולים להשתמש בו כדי לבצע ביקורת עצמית למיומנויות לפני הפרסום.
החברה אמרה שעדכונים עתידיים יאפשרו למשתמשים רגילים לסרוק מיומנויות בעצמם לפני ההתקנה. הסורק כבר נפרס בסביבות תשתית נבחרות של סוכני בינה מלאכותית ב-Web3. Certik גם מרחיבה אינטגרציות עם פלטפורמות נוספות, כולל Finchip.ai.
״אמון הוא תנאי מוקדם לכך שכלכלת מיומנויות תוכל לפעול בהיקף גדול,״ אמר גארי יאנג, משקיע אינקובציה ב-Finchip.ai. ״העבודה של CertiK על אימות אבטחת מיומנויות היא בדיוק מה שהאקו-סיסטמה הזו צריכה. זה מה שהופך את המשימה של Finchip — בעלות והפצה של מיומנויות הניתנות לתכנות — לכדאי לבנות.״
ההשקה מגיעה בעקבות ההתרחבות של Certik לתשתיות אבטחה ממוקדות בינה מלאכותית. מוקדם יותר השנה, החברה הציגה את יוזמת AI Auditor שלה כדי להתמודד עם סיכונים הקשורים למערכות אוטונומיות ולסביבות ביצוע מונעות בינה מלאכותית.
״יישומי בינה מלאכותית נעים לעבר ביצוע אוטונומי יותר ויותר, מה שיוצר קטגוריה חדשה של אתגרי אבטחה ואמון,״ אמר גו. ״אנו מאמינים שתשתית אבטחה לעידן הבינה המלאכותית חייבת לפעול באופן פרואקטיבי, לא ריאקטיבי.״
