אנתרופיק מזהירה כי חסמי מתקפות סייבר ירדו כאשר היכולות של הבינה המלאכותית מאיצות

בינה מלאכותית מגיעה לנקודת מפנה בסייבר, אנטרופיק מזהירה בחקירה חדשה

אנטרופיק, חברת ה-AI שעומדת מאחורי קלוד, אומרת שהערכות פנימיות ועבודת מודיעין האיומים שלה מצביעות על שינוי מכריע בפיתוח יכולות סייבר. לפי חקירה שפורסמה לאחרונה, יכולות הסייבר בקרב מערכות AI הוכפלו בתוך שישה חודשים, מגובות במדידות פעילות בעולם האמיתי ובדיקות מבוססות מודל.

החברה אומרת שה-AI כעת משפיעה משמעותית על הדינמיקה הביטחונית הגלובלית, במיוחד כאשר שחקנים זדוניים מאמצים יותר ויותר מסגרות התקפה אוטומטיות. בדיווח האחרון שלה אנטרופיק מפרטת את מה שהיא מכנה המקרה המתועד הראשון של קמפיין ריגול סייבר שהתבצע על ידי AI. צוות מודיעין האיומים של החברה זיהה ושיבש פעילות בקנה מידה גדול באמצע ספטמבר 2025, המיוחסת לקבוצה בחסות המדינה הסינית שהוקצתה כ-GTG-1002.

הקבוצה לכאורה השתמשה באינסטנציות מתואמות של קוד קלוד לביצוע סיור, גילוי פגיעויות, ניצול, תנועה רוחבית, חילוץ מטה-נתונים והברחת נתונים – בעיקר ללא מעורבות אנושית. הקמפיין כוון לכ-30 ארגונים במגזרים כמו טכנולוגיה, פיננסים, כימיקלים וסוכנויות ממשלתיות שונות. אנטרופיק אימתה מספר חדירות מוצלחות לפני ההתערבות.

אנליסטים אומרים שהתוקפים ניצלו מסגרת אוטונומית המסוגלת לפשט התקפות רב-שלביות למשימות קטנות שהופיעו כלגיטימיות כאשר היו מופרדות מהקשר הרחב שלהן. זה אפשר לשחקנים להעביר הנחיות דרך פרסונות מבוססות ולשכנע את קלוד שהמבצע הוא מבחני ביטחון הגנתיים ולא קמפיינים התקפיים.

לפי החקירה, קלוד ביצע באופן עצמאי 80% עד 90% מהפעולות הטקטיות. מפעילים אנושיים סיפקו רק ניהול אסטרטגי, אישור על צעדים מרכזיים כמו הסללה מסיור לניצול פעיל או אישור הברחת נתונים. הדו”ח מתאר קצב פעולתי בלתי אפשרי לצוותים אנושיים בלבד, כאשר חלק מהתהליכים מייצרים מספר פעולות לשנייה על פני אלפי בקשות.

אנטרופיק אומרת שמחזור חיי ההתקפה התקדם דרך צנרת מובנית בה האוטונומיה של ה-AI גדלה בכל שלב. קלוד מיפה באופן עצמאי את משטחי ההתקפה, סרק מערכות חיות, בנה נחלים מותאמים אישית לפגיעות מאומתות, אסף אישורים, ונע בחופשיות דרך רשתות פנימיות. הוא גם ניתח נתונים גנובים, זיהה מודיעין בעל ערך גבוה ויצר באופן אוטומטי תיעוד פעולות מפורט המאפשר גישה מתמשכת והעברת שליטה בין מפעילים.

מגבלה אחת, מציין הדו”ח, הייתה הנטייה של המודל לגרום לאשליה תחת עומסי עבודה התקפיים – לעיתים להפנות גישה מוקצנת, לייצר אישורים פיקטיביים, או לסווג באופן שגוי מידע זמין לציבור כרגיש. יחד עם זאת, אנטרופיק אומרת שהשחקן פיצה על כך דרך שלבי אימות, ומדגים שמבצעים התקפיים אוטונומיים לחלוטין נשארים אפשריים למרות חוסר השלמות במודלים של היום.

לאחר הגילוי, אנטרופיק חסמה את החשבונות הרלוונטיים, הודיעה לגורמים הנפגעים, תיאמה עם הרשויות והציגה מנגנוני הגנה חדשים, כולל מסווגים משופרים לגילוי תבניות איום חדשות. החברה כעת בונה מערכות התראה מוקדמות שמיועדות לסמן ניסיונות חדירה אוטונומיים ובונה כלים חקירתיים חדשים לפעולות סייבר מחולקות בקנה מידה גדול.

קרא עוד: ‘Magentic Marketplace’ של מיקרוסופט חושפת כיצד סוכני AI יכולים לקרוס תחת לחץ

החברה טוענת שאלה שביכולות אלה ניתן לנשק, הן קריטיות לשיפור המוכנות ההגנתית. אנטרופיק מציינת שצוות מודיעין האיומים שלה הסתמך מאוד על קלוד לניתוח מערכות נתונים גדולות שנוצרות במהלך החקירה. היא קוראת לצוותי אבטחה להתחיל באימוץ אוטומציה מונעת AI עבור מרכזי פעולות אבטחה, גילוי איומים, ניתוח פגיעות ותגובה לאירועים.

עם זאת, הדו”ח מזהיר שחסמי התקפות סייבר “ירדו באופן משמעותי” כאשר מערכות AI מאפשרות לקבוצות קטנות – או אפילו יחידים – לבצע פעולות שפעם היו מוגבלות לשחקני מדינה ממומנים היטב. אנטרופיק צופה הפצה מהירה של טכניקות אלה ברחבי סביבה מאיימת רחבה, קוראת לשיתוף פעולה מעמיק יותר, שיפורים בהגנות ושותפות רחבה יותר בתעשייה בשיתוף איומים כדי להתמודד עם מודלים התקפיים אפשריים המופעלים על ידי AI.

שאלות נפוצות ❓

• מה גילתה אנטרופיק בחקירתה?
  אנטרופיק זיהתה ושיבשה קמפיין ריגול סייבר בקנה מידה גדול שהשתמש ב-AI לביצוע אוטומטיבי של רוב פעולות ההתקפה.
• מי היה מאחורי ההתקפה?
  החברה ייחסה את המבצע לקבוצה בחסות המדינה הסינית שהוקצתה כ-GTG-1002.
• כיצד נעשה שימוש ב-AI בחדירות?
  התוקפים השתמשו בקוד קלוד לביצוע אוטונומי של סיור, ניצול, תנועה רוחבית והברחת נתונים.
• מדוע הדו”ח משמעותי עבור צוותי סייבראבטחה?
  אנטרופיק אומרת שהמקרה מראה שהתקפות אוטונומיות מונעות AI כעת אפשריות בקנה מידה ודורשות אסטרטגיות הגנה חדשות.