צ'אטים שלכם עם בינה מלאכותית עשויים להופיע בתוצאות החיפוש של גוגל — תכונת שיתוף אחת הפכה זאת לאפשרי

שיחות AI משותפות הפכו לניתנות לחיפוש

לפי דיווחים, מאות שיחות של Claude AI הופיעו באינטרנט לאחר שמשתמשי Reddit גילו כי חיפוש “site:claude.ai/share” מציף צ’אטים נגישים לציבור הכוללים ייעוץ משפטי, עבודת הנדסה ודיונים אישיים, לפי דיווח של Cyber Security News על צ’אטים משותפים של Claude AI שנחשפו.

Claude הוא עוזר הבינה המלאכותית של Anthropic המשמש לקידוד, כתיבה, מחקר ומשימות במקום העבודה. תכונת השיתוף שלו יוצרת כתובות URL ציבוריות שמשתמשים יכולים לשלוח לאחרים, אם כי הדיווח ציין שלדפים הללו לא היו הגנות שמונעות ממנועי חיפוש לאנדקס אותם לאחר שהקישורים הופצו דרך פורומים, רשתות חברתיות או אתרים ציבוריים אחרים.

תוצאות החיפוש בגוגל עבור הדפים שנפגעו נעלמו במידה רבה, מה שמרמז על הסרה מהירה מהאינדקס או על שינויים מאחורי הקלעים, אם כי קישורים שנשמרו בעבר או סומנו במועדפים עשויים להישאר נגישים אלא אם Anthropic תבטל אותם בצד השרת.

הגילוי חידש את הביקורת על האופן שבו חברות AI מגנות על מידע רגיש. האירוע מגיע חודשים לאחר חשיפה נוספת של קוד מקור של Anthropic הקשורה ל-Claude Code, ומדגיש חששות רחבים יותר לגבי האבטחה והפרטיות של פלטפורמות AI המטפלות בנתוני משתמשים.

מידע רגיש זורם יותר ויותר אל כלי AI

אנשי מקצוע נשענים יותר ויותר על עוזרי AI לצורך סקירת חוזים, איתור באגים בתוכנה קניינית, ניתוח מסמכים עסקיים, ארגון רשומות פיננסיות ודיון בעניינים אישיים — מה שמציב נתונים בעלי ערך בתוך שיחות צ’אטבוט.

נתונים פיננסיים מהווים קטגוריה נוספת של מידע פרטי בסיכון. מחזיק ביטקוין אחד אף הסתמך על Claude במהלך שחזור ארנק אבוד של 5 BTC באמצעות העלאת שנים של קבצי מחשב, מחברות ורשומות גיבוי. המקרה ממחיש כיצד משתמשים נותנים אמון הולך וגובר במערכות AI עם פרטים פיננסיים חסויים שעלולים לחשוף נכסים דיגיטליים אם שיחות או קישורי שיתוף יהפכו לנגישים לציבור.

תנאי הצרכן של Anthropic, העוסקים בשמירת שיחות ואימון מודלים, מסבירים כיצד צ’אטים של צרכנים עשויים להישמר בנסיבות מסוימות ומתווים את מדיניות החברה בנוגע להעדפות אימון המודל. התנאים גם מתארים כיצד משתמשים יכולים לנהל הגדרות נתונים מסוימות, ומדגישים את החשיבות שבהבנת האופן שבו ספקי AI מאחסנים, מעבדים ומשתמשים במידע שמשותף דרך שירותיהם.

מעבר לחשיפה מקרית, תוקפים מנצלים גם את האמון הגובר בפלטפורמות AI באמצעות קמפיינים זדוניים. קמפיין נוזקה בשם Openclaw כיוון לסיסמאות ולארנקי קריפטו באמצעות התחזות לתוכנת AI לגיטימית כדי לגנוב נתוני משתמשים רגישים. הקמפיין מדגיש כיצד עבריינים מנצלים יותר ויותר את הפופולריות של כלי AI, ומחזק את החשיבות שבהרחקת קבצים פרטיים, פרטי התחברות ורשומות פיננסיות משירותים הנגישים לציבור.

רגולטורים ממשיכים לבחון את נהלי הפרטיות של AI

נציבות הסחר הפדרלית של ארה”ב (FTC) הזהירה בהנחיותיה לגבי פרטיות וסודיות ב-AI, כי חברות המפתחות מוצרי AI גנרטיביים צריכות לכבד הבטחות המגדירות כיצד מידע של צרכנים ועסקים נאסף, נשמר ומשמש.

בהמשך הסוכנות פתחה בבדיקה לגבי נוהלי נתונים של צ’אטבוטים מבוססי AI, ובחנה כיצד מספר ספקים אוספים, שומרים, חושפים וממַסְחֵרים מידע שמתקבל דרך שיחות עם צ’אטבוטים. רגולטורים ביקשו פרטים על מדיניות שמירת נתונים, הגנות למשתמשים ואמצעי הגנה פנימיים, בעוד גורמים רשמיים מעריכים האם חוקי פרטיות הצרכן הקיימים מתמודדים כראוי עם האימוץ המהיר של שירותי AI גנרטיביים.

ההשלכות עשויות לגדול ככל ש-Claude ו-ChatGPT מקבלים יכולות onchain, ומרחיבים מערכות AI מעבר ליצירת טקסט אל שירותים פיננסיים מחוברים וניהול נכסים דיגיטליים. כאשר צ’אטבוטים מתחילים לתקשר עם ארנקי מטבעות קריפטוגרפיים, יישומי מימון מבוזר וחשבונות מקוונים אחרים, חששות הפרטיות והאבטחה מתרחבים מעבר להיסטוריית השיחות אל נכסים, עסקאות והרשאות חשבון.

סקירת שיחות משותפות

כל מי שיצר קישורי שיתוף של Claude צריך לסקור שיחות פעילות בתוך הגדרות הפרטיות של הפלטפורמה, להסיר קישורים שכבר אינם נחוצים ולהימנע מפרסום כתובות URL ציבוריות הכוללות חומר חסוי.

רשימות בחיפוש של גוגל עשויות להיעלם במהירות, אולם קישורים שהועתקו, דפים בארכיון, צילומי מסך וסימניות שמורות יכולים להישאר זמינים לאחר שמנועי חיפוש מסירים תוצאות מאונדקסות.

חוקרים גם תיעדו טכניקות תקיפה של סוכני AI היכולות לנצל מערכות מחוברות, ומדגימים כיצד גורמים זדוניים יכולים לתמרן כלי AI שיש להם גישה לדפדפנים, חשבונות דוא”ל, אחסון בענן ושירותים פיננסיים. הממצאים מדגישים את החשיבות שבהגבלת גישת צ’אטבוטים לקבצים רגישים, פרטי התחברות וחשבונות פיננסיים, לצד סקירה סדירה של ההרשאות שניתנו ליישומי AI המשתלבים עם נתונים אישיים או עסקיים.