מומחה AI: פרוטוקולי אמת יכולים להפוך ל-SSL של עידן המידע

הטעיה וסכנותיה

שנת 2024 שימשה כאזהרה חמורה לגבי הסכנות שהבינה מלאכותית (AI) עשויה להוות אם לא יושמו אמצעי בטיחות. ברחבי העולם, מהתהליך הדמוקרטי המאסיבי של הודו ועד האקלים הפוליטי המתוח בטייוואן, מסעי הטעיה שנוצרו על ידי AI השאירו חותמם.

בטייוואן, עוגני חדשות מזויפים באמצעות Deepfake טשטשו את הגבול בין מציאות לבדיה, בעוד שבארצות הברית, אודיו מזויף של הנשיא ביידן כביכול מעודד את הדמוקרטים בניו המפשייר לא להצביע הדגים את קלות הפוליטית שבאמצעותה ניתן לנצל את ה-AI למניפולציה. הכמות והמומחיות העצומה של המדיה הסינתטית הזו השאירו רבים מרגישים אבודים בים של חוסר ודאות, מתקשים להבחין בין עובדה לבדיה.

עם זאת, כמה מומחים, כמו יניק מייסון, מייסד ומנכ”ל רשת Swarm, טוענים שהבעיה עמוקה יותר ממניפולציה אלקטורלית. הוא מציין פסיכוזה הנגרמת על ידי AI, תופעה מטרידה שבה אנשים מפתחים אשליות גרנדיוזיות, שתואמות כמה מחקרים לאינטראקציות מורחבות עם בוטי צ’אט של AI. עלות הפסיכוזה הנגרמת על ידי AI הייתה עצומה; חלק איבדו עבודות, בעוד אחרים סיימו בטיפול פסיכיאטרי.

“כפי ש-Dapefakes מנצל את קיצורי העיבוד החזותיים שלנו, פסיכוזה על ידי AI מנצלת את הפגיעות הפסיכולוגיות שלנו, בעוד שבוטי הצ’אט משמשים כהדהודים מושלמים המאמתים ומגברים מחשבות דלוזיות,” אמר מייסון.

פתרונות מרכזיים לעומת מבוזרים

מייסון מאמין שמדידות תגובתיות נוכחיות, כגון יוזמות בדיקת עובדות טלאים, פשוט אינן מספיקות כדי להילחם בבעיה שהולכת וגדלה. “מה שהתעשייה מתחילה להבין הוא שטלאי בדיקות עובדות לא יכולים להתמודד עם מהירות המדיה הסינתטית או המניפולציה הפסיכולוגית של מערכות AI,” הוא טוען.

הפתרון שלו, מגולם ברשת ה-Swarm, הוא פרואקטיבי: הטמעת אימות בקנה מידה. זה כולל קביעת מקור בנקודה מאוד של יצירת תוכן, הבטחת שיכול להיות לעקוב אחרי המקור של מידע דיגיטלי ולאמת אותו. יתר על כן, מייסון תומך במערכות אימות מבוזרות, שבהן המידע נבדק ומאומת כשהוא מתפשט בתחום הדיגיטלי.

חזון זה של “תשתית אמת” חזקה מהדהד עם חשש גובר בתעשיית הבינה המלאכותית. ככל שהטכנולוגיה ממשיכה להתקדם בקצב מהיר, ההשלכות האתיות והחברתיות של ניצולה הפורע הופכים ברורים יותר ויותר. היסוס באמון במידע דיגיטלי, שהוזן באמצעות שקריות שנוצרו על ידי AI, מהווה איום משמעותי על תהליכים דמוקרטיים, קוהזיה חברתית ואפילו בריאות נפשית אישית.

כדי להילחם בכך, יש שקראו לתגובה רגולטורית, בהתבסס על מקרים בעבר שבהם זה היה כלי חיוני להגנה על משתמשים מפני סיכונים פוטנציאליים הקשורים לטכנולוגיות מתפתחות. עם זאת, מבקרים מזהירים שזה עלול להיות בעל ההשפעה הלא רצויה של חנק החדשנות, עמדה שנראה שמייסון מסכים איתה.

“הרגולציה יכולה לעזור, אבל רק אם היא נמנעת מהמלכודת של המרכזיות של האמת. ראינו ממשלות שמנצלות חוקי ‘הטעיה’ להעצמת דיבייט,” אמר מנכ”ל רשת Swarm.

לתמוך בטענה זו, מייסון הפנה לכך שבירוקרטים של האיחוד האירופי (EU) מדווחים שהם משתמשים בחוק שירותים דיגיטליים של האיחוד האירופי (DSA), שמחייב את הסרת תוכן “מזיק” מוגדר באופן רחב, כ”כלי לרסן דיון פתוח ברחבי העולם.” מייסון טוען שחוק ה-AI של האיחוד האירופי יוצר גם בעיות דומות.

במקום לחוקק חלקים כמו DSA או חוק AI, מייסון ממליץ במקום על אכיפה של שקיפות, תיוג ברור של מדיה סינתטית, וסטנדרטים פתוחים של מקור כמו C2PA. “חוקים צריכים לאכוף הוכחות, לא דעות,” הוא טען.

עתיד האימות

לפי המנכ”ל, פלטפורמות מדיה חברתית מרכזיות כמו מטה וטיקטוק מכירות בכך והן עברו לגישות יותר מבוזרות לבדיקות עובדות.

“המעבר הזה מייצג הכרה יסודית בכך שבדיקות עובדות מרכזיות יוצרות צווארי בקבוק ונקודות כשל יחידות. עתיד האימות של התוכן אינו לגבי מתן ממשלות או תאגידים הכוח להחליט מה נכון,” אמר המנכ”ל.

מייסון מאמין שהמעבר הזה עושה את הפתרונות מהסוג שמציעה רשת ה-Swarm חיוניים. במקום להסתמך על קומץ של בודקי עובדות מרכזיים, ה-Swarm משתמש ב”סוכני AI שעובדים לצד בודקים אנושיים כדי ליצור רשומת פעולות ניתנת לבדיקה, על שרשרת, של טענות מאומתות.”

באמת, סוכני AI עוברים במהירות ממושגים תיאורטיים ליישומים מעשיים, ומשנים באופן מהותי את האופן שבו פעילותם מתבצעת בתחומים שונים. היתרון העיקרי של סוכנים אלו הוא יכולתם לאוטומציה ואופטימיזציה. הם יכולים לעבד כמות עצומה של נתונים בפרק זמן קצר, לזהות דפוסים שהאנושות עשויה להחמיץ, ולהפעיל 24/7 ללא עייפות.

בכל זאת, הכנסת סוכני AI באופן רחב מכניסה אתגרים מורכבים שיש להתמודד עמם בקפדנות. כדי להתגבר על חלק מהאתגרים האלה, מייסון אמר שהגישה של “Swarm היא להפוך את הסוכנים לשותפים שקופים, ולא לאורקלים לא מבוקרים.” הוא הוסיף:

“ב-Swarm, סוכנים מפרקים מידע לטענות קטנות הניתנות לבדיקה, הם מצטלבים ביניהם, וכשהניואנסים נדרשים, האנשים נכנסים פנימה. כל שלב נרשם ובעוגן על השרשרת, כך שהניהול שלהם ניתן להפקה מחדש. בקצרה: אין קופסאות שחורות, אלא שבילים ניתנים לאימות.”

בינתיים, מייסון מאמין כי בחמש השנים הבאות, בדיקת עובדות תתפתח מתהליך ידני לתכונה מובנית של חיים דיגיטליים, וסוכני AI יוערכו על פי שקיפותם, ולא רק על פי המהירות. החזון הסופי הוא להפוך את האמת לשכבה בסיסית של האינטרנט.

“כפי ש-SSL הפכה לברירת המחדל לתעבורת רשת, פרוטוקול אמת יהפוך לברירת המחדל למידע. וכך נשמור על AI מלמנוע את העולם ברעש,” סיכם מייסון.