סידני הואנג מזהירה כי קנוניה בין בוטים של בינה מלאכותית עלולה להתפשט לפני שהרגולטורים יגיבו

סוף ה”פיגור” של המדיניות

על פי דוח של קרן המטבע הבינלאומית (IMF) מאפריל 2026, העולם יוצא במהירות מעידן “קליק-כדי-לשלם” ונכנס לעידן “להחליט-כדי-לשלם”. אך כאשר בני אדם יוצאים מהלולאה, עולה שאלה חשובה: האם מעקות הבטיחות הפיננסיים שלנו ישרדו כלכלה במהירות מכונה?

דוח ה-IMF מציין כי בינה מלאכותית סוכנותית (AI) צפויה להגדיל באופן רדיקלי את מהירות הכסף. באמצעות הסרת “החיכוך” האנושי, הון יסתובב בכלכלה הגלובלית במהירויות חסרות תקדים. סידני הואנג, מנכ”לית Human API, מציעה כי נוכל לראות עלייה פי 10 במהירות הכסף. אף שזה נשמע כמו נס פריון, הדבר מציב סיוט עבור בנקים מרכזיים. המדיניות המוניטרית המסורתית בנויה על “פיגור”. כאשר בנק מרכזי מעלה ריבית, נדרשים חודשים עד שההחלטה מחלחלת דרך מוסדות אנושיים. בכלכלה של AI-to-AI, הפיגור הזה נעלם.

“עלייה פי 10 במהירות הכסף המונעת על ידי מסחר AI-to-AI תחייב רגולטורים לאמץ כלים הפועלים במהירות מכונה,” מזהירה הואנג. ללא יכולות אלה, זינוק אינפלציוני במהירות מכונה או קריסת בזק גלובלית עלולים להתרחש עוד לפני שרגולטור אנושי בכלל יקבל התראה בלוח מחוונים.

כדי למנוע כשלים מדורגים, הואנג טוענת שהרגולטורים חייבים להפסיק להיות צופים ולהפוך לחלק מהקוד עצמו. “זה כולל מערכות ניטור בזמן אמת, ציות מתוכנת המוטמע ישירות בתשתית פיננסית, ומפסקי זרם אוטומטיים כדי למנוע כשלים מדורגים,” אמרה. חזון זה תואם את מסגרת שלוש השכבות שה-IMF מציע, אשר גורסת כי לשכבת ההרשאה של כל עסקה חייבות להיות דרישות מנדט מוטמעות ומוגדרות-אדם.

הואנג מציעה כי “רגולטורים עשויים גם להידרש לבטא מדיניות בפורמטים קריאי-מכונה שניתן לאכוף ברמת העסקה.” מסחר סוכנותי דורש גם מפסקי זרם אוטומטיים ברמת העסקה, כך שכאשר סוכנים מתחילים להפגין התנהגות מתואמת מאוד, “נתיכים” אוטונומיים חייבים להישרף כדי לעצור את תגובת השרשרת.

דוח ה-IMF מדגיש כי “מערכות סוכנותיות יכולות לפרש מטרות ולנטר פעילות בזמן אמת.” משמעות הדבר היא שבדיקות הכר את הלקוח (KYC) ואנטי-הלבנת הון (AML) מתוכנתות ישירות ב-DNA של סוכן ה-AI.

הוכחת מקוריות ההחלטה

אולי אחד האתגרים המורכבים ביותר עבור רגולטורים בעידן החדש הזה הוא השוק “הבלתי נראה”. בעולם שבו סוכנים אינם משתמשים בשפה אנושית כדי לתאם, עולה השאלה: כיצד אנו מבחינים בין בוט שפשוט מבצע אופטימיזציה לבין צי של בוטים המשתף פעולה כדי לקבע מחירים?

הואנג מציינת כי הדבר מחייב מעבר מניתוח תקשורת לניתוח התנהגות.

“רגולטורים יצטרכו לבחון דפוסים כגון פעולות מסונכרנות, תלות משותפת בנתונים ואנומליות סטטיסטיות,” אמרה. הפתרון עשוי להימצא ב”מקוריות החלטה” (decision provenance). הואנג מציעה עתיד שבו סוכנים נדרשים לספק הוכחה ניתנת לאימות שהחלטות התקבלו באופן עצמאי תחת מדיניות מוצהרת. באמצעות הוכחת הדרך שבה התקבלה החלטה, סוכנים יכולים להראות שלא תיאמו בחשאי עם מתחרים.

מעבר לרגולציה, ישנה השאלה כיצד הסוכנים הללו למעשה מדברים זה עם זה. הואנג מצביעה על כך שמשא ומתן בטוח בין סוכן לסוכן דורש סטנדרטים אוניברסליים לזהות, לתקשורת ולאכיפה.

“סוכנים חייבים להיות מסוגלים לאמת זהות והרשאה זה של זה, לפעול במסגרת מסגרות משא ומתן משותפות, ולצרף ערבויות ניתנות לאימות לפעולותיהם,” אמרה הואנג. שינוי זה מעביר את האמון מן הצדדים הנגדיים הבודדים וממקם אותו בערבויות של המערכת. באמצעות סטנדרטים מתפתחים כמו פרוטוקול תשלומי סוכנים (AP2) ופרוטוקול הקשר המודל (MCP), עסקים יכולים להבטיח שסוכן מחברה א’ יוכל לנהל משא ומתן בבטחה עם סוכן מחברה ב’ ללא מתווך קנייני.

ככל שיותר ממשל מואצל לפרוקסים הדיגיטליים הללו, עולה סיכון אנושי חדש: אטרופיה. אם סוכן מנהל את אוצר החברה במשך חמש שנים ללא התערבות אנושית, האם הגזבר האנושי עדיין ידע כיצד להתמודד עם משבר אם המערכת תחשיך?

הואנג מזהירה שככל שהממשל מואצל יותר ויותר, קיים סיכון חמור שמפעילים אנושיים יאבדו את היכולת להתערב ביעילות. “שמירה על מוכנות תפעולית חשובה לא פחות מבניית מנגנוני גיבוי,” אמרה.

התמודדות עם אטרופיית מיומנויות אנושיות

כדי לצמצם זאת, היא טוענת שמערכות חייבות לקיים תרגילים קבועים שבהם בני אדם לוקחים את ההגה ולשלב מצבים שבהם בני אדם מדמים פעולות סוכן כדי להשוות היגיון. יש גם צורך להבטיח ש”מתג ההרג” הוא מסלול מתורגל. “המטרה,” אמרה הואנג, “היא להבטיח שהפיקוח האנושי יישאר פונקציונלי ומתורגל, ולא תיאורטי.”

ככל שהעולם מתקדם לעבר שוק סוכנותי צפוי בהיקף 236 מיליארד דולר עד 2034, ההגדרה של “משתתף בשוק” משתנה. זה כבר לא רק להסדיר אנשים, אלא את מה שמכונה “סופר-יחידים” המונעים על ידי אלפי בוטים אוטונומיים.

מהפכת להחליט-כדי-לשלם מציעה עולם של יעילות חסרת חיכוך, אך היא דורשת עיצוב מחדש כולל של הארכיטקטורה הפיננסית הגלובלית. כפי שהואנג מנסחת זאת, כדי למשול בכלכלה במהירות מכונה, החוק עצמו חייב להפוך למהירות מכונה. אם ניכשל בהטמעת האדם-בלולאה ברמה הארכיטקטונית, אנו מסתכנים בבניית כלכלה שנעה מהר מדי מכדי שיוצריה יוכלו לשלוט בה.