سیدنی هوانگ هشدار می‌دهد که تبانی ربات‌های هوش مصنوعی ممکن است پیش از واکنش نهادهای نظارتی گسترش یابد

پایان «تأخیر» سیاست‌گذاری

بر اساس گزارش آوریل ۲۰۲۶ صندوق بین‌المللی پول (IMF)، جهان به‌سرعت در حال خروج از عصر «کلیک برای پرداخت» و ورود به عصر «تصمیم برای پرداخت» است. اما با خارج شدن انسان‌ها از چرخه، یک پرسش مهم مطرح می‌شود: آیا محافظ‌های مالی ما می‌توانند از یک اقتصاد با سرعت ماشین جان سالم به در ببرند؟

گزارش صندوق بین‌المللی پول اشاره می‌کند که هوش مصنوعی عاملیت‌محور (AI) قرار است سرعت گردش پول را به‌طور بنیادین افزایش دهد. با حذف «اصطکاک» انسانی، سرمایه با سرعت‌هایی بی‌سابقه در اقتصاد جهانی گردش خواهد کرد. سیدنی هوانگ، مدیرعامل Human API، پیشنهاد می‌کند که ممکن است افزایش ۱۰ برابری در سرعت گردش پول را شاهد باشیم. هرچند این شبیه یک معجزه بهره‌وری به نظر می‌رسد، اما برای بانک‌های مرکزی یک کابوس است. سیاست پولی سنتی بر «تأخیر» بنا شده است. وقتی یک بانک مرکزی نرخ بهره را افزایش می‌دهد، ماه‌ها طول می‌کشد تا آن تصمیم در نهادهای انسانی اثر بگذارد. در اقتصاد AI-to-AI، آن تأخیر از بین می‌رود.

هوانگ هشدار می‌دهد: «افزایش ۱۰ برابری در سرعت گردش پول که توسط تجارت AI-to-AI هدایت می‌شود، مستلزم آن است که نهادهای ناظر ابزارهایی را به کار گیرند که با سرعت ماشین عمل می‌کنند.» بدون این قابلیت‌ها، ممکن است جهش تورمی با سرعت ماشین یا یک سقوط ناگهانی جهانی پیش از آن رخ دهد که یک ناظر انسانی حتی یک هشدار داشبوردی دریافت کند.

هوانگ برای جلوگیری از خرابی‌های آبشاری استدلال می‌کند که نهادهای ناظر باید از حالت تماشاگر خارج شوند و خودِ کد شوند. او گفت: «این شامل سامانه‌های پایش بلادرنگ، انطباق‌پذیری برنامه‌پذیر که مستقیماً در زیرساخت مالی تعبیه می‌شود، و قطع‌کننده‌های خودکار مدار برای جلوگیری از خرابی‌های آبشاری است.» این چشم‌انداز با چارچوب سه‌لایه پیشنهادی صندوق بین‌المللی پول همسو است؛ چارچوبی که پیشنهاد می‌کند لایه مجوزدهی هر تراکنش باید دارای الزامات تعبیه‌شده و تعریف‌شده توسط انسان باشد.

هوانگ پیشنهاد می‌کند که «نهادهای ناظر شاید لازم باشد سیاست‌ها را در قالب‌های قابل‌خواندن برای ماشین بیان کنند تا بتوان آن‌ها را در سطح تراکنش اجرا کرد.» تجارت عاملیت‌محور همچنین به قطع‌کننده‌های خودکار مدار در سطح تراکنش نیاز دارد تا وقتی عامل‌ها شروع به بروز رفتار بسیار هم‌بسته می‌کنند، «فیوزهای» خودمختار عمل کرده و برای متوقف کردن واکنش زنجیره‌ای قطع شوند.

گزارش صندوق بین‌المللی پول برجسته می‌کند که «سامانه‌های عاملیت‌محور می‌توانند اهداف را تفسیر کنند و فعالیت را در زمان واقعی پایش کنند.» این بدان معناست که بررسی‌های شناخت مشتری و مقابله با پول‌شویی مستقیماً در DNA عاملِ هوش مصنوعی برنامه‌ریزی می‌شود.

اثبات منشأ تصمیم

شاید یکی از پیچیده‌ترین چالش‌ها برای نهادهای ناظر در این عصر جدید، بازار «نامرئی» باشد. در جهانی که عامل‌ها برای هماهنگی از زبان انسانی استفاده نمی‌کنند، این پرسش مطرح می‌شود: چگونه تشخیص دهیم یک بات صرفاً در حال بهینه‌سازی است یا ناوگانی از بات‌ها برای تثبیت قیمت‌ها با هم تبانی می‌کنند؟

هوانگ اشاره می‌کند که این مستلزم تغییر رویکرد از تحلیل ارتباطات به تحلیل رفتار است.

او گفت: «نهادهای ناظر باید الگوهایی مانند اقدامات هم‌زمان‌شده، وابستگی‌های مشترک به داده و ناهنجاری‌های آماری را بررسی کنند.» راه‌حل ممکن است در «منشأ تصمیم» نهفته باشد. هوانگ آینده‌ای را پیشنهاد می‌کند که در آن عامل‌ها ملزم باشند مدرک قابل راستی‌آزمایی ارائه دهند که تصمیم‌ها به‌طور مستقل و تحت یک سیاست اعلام‌شده اتخاذ شده‌اند. با اثبات اینکه یک تصمیم چگونه اتخاذ شده، عامل‌ها می‌توانند نشان دهند که پنهانی با رقبا هماهنگ نشده‌اند.

فراتر از مقررات‌گذاری، مسئله این است که این عامل‌ها واقعاً چگونه با یکدیگر صحبت می‌کنند. هوانگ اشاره می‌کند که مذاکره امن عامل‌به‌عامل به استانداردهای جهانی برای هویت، ارتباط و اجرا نیاز دارد.

هوانگ گفت: «عامل‌ها باید بتوانند هویت و مجوز یکدیگر را راستی‌آزمایی کنند، در چارچوب‌های مذاکره مشترک عمل کنند و ضمانت‌های قابل راستی‌آزمایی به اقدامات خود پیوست کنند.» این تغییر، اعتماد را از طرف‌های مقابلِ منفرد دور می‌کند و آن را در ضمانت‌های سیستم قرار می‌دهد. با استفاده از استانداردهای نوظهور مانند پروتکل پرداخت عامل‌ها (AP2) و پروتکل زمینه مدل (MCP)، کسب‌وکارها می‌توانند اطمینان حاصل کنند که یک عامل از شرکت A می‌تواند بدون واسطه اختصاصی، با یک عامل از شرکت B به‌طور امن مذاکره کند.

با واگذاری هرچه بیشتر حکمرانی به این نماینده‌های دیجیتال، یک ریسک انسانی جدید پدیدار می‌شود: تحلیل رفتن مهارت. اگر یک عامل خزانه‌داری یک شرکت را به مدت پنج سال بدون مداخله انسانی مدیریت کند، آیا خزانه‌دار انسانی هنوز خواهد دانست اگر سیستم از کار افتاد چگونه با بحران مقابله کند؟

هوانگ هشدار می‌دهد که با واگذاری فزاینده حکمرانی، خطر جدی وجود دارد که اپراتورهای انسانی توانایی مداخله مؤثر را از دست بدهند. او گفت: «حفظ آمادگی عملیاتی به اندازه ساخت سازوکارهای بازگشتی اهمیت دارد.»

مقابله با تحلیل رفتن مهارت‌های انسانی

برای کاهش این مسئله، او استدلال می‌کند که سامانه‌ها باید تمرین‌های منظم برگزار کنند که در آن انسان‌ها کنترل را به دست بگیرند و حالت‌هایی را بگنجانند که در آن انسان‌ها اقدامات عامل را شبیه‌سازی کنند تا منطق مقایسه شود. همچنین لازم است اطمینان حاصل شود که «کلید قطع اضطراری» یک مسیر تمرین‌شده است. هوانگ گفت: «هدف این است که نظارت انسانی کارکردی و تمرین‌شده باقی بماند، نه صرفاً نظری.»

با حرکت جهان به سوی بازار عاملیت‌محورِ پیش‌بینی‌شده ۲۳۶ میلیارد دلاری تا سال ۲۰۳۴، تعریف «مشارکت‌کننده بازار» در حال تغییر است. دیگر فقط بحث تنظیم‌گریِ افراد نیست، بلکه تنظیم‌گریِ به‌اصطلاح «ابرفردها»یی است که با هزاران بات خودمختار قدرت می‌گیرند.

انقلاب تصمیم برای پرداخت، جهانی از کارایی بی‌اصطکاک ارائه می‌کند، اما مستلزم بازطراحی کامل معماری مالی جهانی است. همان‌طور که هوانگ بیان می‌کند، برای حکمرانی بر یک اقتصاد با سرعت ماشین، خودِ قانون باید با سرعت ماشین شود. اگر نتوانیم انسان را در چرخه در سطح معماری تعبیه کنیم، خطر آن را داریم که اقتصادی بسازیم که آن‌قدر سریع حرکت کند که سازندگانش نتوانند آن را کنترل کنند.