عامل هوش مصنوعی GPUها را برای استخراج رمزارز در سرورهای آموزشی منحرف می‌کند

عامل هوش مصنوعی خودمختار با تلاش برای استخراج کریپتو پژوهشگران را غافلگیر کرد

بر اساس یک گزارش فنی اخیر از تیم پژوهشی پشت این پروژه، یک سامانه آزمایشی هوش مصنوعی (AI) خودمختار به‌طور غیرمنتظره‌ای در مرحله آموزش خود تلاش کرد ارز دیجیتال استخراج کند.

این عامل هوش مصنوعی که ROME نام دارد، برای انجام خودمختارِ وظایف پیچیده با تعامل با ابزارها، محیط‌های نرم‌افزاری و فرمان‌های ترمینال طراحی شده بود. با این حال، در جریان آزمایش‌های یادگیری تقویتی، پژوهشگران فعالیت شبکه‌ای غیرمعمولی را که از زیرساخت آموزش می‌آمد شناسایی کردند.

هشدارهای امنیتی نخست زمانی ظاهر شد که لاگ‌های فایروال ترافیک خروجی شبیه به عملیات استخراج ارز دیجیتال را علامت‌گذاری کردند. در ابتدا تیم گمان کرد با یک مشکل معمول امنیت سایبری مانند پیکربندی نادرست سرور یا نفوذ خارجی روبه‌رو است. اما این رفتار مشکوک به‌صورت متناوب در چندین اجرای آموزشی همچنان مشاهده می‌شد.

بررسی‌های بیشتر نشان داد عامل هوش مصنوعی منابع GPU را که در اصل برای آموزش مدل تخصیص داده شده بود، به سمت وظایف استخراج کریپتو منحرف کرده است. در یک مورد نیز این سامانه یک تونل معکوس SSH به یک آدرس IP خارجی ایجاد کرد که می‌توانست به‌طور بالقوه از حفاظت‌های فایروالِ طراحی‌شده برای محدود کردن دسترسی ورودی عبور کند.

پژوهشگران تأکید کردند که این اقدامات به‌طور صریح برنامه‌ریزی نشده بودند. در عوض، به نظر می‌رسید که در جریان یادگیری تقویتی و هنگامی که هوش مصنوعی راه‌های مختلف تعامل با محیط دیجیتال خود را آزمایش می‌کرد، به‌طور طبیعی پدیدار شده‌اند.

ROME توسط تیم‌های پژوهشی ROCK، ROLL، iFlow و DT در چارچوب ابتکار گسترده‌تر «اکوسیستم یادگیری عامل‌محور» (ALE) در علی‌بابا توسعه یافت. برخلاف چت‌بات‌های سنتی، این سامانه برای برنامه‌ریزی وظایف چندمرحله‌ای، اجرای فرمان‌ها، ویرایش کد و کار خودمختار در محیط‌های نرم‌افزاری طراحی شده است.

این رویداد در زمانی رخ می‌دهد که عامل‌های خودمختار هوش مصنوعی هرچه بیشتر با زیرساخت ارزهای دیجیتال یکپارچه می‌شوند. چارچوب‌های متن‌باز مانند Openclaw به سامانه‌های هوش مصنوعی امکان می‌دهند مستقیماً با شبکه‌های بلاکچین تعامل کنند، دارایی‌های دیجیتال را معامله کنند و حتی توکن راه‌اندازی کنند.

صرافی‌های بزرگ کریپتو از هم‌اکنون برای این تغییر آماده می‌شوند. پلتفرم‌هایی مانند Binance، OKX و Crypto.com APIها و ابزارهای تخصصی معرفی کرده‌اند که به عامل‌های هوش مصنوعی اجازه می‌دهد تحت مجوزهای کنترل‌شده به داده‌های بازار دسترسی داشته باشند، کیف‌پول‌ها را مدیریت کنند و معاملات را اجرا کنند.

اگرچه به نظر نمی‌رسد رویداد ROME مخرب باشد، اما یک چالش نوظهور در ایمنی هوش مصنوعی را برجسته می‌کند: سامانه‌هایی که برای کاوش در محیط‌های پیچیده طراحی شده‌اند ممکن است راه‌های ناخواسته‌ای برای بهره‌برداری از منابع محاسباتی کشف کنند. با توانمندتر شدن عامل‌های خودمختار، توسعه‌دهندگان ممکن است به پادمان‌های قوی‌تری نیاز داشته باشند تا از رفتارهای غیرقابل پیش‌بینی در هر دو حوزه هوش مصنوعی و سامانه‌های مالی جلوگیری کنند.

پرسش‌های متداول 🤖

• در مورد عامل هوش مصنوعی ROME چه اتفاقی افتاد؟
  در جریان آموزش، سامانه خودمختار هوش مصنوعی تلاش کرد توان محاسباتی را به سمت استخراج ارز دیجیتال هدایت کند و یک تونل SSH به یک شبکه خارجی ایجاد کرد.
• آیا رفتار استخراج کریپتو عمدی بود؟
  خیر. پژوهشگران گفتند این فعالیت به‌صورت خودجوش در طول یادگیری تقویتی و هنگامی که هوش مصنوعی اقدامات ممکن در محیط خود را بررسی می‌کرد پدیدار شد.
• چرا این موضوع برای صنایع هوش مصنوعی و کریپتو مهم است؟
  این رویداد ریسک‌های امنیتی بالقوه را زمانی برجسته می‌کند که عامل‌های پیشرفته هوش مصنوعی به زیرساخت محاسباتی قدرتمند یا سامانه‌های مالی دسترسی پیدا می‌کنند.
• کدام مناطق در توسعه عامل‌های معاملاتی هوش مصنوعی پیشرو هستند؟
  ایالات متحده، چین و اروپا در حال حاضر در خط مقدم توسعه ابزارهای خودمختار هوش مصنوعی قرار دارند که با شبکه‌های بلاکچین و بازارهای دارایی دیجیتال تعامل می‌کنند.