سرتیک از «آنتی‌ویروس برای عامل‌های هوش مصنوعی» رونمایی کرد؛ همزمان بازارهای مهارت با تهدیدهای پنهان روبه‌رو هستند

چالش امنیتی

شرکت امنیت بلاکچین و هوش مصنوعی سرتیک، در 27 مه از یک پلتفرم امنیتی جدید رونمایی کرد که برای ارزیابی ریسک‌ها در مهارت‌های هوش مصنوعی (AI) شخص ثالث طراحی شده است. این عرضه که «آنتی‌ویروس برای عامل‌های هوش مصنوعی» نام گرفته، در میانه نگرانی فزاینده صنعت درباره امنیت بازارهای مهارتِ هوش مصنوعی انجام می‌شود.

پژوهشگران امنیتی هشدار داده‌اند که بسیاری از این مهارت‌ها بدون ارزیابی هستند، می‌توانند اقدامات در سطح سیستم را اجرا کنند و ممکن است رفتار مخرب پنهان داشته باشند؛ امری که یک ریسک جدید زنجیره تأمین نرم‌افزار برای عصر هوش مصنوعی ایجاد می‌کند. ممیزی‌های امنیتی در سراسر این بخش ریسک‌هایی از برداشت/سرقت اعتبارنامه‌ها و استخراج داده‌ها تا دستکاری انتقال وجوه و حملات بازنویسی مبتنی بر پرامپت را شناسایی کرده‌اند.

با وجود این نگرانی‌ها، با بلوغ اکوسیستم‌های عامل‌ها، بازارهای مهارتِ هوش مصنوعی به‌سرعت گسترش یافته‌اند. با این حال، برخلاف فروشگاه‌های اپلیکیشن سنتی، بیشتر مهارت‌ها از مخازن عمومی با بررسی اندک یا بدون بررسی تأمین می‌شوند. تحلیلگران می‌گویند این موضوع فرصت‌هایی برای مهاجمان برای جاسازی دستورالعمل‌های آسیب‌زا، تحریک دسترسی غیرمجاز به داده‌ها یا دستکاری جریان‌های اجرای خودکار ایجاد می‌کند.

سرتیک در یک پست وبلاگ اخیر گفت پلتفرم اسکنر مهارت این شرکت به‌طور خاص برای ارزیابی ریسک‌هایی طراحی شده است که هنگام اجرا پدیدار می‌شوند؛ از جمله سناریوهایی شامل تراکنش‌های مالی یا فراخوانی وجوه. این اسکنر یک امتیاز عددی از 0 تا 100 به‌همراه رأی «قبول»، «هشدار» یا «رد» و یافته‌های دسته‌بندی‌شده تولید می‌کند. به گفته شرکت، این سیستم در شناسایی ریسک‌های امنیتی تا 90.5% دقت دارد.

رونگهویی گو، مدیرعامل و هم‌بنیان‌گذار سرتیک، گفت: «با ادغام هرچه عمیق‌تر عامل‌های هوش مصنوعی در سامانه‌های مالی، گردش‌کارهای سازمانی و تعاملات دیجیتال روزمره، مدل امنیتی پیرامون مهارت‌های شخص ثالث اهمیتی حیاتی پیدا می‌کند.» او افزود: «CertiK Skill Scanner برای ایجاد یک لایه اعتماد استاندارد پیش از اجرا ساخته شده است تا به کاربران و پلتفرم‌ها کمک کند پیش از آنکه داده‌های حساس، دارایی‌ها یا سیستم‌ها در معرض قرار گیرند، ریسک‌های پنهان را شناسایی کنند.»

سرتیک اعلام کرد بازارهای مهارتِ هوش مصنوعی می‌توانند اسکنر را مستقیماً در خط لوله انتشار ادغام کنند، مهارت‌ها را پیش از فعال شدن به‌صورت خودکار بررسی کنند و نتیجه‌های امنیتی را به کاربران نمایش دهند. سازمان‌ها می‌توانند این ابزار را به‌عنوان بخشی از گردش‌کارهای داخلی انطباق و مدیریت ریسک مستقر کنند، و توسعه‌دهندگان مستقل نیز می‌توانند پیش از انتشار از آن برای خودممیزی مهارت‌ها استفاده کنند.

این شرکت گفت به‌روزرسانی‌های آینده به کاربران عادی اجازه می‌دهد پیش از نصب، خودشان مهارت‌ها را اسکن کنند. این اسکنر پیش‌تر در برخی محیط‌های منتخب زیرساخت عامل‌های هوش مصنوعی Web3 مستقر شده است. سرتیک همچنین در حال گسترش ادغام‌ها با پلتفرم‌های بیشتری از جمله Finchip.ai است.

گری یانگ، سرمایه‌گذار بخش پرورش (incubation) در Finchip.ai، گفت: «اعتماد پیش‌نیاز عملکرد هر اقتصادِ مهارتی در مقیاس بزرگ است.» او افزود: «کار CertiK روی راستی‌آزمایی امنیت مهارت‌ها دقیقاً همان چیزی است که این اکوسیستم به آن نیاز دارد. همین است که مأموریت Finchip در مالکیت و توزیع مهارتِ برنامه‌پذیر را ارزشمند می‌کند که ساخته شود.»

این راه‌اندازی در پی گسترش فعالیت‌های سرتیک در زیرساخت امنیتی متمرکز بر هوش مصنوعی انجام می‌شود. اوایل امسال، این شرکت ابتکار AI Auditor را برای رسیدگی به ریسک‌های مرتبط با سامانه‌های خودمختار و محیط‌های اجرای مبتنی بر هوش مصنوعی معرفی کرد.

گو گفت: «کاربردهای هوش مصنوعی به سمت اجرای هرچه خودمختارتر حرکت می‌کنند و این، یک دسته جدید از چالش‌های امنیت و اعتماد ایجاد می‌کند.» او افزود: «ما معتقدیم زیرساخت امنیتی برای عصر هوش مصنوعی باید به‌صورت پیش‌دستانه عمل کند، نه واکنشی.»