شركة «سيرتيك» تكشف النقاب عن «برنامج مكافحة الفيروسات لوكلاء الذكاء الاصطناعي» في ظل مواجهة أسواق المهارات لتهديدات خفية

التحدي الأمني

كشفت شركة Certik المتخصصة في أمن البلوك تشين والذكاء الاصطناعي، في 27 مايو، عن منصة أمنية جديدة مصممة لتقييم المخاطر في مهارات الذكاء الاصطناعي (AI) التابعة لأطراف ثالثة. أُطلق على هذا الإصدار اسم "مضاد الفيروسات لوكلاء الذكاء الاصطناعي"، ويأتي في ظل قلق متزايد في الصناعة بشأن أمن أسواق مهارات الذكاء الاصطناعي.

حذر باحثو الأمن من أن العديد من هذه المهارات لم يتم فحصها، ويمكنها تنفيذ إجراءات على مستوى النظام وقد تحتوي على سلوك ضار خفي، مما يخلق خطرًا جديدًا في سلسلة توريد البرمجيات لعصر الذكاء الاصطناعي. حددت عمليات تدقيق الأمن في جميع أنحاء القطاع مخاطر تتراوح من جمع بيانات الاعتماد وتسريب البيانات إلى التلاعب بتحويل الأموال وهجمات التجاوز القائمة على المطالبات.

على الرغم من هذه المخاوف، توسعت أسواق مهارات الذكاء الاصطناعي بسرعة مع نضوج أنظمة الوكلاء. ومع ذلك، على عكس متاجر التطبيقات التقليدية، يتم الحصول على معظم المهارات من مستودعات عامة مع مراجعة قليلة أو معدومة. يقول المحللون إن هذا يخلق فرصًا للمهاجمين لتضمين تعليمات ضارة، أو تشغيل الوصول غير المصرح به إلى البيانات، أو التلاعب بتدفقات التنفيذ المستقلة.

في منشور حديث على المدونة، قالت Certik إن منصة فحص المهارات الخاصة بها مصممة خصيصًا لتقييم المخاطر التي تظهر أثناء التنفيذ، بما في ذلك السيناريوهات التي تنطوي على معاملات مالية أو طلبات أموال. ينتج الماسح ضوئيًا درجة رقمية من 0 إلى 100، إلى جانب أحكام "ناجح" أو "تحذير" أو "راسب" ونتائج مصنفة. وفقًا للشركة، يحقق النظام دقة تصل إلى 90.5٪ في تحديد المخاطر الأمنية.

قال رونغوي غو، الرئيس التنفيذي والمؤسس المشارك لشركة Certik: "مع تزايد اندماج وكلاء الذكاء الاصطناعي في الأنظمة المالية وسير عمل المؤسسات والتفاعلات الرقمية اليومية، يصبح نموذج الأمان حول مهارات الأطراف الثالثة ذا أهمية بالغة". "تم تصميم CertiK Skill Scanner لإنشاء طبقة ثقة موحدة قبل التنفيذ، مما يساعد المستخدمين والمنصات على تحديد المخاطر الخفية قبل تعرض البيانات الحساسة أو الأصول أو الأنظمة للخطر."

وقالت Certik إن أسواق مهارات الذكاء الاصطناعي يمكنها دمج الماسح ضوئيًا مباشرةً في مسارات النشر، ومراجعة المهارات تلقائيًا قبل طرحها وعرض نتائج التقييم الأمني للمستخدمين. يمكن للمؤسسات نشر الأداة كجزء من سير عمل الامتثال الداخلي وإدارة المخاطر، بينما يمكن للمطورين المستقلين استخدامها لإجراء تدقيق ذاتي للمهارات قبل النشر.

وقالت الشركة إن التحديثات المستقبلية ستسمح للمستخدمين العاديين بفحص المهارات بأنفسهم قبل التثبيت. وقد تم بالفعل نشر الماسح الضوئي في بيئات محددة للبنية التحتية لوكلاء الذكاء الاصطناعي Web3. كما تعمل Certik على توسيع نطاق التكامل مع منصات إضافية، بما في ذلك Finchip.ai.

قال غاري يانغ، مستثمر في مرحلة التأسيس في Finchip.ai: "الثقة هي الشرط الأساسي لكي تعمل أي اقتصاد مهارات على نطاق واسع." "إن عمل CertiK في مجال التحقق من أمان المهارات هو بالضبط ما يحتاجه هذا النظام البيئي. إنه ما يجعل مهمة Finchip المتمثلة في ملكية المهارات القابلة للبرمجة وتوزيعها تستحق البناء."

يأتي هذا الإطلاق في أعقاب توسع Certik في البنية التحتية للأمن التي تركز على الذكاء الاصطناعي. في وقت سابق من هذا العام، أطلقت الشركة مبادرتها AI Auditor لمعالجة المخاطر المرتبطة بالأنظمة المستقلة وبيئات التنفيذ التي تعتمد على الذكاء الاصطناعي.

قال جو: "تتجه تطبيقات الذكاء الاصطناعي نحو تنفيذ مستقل بشكل متزايد، مما يخلق فئة جديدة من التحديات المتعلقة بالأمن والثقة". "نعتقد أن البنية التحتية للأمن في عصر الذكاء الاصطناعي يجب أن تعمل بشكل استباقي، وليس بشكل تفاعلي".