Skill pazarları gizli tehditlerle karşı karşıya kalırken Certik, ‘AI Ajanları için Antivirüs’ü tanıttı

Güvenlik Sorunu

Blockchain ve yapay zeka (AI) güvenlik firması Certik, 27 Mayıs'ta üçüncü taraf yapay zeka (AI) becerilerindeki riskleri değerlendirmek için tasarlanmış yeni bir güvenlik platformunu tanıttı. "AI ajanları için antivirüs" olarak adlandırılan bu sürüm, AI beceri pazar yerlerinin güvenliği konusunda sektörde artan endişelerin ortasında piyasaya sürüldü.

Güvenlik araştırmacıları, bu becerilerin çoğunun denetlenmediğini, sistem düzeyinde eylemler gerçekleştirebileceğini ve gizli kötü niyetli davranışlar içerebileceğini, bu da AI dönemi için yeni bir yazılım tedarik zinciri riski yarattığını uyardı. Sektör genelindeki güvenlik denetimleri, kimlik bilgisi toplama ve veri sızdırma işlemlerinden fon transferi manipülasyonuna ve komut istemi tabanlı geçersiz kılma saldırılarına kadar uzanan riskleri tespit etti.

Bu endişelere rağmen, AI beceri pazarları, ajan ekosistemlerinin olgunlaşmasıyla birlikte hızla genişlemiştir. Ancak, geleneksel uygulama mağazalarından farklı olarak, becerilerin çoğu çok az incelemeye tabi tutulmuş veya hiç incelenmemiş halka açık depolardan temin edilmektedir. Analistler, bunun saldırganlara zararlı talimatlar yerleştirmek, yetkisiz veri erişimini tetiklemek veya otonom yürütme akışlarını manipüle etmek için fırsatlar yarattığını söylüyor.

Certik, yakın zamanda yayınladığı bir blog yazısında, beceri tarayıcı platformunun, finansal işlemler veya fon çağrılarını içeren senaryolar da dahil olmak üzere, yürütme sırasında ortaya çıkan riskleri değerlendirmek için özel olarak tasarlandığını belirtti. Tarayıcı, 0 ile 100 arasında bir sayısal puan ile birlikte “geçti”, “uyarı” veya “başarısız” kararları ve kategorize edilmiş bulgular üretir. Şirkete göre, sistem güvenlik risklerini tespit etmede %90,5’e varan bir doğruluk oranına ulaşmaktadır.

Certik'in CEO'su ve kurucu ortağı Ronghui Gu, "AI ajanları finansal sistemlere, kurumsal iş akışlarına ve günlük dijital etkileşimlere daha derin bir şekilde entegre oldukça, üçüncü taraf becerilerle ilgili güvenlik modeli kritik öneme sahip hale geliyor," dedi. "CertiK Skill Scanner, yürütme öncesinde standart bir güven katmanı oluşturmak üzere geliştirildi; bu sayede kullanıcılar ve platformlar, hassas veriler, varlıklar veya sistemler açığa çıkmadan önce gizli riskleri tespit edebiliyor."

Certik, AI beceri pazarlarının tarayıcıyı yayınlama süreçlerine doğrudan entegre edebileceğini, becerilerin yayına girmeden önce otomatik olarak incelenebileceğini ve güvenlik değerlendirmelerinin kullanıcılara gösterilebileceğini belirtti. Kurumlar bu aracı iç uyum ve risk yönetimi iş akışlarının bir parçası olarak kullanabilirken, bağımsız geliştiriciler yayınlamadan önce becerileri kendi kendilerine denetlemek için kullanabilirler.

Şirket, gelecekteki güncellemelerle sıradan kullanıcıların da kurulumdan önce becerileri kendileri tarayabileceklerini belirtti. Tarayıcı, seçkin Web3 AI ajan altyapı ortamlarında halihazırda kullanıma sunuldu. Certik ayrıca Finchip.ai dahil olmak üzere diğer platformlarla entegrasyonlarını genişletiyor.

Finchip.ai'nin kuluçka yatırımcısı Gary Yang, "Güven, herhangi bir beceri ekonomisinin büyük ölçekte işleyebilmesi için ön koşuldur," dedi. "CertiK'in beceri güvenliği doğrulama konusundaki çalışmaları, bu ekosistemin tam da ihtiyacı olan şeydir. Bu, Finchip'in programlanabilir beceri sahipliği ve dağıtımı misyonunu inşa etmeye değer kılan şeydir."

Bu lansman, Certik’in AI odaklı güvenlik altyapısına genişlemesinin ardından geldi. Bu yılın başlarında şirket, otonom sistemler ve AI odaklı yürütme ortamlarıyla bağlantılı riskleri ele almak için AI Auditor girişimini tanıttı.

Gu, “AI uygulamaları giderek daha otonom bir yürütme yönünde ilerliyor ve bu da güvenlik ve güven konusunda yeni bir zorluklar kategorisi yaratıyor” dedi. “AI dönemi için güvenlik altyapısının reaktif değil, proaktif bir şekilde çalışması gerektiğine inanıyoruz.”