Certik Mendedahkan ‘Anti-Virus untuk Ejen AI’ ketika Pasaran Kemahiran Berdepan Ancaman Tersembunyi

Cabaran Keselamatan

Firma keselamatan rantaian blok dan AI, Certik, pada 27 Mei, memperkenalkan platform keselamatan baharu yang direka untuk menilai risiko dalam kemahiran kecerdasan buatan (AI) pihak ketiga. Digelar “anti-virus untuk ejen AI,” pelancaran ini hadir di tengah-tengah kebimbangan industri yang semakin meningkat terhadap keselamatan pasaran kemahiran AI.

Penyelidik keselamatan telah memberi amaran bahawa banyak kemahiran ini tidak ditapis, boleh melaksanakan tindakan pada peringkat sistem dan mungkin mengandungi tingkah laku berniat jahat yang tersembunyi, sekali gus mewujudkan risiko rantaian bekalan perisian baharu untuk era AI. Audit keselamatan merentas sektor telah mengenal pasti risiko yang merangkumi pemungutan kelayakan dan penyusupan keluar data sehinggalah manipulasi pemindahan dana serta serangan pengatasi berasaskan prompt.

Walaupun terdapat kebimbangan ini, pasaran kemahiran AI berkembang pesat apabila ekosistem ejen semakin matang. Namun, tidak seperti gedung aplikasi tradisional, kebanyakan kemahiran diperoleh daripada repositori awam dengan semakan yang sedikit atau langsung tiada. Penganalisis berkata keadaan ini mewujudkan peluang untuk penyerang menyisipkan arahan berbahaya, mencetuskan akses data tanpa kebenaran atau memanipulasi aliran pelaksanaan autonomi.

Dalam catatan blog terbaharu, Certik berkata platform pengimbas kemahirannya direka khusus untuk menilai risiko yang muncul semasa pelaksanaan, termasuk senario yang melibatkan transaksi kewangan atau panggilan dana. Pengimbas menghasilkan skor berangka daripada 0 hingga 100, bersama keputusan “lulus,” “amaran” atau “gagal” serta dapatan yang dikategorikan. Menurut syarikat itu, sistem tersebut mencapai ketepatan sehingga 90.5% dalam mengenal pasti risiko keselamatan.

“Apabila ejen AI semakin terintegrasi secara mendalam ke dalam sistem kewangan, aliran kerja perusahaan dan interaksi digital harian, model keselamatan sekitar kemahiran pihak ketiga menjadi sangat kritikal,” kata Ronghui Gu, Ketua Pegawai Eksekutif dan pengasas bersama Certik. “CertiK Skill Scanner dibina untuk mewujudkan lapisan kepercayaan yang piawai sebelum pelaksanaan, membantu pengguna dan platform mengenal pasti risiko tersembunyi sebelum data sensitif, aset atau sistem terdedah.”

Certik berkata pasaran kemahiran AI boleh mengintegrasikan pengimbas tersebut secara terus ke dalam saluran penerbitan, menyemak kemahiran secara automatik sebelum ia disiarkan dan memaparkan keputusan keselamatan kepada pengguna. Perusahaan boleh menggunakan alat itu sebagai sebahagian daripada aliran kerja pematuhan dalaman dan pengurusan risiko, manakala pembangun bebas boleh menggunakannya untuk mengaudit sendiri kemahiran sebelum diterbitkan.

Syarikat itu berkata kemas kini pada masa hadapan akan membolehkan pengguna biasa mengimbas kemahiran sendiri sebelum pemasangan. Pengimbas tersebut telah pun digunakan dalam persekitaran infrastruktur ejen AI Web3 terpilih. Certik juga sedang memperluas integrasi dengan platform tambahan, termasuk Finchip.ai.

“Kepercayaan ialah prasyarat untuk mana-mana ekonomi kemahiran berfungsi pada skala,” kata Gary Yang, pelabur inkubasi di Finchip.ai. “Usaha CertiK dalam pengesahan keselamatan kemahiran adalah tepat seperti yang diperlukan oleh ekosistem ini. Inilah yang menjadikan misi Finchip tentang pemilikan dan pengagihan kemahiran yang boleh diprogram berbaloi untuk dibina.”

Pelancaran ini menyusuli pengembangan Certik ke dalam infrastruktur keselamatan yang berfokuskan AI. Awal tahun ini, syarikat itu memperkenalkan inisiatif AI Auditor bagi menangani risiko yang berkaitan dengan sistem autonomi dan persekitaran pelaksanaan yang dipacu AI.

“Aplikasi AI sedang bergerak ke arah pelaksanaan yang semakin autonomi, yang mewujudkan kategori baharu cabaran keselamatan dan kepercayaan,” kata Gu. “Kami percaya infrastruktur keselamatan untuk era AI mesti berfungsi secara proaktif, bukan reaktif.”