Certik Meluncurkan ‘Anti-Virus untuk Agen AI’ di Tengah Ancaman Tersembunyi yang Mengintai Pasar Layanan

Tantangan Keamanan

Perusahaan keamanan blockchain dan AI, Certik, pada 27 Mei, meluncurkan platform keamanan baru yang dirancang untuk mengevaluasi risiko dalam keterampilan kecerdasan buatan (AI) pihak ketiga. Dijuluki sebagai "anti-virus untuk agen AI", peluncuran ini dilakukan di tengah meningkatnya kekhawatiran industri terhadap keamanan pasar keterampilan AI.

Peneliti keamanan telah memperingatkan bahwa banyak keterampilan ini tidak diverifikasi, dapat menjalankan tindakan tingkat sistem, dan mungkin mengandung perilaku berbahaya tersembunyi, menciptakan risiko rantai pasokan perangkat lunak baru di era AI. Audit keamanan di sektor ini telah mengidentifikasi risiko mulai dari pencurian kredensial dan eksfiltrasi data hingga manipulasi transfer dana dan serangan pengambilalihan berbasis prompt.

Terlepas dari kekhawatiran ini, pasar keterampilan AI telah berkembang pesat seiring dengan semakin matangnya ekosistem agen. Namun, tidak seperti toko aplikasi tradisional, sebagian besar keterampilan bersumber dari repositori publik dengan sedikit atau tanpa tinjauan sama sekali. Para analis mengatakan hal ini menciptakan peluang bagi penyerang untuk menyisipkan instruksi berbahaya, memicu akses data yang tidak sah, atau memanipulasi alur eksekusi otonom.

Dalam posting blog terbaru, Certik menyatakan bahwa platform pemindai keterampilan mereka dirancang khusus untuk mengevaluasi risiko yang muncul selama eksekusi, termasuk skenario yang melibatkan transaksi keuangan atau panggilan dana. Pemindai ini menghasilkan skor numerik dari 0 hingga 100, disertai dengan penilaian “lulus,” “peringatan,” atau “gagal,” serta temuan yang dikategorikan. Menurut perusahaan, sistem ini mencapai akurasi hingga 90,5% dalam mengidentifikasi risiko keamanan.

“Seiring integrasi agen AI yang semakin mendalam ke dalam sistem keuangan, alur kerja perusahaan, dan interaksi digital sehari-hari, model keamanan seputar keterampilan pihak ketiga menjadi sangat penting,” kata Ronghui Gu, CEO dan pendiri Certik. “CertiK Skill Scanner dibangun untuk menetapkan lapisan kepercayaan standar sebelum eksekusi, membantu pengguna dan platform mengidentifikasi risiko tersembunyi sebelum data sensitif, aset, atau sistem terpapar.”

Certik menyatakan bahwa pasar keterampilan AI dapat mengintegrasikan pemindai ini langsung ke dalam alur kerja penerbitan, secara otomatis meninjau keterampilan sebelum diluncurkan dan menampilkan hasil penilaian keamanan kepada pengguna. Perusahaan dapat menerapkan alat ini sebagai bagian dari alur kerja kepatuhan internal dan manajemen risiko, sementara pengembang independen dapat menggunakannya untuk melakukan audit mandiri terhadap keterampilan sebelum dipublikasikan.

Perusahaan tersebut mengatakan pembaruan di masa depan akan memungkinkan pengguna umum untuk memindai keterampilan sendiri sebelum instalasi. Pemindai ini telah diterapkan di lingkungan infrastruktur agen AI Web3 terpilih. Certik juga memperluas integrasi dengan platform tambahan, termasuk Finchip.ai.

“Kepercayaan adalah prasyarat agar ekonomi keterampilan dapat berfungsi secara besar-besaran,” kata Gary Yang, investor inkubasi di Finchip.ai. “Pekerjaan CertiK dalam verifikasi keamanan keterampilan adalah tepat apa yang dibutuhkan ekosistem ini. Inilah yang membuat misi Finchip tentang kepemilikan dan distribusi keterampilan yang dapat diprogram layak untuk dibangun.”

Peluncuran ini mengikuti ekspansi Certik ke infrastruktur keamanan yang berfokus pada AI. Awal tahun ini, perusahaan memperkenalkan inisiatif AI Auditor untuk mengatasi risiko yang terkait dengan sistem otonom dan lingkungan eksekusi berbasis AI.

“Aplikasi AI bergerak menuju eksekusi yang semakin otonom, yang menciptakan kategori baru tantangan keamanan dan kepercayaan,” kata Gu. “Kami percaya bahwa infrastruktur keamanan untuk era AI harus berfungsi secara proaktif, bukan reaktif.”