Certik lansează „Antivirusul pentru agenții AI”, pe fondul amenințărilor ascunse cu care se confruntă piețele de competențe

Provocarea în materie de securitate

Compania de securitate blockchain și AI Certik a prezentat, pe 27 mai, o nouă platformă de securitate concepută pentru a evalua riscurile asociate competențelor de inteligență artificială (AI) ale terților. Denumită „antivirusul pentru agenții AI”, lansarea are loc pe fondul îngrijorării crescânde a industriei cu privire la securitatea piețelor de competențe AI.

Cercetătorii în domeniul securității au avertizat că multe dintre aceste competențe nu sunt verificate, pot executa acțiuni la nivel de sistem și pot conține comportamente maligne ascunse, creând un nou risc pentru lanțul de aprovizionare cu software în era IA. Auditurile de securitate din întregul sector au identificat riscuri care variază de la colectarea datelor de autentificare și exfiltrarea datelor până la manipularea transferurilor de fonduri și atacuri de suprascriere bazate pe prompturi.

În ciuda acestor îngrijorări, piețele de competențe AI s-au extins rapid pe măsură ce ecosistemele de agenți s-au maturizat. Cu toate acestea, spre deosebire de magazinele tradiționale de aplicații, majoritatea competențelor provin din depozite publice, cu o verificare minimă sau deloc. Analiștii spun că acest lucru creează oportunități pentru atacatori de a încorpora instrucțiuni dăunătoare, de a declanșa accesul neautorizat la date sau de a manipula fluxurile de execuție autonome.

Într-o postare recentă pe blog, Certik a declarat că platforma sa de scanare a competențelor este concepută special pentru a evalua riscurile care apar în timpul execuției, inclusiv scenarii care implică tranzacții financiare sau solicitări de fonduri. Scanerul generează un scor numeric de la 0 la 100, împreună cu verdictele „promovat”, „avertisment” sau „respins” și constatările clasificate. Potrivit companiei, sistemul atinge o precizie de până la 90,5% în identificarea riscurilor de securitate.

„Pe măsură ce agenții AI devin din ce în ce mai integrați în sistemele financiare, fluxurile de lucru ale întreprinderilor și interacțiunile digitale de zi cu zi, modelul de securitate în jurul competențelor terților devine extrem de important”, a declarat Ronghui Gu, CEO și cofondator al Certik. „CertiK Skill Scanner a fost creat pentru a stabili un nivel standardizat de încredere înainte de execuție, ajutând utilizatorii și platformele să identifice riscurile ascunse înainte ca datele, activele sau sistemele sensibile să fie expuse.”

Certik a declarat că piețele de competențe AI pot integra scanerul direct în fluxurile de publicare, verificând automat competențele înainte ca acestea să fie lansate și afișând utilizatorilor rezultatele evaluării de securitate. Întreprinderile pot implementa instrumentul ca parte a fluxurilor de lucru interne de conformitate și gestionare a riscurilor, în timp ce dezvoltatorii independenți îl pot utiliza pentru a-și autoevalua competențele înainte de publicare.

Compania a declarat că actualizările viitoare vor permite utilizatorilor obișnuiți să scaneze singuri competențele înainte de instalare. Scanerul a fost deja implementat în anumite medii de infrastructură de agenți Web3 AI. Certik extinde, de asemenea, integrările cu platforme suplimentare, inclusiv Finchip.ai.

„Încrederea este condiția prealabilă pentru ca orice economie a competențelor să funcționeze la scară largă”, a declarat Gary Yang, investitor în incubatoare la Finchip.ai. „Activitatea CertiK în domeniul verificării securității competențelor este exact ceea ce are nevoie acest ecosistem. Este ceea ce face ca misiunea Finchip de a deține și distribui competențe programabile să merite să fie construită.”

Lansarea urmează extinderii Certik în infrastructura de securitate axată pe IA. La începutul acestui an, compania a introdus inițiativa AI Auditor pentru a aborda riscurile legate de sistemele autonome și mediile de execuție bazate pe IA.

„Aplicațiile de IA se îndreaptă către o execuție din ce în ce mai autonomă, ceea ce creează o nouă categorie de provocări legate de securitate și încredere”, a spus Gu. „Credem că infrastructura de securitate pentru era IA trebuie să funcționeze proactiv, nu reactiv.”