Certik avduker «antivirus for AI-agenter» mens markedsplasser for ferdigheter står overfor skjulte trusler

Sikkerhetsutfordringen

Blockchain- og AI-sikkerhetsselskapet Certik avduket 27. mai en ny sikkerhetsplattform utformet for å vurdere risiko i tredjeparts ferdigheter for kunstig intelligens (AI). Lanseringen, kalt «antivirus for AI-agenter», kommer midt i økende bekymring i bransjen over sikkerheten i markedsplasser for AI-ferdigheter.

Sikkerhetsforskere har advart om at mange av disse ferdighetene er uverifiserte, kan utføre handlinger på systemnivå og kan inneholde skjult ondsinnet atferd, noe som skaper en ny programvareforsyningskjederisiko for AI-æraen. Sikkerhetsrevisjoner på tvers av sektoren har identifisert risikoer som spenner fra innhøsting av påloggingsopplysninger og dataeksfiltrering til manipulering av pengeoverføringer og prompt-baserte overstyringsangrep.

Til tross for disse bekymringene har markedsplasser for AI-ferdigheter vokst raskt etter hvert som agentøkosystemer modnes. Men i motsetning til tradisjonelle appbutikker hentes de fleste ferdigheter fra offentlige repositorier med liten eller ingen gjennomgang. Analytikere sier dette skaper muligheter for angripere til å bygge inn skadelige instruksjoner, utløse uautorisert datatilgang eller manipulere autonome eksekveringsflyter.

I et nylig blogginnlegg sa Certik at plattformen for skanning av ferdigheter er spesielt utformet for å vurdere risikoer som oppstår under eksekvering, inkludert scenarier som involverer finansielle transaksjoner eller fondskall. Skanneren gir en numerisk score fra 0 til 100, sammen med vurderingene «bestått», «advarsel» eller «ikke bestått» og kategoriserte funn. Ifølge selskapet oppnår systemet opptil 90,5 % presisjon i å identifisere sikkerhetsrisikoer.

«Etter hvert som AI-agenter blir mer dypt integrert i finanssystemer, virksomhetsarbeidsflyter og daglige digitale interaksjoner, blir sikkerhetsmodellen rundt tredjeparts ferdigheter kritisk viktig», sa Ronghui Gu, Certiks administrerende direktør og medgründer. «CertiK Skill Scanner ble bygget for å etablere et standardisert tillitslag før eksekvering, som hjelper brukere og plattformer med å identifisere skjulte risikoer før sensitiv data, eiendeler eller systemer blir eksponert.»

Certik sa at markedsplasser for AI-ferdigheter kan integrere skanneren direkte i publiseringspipelines, automatisk gjennomgå ferdigheter før de går live og vise sikkerhetsvurderinger til brukere. Virksomheter kan ta verktøyet i bruk som del av interne arbeidsflyter for etterlevelse og risikostyring, mens uavhengige utviklere kan bruke det til å selvrevidere ferdigheter før publisering.

Selskapet sa at fremtidige oppdateringer vil la vanlige brukere skanne ferdigheter selv før installasjon. Skanneren er allerede tatt i bruk i utvalgte Web3 AI-agentinfrastrukturmiljøer. Certik utvider også integrasjoner med flere plattformer, inkludert Finchip.ai.

«Tillit er forutsetningen for at enhver ferdighetsøkonomi skal fungere i stor skala», sa Gary Yang, inkubasjonsinvestor i Finchip.ai. «CertiKs arbeid med sikkerhetsverifisering av ferdigheter er akkurat det dette økosystemet trenger. Det er det som gjør Finchips oppdrag om programmerbart eierskap og distribusjon av ferdigheter verdt å bygge.»

Lanseringen følger Certiks utvidelse inn i AI-fokusert sikkerhetsinfrastruktur. Tidligere i år introduserte selskapet sitt AI Auditor-initiativ for å håndtere risikoer knyttet til autonome systemer og AI-drevne eksekveringsmiljøer.

«AI-applikasjoner beveger seg mot stadig mer autonom eksekvering, noe som skaper en ny kategori av sikkerhets- og tillitsutfordringer», sa Gu. «Vi mener at sikkerhetsinfrastruktur for AI-æraen må fungere proaktivt, ikke reaktivt.»