Certik lancerer »antivirus til AI-agenter«, da markedspladser for færdigheder står over for skjulte trusler

Sikkerhedsudfordringen

Blockchain- og AI-sikkerhedsfirmaet Certik afslørede den 27. maj en ny sikkerhedsplatform designet til at evaluere risici i tredjeparts kunstig intelligens (AI)-færdigheder. Udgivelsen, der er døbt "antivirus til AI-agenter", kommer midt i en voksende bekymring i branchen over sikkerheden på markedspladser for AI-færdigheder.

Sikkerhedsforskere har advaret om, at mange af disse færdigheder ikke er kontrolleret, kan udføre handlinger på systemniveau og kan indeholde skjult ondsindet adfærd, hvilket skaber en ny risiko i softwareleverandørkæden i AI-æraen. Sikkerhedsrevisioner på tværs af sektoren har identificeret risici, der spænder fra indsamling af legitimationsoplysninger og dataeksfiltrering til manipulation af pengeoverførsler og prompt-baserede overstyringsangreb.

På trods af disse bekymringer er markedspladserne for AI-færdigheder vokset hurtigt i takt med, at agentøkosystemerne modnes. I modsætning til traditionelle app-butikker stammer de fleste færdigheder imidlertid fra offentlige repositorier med ringe eller ingen gennemgang. Analytikere siger, at dette skaber muligheder for angribere til at indlejre skadelige instruktioner, udløse uautoriseret dataadgang eller manipulere autonome udførelsesforløb.

I et nyligt blogindlæg sagde Certik, at deres skill-scanner-platform er designet specifikt til at evaluere risici, der opstår under udførelse, herunder scenarier, der involverer finansielle transaktioner eller pengeoverførsler. Scanneren genererer en numerisk score fra 0 til 100 sammen med bedømmelserne "bestået", "advarsel" eller "ikke bestået" samt kategoriserede fund. Ifølge virksomheden opnår systemet en præcision på op til 90,5 % i identificeringen af sikkerhedsrisici.

"Efterhånden som AI-agenter bliver mere dybt integreret i finansielle systemer, virksomhedsworkflows og daglige digitale interaktioner, bliver sikkerhedsmodellen omkring tredjeparts-skills af afgørende betydning," sagde Ronghui Gu, Certiks CEO og medstifter. "CertiK Skill Scanner blev udviklet for at etablere et standardiseret tillidslag før udførelse, hvilket hjælper brugere og platforme med at identificere skjulte risici, før følsomme data, aktiver eller systemer udsættes for fare."

Certik sagde, at AI-færdighedsmarkedspladser kan integrere scanneren direkte i udgivelsesprocesser, automatisk gennemgå færdigheder, før de går live, og vise sikkerhedsvurderinger til brugerne. Virksomheder kan implementere værktøjet som en del af interne compliance- og risikostyringsworkflows, mens uafhængige udviklere kan bruge det til selv at kontrollere færdigheder før udgivelse.

Virksomheden sagde, at fremtidige opdateringer vil give almindelige brugere mulighed for selv at scanne færdigheder før installation. Scanneren er allerede blevet implementeret i udvalgte Web3 AI-agentinfrastrukturmiljøer. Certik udvider også integrationer med yderligere platforme, herunder Finchip.ai.

"Tillid er en forudsætning for, at enhver færdighedsøkonomi kan fungere i stor skala," sagde Gary Yang, inkubationsinvestor hos Finchip.ai. "CertiKs arbejde med sikkerhedsverifikation af færdigheder er præcis, hvad dette økosystem har brug for. Det er det, der gør Finchips mission om ejerskab og distribution af programmerbare færdigheder værd at opbygge."

Lanceringen følger Certiks udvidelse inden for AI-fokuseret sikkerhedsinfrastruktur. Tidligere på året introducerede virksomheden sit AI Auditor-initiativ for at adressere risici forbundet med autonome systemer og AI-drevne eksekveringsmiljøer.

"AI-applikationer bevæger sig mod stadig mere autonom eksekvering, hvilket skaber en ny kategori af sikkerheds- og tillidsudfordringer," sagde Gu. "Vi mener, at sikkerhedsinfrastrukturen for AI-æraen skal fungere proaktivt, ikke reaktivt."