Certik predstavlja »protivirusni program za AI-agente«, saj trgi spretnosti soočajo s skritimi grožnjami

Varnostni izziv

Podjetje Certik, ki se ukvarja z varnostjo blockchaina in umetne inteligence (AI), je 27. maja predstavilo novo varnostno platformo, namenjeno ocenjevanju tveganj v veščinah umetne inteligence (AI) tretjih oseb. Izdelek, poimenovan »protivirus za AI agente«, je bil predstavljen ob vse večji zaskrbljenosti v industriji glede varnosti tržnic veščin AI.

Varnostni raziskovalci so opozorili, da mnoge od teh veščin niso pregledane, lahko izvajajo dejanja na sistemski ravni in lahko vsebujejo skrito zlonamerno vedenje, kar ustvarja novo tveganje v verigi dobave programske opreme za dobo umetne inteligence. Varnostni pregledi v celotnem sektorju so ugotovili tveganja, ki segajo od zbiranja poverilnic in izčrpavanja podatkov do manipulacije s prenosom sredstev in napadov s preklopom na podlagi pozivov.

Kljub tem zaskrbljenostim so se trgi z AI-spretnostmi hitro razširili, saj ekosistemi agentov dozorevajo. Vendar pa, za razliko od tradicionalnih trgovin z aplikacijami, večina spretnosti izvira iz javnih repozitorijev z malo ali brez pregleda. Analitiki pravijo, da to ustvarja priložnosti za napadalce, da vgradijo škodljiva navodila, sprožijo nepooblaščen dostop do podatkov ali manipulirajo s tokovi avtonomnega izvajanja.

V nedavnem blogu je Certik navedel, da je njihova platforma za skeniranje veščin zasnovana posebej za ocenjevanje tveganj, ki se pojavijo med izvajanjem, vključno s scenariji, ki vključujejo finančne transakcije ali pozive k nakazilu sredstev. Skenirnik izračuna številčno oceno od 0 do 100, skupaj z oceno »uspešno«, »opozorilo« ali »neuspešno« ter kategoriziranimi ugotovitvami. Po navedbah podjetja sistem doseže do 90,5-odstotno natančnost pri prepoznavanju varnostnih tveganj.

»Ker se agenti umetne inteligence vedno bolj vključujejo v finančne sisteme, poslovne tokove in vsakodnevne digitalne interakcije, postaja varnostni model v zvezi z veščinami tretjih oseb ključnega pomena,« je dejal Ronghui Gu, izvršni direktor in soustanovitelj podjetja Certik. »CertiK Skill Scanner je bil razvit za vzpostavitev standardizirane plasti zaupanja pred izvedbo, ki uporabnikom in platformam pomaga prepoznati skrita tveganja, preden so izpostavljeni občutljivi podatki, sredstva ali sistemi.«

Certik je dejal, da lahko trgi AI spretnosti skener neposredno vključijo v poteke objavljanja, pri čemer samodejno pregledujejo spretnosti, preden gredo v živo, in uporabnikom prikazujejo varnostne ocene. Podjetja lahko orodje uporabijo kot del notranjih delovnih tokov skladnosti in upravljanja tveganj, medtem ko ga neodvisni razvijalci lahko uporabijo za samostojno preverjanje spretnosti pred objavo.

Podjetje je povedalo, da bodo prihodnje posodobitve omogočile vsakodnevnim uporabnikom, da veščine sami pregledajo pred namestitvijo. Skener je že bil razvit v izbranih okoljih infrastrukture Web3 AI agentov. Certik prav tako širi integracije z dodatnimi platformami, vključno s Finchip.ai.

»Zaupanje je predpogoj za delovanje vsakega gospodarstva veščin v velikem obsegu,« je dejal Gary Yang, inkubacijski vlagatelj pri Finchip.ai. »Delo Certika na področju preverjanja varnosti veščin je točno tisto, kar ta ekosistem potrebuje. Prav to je tisto, zaradi česar je vredno graditi Finchipovo poslanstvo lastništva in distribucije programabilnih veščin.«

Uvedba sledi Certikovi širitvi na varnostno infrastrukturo, osredotočeno na umetno inteligenco. V začetku tega leta je podjetje predstavilo svojo pobudo AI Auditor za obravnavanje tveganj, povezanih z avtonomnimi sistemi in izvedbenimi okolji, ki jih poganja umetna inteligenca.

„Aplikacije umetne inteligence se premikajo v smeri vse bolj avtonomne izvedbe, kar ustvarja novo kategorijo izzivov na področju varnosti in zaupanja,“ je dejal Gu. „Verjamemo, da mora varnostna infrastruktura za dobo umetne inteligence delovati proaktivno, ne reaktivno.“