Certik tutvustab „tehisintellekti agentide viirusetõrjet“, kuna oskuste turud seisavad silmitsi varjatud ohtudega

Turvalisuse väljakutse

Blockchaini ja tehisintellekti (AI) turvalisusega tegelev ettevõte Certik tutvustas 27. mail uut turvalisusplatvormi, mis on mõeldud kolmandate osapoolte tehisintellekti (AI) oskuste riskide hindamiseks. „AI-agentide viirusetõrjeks” nimetatud toode tuleb turule ajal, mil tööstuses kasvab mure AI-oskuste turuplatside turvalisuse pärast.

Turbeuurijad on hoiatanud, et paljud neist oskustest on kontrollimata, võivad teostada süsteemitasandi toiminguid ja sisaldada varjatud pahatahtlikku käitumist, luues AI-ajastule uue tarkvara tarneahela riski. Kogu sektori turbeauditid on tuvastanud riske, mis ulatuvad kasutajatunnuste kogumisest ja andmete väljavoolamisest kuni rahaülekannete manipuleerimise ja käskudel põhinevate ülekirjutamisrünnakuteni.

Hoolimata nendest muredest on AI-oskuste turud agendi ökosüsteemide küpsemise järel kiiresti laienenud. Erinevalt traditsioonilistest rakenduste poodidest pärinevad enamik oskusi aga avalikest hoidlatest, kus neid vaadatakse läbi vähe või üldse mitte. Analüütikud ütlevad, et see loob ründajatele võimalusi kahjulike juhiste sisseviimiseks, volitamata andmetele juurdepääsu käivitamiseks või autonoomsete täitmisvoogude manipuleerimiseks.

Hiljutises blogipostituses ütles Certik, et nende oskuste skanneriplatvorm on spetsiaalselt loodud täitmise käigus tekkivate riskide hindamiseks, sealhulgas finantstehinguid või rahalisi nõudeid hõlmavate stsenaariumide puhul. Skanner annab numbrilise hinde vahemikus 0–100 koos hinnangutega „läbinud”, „hoiatus” või „läbikukkunud” ning kategoriseeritud tulemustega. Ettevõtte sõnul saavutab süsteem turvariskide tuvastamisel kuni 90,5% täpsuse.

„Kuna AI-agendid integreeritakse üha sügavamalt finantssüsteemidesse, ettevõtete töövoogudesse ja igapäevastesse digitaalsetesse suhtlustesse, muutub kolmandate osapoolte oskustega seotud turvalisusmudel kriitiliselt oluliseks,“ ütles Certiki tegevjuht ja kaasasutaja Ronghui Gu. „CertiK Skill Scanner loodi selleks, et luua enne täitmist standardiseeritud usalduskiht, aidates kasutajatel ja platvormidel tuvastada varjatud riske enne, kui tundlikud andmed, varad või süsteemid avalikustatakse.“

Certik ütles, et AI-oskuste turud saavad skannerit integreerida otse avaldamisprotsessidesse, vaadates oskused automaatselt läbi enne nende avaldamist ja kuvades kasutajatele turvalisuse hinnanguid. Ettevõtted saavad seda tööriista kasutada osana sisemistest vastavus- ja riskijuhtimise töövoogudest, samas kui sõltumatud arendajad saavad seda kasutada oskuste isekontrollimiseks enne avaldamist.

Ettevõte teatas, et tulevased uuendused võimaldavad tavakasutajatel oskusi enne installimist ise skannida. Skanner on juba kasutusele võetud valitud Web3 AI-agendi infrastruktuurikeskkondades. Certik laiendab ka integratsioone täiendavate platvormidega, sealhulgas Finchip.ai.

„Usaldus on eelduseks, et mis tahes oskuste majandus saaks toimida suurel skaalal,“ ütles Finchip.ai inkubatsiooniinvestor Gary Yang. „CertiKi töö oskuste turvalisuse kontrollimisel on täpselt see, mida see ökosüsteem vajab. See ongi see, mis teeb Finchipi missiooni programmeeritavate oskuste omandiõiguse ja levitamise osas ehitamisväärseks.“

Toote turule toomine järgneb Certiki laienemisele AI-keskse turvalisuse infrastruktuuri valdkonnas. Varem sel aastal tutvustas ettevõte oma AI Auditor algatust, et tegeleda autonoomsete süsteemide ja AI-põhiste täitmiskeskkondadega seotud riskidega.

„AI-rakendused liiguvad üha enam autonoomse täitmise suunas, mis loob uue kategooria turvalisuse ja usalduse väljakutseid,“ ütles Gu. „Usume, et AI-ajastu turvalisuse infrastruktuur peab toimima proaktiivselt, mitte reaktiivselt.“