Certik esittelee ”virustorjuntaohjelman tekoälyagenteille”, kun taitojen markkinapaikat kohtaavat piileviä uhkia

Turvallisuushaaste

Blockchain- ja tekoälyturvallisuusyritys Certik julkisti 27. toukokuuta uuden turvallisuusalustan, joka on suunniteltu arvioimaan kolmansien osapuolten tekoälytaitojen riskejä. "Tekoälyagenttien virustorjuntaohjelmaksi" kutsuttu julkaisu tulee keskellä kasvavaa huolta tekoälytaitojen markkinapaikkojen turvallisuudesta.

Turvallisuustutkijat ovat varoittaneet, että monia näistä taidoista ei ole tarkastettu, ne voivat suorittaa järjestelmätason toimia ja ne voivat sisältää piilotettua haitallista toimintaa, mikä luo uuden ohjelmistojen toimitusketjun riskin tekoälyaikakaudelle. Alan turvallisuusauditoinnit ovat tunnistaneet riskejä, jotka vaihtelevat tunnistetietojen keräämisestä ja tietojen vuotamisesta rahansiirtojen manipulointiin ja kehotteisiin perustuviin ohitushyökkäyksiin.

Näistä huolenaiheista huolimatta tekoälytaitojen markkinapaikat ovat laajentuneet nopeasti agenttien ekosysteemien kypsyessä. Toisin kuin perinteisissä sovelluskaupoissa, suurin osa taidoista on peräisin julkisista arkistoista, joissa niitä ei ole tarkastettu lainkaan tai vain vähän. Analyytikoiden mukaan tämä luo hyökkääjille mahdollisuuksia upottaa haitallisia ohjeita, laukaista luvatonta pääsyä tietoihin tai manipuloida itsenäisiä suoritusvirtoja.

Tuoreessa blogikirjoituksessaan Certik kertoi, että sen taitojen skannausalusta on suunniteltu erityisesti arvioimaan suorituksen aikana ilmeneviä riskejä, mukaan lukien skenaariot, joihin liittyy rahoitustapahtumia tai varojen nostopyyntöjä. Skanneri tuottaa numeerisen pisteytyksen asteikolla 0–100 sekä ”hyväksytty”, ”varoitus” tai ”hylätty” -arvostelut ja luokitellut havainnot. Yrityksen mukaan järjestelmä saavuttaa jopa 90,5 prosentin tarkkuuden turvallisuusriskien tunnistamisessa.

”Kun tekoälyagentit integroituvat yhä syvemmin rahoitusjärjestelmiin, yritysten työnkulkuihin ja jokapäiväisiin digitaalisiin vuorovaikutuksiin, kolmansien osapuolten taitoja ympäröivä turvallisuusmalli tulee kriittisen tärkeäksi”, sanoi Certikin toimitusjohtaja ja perustaja Ronghui Gu. ”CertiK Skill Scanner on rakennettu luomaan standardoitu luottamustaso ennen suorittamista, auttaen käyttäjiä ja alustoja tunnistamaan piilevät riskit ennen kuin arkaluontoiset tiedot, resurssit tai järjestelmät altistuvat.”

Certikin mukaan tekoälytaitojen markkinapaikat voivat integroida skannerin suoraan julkaisuprosesseihin, jolloin se tarkistaa taidot automaattisesti ennen niiden julkaisua ja näyttää turvallisuusarvioinnin käyttäjille. Yritykset voivat ottaa työkalun käyttöön osana sisäisiä vaatimustenmukaisuus- ja riskienhallintaprosesseja, kun taas itsenäiset kehittäjät voivat käyttää sitä taitojen itsearviointiin ennen julkaisua.

Yrityksen mukaan tulevat päivitykset antavat tavallisille käyttäjille mahdollisuuden skannata taidot itse ennen asennusta. Skanneri on jo otettu käyttöön valikoiduissa Web3-tekoälyagentti-infrastruktuuriympäristöissä. Certik laajentaa myös integraatioita muiden alustojen kanssa, mukaan lukien Finchip.ai.

”Luottamus on edellytys sille, että mikä tahansa taitojen talous voi toimia laajamittaisesti”, sanoi Gary Yang, inkubaatiosijoittaja Finchip.ai:ssa. ”CertiK:n työ taitojen turvallisuuden varmentamisessa on juuri sitä, mitä tämä ekosysteemi tarvitsee. Se on se, mikä tekee Finchipin missiosta ohjelmoitavien taitojen omistajuudesta ja jakelusta rakentamisen arvoisen.”

Lanseeraus seuraa Certikin laajentumista tekoälyyn keskittyvään turvallisuusinfrastruktuuriin. Aiemmin tänä vuonna yritys esitteli AI Auditor -aloitteensa, jonka tarkoituksena on puuttua autonomisiin järjestelmiin ja tekoälypohjaisiin suoritusympäristöihin liittyviin riskeihin.

”Tekoälysovellukset ovat siirtymässä yhä autonomisempaan suorittamiseen, mikä luo uudenlaisen turvallisuus- ja luottamishaasteiden luokan”, sanoi Gu. ”Uskomme, että tekoälyaikakauden turvallisuusinfrastruktuurin on toimittava ennakoivasti, ei reaktiivisesti.”