CertiK-direktør Lau fremmer AI som netto positiv til tross for risikoer

CertiKs Kaijern Lau: AI vil være positivt for Web3-sikkerhet, men også et «tveegget sverd»

Verdenen av blokkjede-sikkerhet og revisjon endrer seg raskt, ettersom utnyttelser og sårbarheter nå både utnyttes og oppdages mye raskere på grunn av involveringen av kunstig intelligens (AI) i prosesser for sårbarhetsfunn.

Generelle bekymringer om risikoen ved AIs voksende rolle i disse aktivitetene har økt med Hugging Face-hendelsen, der en AI-plattform ble utsatt for et hack, som var den første inntrengningen «drevet, fra ende til ende, av et autonomt AI-agent-system.»

Hendelsen, som senere ble lagt skylden på at en OpenAI-modell rømte fra sin test-sandkasse, bekreftet at agentdrevet cybersikkerhetskrigføring er en realitet, og at institusjoner må være forberedt på å møte disse risikoene nå, ikke i morgen.

Bekymringene har også nådd Web3-økosystemet, der sikkerhet er mer passiv enn aktiv, håndtert gjennom revisjoner og sikkerhetshensyn utformet i produksjonsfasene, og som ofte ikke kan oppgraderes i sanntid før nye kontrakter distribueres.

I et eksklusivt intervju med Bitcoin.com News undersøkte Kaijern Lau, Senior Director of Engineering i CertiK, AIs rolle både i disse angrepene og i prosessen med å revidere kode for å forhindre dem.

Lau understreker at AI kan være et nyttig verktøy for å identifisere en sårbarhet og undersøke potensielle angrepsvektorer på en plattform. Likevel er det fortsatt nødvendig med en menneskelig mellomledd «for å sikre at AI-en har analysert koden grundig og for å verifisere at eventuelle rapporterte sårbarheter er reelle, snarere enn falske positiver.»

Lau erklærte at nyere forskning som dekker angrepsflater for maskinvarelommebøker, illustrerer begrensningene ved AI og relevansen av menneskelig involvering. «AI kan bidra til å avdekke mønstre og akselerere analysen, men erfarne forskere trengs fortsatt for å validere funnene og vurdere deres faktiske innvirkning,» vurderte han.

Hugging Face-hendelsen er isolert, ikke bevis på «løpske agenter»

Lau understreket at Hugging Face-hendelsen oppsto i en spesifikk evalueringssituasjon, og at et tilfelle av en slik eventualitet ikke betyr at AI-modeller er ukontrollerbare.

Likevel påpekte han at angrepet fremhevet dagens kapasitet hos AI-agenter, som i økende grad er i stand til å gjennomføre komplekse cybersikkerhetsoperasjoner, inkludert å identifisere og kombinere svakheter som hver for seg kan virke håndterbare, som en eksponert tjeneste, en feilkonfigurasjon, overdrevne tillatelser eller kompromitterte legitimasjoner, og gjøre dem om til en koordinert angrepssti i maskinhastighet.

Følgelig viser dette også hvordan investering i AI for sikkerhetsformål blir normen for selskaper med kodebaserte produkter, som Web3- og blokkjedeindustrien.

«AI vil gjøre både angripere og forsvarere mer kapable. Det er derfor blokkjede-selskaper bør investere mer i AI-drevet sikkerhet for å beskytte koden og infrastrukturen sin. Vi går inn i en æra der nøkkelspørsmålet ikke lenger er om man skal bruke AI, men hvor mange AI-ressurser (eller tokens) organisasjoner investerer i å forsvare systemene sine sammenlignet med ressursene angripere investerer i å lansere stadig mer sofistikerte angrep,» erklærte eksperten.

AI og blokkjede-sikkerhet: Hvor vi står

Selv om Lau er sikker på at AI og blokkjede-sikkerhet uunngåelig vil bli sammenvevd, erkjenner han at det fortsatt er for tidlig til at oppgaver innen sårbarhetsfunn og sikker programvareutvikling kan fullføres uten menneskelig inngripen.

CertiK anser til og med defensive agenter og verktøyene sine som en del av angrepsflaten, ettersom de kan testes for prompt-injeksjon, ondsinnede verktøyinndata, overdrevne tillatelser, datalekkasjer eller usikker automatisert utbedring. Faktisk har selskapet utviklet et verktøy, AI Skill Scanner, for å bidra til å identifisere risikoer i AI-ferdigheter før distribusjon, og dermed øke kontrollene som utøves over AI-agenter.

Lau avslørte at CertiK vil fortsette å investere tungt i å bygge avansert AI-drevet sikkerhet. «Våre interne utviklere og sikkerhetsforskere jobber døgnet rundt for å videreutvikle AI-drevet blokkjede-sikkerhet,» bekreftet han.

CertiK har også utviklet AI Auditor, et verktøy som gjennomfører en automatisk analyse av blokkjedeprosjekter og identifiserer vanlige sikkerhetsrisikoer. «Denne multimodell-, multiagent-tilnærmingen forbedrer både nøyaktigheten og påliteligheten i sikkerhetsvurderinger,» sa Lau, og beskrev hvordan selskapet utviklet sine defensive kapabiliteter mot AI-assisterte aktører.

AIs balansegang: Hvor går vi herfra

Selv om AI senker tersklene for angrep, ettersom trusselaktører allerede utnytter agenter til å oppdage utnyttelser og skanne smarte kontrakter for sårbarheter, forsikrer Lau om at det finnes reelle fordeler ved å bruke AI til defensive formål.

«AI øker dramatisk effektiviteten og omfanget av vår trusseldeteksjon. CertiK har forbedret effektiviteten i formell verifikasjon ved å integrere AI i sin proprietære CertiK Prover-motor,» presiserte Lau.

CertiKs bidrag til feltet, sa Lau, går utover å oppdage sårbarheter og tar sikte på å sikre at defensive sikkerhetstiltak ligger foran disse fremvoksende AI-truslene ved også å trene opp og bruke sine AI-modeller til å sikre kundene sine.

«Alt i alt vil AI være en netto positiv kraft for Web3-sikkerhet, men det er utvilsomt et tveegget sverd som krever en kontinuerlig balansegang,» konkluderte Lau.