Riaditeľ spoločnosti CertiK Lau presadzuje umelú inteligenciu ako celkovo pozitívny jav napriek rizikám

Kaijern Lau zo spoločnosti CertiK: Umelá inteligencia bude mať pozitívny vplyv na bezpečnosť Web3, ale bude aj „dvojsečnou zbraňou“

Svet bezpečnosti a auditu blockchainu sa rýchlo mení, keďže zraniteľnosti a chyby sa teraz využívajú a odhaľujú oveľa rýchlejšie vďaka zapojeniu umelej inteligencie (AI) do procesov odhaľovania zraniteľností.

Všeobecné obavy z rizík spojených s rastúcou úlohou umelej inteligencie v týchto aktivitách vzrástli v súvislosti s incidentom Hugging Face, pri ktorom došlo k hacknutiu platformy umelej inteligencie – išlo o prvý útok „riadený od začiatku do konca autonómnym systémom agentov umelej inteligencie“.

Tento incident, za ktorý bol neskôr označený model OpenAI, ktorý unikol zo svojho testovacieho sandboxu, potvrdil, že kybernetická vojna riadená agentmi je realitou a že inštitúcie musia byť pripravené čeliť týmto rizikám už teraz, nie až zajtra.

Obavy zasiahli aj ekosystém Web3, kde je bezpečnosť skôr pasívna než aktívna a je riadená auditmi a bezpečnostnými opatreniami navrhnutými počas fáz vývoja, ktoré sa často nedajú aktualizovať v reálnom čase pred nasadením nových zmlúv.

V exkluzívnom rozhovore pre Bitcoin.com News Kaijern Lau, hlavný technický riaditeľ spoločnosti CertiK, rozoberal úlohu umelej inteligencie v oboch týchto útokoch, ako aj v procese auditu kódu zameraného na ich prevenciu.

Lau zdôrazňuje, že umelá inteligencia môže byť užitočným nástrojom na identifikáciu zraniteľností a skúmanie potenciálnych vektorov útoku na platforme. Napriek tomu je stále potrebná účasť človeka v strede procesu, „aby sa zabezpečilo, že umelá inteligencia kód dôkladne analyzovala, a aby sa overilo, že všetky nahlásené zraniteľnosti sú skutočné a nie falošné poplachy.“

Lau uviedol, že nedávny výskum zameraný na útočné plochy hardvérových peňaženiek ilustruje obmedzenia umelej inteligencie a dôležitosť ľudského zásahu. „Umelá inteligencia môže pomôcť odhaliť vzory a urýchliť analýzu, na overenie zistení a posúdenie ich skutočného dopadu sú však naďalej potrební skúsení výskumníci,“ zhodnotil.

Incident v spoločnosti Hugging Face bol ojedinelý, nie je dôkazom existencie „nečestných agentov“

Lau zdôraznil, že incident v Hugging Face vznikol v rámci špecifického hodnotiaceho prostredia a že jeden takýto prípad neznamená, že modely umelej inteligencie sú nekontrolovateľné.

Napriek tomu poukázal na to, že tento útok zdôraznil súčasné schopnosti agentov umelej inteligencie, ktorí sú čoraz viac schopní vykonávať zložité operácie v oblasti kyberbezpečnosti, vrátane identifikácie a kombinovania slabín, ktoré sa izolovane javia ako zvládnuteľné – napríklad exponovaná služba, nesprávna konfigurácia, nadmerné oprávnenia alebo kompromitované prihlasovacie údaje – a premeny týchto slabín na koordinovanú útočnú cestu rýchlosťou stroja.

Z toho vyplýva, že investovanie do umelej inteligencie na bezpečnostné účely sa stáva normou pre spoločnosti s produktmi založenými na kóde, ako je odvetvie Web3 a blockchainu.

„Umelá inteligencia zvýši schopnosti útočníkov aj obrancov. Preto by spoločnosti pôsobiace v oblasti blockchainu mali viac investovať do bezpečnosti založenej na umelej inteligencii, aby ochránili svoj kód a infraštruktúru. Vstupujeme do éry, v ktorej kľúčovou otázkou už nie je, či používať umelú inteligenciu, ale koľko zdrojov umelej inteligencie (alebo tokenov) organizácie investujú do ochrany svojich systémov v porovnaní so zdrojmi, ktoré útočníci investujú do spúšťania čoraz sofistikovanejších útokov,“ vyhlásil expert.

AI a bezpečnosť blockchainu: kde sa nachádzame

Hoci je Lau presvedčený, že umelá inteligencia a bezpečnosť blockchainu sa nevyhnutne prepletú, uznáva, že je ešte príliš skoro na to, aby sa úlohy zamerané na odhaľovanie zraniteľností a bezpečný vývoj softvéru mohli vykonávať bez ľudského zásahu.

Spoločnosť CertiK dokonca považuje obranné agenty a ich nástroje za súčasť povrchu útoku, keďže môžu byť testované na rýchle vstrekovanie kódu, vstupy škodlivých nástrojov, nadmerné oprávnenia, únik údajov alebo nebezpečné automatizované nápravné opatrenia. Spoločnosť dokonca vyvinula nástroj s názvom AI Skill Scanner, ktorý pomáha identifikovať riziká v schopnostiach umelej inteligencie ešte pred ich nasadením, čím sa zvyšuje kontrola nad agentmi umelej inteligencie.

Lau prezradil, že CertiK bude naďalej výrazne investovať do budovania pokročilej bezpečnosti poháňanej umelou inteligenciou. „Naši interní vývojári a bezpečnostní výskumníci pracujú nepretržite na zdokonaľovaní bezpečnosti blockchainu poháňanej umelou inteligenciou,“ potvrdil.

Spoločnosť CertiK tiež vyvinula nástroj AI Auditor, ktorý vykonáva automatickú analýzu blockchainových projektov a identifikuje bežné bezpečnostné riziká. „Tento multimodelový prístup s viacerými agentmi zlepšuje nielen presnosť, ale aj spoľahlivosť bezpečnostných posúdení,“ uviedol Lau pri popise toho, ako spoločnosť rozvíja svoje obranné schopnosti proti útočníkom využívajúcim umelú inteligenciu.

Rovnováha umelej inteligencie: Kam smerujeme

Hoci umelá inteligencia znižuje bariéry pre útoky, keďže útočníci už využívajú agentov na vyhľadávanie zraniteľností a skenovanie inteligentných zmlúv, Lau uisťuje, že využitie umelej inteligencie na obranné účely prináša skutočné výhody.

„Umelá inteligencia výrazne zvyšuje efektívnosť a rozsah našej detekcie hrozieb. Spoločnosť CertiK zlepšila efektívnosť formálnej verifikácie integráciou umelej inteligencie do svojho vlastného modulu CertiK Prover,“ upresnil Lau.

Prínos spoločnosti CertiK v tejto oblasti, povedal Lau, presahuje detekciu zraniteľností a zameriava sa na to, aby obranné bezpečnostné opatrenia boli vždy o krok napred pred týmito novými hrozbami umelej inteligencie, a to aj prostredníctvom trénovania a využívania vlastných modelov umelej inteligencie na zabezpečenie svojich zákazníkov.

„Celkovo bude umelá inteligencia pre bezpečnosť Web3 jednoznačne pozitívnou silou, je však nepopierateľne dvojsečnou zbraňou, ktorá si vyžaduje neustále hľadanie rovnováhy,“ uzavrel Lau.