Lau, direttore di CertiK, sostiene che l’intelligenza artificiale abbia un impatto complessivamente positivo nonostante i rischi

Kaijern Lau di CertiK: l’IA avrà un impatto positivo sulla sicurezza del Web3, ma sarà anche un’«arma a doppio taglio»

Il mondo della sicurezza e dell’auditing blockchain sta cambiando rapidamente, poiché gli exploit e le vulnerabilità vengono ora sfruttati e scoperti molto più velocemente grazie al coinvolgimento dell’intelligenza artificiale (IA) nei processi di individuazione delle vulnerabilità.

Le preoccupazioni generali sui rischi legati al ruolo crescente dell’IA in queste attività sono aumentate con l’incidente di Hugging Face, in cui una piattaforma di IA ha subito un attacco hacker, che è stata la prima intrusione «guidata, dall’inizio alla fine, da un sistema autonomo di agenti di IA».

L’evento, successivamente attribuito a un modello OpenAI sfuggito alla propria sandbox di test, ha confermato che la guerra alla sicurezza informatica guidata da agenti è una realtà e che le istituzioni devono essere pronte ad affrontare questi rischi ora, non domani.

Le preoccupazioni hanno raggiunto anche l’ecosistema Web3, dove la sicurezza è più passiva che attiva, gestita da audit e considerazioni di sicurezza progettate durante le fasi di produzione e che spesso non possono essere aggiornate in tempo reale prima della distribuzione di nuovi contratti.

In un’intervista esclusiva con Bitcoin.com News, Kaijern Lau, direttore senior dell’ingegneria presso CertiK, ha esaminato il ruolo dell’IA sia in questi attacchi sia nel processo di audit del codice per prevenirli.

Lau sottolinea che l’IA può essere uno strumento utile per identificare una vulnerabilità ed esaminare potenziali vettori di attacco su una piattaforma. Tuttavia, il coinvolgimento di una persona è ancora necessario «per garantire che l’IA abbia analizzato il codice in modo approfondito e per verificare che le vulnerabilità segnalate siano reali e non falsi positivi».

Lau ha dichiarato che recenti ricerche sulle superfici di attacco dei portafogli hardware illustrano i limiti dell’IA e l’importanza del coinvolgimento umano. «L’IA può aiutare a individuare modelli ricorrenti e ad accelerare l’analisi, ma sono ancora necessari ricercatori esperti per convalidare i risultati e valutarne l’impatto effettivo», ha affermato.

L’incidente di Hugging Face è un caso isolato, non una prova dell’esistenza di “agenti ribelli”

Lau ha sottolineato che l’incidente di Hugging Face si è verificato in un contesto di valutazione specifico e che un caso del genere non significa che i modelli di IA siano incontrollabili.

Ciononostante, ha sottolineato che l’attacco ha messo in luce le attuali capacità degli agenti di IA, che sono sempre più in grado di eseguire operazioni complesse di sicurezza informatica, tra cui l’identificazione e la combinazione di vulnerabilità che, prese singolarmente, sembrano gestibili – come un servizio esposto, una configurazione errata, autorizzazioni eccessive o credenziali compromesse – trasformandole in un percorso di attacco coordinato alla velocità di una macchina.

Di conseguenza, ciò dimostra anche come investire nell’IA a fini di sicurezza stia diventando la norma per le aziende con prodotti basati su codice, come nel settore del Web3 e della blockchain.

"L’IA renderà più capaci sia gli aggressori che i difensori. Ecco perché le aziende blockchain dovrebbero investire maggiormente nella sicurezza basata sull’IA per proteggere il proprio codice e la propria infrastruttura. Stiamo entrando in un’era in cui la domanda chiave non è più se utilizzare l’IA, ma quante risorse di IA (o token) le organizzazioni investono nella difesa dei propri sistemi rispetto alle risorse che gli aggressori investono nel lancio di attacchi sempre più sofisticati», ha dichiarato l’esperto.

IA e sicurezza blockchain: a che punto siamo

Sebbene Lau sia certo che la sicurezza basata sull’IA e quella della blockchain finiranno inevitabilmente per intrecciarsi, riconosce che è ancora troppo presto perché le attività di individuazione delle vulnerabilità e di sviluppo sicuro del software possano essere portate a termine senza l’intervento umano.

CertiK considera addirittura gli agenti difensivi e i propri strumenti come parte della superficie di attacco, poiché possono essere sottoposti a test per individuare iniezioni immediate, input di strumenti dannosi, autorizzazioni eccessive, fughe di dati o correzioni automatizzate non sicure. Infatti, l’azienda ha progettato uno strumento, l’AI Skill Scanner, per aiutare a identificare i rischi nelle competenze di IA prima della distribuzione, aumentando i controlli esercitati sugli agenti di IA.

Lau ha rivelato che CertiK continuerà a investire massicciamente per sviluppare una sicurezza avanzata basata sull’IA. «I nostri sviluppatori interni e ricercatori di sicurezza stanno lavorando senza sosta per far progredire la sicurezza blockchain guidata dall’IA», ha confermato.

CertiK ha inoltre sviluppato AI Auditor, uno strumento che esegue un’analisi automatica dei progetti blockchain, identificando i rischi di sicurezza più comuni. «Questo approccio multimodello e multi-agente migliora sia l’accuratezza che l’affidabilità delle valutazioni di sicurezza», ha affermato Lau, descrivendo come l’azienda stia sviluppando le proprie capacità difensive contro gli attori assistiti dall’IA.

L’equilibrio dell’IA: quale sarà il prossimo passo

Sebbene l’IA abbassi le barriere agli attacchi, dato che gli autori delle minacce stanno già sfruttando agenti per individuare exploit e scansionare gli smart contract alla ricerca di vulnerabilità, Lau assicura che l’utilizzo dell’IA a fini difensivi comporti vantaggi concreti.

«L’IA aumenta notevolmente l’efficienza e la portata del nostro rilevamento delle minacce. CertiK ha migliorato l’efficienza della verifica formale integrando l’IA nel proprio motore proprietario CertiK Prover», ha specificato Lau.

Il contributo di CertiK in questo ambito, ha affermato Lau, va oltre il rilevamento delle vulnerabilità e mira a garantire che le misure di sicurezza difensive restino un passo avanti rispetto a queste minacce emergenti legate all’IA, addestrando e impiegando i propri modelli di IA per proteggere i propri clienti.

«Nel complesso, l’IA sarà una forza nettamente positiva per la sicurezza del Web3, ma è innegabilmente un’arma a doppio taglio che richiede un continuo equilibrio», ha concluso Lau.