Certik presenta un "antivirus per agenti IA" mentre i marketplace delle skill devono affrontare minacce nascoste

La sfida della sicurezza

Il 27 maggio Certik, azienda specializzata nella sicurezza di blockchain e IA, ha presentato una nuova piattaforma di sicurezza progettata per valutare i rischi nelle competenze di intelligenza artificiale (IA) di terze parti. Soprannominata "antivirus per agenti IA", la piattaforma viene lanciata in un momento di crescente preoccupazione del settore riguardo alla sicurezza dei marketplace di competenze IA.

I ricercatori di sicurezza hanno avvertito che molte di queste competenze non sono state sottoposte a verifica, possono eseguire azioni a livello di sistema e potrebbero contenere comportamenti dannosi nascosti, creando un nuovo rischio per la catena di fornitura del software nell'era dell'IA. Gli audit di sicurezza in tutto il settore hanno identificato rischi che vanno dalla raccolta di credenziali e dall'esfiltrazione di dati alla manipolazione dei trasferimenti di fondi e agli attacchi di override basati su prompt.

Nonostante queste preoccupazioni, i mercati delle competenze di IA si sono espansi rapidamente con la maturazione degli ecosistemi degli agenti. Tuttavia, a differenza degli app store tradizionali, la maggior parte delle competenze proviene da repository pubblici con una revisione minima o nulla. Gli analisti affermano che ciò crea opportunità per gli aggressori di incorporare istruzioni dannose, innescare accessi non autorizzati ai dati o manipolare i flussi di esecuzione autonomi.

In un recente post sul blog, Certik ha affermato che la sua piattaforma di scansione delle competenze è progettata specificamente per valutare i rischi che emergono durante l'esecuzione, inclusi scenari che coinvolgono transazioni finanziarie o richieste di fondi. Lo scanner produce un punteggio numerico da 0 a 100, insieme a verdetti di "superato", "avviso" o "fallito" e risultati categorizzati. Secondo l'azienda, il sistema raggiunge una precisione fino al 90,5% nell'identificazione dei rischi di sicurezza.

"Man mano che gli agenti di IA diventano sempre più integrati nei sistemi finanziari, nei flussi di lavoro aziendali e nelle interazioni digitali quotidiane, il modello di sicurezza relativo alle skill di terze parti diventa di fondamentale importanza", ha affermato Ronghui Gu, CEO e co-fondatore di Certik. "CertiK Skill Scanner è stato creato per stabilire un livello di fiducia standardizzato prima dell'esecuzione, aiutando utenti e piattaforme a identificare i rischi nascosti prima che dati sensibili, risorse o sistemi vengano esposti".

Certik ha affermato che i marketplace di competenze AI possono integrare lo scanner direttamente nelle pipeline di pubblicazione, esaminando automaticamente le competenze prima che vengano rese disponibili e mostrando agli utenti i verdetti di sicurezza. Le aziende possono implementare lo strumento come parte dei flussi di lavoro interni di conformità e gestione dei rischi, mentre gli sviluppatori indipendenti possono utilizzarlo per eseguire un'autoverifica delle competenze prima della pubblicazione.

L'azienda ha dichiarato che i futuri aggiornamenti consentiranno agli utenti comuni di scansionare le competenze autonomamente prima dell'installazione. Lo scanner è già stato implementato in alcuni ambienti di infrastruttura di agenti di IA Web3. Certik sta inoltre espandendo le integrazioni con piattaforme aggiuntive, tra cui Finchip.ai.

“La fiducia è il prerequisito affinché qualsiasi economia delle competenze possa funzionare su larga scala”, ha affermato Gary Yang, investitore di incubazione presso Finchip.ai. “Il lavoro di CertiK sulla verifica della sicurezza delle competenze è esattamente ciò di cui questo ecosistema ha bisogno. È ciò che rende degna di essere perseguita la missione di Finchip di proprietà e distribuzione di competenze programmabili.”

Il lancio segue l'espansione di Certik nell'infrastruttura di sicurezza incentrata sull'IA. All'inizio di quest'anno, l'azienda ha introdotto la sua iniziativa AI Auditor per affrontare i rischi legati ai sistemi autonomi e agli ambienti di esecuzione guidati dall'IA. “Le applicazioni di IA si stanno orientando verso un'esecuzione sempre più autonoma, il che crea una nuova categoria di sfide in termini di sicurezza e fiducia”, ha affermato Gu. “Riteniamo che l'infrastruttura di sicurezza per l'era dell'IA debba funzionare in modo proattivo, non reattivo.”