La Fondazione Ethereum ha lasciato che gli agenti di intelligenza artificiale analizzassero il proprio codice: ecco cosa hanno effettivamente scoperto

Molte diagnosi errate

L’esperimento è stato descritto in dettaglio in un post sul blog pubblicato il 9 luglio da Nikos Baxevanis, membro del team di sicurezza del protocollo della fondazione, con un titolo che fungeva anche da tesi dell’organizzazione, ovvero «Il triage è il prodotto». I risultati hanno attirato grande attenzione poiché i problemi segnalati più frequentemente si sono rivelati falsi positivi (anche se tra questi erano presenti bug reali).

La scoperta principale è del tutto reale, poiché gli agenti hanno contribuito a far emergere una vulnerabilità attivabile da remoto in gossipsub, parte del livello di rete peer-to-peer libp2p su cui girano i client di consenso di Ethereum. La vulnerabilità è stata corretta e segnalata come CVE-2026-34219 (il tipo di bug che, se individuato per primo da un aggressore, avrebbe potuto essere utilizzato per compromettere i nodi in tutta la rete).

Trovare i bug è stata la parte facile

La sorpresa, ha scritto la fondazione, non è stata che gli agenti di IA fossero in grado di individuare bug, ma «quanto poco lavoro sia stato necessario per individuarli e quanto invece ne sia stato necessario per distinguere i bug reali da quelli che sembravano reali».

Il team ha catalogato le forme ricorrenti di questi impostori, come i crash che si verificano solo nelle build di debug e mai in produzione, i casi riproducibili che si basano su valori interni irraggiungibili che nessun hacker potrebbe effettivamente fornire, e le prove di verifica formale che sono tecnicamente vere ma così prive di vincoli da non dimostrare nulla.

La risposta della fondazione è stata un rigoroso standard probatorio che ha sintetizzato con la formula «riproducibile o non è successo». Per precisare, ogni potenziale scoperta deve d’ora in poi essere accompagnata da un artefatto autonomo che riproduca l’errore sul codice effettivo, indipendentemente dal grado di certezza dichiarato dall’agente che lo segnala.

Gli agenti, in questo contesto, possono essere considerati come generatori di ipotesi (strumenti di ricerca, non decisori) organizzati in fasi di ricognizione, ricerca, colmare le lacune e convalida, con gli esseri umani che prendono la decisione finale.

I numeri dietro il clamore

Il post ha anche offerto un raro punto di riferimento sulle prestazioni dell’attuale generazione di strumenti. Un agente di test basato sulle proprietà ha generato circa 1.000 possibili risultati e, dopo la revisione da parte di esperti, circa l’86% delle sue raccomandazioni di primo livello ha superato l’esame (un risultato notevole per una macchina, ma una percentuale che richiede comunque un filtro umano prima che qualsiasi cosa entri in contatto con il codice di produzione).

Gli strumenti stanno chiaramente individuando vulnerabilità reali nelle infrastrutture critiche, smentendo così l’affermazione secondo cui i rapporti sui bug generati dall’IA sarebbero solo rumore di fondo. Tuttavia, il carico di lavoro non è scomparso, ma si è semplicemente spostato a valle, verso la fase di triage, dove ingegneri esperti separano il segnale dalla simulazione. Per una rete che protegge un valore di centinaia di miliardi di dollari, quel filtro è fondamentale.

La fondazione sta ora portando avanti il lavoro anziché considerarlo un caso isolato. Il suo «Ecosystem Support Program», ad esempio, sta finanziando un ciclo di sovvenzioni dedicato alla sicurezza dei protocolli basata sull’IA, che copre ricerca, auditing e rilevamento delle vulnerabilità.