Non fidarti, verifica: i link avvelenati generati dall’IA rivelano un incubo per chi lavora nel settore delle criptovalute

Il link di Claude Chat si trasforma in una trappola di malware

L’intelligenza artificiale generativa (AI) sta guadagnando terreno ogni giorno e chi lavora nel settore degli asset digitali e dei registri distribuiti utilizza regolarmente questa tecnologia per il proprio lavoro. Il problema è che questa fascia di utenza è esplicitamente presa di mira da malintenzionati e che potrebbero essere rubati segreti difficili da recuperare. Venerdì, il cofondatore di Refi Hub, Numa Lunah, ha spiegato di essere stato “vittima di un attacco hacker”. “Ieri sono stato vittima di un attacco hacker”, ha scritto su X. “Il link proveniva dalla chat di Claude. Stavo installando un’app di trascrizione. Claude mi ha inviato il link per il download e io ho incollato il comando nel terminale. Sembrava tutto legittimo. Ma non lo era. Era un sito contraffatto che conteneva malware. Si è avviato immediatamente e ha cercato di rubarmi tutto.»

Lo sviluppatore ha aggiunto che nessuna delle sue informazioni sensibili è trapelata e che ha cancellato il contenuto del portatile che stava utilizzando, reinstallando il sistema da zero. Ma il problema non era finito. “Ecco la parte spaventosa”, ha spiegato Numa. “Durante il ripristino dal backup, ho trovato un file SKILL.md compromesso per Claude Code. Sembrava esattamente la mia guida di stile di scrittura. Ma nascosto al suo interno c’erano le istruzioni per scaricare di nuovo il malware in modo invisibile e rubare le mie credenziali ogni volta che l’IA lo caricava.”

Le risposte dei modelli LLM aprono un nuovo vettore di attacco, mentre gli operatori del settore delle criptovalute devono affrontare un problema di sicurezza senza un pulsante «Annulla»

L’esperienza di Numa non è il primo caso in cui un LLM condivide risposte dannose. Alcuni mesi fa, gli esperti di Microsoft Defender hanno avvertito che gli attacchi di cryptojacking si erano evoluti dal semplice avvelenamento SEO all’avvelenamento delle risposte dei modelli LLM. Attacchi come questi hanno origine da modelli di IA quali Gemini, Claude, Copilot e ChatGPT. Gli attacchi includono artefatti condivisi nella finestra di contesto, chatbot che raccomandano link di download controllati dagli aggressori, falsi programmi di installazione con marchio IA, nonché codice sorgente e competenze degli agenti compromessi.

In sostanza, un normale laptop di un knowledge worker contiene segreti riutilizzabili che possono essere revocati anche dopo un attacco, mentre i crypto worker possono custodire segreti che non possono essere revocati. Tra questi vi sono elementi quali frasi seed, file xprv/keystore esportati, JSON di hot wallet, chiavi API di exchange con diritti di prelievo, chiavi di deployer, macaroon Lightning, dati di accompagnamento dei portafogli hardware e cookie di sessione per le dashboard delle CEX, tra molti altri.

La vulnerabilità più pericolosa potrebbe essere la fiducia e la pigrizia umana

Gli ultimi avvertimenti dimostrano che è necessario un cambiamento radicale nella cultura della sicurezza. Anziché limitarsi a fidarsi ciecamente degli strumenti di IA su base regolare, occorre adottare uno scetticismo diffuso nei confronti dell’automazione stessa. I professionisti del settore farebbero meglio a considerare ogni suggerimento dell’IA come intrinsecamente ostile, indipendentemente dalla fonte. Non si tratta di essere eccessivamente cauti o paranoici; è letteralmente una questione di sopravvivenza.

La morale della storia non riguarda il codice vulnerabile o i risultati compromessi dei nostri modelli di IA preferiti; riguarda l’istinto umano di fidarsi delle risposte più comode. In questo contesto, quell’istinto è un punto debole che nessuna patch può risolvere. Ciò che alla fine ha salvato il cofondatore di Refi Hub è stato il fatto che, come lui stesso ha dichiarato, «ha letto ogni skill, hook e file di configurazione prima di lasciare che l’IA vi mettesse mano».

Purtroppo, oggi la maggior parte degli utenti dell’IA probabilmente non ricontrolla la veridicità delle informazioni che l’IA fornisce loro, ma si limita semplicemente a fidarsi per ragioni che rimangono difficili da spiegare.