Stol ikke på det, men kontroller det: Forfalskede AI-links afslører et mareridt for kryptoarbejdere

Claude-chatlink bliver til en malwarefælde

Generativ kunstig intelligens (AI) vinder mere og mere indpas, og folk, der arbejder inden for digitale aktiver og distribuerede regnskabsbøger, bruger teknologien regelmæssigt i deres arbejde. Problemet er, at denne gruppe er et udtrykkeligt mål for ondsindede angribere, og hemmeligheder, der ikke let kan tilbagekaldes, kan blive stjålet. Fredag forklarede Numa Lunah, medstifter af Refi Hub, at han »blev hacket«.

»Jeg blev hacket i går,« skrev han på X. »Linket kom fra Claude-chatten. Jeg var i gang med at installere en transskriptionsapp. Claude sendte downloadlinket, og jeg indsatte kommandoen i terminalen. Det hele så legitimt ud. Men det var det ikke. Det var en kopiside, der indeholdt malware. Den kørte med det samme og forsøgte at stjæle alt fra mig.”

Udvikleren tilføjede, at ingen af hans følsomme oplysninger slap væk, og at han slettede den bærbare computer, han brugte, og genopbyggede den med en ren installation. Men problemet var ikke ovre. »Her kommer det skræmmende,« forklarede Numa. »Da jeg gendannede fra sikkerhedskopien, fandt jeg en inficeret SKILL.md-fil til Claude Code. Den lignede præcis min egen stilguide. Men gemt inde i den var der instruktioner om at genindlæse malware i det skjulte og stjæle mine loginoplysninger, hver gang AI’en indlæste den.«

LLM-svar åbner en ny angrebsvektor, mens kryptoarbejdere står over for et sikkerhedsproblem uden en »fortryd«-knap

Numas oplevelse er ikke det første tilfælde, hvor en LLM deler ondsindede svar. For et par måneder siden advarede eksperter fra Microsoft Defender om, at cryptojacking-angreb havde udviklet sig fra simpel SEO-forgiftning til LLM-svarforgiftning. Angreb som disse stammer fra AI-modeller som Gemini, Claude, Copilot og ChatGPT. Angrebene omfatter artefakter, der deles via kontekstvinduet, chatbots, der anbefaler download-links kontrolleret af angriberen, falske installationsprogrammer med AI-branding samt forgiftede kodebaser og agentfærdigheder.

Grundlæggende indeholder en almindelig bærbar computer til videnarbejdere genanvendelige hemmeligheder, der kan tilbagekaldes selv efter et hack, men kryptomedarbejdere kan opbevare hemmeligheder, der ikke kan tilbagekaldes. Dette omfatter blandt andet seed-fraser, eksporterede xprv-/keystore-filer, JSON-filer fra hot-wallets, API-nøgler til børser med udbetalingsrettigheder, deployer-nøgler, Lightning-macaroons, ledsagerdata til hardware-wallets samt sessionscookies til CEX-dashboards.

Den farligste sårbarhed kan være menneskelig tillid og dovenskab

De seneste advarsler viser, at der er behov for et grundlæggende skift i sikkerhedskulturen. I stedet for blot at stole på AI-værktøjer som en selvfølge, skal der udvises en gennemgribende skepsis over for selve automatiseringen. Medarbejdere i denne branche ville gøre klogt i at betragte ethvert AI-forslag som iboende fjendtligt, uanset kilden. Det er ikke at være overbeskyttende eller paranoid; det handler bogstaveligt talt om overlevelse.

Moralen i historien handler ikke om sårbar kode eller forfalskede resultater fra vores foretrukne AI-modeller; det handler om det menneskelige instinkt til at stole på bekvemme svar. I denne sammenhæng er dette instinkt en svaghed, som ingen opdatering kan afhjælpe. Det, der i sidste ende reddede medstifteren af Refi Hub, var, at han sagde, at han »læste hver eneste skill-, hook- og konfigurationsfil, før han lod AI’en røre ved dem«.

Desværre tjekker de fleste AI-brugere i dag sandsynligvis ikke de oplysninger, AI'en giver dem, for at sikre, at de er korrekte, og de stoler simpelthen på dem af årsager, der stadig er svære at forklare.