Ära usalda, kontrolli: mürgitatud AI-lingid paljastavad krüptovaluuta-töötajate jaoks õudusunenäo

Claude'i vestluslink muutub pahavara lõksuks

Generatiivne tehisintellekt (AI) kogub iga päev hoogu ning digitaalsete varade ja hajutatud raamatupidamise sektoris töötavad inimesed kasutavad seda tehnoloogiat oma töös regulaarselt. Probleem on selles, et pahatahtlikud ründajad jahivad just seda sihtrühma ning salajasi andmeid, mida ei ole lihtne tagasi võtta, võidakse varastada. Reedel selgitas Refi Hubi kaasasutaja Numa Lunah, et ta „sai häkitud“.

„Sain eile häkitud,“ kirjutas ta X-is. „Link tuli Claude’i vestlusest. Ma olin paigaldamas transkriptsioonirakendust. Claude saatis allalaadimislingi ja ma kleepisin käsu terminali. Kõik nägi välja legitiimne. Kuid tegelikult ei olnud. See oli pahavara sisaldav võltsveebisait. See käivitus kohe ja üritas minult kõike ära võtta.”

Arendaja lisas, et midagi tundlikku tema andmetest ei kadunud ning ta puhastas kasutatud sülearvuti ja seadistas selle uuesti puhtalt. Kuid probleem ei olnud veel läbi. „Siin ongi kõige hirmutavam osa,“ selgitas Numa. „Varuandmest taastades leidsin ma Claude Code’i jaoks mõeldud nakatatud SKILL.md-faili. See nägi välja täpselt nagu minu enda kirjutamisjuhend. Aga selle sisse oli peidetud juhised, et iga kord, kui tehisintellekt selle laadis, laadiks see vaikselt pahavara uuesti alla ja varastaks minu kasutajatunnused.“

LLM-i vastused avavad uue rünnakuvektori, samal ajal kui krüptovaldkonna töötajad seisavad silmitsi turvaprobleemiga, millel puudub tagasivõtmise nupp

Numa kogemus ei ole esimene juhtum, kus LLM jagab pahatahtlikke vastuseid. Mõned kuud tagasi hoiatasid Microsoft Defenderi eksperdid, et krüptovarguse rünnakud on arenenud lihtsast SEO-mürgistamisest LLM-vastuste mürgistamiseni. Sellised rünnakud pärinevad tehisintellekti mudelitest nagu Gemini, Claude, Copilot ja ChatGPT. Rünnakud hõlmavad kontekstiaknas jagatud artefakte, ründaja kontrolli all olevaid allalaadimislingid soovitavaid chatbote, tehisintellekti kaubamärgiga võltsitud installijaid ning mürgitatud koodibaasi ja agendi oskusi.

Põhimõtteliselt sisaldab tavalise teadustöötaja sülearvuti korduvkasutatavaid salajasi andmeid, mida saab tühistada isegi pärast häkkimist, kuid krüptovaluuta-töötajatel võivad olla salajased andmed, mida tühistada ei saa. Siia kuuluvad muu hulgas algfraasid, eksporditud xprv-/keystore-failid, hot-wallet’i JSON-failid, väljavõtmisõigusega vahetusplatvormi API-võtmed, deployer-võtmed, Lightning-makroonid, riistvarakoti kaasandmed ning CEX-i juhtpaneelide seansiküpsised.

Kõige ohtlikum haavatavus võib olla inimeste usaldus ja laiskus

Viimased hoiatused näitavad, et turvakultuuris on vaja põhjalikku muutust. Selle asemel, et lihtsalt regulaarselt AI-tööriistu usaldada, tuleb suhtuda automatiseerimisse laialdaselt skeptiliselt. Selles valdkonnas töötavatel inimestel oleks parem suhtuda igasse AI soovitusse kui olemuselt vaenulikku, olenemata selle allikast. See ei ole liigne ettevaatus ega paranoia; see on sõna otseses mõttes ellujäämine.

Selle loo moraal ei peitu haavatavas koodis ega meie lemmik-tehisintellekti mudelite mürgistes väljundites, vaid inimlikus instinktis usaldada mugavaid vastuseid. See instinkt on selles olukorras nõrkus, mida ükski parandus ei suuda kõrvaldada. See, mis päästis Refi Hubi kaasasutaja pikemas perspektiivis, oli asjaolu, et ta ütles, et „luges läbi iga oskuse, konksu ja konfiguratsioonifaili, enne kui lasi AI-l neid puudutada”.

Kahjuks ei kontrolli enamik tänapäeva tehisintellekti kasutajaid tõenäoliselt tehisintellekti poolt edastatud teabe õigsust ning usaldavad seda lihtsalt põhjustel, mida on raske selgitada.