Ne zaupaj, preveri: zastrupjene povezave z umetno inteligenco razkrivajo nočno moro za delavce v svetu kriptovalut

Povezava v klepetu Claude se spremeni v past z zlonamerno programsko opremo

Generativna umetna inteligenca (AI) vsak dan pridobiva na popularnosti, ljudje, ki delajo v sektorju digitalnih sredstev in razpršenih knjig, pa to tehnologijo redno uporabljajo pri svojem delu. Problem je v tem, da to demografsko skupino izrecno preganjajo zlonamerni napadalci, pri čemer bi lahko bili ukradeni skrivnosti, ki jih ni mogoče enostavno preklicati. V petek je soustanovitelj Refi Hub, Numa Lunah, pojasnil, da je »bil žrtev hekerskega napada«.

»Včeraj sem bil žrtev hekerskega napada,« je napisal na X. »Povezava je prišla iz klepeta v Claudu. Namestil sem aplikacijo za prepisovanje. Claude mi je poslal povezavo za prenos, jaz pa sem ukaz prilepil v terminal. Vse je izgledalo legitimno. A ni bilo. Šlo je za ponarejeno spletno stran, ki je vsebovala zlonamerno programsko opremo. Ta se je takoj zažela in poskušala mi ukrasti vse.«

Razvijalec je dodal, da ni izgubil nobenih občutljivih podatkov, prenosni računalnik, ki ga je uporabljal, pa je izbrisal in ga ponovno namestil iz čistega sistema. A težava s tem še ni bila končana. »Tu pride strašni del,« je pojasnil Numa. »Med obnovitvijo iz varnostne kopije sem našel okužen datotek SKILL.md za Claude Code. Izgledal je točno kot moj lastni priročnik za pisanje. A v njem so bila skrita navodila, da se zlonamerna programska oprema tiho ponovno prenese in ukrade moje prijavne podatke vsakič, ko jo AI naloži.«

Odgovori LLM odpirajo nov vektor napada, medtem ko se delavci v kriptovalutni industriji soočajo z varnostnim problemom brez gumba za preklic

Numin primer ni prvi primer, ko je LLM delil zlonamerne odgovore. Pred nekaj meseci so strokovnjaki iz Microsoft Defenderja opozorili, da so se napadi kriptojackinga razvili od preprostega SEO-zastrupljanja do zastrupljanja odgovorov LLM-jev. Takšni napadi izvirajo iz modelov umetne inteligence, kot so Gemini, Claude, Copilot in ChatGPT. Napadi vključujejo artefakte, deljene v oknu konteksta, klepetalne robote, ki priporočajo povezave za prenos, ki jih nadzira napadalec, ponarejene namestitvene programe z blagovno znamko umetne inteligence ter okuženo kodno bazo in veščine agentov.

V bistvu običajni prenosni računalnik strokovnjaka za delo z znanjem vsebuje ponovno uporabne skrivnosti, ki jih je mogoče preklicati tudi po vdoru, medtem ko lahko kriptovalutni delavci hranijo skrivnosti, ki jih ni mogoče preklicati. To vključuje stvari, kot so izhodiščne fraze, izvožene datoteke xprv/keystore, JSON za vroče denarnice, API-ključi borz z pravicami do izplačil, ključi za razvrščanje, Lightning macaroons, spremljevalni podatki za strojne denarnice ter sejni piškotki za nadzorne plošče CEX, med mnogimi drugimi.

Najnevarnejša ranljivost sta morda človeško zaupanje in lenoba

Najnovejša opozorila kažejo, da je potreben temeljit premik v varnostni kulturi. Namesto da bi redno preprosto zaupali orodjem umetne inteligence, je treba gojiti splošno skepso do same avtomatizacije. Zaposlenim v tej industriji bi bilo bolje, če bi vsak predlog umetne inteligence obravnavali kot po naravi sovražen, ne glede na vir. To ni pretirana previdnost ali paranoja; gre dobesedno za preživetje.

Poučnost te zgodbe ni v ranljivi kodi ali zastrupljenih izhodnih podatkih naših najljubših modelov umetne inteligence; gre za človeški instinkt, da zaupamo priročnim odgovorom. Ta instinkt je v tem okolju tveganje, ki ga nobena popravka ne more odpraviti. Tisto, kar je na dolgi rok rešilo soustanovitelja Refi Hub, je bilo dejstvo, da je dejal, da je »prebral vsako spretnost, hook in konfiguracijsko datoteko, preden je umetni inteligenci dovolil, da se jih dotakne«.

Na žalost večina današnjih uporabnikov umetne inteligence verjetno ne preverja, ali so podatki, ki jim jih umetna inteligenca poda, resnični, ampak ji preprosto zaupajo iz razlogov, ki jih je težko pojasniti.