Never, overuj: Otravné odkazy s umelou inteligenciou odhaľujú nočnú moru pre pracovníkov v krypto odvetví

Odkaz v chate Claude sa mení na pascu s malvérom

Generatívna umelá inteligencia (AI) získava každým dňom na popularite a ľudia, ktorí pracujú v sektore digitálnych aktív a distribuovaných účtovných kníh, túto technológiu pravidelne využívajú vo svojej práci. Problémom je, že táto demografická skupina je výslovne terčom útokov zo strany škodlivých útočníkov a tajomstvá, ktoré nie je možné ľahko odvolať, môžu byť ukradnuté. V piatok spoluzakladateľ Refi Hub Numa Lunah vysvetlil, že „bol hacknutý“.

„Včera ma hackli,“ napísal na X. „Odkaz prišiel z chatu Claude. Inštaloval som aplikáciu na prepisovanie. Claude mi poslal odkaz na stiahnutie a ja som príkaz vložil do terminálu. Všetko vyzeralo dôveryhodne. Nebolo to však tak. Bola to falošná stránka obsahujúca škodlivý softvér. Spustila sa okamžite a pokúsila sa mi ukradnúť všetko.“

Vývojár dodal, že mu neunikli žiadne citlivé údaje, a že vymazal notebook, ktorý používal, a preinštaloval ho z čistej inštalácie. Problém však tým neskončil. „A teraz tá desivá časť,“ vysvetlil Numa. „Pri obnove zo zálohy som našiel infikovaný súbor SKILL.md pre Claude Code. Vyzeral presne ako môj vlastný štýlový sprievodca písania. Ale vnútri sa skrývali pokyny na tiché opätovné stiahnutie škodlivého softvéru a krádež mojich prihlasovacích údajov zakaždým, keď ho umelá inteligencia načítala.“

Odpovede LLM otvárajú nový vektor útoku, zatiaľ čo pracovníci v krypto odvetví čelia bezpečnostnému problému bez možnosti vrátiť späť

Numaova skúsenosť nie je prvým prípadom, keď LLM zdieľa škodlivé odpovede. Pred niekoľkými mesiacmi experti z Microsoft Defender varovali, že útoky typu cryptojacking sa vyvinuli z jednoduchého otravovania SEO k otravovaniu odpovedí LLM. Útoky tohto druhu pochádzajú z modelov umelej inteligencie, ako sú Gemini, Claude, Copilot a ChatGPT. Medzi útoky patria artefakty zdieľané v kontextovom okne, chatboty odporúčajúce odkazy na stiahnutie kontrolované útočníkmi, falošné inštalačné programy pod značkou umelej inteligencie a otrávené kódové základne a zručnosti agentov.

V podstate bežný notebook znalostného pracovníka obsahuje opakovane použiteľné tajné údaje, ktoré je možné zrušiť aj po hacknutí, avšak pracovníci v oblasti kryptomien môžu mať tajné údaje, ktoré nie je možné zrušiť. Patria sem napríklad seed frázy, exportované súbory xprv/keystore, JSON súbory hot-wallet, kľúče API burz s právami na výber, kľúče deployerov, Lightning macaroons, sprievodné údaje hardvérových peňaženiek a relácia cookies pre CEX dashboardy a mnoho ďalších.

Najnebezpečnejšou zraniteľnosťou môže byť ľudská dôvera a lenivosť

Najnovšie varovania ukazujú, že je potrebná zásadná zmena v kultúre bezpečnosti. Namiesto toho, aby sme pravidelne jednoducho dôverovali nástrojom umelej inteligencie, je potrebné zaujať všeobecný skepticizmus voči samotnej automatizácii. Pracovníci v tomto odvetví by mali každý návrh umelej inteligencie považovať za potenciálne nepriateľský, bez ohľadu na zdroj. Nie je to prehnaná opatrnosť ani paranoja; je to doslova otázka prežitia.

Poučenie z tohto príbehu nespočíva v zraniteľnom kóde ani v škodlivých výstupoch našich obľúbených modelov umelej inteligencie; ide o ľudský inštinkt dôverovať pohodlným odpovediam. Tento inštinkt je v danom kontexte rizikom, ktoré nedokáže napraviť žiadna oprava. To, čo v dlhodobom horizonte zachránilo spoluzakladateľa Refi Hub, bola skutočnosť, že, ako sám povedal, „prečítal každý súbor s funkciami, háčikmi a konfiguráciou, skôr než ich nechal umelú inteligenciu dotknúť sa ich“.

Bohužiaľ, väčšina dnešných používateľov umelej inteligencie pravdepodobne neoveruje správnosť informácií, ktoré im umelá inteligencia poskytuje, a jednoducho jej dôverujú z dôvodov, ktoré je ťažké vysvetliť.