Nevěř, ověřuj: Otrávené odkazy generované umělou inteligencí odhalují noční můru pro pracovníky v kryptoměnovém odvětví

Odkaz v chatu Claude se mění v past s malwarem

Generativní umělá inteligence (AI) získává každým dnem na popularitě a lidé pracující v odvětví digitálních aktiv a distribuovaných účetních knih tuto technologii pravidelně využívají ve své práci. Problémem je, že právě tato skupina je výslovně v hledáčku útočníků a může dojít ke krádeži důvěrných informací, které nelze snadno odvolat. V pátek spoluzakladatel Refi Hub Numa Lunah vysvětlil, že „byl napaden hackery“.

„Včera mě napadli hackeři,“ napsal na X. „Odkaz přišel z chatu Claude. Instaloval jsem si aplikaci na přepisování. Claude mi poslal odkaz ke stažení a já jsem příkaz vložil do terminálu. Všechno to vypadalo důvěryhodně. Nebylo tomu tak. Jednalo se o napodobeninu webu obsahující malware. Spustil se okamžitě a pokusil se mi ukrást všechno.“

Vývojář dodal, že mu neunikly žádné citlivé údaje, a že notebook, který používal, vymazal a znovu nainstaloval z čisté instalace. Problém tím však neskončil. „A teď ta děsivá část,“ vysvětlil Numa. „Při obnově ze zálohy jsem našel infikovaný soubor SKILL.md pro Claude Code. Vypadal přesně jako můj vlastní stylový průvodce psaním. Ale uvnitř se skrývaly pokyny, aby se malware tiše znovu stáhl a ukradl mi přihlašovací údaje pokaždé, když ho AI načte.“

Odpovědi LLM otevírají nový vektor útoku, zatímco pracovníci v kryptoměnovém odvětví čelí bezpečnostnímu problému bez možnosti vrácení zpět

Numaova zkušenost není prvním případem, kdy LLM sdílí škodlivé odpovědi. Před několika měsíci odborníci z Microsoft Defender varovali, že útoky typu cryptojacking se vyvinuly od jednoduchého SEO poisoning k LLM answer poisoning. Útoky tohoto typu vycházejí z modelů umělé inteligence, jako jsou Gemini, Claude, Copilot a ChatGPT. Mezi tyto útoky patří artefakty sdílené v kontextovém okně, chatboty doporučující odkazy ke stažení ovládané útočníky, falešné instalační programy vydávané za produkty AI a zmanipulované kódové základny a schopnosti agentů.

V zásadě platí, že běžný notebook znalostního pracovníka obsahuje opakovaně použitelné tajné údaje, které lze zrušit i po hackerském útoku, zatímco pracovníci v kryptoměnovém odvětví mohou mít tajné údaje, které nelze zrušit. Patří sem mimo jiné seed fráze, exportované soubory xprv/keystore, JSON soubory hot-wallet, API klíče burz s právy k výběru, klíče k nasazení, Lightning macaroons, doprovodná data hardwarových peněženek a relační cookies pro dashboardy CEX.

Nejnebezpečnější zranitelností může být lidská důvěra a lenost

Nejnovější varování ukazují, že je zapotřebí zásadní změna v bezpečnostní kultuře. Místo toho, abychom pravidelně bezvýhradně důvěřovali nástrojům umělé inteligence, je třeba zaujmout všeobecný skeptický postoj k automatizaci samotné. Pracovníci v tomto odvětví by měli každý návrh AI považovat za potenciálně nepřátelský, bez ohledu na jeho zdroj. Nejde o přehnanou opatrnost ani paranoiu; jde doslova o přežití.

Ponaučením z tohoto příběhu není zranitelný kód ani zmanipulované výstupy našich oblíbených modelů umělé inteligence; je jím lidský instinkt důvěřovat pohodlným odpovědím. Tento instinkt je v daném kontextu slabým místem, které žádná oprava nedokáže vyřešit. To, co v dlouhodobém horizontu zachránilo spoluzakladatele Refi Hub, byla skutečnost, že, jak sám řekl, „si přečetl každý skill, hook a konfigurační soubor, než je nechal AI upravit“.

Bohužel většina dnešních uživatelů AI pravděpodobně neověřuje pravdivost informací, které jim AI předkládá, a jednoduše jim důvěřuje z důvodů, které je stále těžké vysvětlit.