Ne bízz, hanem ellenőrizd: a mérgezett AI-linkek rémálmot jelentenek a kriptovaluta-szektorban dolgozók számára

A Claude Chat-link rosszindulatú szoftvercsapdává válik

A generatív mesterséges intelligencia (AI) napról napra egyre nagyobb teret nyer, és a digitális eszközökkel és elosztott főkönyvekkel foglalkozó szakemberek rendszeresen használják ezt a technológiát munkájuk során. A probléma az, hogy ezt a célcsoportot kifejezetten a rosszindulatú támadók veszik célba, és olyan titkokat lophatnak el, amelyeket nem lehet könnyen visszavonni. Pénteken a Refi Hub társalapítója, Numa Lunah elmondta, hogy „meghackelték”.

„Tegnap meghackeltek” – írta az X-en. „A link a Claude chatből érkezett. Éppen egy átírási alkalmazást telepítettem. A Claude elküldte a letöltési linket, én pedig beillesztettem a parancsot a terminálba. Minden teljesen legitimnek tűnt. Pedig nem az volt. Egy hamis weboldal volt, amely rosszindulatú szoftvert rejtett magában. Azonnal elindult, és megpróbált mindent ellopni tőlem.”

A fejlesztő hozzátette, hogy semmilyen érzékeny adata nem került ki a kezéből, és törölte a használt laptopját, majd tiszta telepítéssel újraállította a rendszert. De a probléma ezzel még nem ért véget. „Itt jön az ijesztő rész” – magyarázta Numa. „A biztonsági másolatból való visszaállítás során találtam egy fertőzött SKILL.md fájlt a Claude Code-hoz. Pontosan úgy nézett ki, mint a saját írási stílusú útmutatóm. De belülre rejtve: utasításokat tartalmazott arra, hogy minden alkalommal, amikor az AI betölti, csendben újra letöltse a rosszindulatú programot, és ellopja a bejelentkezési adataimat.”

Az LLM-válaszok új támadási felületet nyitnak meg, miközben a kriptovaluta-szakemberek olyan biztonsági problémával szembesülnek, amelynek nincs „visszavonás” gombja

Numa tapasztalata nem az első olyan eset, amikor egy LLM rosszindulatú válaszokat oszt meg. Néhány hónappal ezelőtt a Microsoft Defender szakértői arra figyelmeztettek, hogy a kriptopénz-bányászati támadások az egyszerű SEO-mérgezésről az LLM-válaszok mérgezésére fejlődtek tovább. Az ilyen támadások olyan AI-modellekből erednek, mint a Gemini, a Claude, a Copilot és a ChatGPT. A támadások közé tartoznak a kontextusablakban megosztott artefaktumok, a támadó által ellenőrzött letöltési linkeket ajánló csevegőrobotok, az AI-márkájú hamis telepítők, valamint a megfertőzött kódbázisok és ügynöki készségek.

Alapvetően egy átlagos tudásmunkás laptopja olyan újrafelhasználható titkokat tárol, amelyeket még egy hackelés után is visszavonhatnak, a kriptovaluta-munkások viszont olyan titkokat tárolhatnak, amelyeket nem lehet visszavonni. Ide tartoznak többek között a magfrázisok, az exportált xprv/keystore fájlok, a hot-wallet JSON-fájlok, a kivonási joggal rendelkező tőzsdei API-kulcsok, a telepítői kulcsok, a Lightning macaroons, a hardveres pénztárcákhoz tartozó kiegészítő adatok, valamint a CEX-dashboardokhoz tartozó munkamenet-cookie-k, és még sok más.

A legveszélyesebb sebezhetőség az emberi bizalom és a lustaság lehet

A legújabb figyelmeztetések azt mutatják, hogy alapvető változásra van szükség a biztonsági kultúrában. Ahelyett, hogy rendszeresen egyszerűen megbíznánk az AI-eszközökben, az automatizálás iránt általános szkepticizmust kell tanúsítanunk. Az iparágban dolgozóknak jobb lenne, ha minden AI-javaslatot eleve ellenségesnek tekintenének, függetlenül a forrásától. Ez nem túlzott óvatosság vagy paranoia; szó szerint a túlélésről van szó.

A történet tanulsága nem a sebezhető kód vagy a kedvenc AI-modelleinkből származó mérgezett kimenetek; hanem az az emberi ösztön, hogy bízzunk a kényelmes válaszokban. Ez az ösztön ebben a környezetben olyan teher, amelyet egyetlen javítás sem tud orvosolni. Ami hosszú távon megmentette a Refi Hub társalapítóját, az az volt, hogy elmondása szerint „minden skill-, hook- és konfigurációs fájlt elolvasott, mielőtt hagyta volna, hogy az AI hozzájuk nyúljon”.

Sajnos a mai AI-felhasználók többsége valószínűleg nem ellenőrzi kétszer az AI által átadott információk valódiságát, hanem egyszerűen bízik bennük olyan okokból, amelyeket nehéz megmagyarázni.