Nie ufaj, sprawdzaj: złośliwe linki generowane przez sztuczną inteligencję to koszmar dla pracowników branży kryptowalutowej

Link z czatu Claude zamienia się w pułapkę z złośliwym oprogramowaniem

Generatywna sztuczna inteligencja (AI) zyskuje na popularności z każdym dniem, a osoby pracujące w sektorze aktywów cyfrowych i rozproszonych rejestrów regularnie wykorzystują tę technologię w swojej pracy. Problem polega na tym, że ta grupa demograficzna jest wyraźnie na celowniku złośliwych atakujących, a tajemnice, których nie da się łatwo wycofać, mogą zostać skradzione. W piątek współzałożyciel Refi Hub, Numa Lunah, wyjaśnił, że „został zhakowany”.

„Wczoraj zostałem zhakowany” – napisał na X. „Link pochodził z czatu Claude’a. Instalowałem aplikację do transkrypcji. Claude wysłał mi link do pobrania, a ja wkleiłem polecenie do terminala. Wszystko wyglądało na wiarygodne. Jednak tak nie było. Była to fałszywa strona zawierająca złośliwe oprogramowanie. Uruchomiło się natychmiast i próbowało ukraść mi wszystko”.

Programista dodał, że żadne jego poufne dane nie wyciekły, a on sam wyczyścił laptopa, z którego korzystał, i odbudował go od podstaw, instalując system od nowa. Problem jednak się na tym nie skończył. „A teraz najstraszniejsza część” – wyjaśnił Numa. „Podczas przywracania danych z kopii zapasowej znalazłem zainfekowany plik SKILL.md przeznaczony dla Claude Code. Wyglądał dokładnie tak, jak mój własny przewodnik stylistyczny. Jednak ukryte w jego treści były instrukcje, aby po cichu ponownie pobrać złośliwe oprogramowanie i wykraść moje dane logowania za każdym razem, gdy sztuczna inteligencja go ładowała”.

Odpowiedzi modeli LLM otwierają nowy wektor ataku, a osoby zajmujące się kryptowalutami borykają się z problemem bezpieczeństwa bez przycisku „Cofnij”

Doświadczenie Numa nie jest pierwszym przypadkiem, w którym model LLM udostępnia złośliwe odpowiedzi. Kilka miesięcy temu eksperci Microsoft Defender ostrzegli, że ataki typu cryptojacking ewoluowały od prostego zatruwania wyników wyszukiwania (SEO poisoning) do zatruwania odpowiedzi generowanych przez modele LLM. Ataki tego typu wynikają z działania modeli sztucznej inteligencji, takich jak Gemini, Claude, Copilot i ChatGPT. Obejmują one artefakty udostępniane w oknie kontekstowym, chatboty rekomendujące linki do pobrania kontrolowane przez atakujących, fałszywe instalatory sygnowane markami AI oraz zainfekowany kod źródłowy i umiejętności agentów.

Zasadniczo zwykły laptop pracownika wiedzy zawiera klucze, które można ponownie wykorzystać i które można cofnąć nawet po włamaniu, ale pracownicy zajmujący się kryptowalutami mogą przechowywać klucze, których nie da się cofnąć. Obejmuje to między innymi frazy seed, wyeksportowane pliki xprv/keystore, pliki JSON portfeli typu hot wallet, klucze API giełd z uprawnieniami do wypłat, klucze wdrożeniowe, makaroniki Lightning, dane towarzyszące portfelom sprzętowym oraz pliki cookie sesji dla pulpitów nawigacyjnych CEX.

Najbardziej niebezpieczną luką w zabezpieczeniach może być ludzkie zaufanie i lenistwo

Najnowsze ostrzeżenia wskazują, że konieczna jest fundamentalna zmiana w kulturze bezpieczeństwa. Zamiast po prostu regularnie ufać narzędziom AI, należy stosować powszechny sceptycyzm wobec samej automatyzacji. Pracownicy zatrudnieni w tej branży powinni traktować każdą sugestię AI jako z natury wrogą, niezależnie od źródła. Nie jest to nadmierna ostrożność ani paranoja; chodzi tu dosłownie o przetrwanie.

Morał tej historii nie dotyczy podatnego na ataki kodu ani zafałszowanych wyników naszych ulubionych modeli AI; chodzi o ludzki instynkt polegający na ufaniu wygodnym odpowiedziom. W obecnej sytuacji instynkt ten stanowi zagrożenie, którego nie naprawi żadna poprawka. To, co ostatecznie uratowało współzałożyciela Refi Hub, to fakt, że, jak sam powiedział, „przeczytał każdy plik umiejętności, hooków i konfiguracji, zanim pozwolił sztucznej inteligencji się do nich zbliżyć”.

Niestety, większość dzisiejszych użytkowników sztucznej inteligencji prawdopodobnie nie weryfikuje podawanych przez nią informacji pod kątem prawdziwości, a po prostu jej ufa z powodów, które trudno wyjaśnić.