Älä luota, vaan tarkista: myrkytetyt tekoälylinkit paljastavat kryptovaluutta-alan työntekijöiden painajaisen

Claude-chat-linkki muuttuu haittaohjelman ansaksi

Generatiivinen tekoäly (AI) kerää suosiota päivä päivältä, ja digitaalisten varojen sekä hajautettujen tilikirjojen alalla työskentelevät ihmiset hyödyntävät teknologiaa säännöllisesti työssään. Ongelmana on, että tämä kohderyhmä on nimenomaan pahantahtoisten hyökkääjien kohteena, ja salaisuudet, joita ei voi helposti perua, voivat joutua varastetuiksi. Perjantaina Refi Hubin perustaja Numa Lunah kertoi, että hänet ”hakkeroitiin”.

”Minut hakkeroitiin eilen”, hän kirjoitti X:ään. ”Linkki tuli Claude-chatin kautta. Olin asentamassa tekstinkäsittelysovellusta. Claude lähetti latauslinkin, ja liitin komennon terminaaliin. Kaikki näytti lailliselta. Se ei kuitenkaan ollut. Se oli haittaohjelmia sisältävä väärennetty sivusto. Se käynnistyi välittömästi ja yritti viedä minulta kaiken.”

Kehittäjä lisäsi, ettei mitään arkaluontoista tietoa päässyt karkuun, ja hän tyhjensi käyttämänsä kannettavan tietokoneen ja asensi sen uudelleen puhtaalta pöydältä. Mutta ongelma ei ollut vielä ohi. ”Tässä tulee pelottava osa”, Numa selitti. ”Palauttaessani tietoja varmuuskopiosta löysin Claude Code -sovellukselle tarkoitetun saastuneen SKILL.md-tiedoston. Se näytti täsmälleen samalta kuin oma kirjoitustyylini opas. Mutta sen sisällä piilossa oli ohjeet, joiden avulla haittaohjelma ladattiin uudelleen huomaamatta ja varastettiin tunnistetietoni joka kerta, kun tekoäly lataisi sen.”

LLM-vastaukset avaavat uuden hyökkäysväylän, kun taas kryptotyöntekijät kohtaavat turvallisuusongelman, josta ei ole paluuta

Numan kokemus ei ole ensimmäinen tapaus, jossa LLM on jakanut haitallisia vastauksia. Muutama kuukausi sitten Microsoft Defenderin asiantuntijat varoittivat, että kryptovaluutan louhintaan liittyvät hyökkäykset olivat kehittyneet yksinkertaisesta hakukoneoptimoinnin myrkyttämisestä LLM-vastausten myrkyttämiseen. Tällaiset hyökkäykset juontavat juurensa tekoälymalleista, kuten Gemini, Claude, Copilot ja ChatGPT. Hyökkäyksiin kuuluvat konteksti-ikkunassa jaetut artefaktit, hyökkääjän hallitsemia latauslinkkejä suosittelevat chatbotit, tekoälybrändillä varustetut väärennetyt asennusohjelmat sekä myrkytetyt koodipohjat ja agenttitaidot.

Periaatteessa tavallisen tietotyöläisen kannettavassa tietokoneessa on uudelleenkäytettäviä salaisuuksia, jotka voidaan peruuttaa jopa hakkeroinnin jälkeen, mutta kryptotyöntekijöillä voi olla hallussaan salaisuuksia, joita ei voi peruuttaa. Tähän kuuluvat muun muassa siemenlauseet, viedyt xprv-/keystore-tiedostot, hot-lompakon JSON-tiedostot, pyyntöoikeudet sisältävät pörssin API-avaimet, deployer-avaimet, Lightning-macaroonit, laitteistolompakon liitetiedot sekä CEX-hallintapaneelien istuntokevyt, ja monia muita.

Vaarallisin haavoittuvuus saattaa olla ihmisten luottamus ja laiskuus

Viimeisimmät varoitukset osoittavat, että turvallisuuskulttuurissa tarvitaan perustavanlaatuinen muutos. Sen sijaan, että luotettaisiin säännöllisesti tekoälytyökaluihin, on omaksuttava laajalle levinnyt skeptisyys automaatiota kohtaan. Tällä alalla työskentelevien olisi parempi suhtautua jokaiseen tekoälyn ehdotukseen luonnostaan vihamielisenä, lähteestä riippumatta. Kyse ei ole liiallisesta varovaisuudesta tai vainoharhaisuudesta; kyse on kirjaimellisesti selviytymisestä.

Tarinan opetus ei ole haavoittuva koodi tai suosikkitekoälymalliemme myrkytetyt tulokset, vaan ihmisen vaisto luottaa käteviin vastauksiin. Tuo vaisto on tässä tilanteessa riski, jota mikään korjauspäivitys ei voi korjata. Se, mikä pelasti Refi Hubin perustajan pitkällä tähtäimellä, oli se, että hän sanoi ”lukeneensa jokaisen skill-, hook- ja config-tiedoston ennen kuin antoi tekoälyn koskea niihin”.

Valitettavasti suurin osa nykypäivän tekoälyn käyttäjistä ei todennäköisesti tarkista tekoälyn antamien tietojen paikkansapitävyyttä, vaan luottaa niihin syistä, joita on vaikea selittää.