Не вір, а перевіряй: отруйні посилання з штучним інтелектом стають справжнім кошмаром для працівників криптоіндустрії

Посилання в чаті Claude перетворюється на пастку зі шкідливим програмним забезпеченням

Генеративний штучний інтелект (ШІ) з кожним днем набирає обертів, і люди, які працюють у секторі цифрових активів та розподілених реєстрів, регулярно використовують цю технологію у своїй роботі. Проблема полягає в тому, що ця група користувачів є явною мішенню для зловмисників, і таємниці, які не можна легко відкликати, можуть бути вкрадені. У п’ятницю співзасновник Refi Hub Нума Луна пояснив, що його «зламали».

«Вчора мене зламали», — написав він у X. «Посилання надійшло з чату Claude. Я встановлював додаток для транскрипції. Claude надіслав посилання для завантаження, і я вставив команду в термінал. Все виглядало цілком законно. Але це було не так. Це був підроблений сайт, що містив шкідливе програмне забезпечення. Воно запустилося миттєво і намагалося викрасти у мене все».

Розробник додав, що жодної конфіденційної інформації в нього не вкрали, і він повністю очистив ноутбук, яким користувався, та відновив його з чистої інсталяції. Але на цьому проблема не закінчилася. «А ось що найстрашніше», — пояснив Нума. «Під час відновлення з резервної копії я виявив заражений файл SKILL.md для Claude Code. Він виглядав точно як мій власний посібник зі стилю написання. Але всередині ховалися інструкції, які змушували ШІ непомітно завантажувати шкідливе програмне забезпечення та викрадати мої облікові дані щоразу, коли він його завантажував».

Відповіді LLM відкривають новий вектор атак, тоді як крипто-працівники стикаються з проблемою безпеки, яку неможливо скасувати

Випадок з Нумою — не перший випадок, коли LLM надає шкідливі відповіді. Кілька місяців тому експерти Microsoft Defender попередили, що атаки криптоджекінгу еволюціонували від простого отруєння SEO до отруєння відповідей LLM. Такі атаки походять від моделей штучного інтелекту, таких як Gemini, Claude, Copilot та ChatGPT. Атаки включають артефакти, що поширюються через вікно контексту, чат-боти, які рекомендують контрольовані зловмисниками посилання для завантаження, підроблені інсталятори під брендом ШІ, а також отруєну кодову базу та навички агентів.

В основному, звичайний ноутбук працівника, що займається обробкою інформації, містить секретні дані, які можна повторно використовувати та скасувати навіть після злому, але працівники криптосфери можуть зберігати секретні дані, які неможливо скасувати. Сюди входять, зокрема, такі елементи, як фрази-посів, експортовані файли xprv/keystore, JSON-файли гарячих гаманців, ключі API бірж із правами на зняття коштів, ключі розгортання, Lightning-макаруни, супутні дані апаратних гаманців та сесійні кукі для панелей управління централізованих бірж (CEX) та багато іншого.

Найнебезпечнішою вразливістю може бути людська довіра та лінь

Останні попередження свідчать про необхідність кардинальної зміни культури безпеки. Замість того, щоб просто регулярно довіряти інструментам штучного інтелекту, слід застосовувати всеосяжний скептицизм щодо самої автоматизації. Працівникам цієї галузі краще ставитися до кожної пропозиції ШІ як до потенційно ворожої, незалежно від джерела. Це не надмірна обережність чи параноя; це, буквально, питання виживання.

Мораль цієї історії полягає не в уразливому коді чи «отруєних» результатах роботи наших улюблених моделей ШІ, а в людському інстинкті довіряти зручним відповідям. У цих умовах цей інстинкт є слабким місцем, яке не виправити жодним патчем. У довгостроковій перспективі співзасновника Refi Hub врятувало те, що, за його словами, він «перечитував кожен файл набору навичок, підключень та конфігурації, перш ніж дозволити ШІ до них доторкнутися».

На жаль, більшість сучасних користувачів ШІ, ймовірно, не перевіряють інформацію, яку ШІ їм надає, на достовірність, а просто довіряють їй з причин, які досі важко пояснити.