У новому звіті висловлюється думка, що агентів штучного інтелекту слід розглядати як членів трудового колективу, при цьому зазначається, що вони еволюціонували від пасивного оповіщення про загрози до здійснення автономних дій.
Компаніям Web3 рекомендують розглядати агентів штучного інтелекту як членів трудового колективу
АВТОР
ПОДІЛИТИСЯ
Основні висновки
- Штрафи за порушення законодавства про боротьбу з відмиванням грошей перевищили 900 мільйонів доларів у першому півріччі 2025 року, оскільки атаки, що здійснюються зі швидкістю машин, посилюють ризики для галузі.
- Зловмисники використовують ШІ для прискорення експлойтів, але Наталі Ньюсон із Certik вбачає перевагу у захисників.
- Протоколи Web3 запровадять цілодобові ланцюгові вимикачі в ланцюзі блоків у режимі реального часу та обов’язкові аудити журналів ШІ.
Відповідальність залишається за менеджерами-людьми
Агентний штучний інтелект (ШІ) кардинально змінює сферу кібербезпеки, боротьби з відмиванням грошей та дотримання нормативних вимог, перетворюючи їх з допоміжних інструментів на автономних операційних учасників. Виходячи за межі пасивного фільтрування сповіщень, ці системи виконують багатоетапне міркування, інтегрують зовнішні API та вживають заходів з усунення порушень у режимі реального часу з мінімальним втручанням людини.
Згідно з новим звітом компанії Certik, що спеціалізується на безпеці Web3, організації тепер повинні керувати агентивним ШІ як автономним учасником робочого процесу — призначаючи чіткі ролі, обмежуючи повноваження та встановлюючи сувору відповідальність за нагляд з боку людини.
Certik стверджує, що цей перехід є необхідним, оскільки ШІ еволюціонує від виявлення загроз до виконання комплексного реагування на інциденти, створення патчів та моніторингу транзакцій. Однак, оскільки організації-впроваджувачі та менеджери зберігають 100% юридичної та операційної відповідальності, Certik наголошує, що агенти ШІ повинні діяти в межах обмежених повноважень, чітких протоколів ескалації та під конкретним наглядом з боку людей.
Просування Certik моделі робочої сили відбувається на тлі зростання кількості атак, що здійснюються зі швидкістю машин, постійного глобального дефіциту фахівців з кібербезпеки та різкого зростання штрафів за порушення законодавства про боротьбу з відмиванням грошей, які лише у першому півріччі 2025 року перевищили 900 мільйонів доларів.
Хоча ШІ рекламується як критично важливий засіб захисту від кіберзлочинності, критики стверджують, що зловмисники використовують ідентичні можливості, нівелюючи ці переваги. Оскільки кіберзлочинці діють швидше, ніж традиційні правоохоронні органи та корпоративні захисники, їхнє впровадження агентів ШІ неминуче прискорить частоту, швидкість та витонченість атак. Цю проблему посилює класична асиметрія кібербезпеки: зловмисникам для успіху достатньо лише одного відкритого вектора, тоді як захисникам необхідно убезпечити кожну межу.
Захисники зберігають перевагу на власному полі
Наталі Ньюсон, старша дослідниця блокчейну в Certik, заперечує уявлення про те, що захисники постійно намагаються наздогнати зловмисників. Визнаючи, що ШІ дійсно посилює можливості зловмисників, вона наголошує, що захисники зберігають вирішальну перевагу, яку зловмисники ніколи не зможуть відтворити: перевагу на власному полі.
«Ми бачимо код ще до його випуску, знаємо, як має виглядати нормальна поведінка протоколу, і можемо спочатку застосувати ті самі алгоритми виявлення експлойтів на основі ШІ до наших власних систем. Особливо у Web3 все, що робить зловмисник, фіксується у публічному реєстрі, тож їхні розвідувальні дії, фінансування та тестові транзакції залишають слід, який машини дуже добре вміють розшифровувати», — розповіла Ньюсон виданню Bitcoin.com News.
Проте Ньюсон попереджає, що періодична оборона не може протистояти безперервним атакам. Щоб вижити, системи безпеки повинні еволюціонувати від статичних контрольних точок до динамічних систем, які відповідають швидкості надходжуючих загроз.
Зловмисники також виграють від повної відсутності регуляторних перешкод: не обтяжені витратами на дотримання вимог або заходи контролю ризиків, вони можуть миттєво здійснювати атаки. Проте, хоча Ньюсон визнає, що це дає зловмисникам перевагу, вона наполягає, що сама лише швидкість не гарантує успіху.
«Зловмисник може діяти зі швидкістю машини, але йому все одно доведеться пройти через ланцюг, щоб отримати виплату, і саме там працюють системи моніторингу та механізми захисту», — стверджує Ньюсон.
Вона пояснила, що моніторинг очікуючих транзакцій у режимі реального часу дозволяє автоматизованим системам виявляти експлойти, що розвиваються, та миттєво призупиняти контракти, стримуючи атаки без очікування втручання людини. Захищений суворими запобіжними заходами та поєднаний із традиційними аудитами й формальною верифікацією, автоматизований відгук змінює економіку загроз, змушуючи зловмисників випереджати машини, а не людей.
Обов’язковий аудит логічних висновків ШІ
Тим часом у звіті Certik робиться висновок, що, хоча агентний ШІ перетнув межу від допомоги в прийнятті рішень до їх виконання, впровадження цих систем без пропорційного управління лише замінює обмеження ручної роботи на складні системні ризики.
Щоб вирішити цю проблему, у звіті закликають організації чітко розмежувати виконання дій агентами та нагляд з боку людей у всіх організаційних схемах та посадових інструкціях. Крім того, у ньому рекомендується зробити безперервний запис та аудит журналів внутрішнього міркування агента ШІ обов’язковою вимогою щодо дотримання нормативних вимог.
Північнокорейська компанія «Кімсукі» тестує власні моделі штучного інтелекту, RAG та агентів з метою посилення фішингових операцій та кібератак.
Читати: Звіт: північнокорейська компанія «Кімсукі» перетворює штучний інтелект на зброю для хакерських атак на криптовалютні проекти
Цю статтю перекладено з англійської мови за допомогою штучного інтелекту. Оригінальна англомовна версія є авторитетним джерелом; автоматичні переклади можуть містити неточності, особливо в юридичній та нормативній термінології.
