Certik презентує «антивірус для штучного інтелекту», оскільки платформи для продажу скілів стикаються з прихованими загрозами

Виклик у сфері безпеки

27 травня компанія Certik, що спеціалізується на безпеці блокчейнів та штучного інтелекту (ШІ), представила нову платформу безпеки, призначену для оцінки ризиків у сторонніх навичках штучного інтелекту (ШІ). Цей реліз, який отримав назву «антивірус для агентів ШІ», з’явився на тлі зростаючої занепокоєності галузі щодо безпеки ринків навичок ШІ.

Дослідники у сфері безпеки попередили, що багато з цих навичок не перевірені, можуть виконувати дії на системному рівні та містити приховане шкідливе поведінку, створюючи новий ризик для ланцюга постачання програмного забезпечення в епоху ШІ. Аудити безпеки в усьому секторі виявили ризики, що варіюються від збору облікових даних та витоку даних до маніпуляцій з переказом коштів та атак на основі підказки.

Незважаючи на ці занепокоєння, ринки навичок ШІ швидко розширюються у міру дозрівання екосистем агентів. Однак, на відміну від традиційних магазинів додатків, більшість навичок походять із публічних репозиторіїв, які майже не перевіряються або не перевіряються взагалі. Аналітики зазначають, що це створює можливості для зловмисників вбудовувати шкідливі інструкції, ініціювати несанкціонований доступ до даних або маніпулювати автономними потоками виконання.

У недавньому дописі в блозі Certik зазначила, що її платформа для сканування навичок розроблена спеціально для оцінки ризиків, які виникають під час виконання, включаючи сценарії, пов’язані з фінансовими транзакціями або викликами коштів. Сканер видає числовий бал від 0 до 100, а також вердикти «пройшов», «попередження» або «не пройшов» та категоризовані результати. За даними компанії, система досягає точності до 90,5% у виявленні ризиків безпеки.

«У міру того, як агенти штучного інтелекту все глибше інтегруються у фінансові системи, робочі процеси підприємств та повсякденні цифрові взаємодії, модель безпеки навколо сторонніх скілів стає надзвичайно важливою», — зазначив Ронхуї Гу, генеральний директор та співзасновник Certik. «CertiK Skill Scanner було створено для встановлення стандартизованого рівня довіри перед виконанням, що допомагає користувачам та платформам виявляти приховані ризики до того, як будуть розкриті конфіденційні дані, активи або системи».

Certik зазначив, що ринки AI-навичок можуть інтегрувати сканер безпосередньо в конвеєри публікації, автоматично перевіряючи навички перед їх запуском та відображаючи висновки щодо безпеки для користувачів. Підприємства можуть розгортати цей інструмент як частину внутрішніх робочих процесів з дотримання вимог та управління ризиками, тоді як незалежні розробники можуть використовувати його для самоаудиту навичок перед публікацією.

Компанія заявила, що майбутні оновлення дозволять звичайним користувачам самостійно сканувати навички перед їх інсталяцією. Сканер вже впроваджено в окремих середовищах інфраструктури агентів штучного інтелекту Web3. Certik також розширює інтеграцію з додатковими платформами, зокрема Finchip.ai.

«Довіра є необхідною умовою для функціонування будь-якої економіки навичок у великих масштабах», — зазначив Гарі Ян, інвестор-інкубатор у Finchip.ai. «Робота CertiK з перевірки безпеки навичок — це саме те, що потрібно цій екосистемі. Саме це робить місію Finchip щодо володіння та розповсюдження програмованих навичок вартою реалізації».

Запуск відбувається після розширення Certik у напрямку інфраструктури безпеки, орієнтованої на штучний інтелект. Раніше цього року компанія представила свою ініціативу AI Auditor для вирішення ризиків, пов’язаних з автономними системами та середовищами виконання на базі штучного інтелекту.

«Додатки штучного інтелекту рухаються у напрямку все більш автономного виконання, що створює нову категорію викликів у сфері безпеки та довіри», — сказав Гу. «Ми вважаємо, що інфраструктура безпеки для ери штучного інтелекту повинна функціонувати проактивно, а не реактивно».