Фонд Ethereum дозволив агентам штучного інтелекту проаналізувати свій код: ось що вони насправді виявили

Багато помилкових діагнозів

Деталі експерименту були викладені у дописі в блозі, опублікованому 9 липня Нікосом Баксеванісом із команди безпеки протоколу фонду, під заголовком, який водночас став тезою компанії, а саме: «Сортування — це продукт». Результати привернули широку увагу, оскільки більшість позначених проблем виявилися помилковими спрацьовуваннями (хоча серед них були й справжні помилки).

Головне відкриття є цілком реальним, оскільки агенти допомогли виявити паніку, яку можна було дистанційно спровокувати в gossipsub — частині рівня однорангової мережі libp2p, на якому працюють клієнти консенсусу Ethereum. Вразливість було виправлено та оприлюднено як CVE-2026-34219 (це той тип помилки, який, якби його першим виявив зловмисник, міг би бути використаний для виведення з ладу вузлів у всій мережі).

Виявлення помилок було найлегшою частиною

Як зазначила фундація, несподіванкою стало не те, що агенти ШІ змогли виявити помилки, а «те, як мало зусиль знадобилося для їх пошуку, і як багато — для того, щоб відрізнити справжні помилки від тих, що лише виглядали справжніми».

Команда склала каталог типових форм таких «самозванців»: збій, що трапляється лише в дебаг-збірках і ніколи — у виробничому середовищі; умови відтворення, що базуються на недоступних внутрішніх значеннях, які жоден зловмисник насправді не міг би надати; а також докази формальної верифікації, які технічно є правдивими, але настільки необмеженими, що нічого не демонструють.

Відповіддю фонду став жорсткий стандарт доказовості, який він узагальнив як «можна відтворити — або цього не було». Якщо роз’яснити, то відтепер кожне потенційне виявлення має супроводжуватися самостійним артефактом, який відтворює збій на реальному коді, незалежно від того, наскільки впевненим у собі заявляє себе агент, що повідомляє про це.

У цьому контексті агентів можна розглядати як генератори гіпотез (інструменти пошуку, а не органи, що приймають рішення), організовані за етапами розвідки, пошуку, заповнення прогалин та валідації, причому остаточне рішення приймають люди.

Цифри за медіа-галасом

У публікації також наведено рідкісний порівняльний аналіз ефективності інструментів поточного покоління. Агент тестування на основі властивостей згенерував приблизно 1 000 потенційних знахідок, і після експертної перевірки близько 86 % його найважливіших рекомендацій витримали ретельну перевірку (це високий показник для машини, але такий рівень все одно вимагає людського фільтру, перш ніж будь-що потрапить до виробничого коду).

Ці інструменти явно виявляють реальні вразливості в критичній інфраструктурі, тим самим спростовуючи твердження, що звіти про помилки, згенеровані ШІ, є лише «шумом». Проте робоче навантаження не зникло, а просто перемістилося на наступний етап — сортування, де досвідчені інженери відокремлюють реальні проблеми від помилкових спрацьовувань. Для мережі, що захищає активи на сотні мільярдів доларів, цей фільтр є надзвичайно важливим.

Фонд зараз активно просуває цю роботу, а не розглядає її як разову ініціативу. Наприклад, у рамках його Програми підтримки екосистеми фінансується спеціальний раунд грантів на забезпечення безпеки протоколів за допомогою штучного інтелекту, що охоплює дослідження, аудит та виявлення вразливостей.