Certik przedstawia „program antywirusowy dla agentów AI” w obliczu ukrytych zagrożeń dla platform oferujących umiejętności

Wyzwanie związane z bezpieczeństwem

Firma Certik, zajmująca się bezpieczeństwem blockchain i sztucznej inteligencji (AI), 27 maja zaprezentowała nową platformę bezpieczeństwa przeznaczoną do oceny ryzyka związanego z umiejętnościami sztucznej inteligencji (AI) stron trzecich. Nazwana „antywirusem dla agentów AI”, platforma pojawia się w momencie rosnących obaw branży dotyczących bezpieczeństwa rynków umiejętności AI.

Badacze bezpieczeństwa ostrzegają, że wiele z tych umiejętności nie jest weryfikowanych, może wykonywać działania na poziomie systemu i zawierać ukryte złośliwe zachowania, co stwarza nowe ryzyko w łańcuchu dostaw oprogramowania w erze AI. Audyty bezpieczeństwa w całym sektorze zidentyfikowały ryzyko, od zbierania danych uwierzytelniających i wycieku danych po manipulację transferami środków i ataki typu prompt-based override.

Pomimo tych obaw rynki umiejętności AI szybko się rozrosły wraz z dojrzewaniem ekosystemów agentów. Jednak w przeciwieństwie do tradycyjnych sklepów z aplikacjami większość umiejętności pochodzi z publicznych repozytoriów, które są w niewielkim stopniu lub w ogóle nie są weryfikowane. Analitycy twierdzą, że stwarza to atakującym możliwości osadzania szkodliwych instrukcji, wywoływania nieautoryzowanego dostępu do danych lub manipulowania autonomicznymi przepływami wykonawczymi.

W niedawnym wpisie na blogu firma Certik stwierdziła, że jej platforma do skanowania umiejętności została zaprojektowana specjalnie w celu oceny ryzyka pojawiającego się podczas wykonywania, w tym scenariuszy związanych z transakcjami finansowymi lub wezwaniami do wpłaty środków. Skaner generuje wynik liczbowy w skali od 0 do 100, wraz z werdyktami „zaliczone”, „ostrzeżenie” lub „niezaliczone” oraz skategoryzowanymi ustaleniami. Według firmy system osiąga precyzję na poziomie do 90,5% w identyfikowaniu zagrożeń bezpieczeństwa.

„W miarę jak agenci AI stają się coraz bardziej zintegrowani z systemami finansowymi, przepływami pracy w przedsiębiorstwach i codziennymi interakcjami cyfrowymi, model bezpieczeństwa dotyczący umiejętności stron trzecich staje się niezwykle ważny” – powiedział Ronghui Gu, dyrektor generalny i współzałożyciel Certik. „CertiK Skill Scanner został stworzony w celu ustanowienia standardowej warstwy zaufania przed wykonaniem, pomagając użytkownikom i platformom zidentyfikować ukryte zagrożenia, zanim wrażliwe dane, aktywa lub systemy zostaną ujawnione”.

Certik stwierdził, że rynki umiejętności AI mogą zintegrować skaner bezpośrednio z procesami publikacji, automatycznie sprawdzając umiejętności przed ich uruchomieniem i wyświetlając użytkownikom oceny bezpieczeństwa. Przedsiębiorstwa mogą wdrożyć to narzędzie w ramach wewnętrznych procesów zapewniania zgodności i zarządzania ryzykiem, podczas gdy niezależni programiści mogą go używać do samodzielnego audytu umiejętności przed publikacją.

Firma poinformowała, że przyszłe aktualizacje pozwolą zwykłym użytkownikom na samodzielne skanowanie umiejętności przed instalacją. Skaner został już wdrożony w wybranych środowiskach infrastruktury agentów AI Web3. Certik rozszerza również integrację z dodatkowymi platformami, w tym Finchip.ai.

„Zaufanie jest warunkiem koniecznym dla funkcjonowania gospodarki opartej na umiejętnościach na dużą skalę” – powiedział Gary Yang, inwestor inkubacyjny w Finchip.ai. „Praca CertiK nad weryfikacją bezpieczeństwa umiejętności jest dokładnie tym, czego potrzebuje ten ekosystem. To właśnie sprawia, że misja Finchip dotycząca programowalnej własności i dystrybucji umiejętności jest warta realizacji”.

Wprowadzenie tej funkcji następuje po ekspansji Certik w kierunku infrastruktury bezpieczeństwa skoncentrowanej na sztucznej inteligencji. Na początku tego roku firma przedstawiła swoją inicjatywę AI Auditor, mającą na celu zajęcie się ryzykiem związanym z systemami autonomicznymi i środowiskami wykonawczymi opartymi na sztucznej inteligencji.

„Aplikacje AI zmierzają w kierunku coraz bardziej autonomicznego działania, co stwarza nową kategorię wyzwań związanych z bezpieczeństwem i zaufaniem” – powiedział Gu. „Uważamy, że infrastruktura bezpieczeństwa w erze sztucznej inteligencji musi działać proaktywnie, a nie reaktywnie”.