A Certik bemutatja az „AI-ügynökök számára készült vírusirtót”, miközben a készségpiacokat rejtett fenyegetések veszélyeztetik

A biztonsági kihívás

A blokklánc- és AI-biztonsági cég, a Certik május 27-én mutatta be új biztonsági platformját, amelynek célja a harmadik féltől származó mesterséges intelligencia (AI) készségek kockázatainak értékelése. Az „AI-ügynökök antivírusának” nevezett termék megjelenése az AI-készségek piactereinek biztonságával kapcsolatos, egyre növekvő iparági aggodalmak közepette történt.

A biztonsági kutatók arra figyelmeztettek, hogy ezeknek a képességeknek a többsége nem ellenőrzött, rendszer szintű műveleteket hajthat végre, és rejtett rosszindulatú viselkedést tartalmazhat, ami új szoftverellátási lánc kockázatot jelent az AI korszakban. Az ágazatban végzett biztonsági ellenőrzések olyan kockázatokat azonosítottak, amelyek a hitelesítő adatok gyűjtésétől és az adatok kiszivárogtatásától a pénzátutalások manipulálásáig és a prompt-alapú felülírási támadásokig terjednek.

Ezeknek az aggodalmaknak ellenére az AI-készségek piacai az ügynökök ökoszisztémáinak éretté válásával gyorsan bővültek. A hagyományos alkalmazásboltokkal ellentétben azonban a legtöbb készség nyilvános adattárakból származik, ahol alig vagy egyáltalán nem történik ellenőrzés. Az elemzők szerint ez lehetőséget teremt a támadók számára, hogy káros utasításokat ágyazzanak be, jogosulatlan adat-hozzáférést indítsanak el, vagy manipulálják az autonóm végrehajtási folyamatokat.

Egy nemrégiben megjelent blogbejegyzésében a Certik kijelentette, hogy skill-szkennelő platformját kifejezetten a végrehajtás során felmerülő kockázatok értékelésére tervezték, beleértve a pénzügyi tranzakciókat vagy a pénzeszköz-lehívásokat is magukban foglaló forgatókönyveket. A szkenner 0 és 100 közötti numerikus pontszámot ad, „megfelelt”, „figyelmeztetés” vagy „nem felelt meg” minősítéssel és kategorizált eredményekkel együtt. A vállalat szerint a rendszer akár 90,5%-os pontossággal azonosítja a biztonsági kockázatokat.

„Ahogy az AI-ügynökök egyre szorosabban integrálódnak a pénzügyi rendszerekbe, a vállalati munkafolyamatokba és a mindennapi digitális interakciókba, a harmadik féltől származó készségek körüli biztonsági modell kritikus fontosságúvá válik” – mondta Ronghui Gu, a Certik vezérigazgatója és társalapítója. „A CertiK Skill Scanner-t azért hoztuk létre, hogy a végrehajtás előtt egy szabványosított bizalmi réteget hozzunk létre, segítve a felhasználókat és a platformokat a rejtett kockázatok azonosításában, mielőtt az érzékeny adatok, eszközök vagy rendszerek veszélybe kerülnének.”

A Certik szerint az AI-készségek piacterei közvetlenül integrálhatják a szkennert a közzétételi folyamatokba, automatikusan felülvizsgálva a készségeket, mielőtt azok élesben is megjelennek, és megjelenítve a biztonsági értékeléseket a felhasználók számára. A vállalatok a belső megfelelési és kockázatkezelési munkafolyamatok részeként alkalmazhatják az eszközt, míg a független fejlesztők felhasználhatják a készségek önellenőrzésére a közzététel előtt.

A vállalat szerint a jövőbeli frissítések lehetővé teszik majd a hétköznapi felhasználók számára, hogy a telepítés előtt maguk is ellenőrizzék a készségeket. A szkennert már bevezették bizonyos Web3 AI-ügynök-infrastruktúra-környezetekben. A Certik emellett további platformokkal is bővíti az integrációkat, többek között a Finchip.ai-val.

„A bizalom elengedhetetlen feltétele annak, hogy bármely készséggazdaság nagy léptékben működhessen” – mondta Gary Yang, a Finchip.ai inkubációs befektetője. „A Certik készségbiztonsági ellenőrzéssel kapcsolatos munkája pontosan az, amire ennek az ökoszisztémának szüksége van. Ez teszi érdemessé a Finchip programozható készségek tulajdonjogával és terjesztésével kapcsolatos küldetésének megvalósítását.”

A bevezetés a Certik AI-központú biztonsági infrastruktúrára való terjeszkedését követi. Az év elején a vállalat bemutatta AI Auditor kezdeményezését, amely az autonóm rendszerekhez és az AI-vezérelt végrehajtási környezetekhez kapcsolódó kockázatok kezelésére irányul.

„Az AI-alkalmazások egyre autonómabb végrehajtás felé haladnak, ami új kategóriájú biztonsági és bizalmi kihívásokat teremt” – mondta Gu. „Úgy véljük, hogy az AI-korszak biztonsági infrastruktúrájának proaktív módon kell működnie, nem pedig reaktív módon.”