Společnost Certik představuje „antivirus pro agenty umělé inteligence“, jelikož tržiště s dovednostmi čelí skrytým hrozbám

Výzva v oblasti bezpečnosti

Společnost Certik, zabývající se bezpečností blockchainu a umělé inteligence (AI), představila 27. května novou bezpečnostní platformu určenou k hodnocení rizik v dovednostech umělé inteligence (AI) třetích stran. Tato platforma, přezdívaná „antivirus pro AI agenty“, přichází uprostřed rostoucího znepokojení odvětví ohledně bezpečnosti tržišť s AI dovednostmi.

Výzkumníci v oblasti bezpečnosti varovali, že mnoho z těchto dovedností není prověřeno, může provádět akce na systémové úrovni a může obsahovat skryté škodlivé chování, což vytváří nové riziko v softwarovém dodavatelském řetězci pro éru AI. Bezpečnostní audity v tomto odvětví identifikovaly rizika sahající od sběru přihlašovacích údajů a exfiltrace dat až po manipulaci s převody finančních prostředků a útoky typu prompt-based override.

Navzdory těmto obavám se tržiště s dovednostmi pro AI rychle rozšiřují s tím, jak ekosystémy agentů dozrávají. Na rozdíl od tradičních obchodů s aplikacemi však většina dovedností pochází z veřejných repozitářů s minimální nebo žádnou kontrolou. Analytici tvrdí, že to útočníkům otevírá příležitosti k vložení škodlivých instrukcí, spuštění neoprávněného přístupu k datům nebo manipulaci s autonomními toky provádění.

V nedávném blogovém příspěvku společnost Certik uvedla, že její platforma pro skenování dovedností je navržena speciálně k vyhodnocování rizik, která se objevují během provádění, včetně scénářů zahrnujících finanční transakce nebo volání prostředků. Skenér generuje číselné skóre od 0 do 100 spolu s verdikty „splněno“, „varování“ nebo „nesplněno“ a kategorizovanými nálezy. Podle společnosti dosahuje systém při identifikaci bezpečnostních rizik přesnosti až 90,5 %.

„Vzhledem k tomu, že se agenti AI stále více integrují do finančních systémů, podnikových pracovních postupů a každodenních digitálních interakcí, stává se bezpečnostní model týkající se dovedností třetích stran kriticky důležitým,“ uvedl Ronghui Gu, generální ředitel a spoluzakladatel společnosti Certik. „CertiK Skill Scanner byl vytvořen s cílem zavést standardizovanou vrstvu důvěry před spuštěním, která pomáhá uživatelům a platformám identifikovat skrytá rizika dříve, než dojde k odhalení citlivých dat, aktiv nebo systémů.“

Společnost Certik uvedla, že tržiště s AI dovednostmi mohou skener integrovat přímo do publikačních procesů, automaticky kontrolovat dovednosti před jejich spuštěním a zobrazovat uživatelům bezpečnostní hodnocení. Podniky mohou tento nástroj nasadit jako součást interních pracovních postupů v oblasti dodržování předpisů a řízení rizik, zatímco nezávislí vývojáři jej mohou použít k vlastní kontrole dovedností před jejich zveřejněním.

Společnost uvedla, že budoucí aktualizace umožní běžným uživatelům skenovat dovednosti sami před instalací. Skener již byl nasazen ve vybraných prostředích infrastruktury agentů Web3 AI. Certik také rozšiřuje integraci s dalšími platformami, včetně Finchip.ai.

„Důvěra je předpokladem pro to, aby jakákoli ekonomika dovedností fungovala ve velkém měřítku,“ řekl Gary Yang, inkubační investor ve společnosti Finchip.ai. „Práce společnosti CertiK na ověřování bezpečnosti dovedností je přesně to, co tento ekosystém potřebuje. Právě díky tomu má smysl budovat misi společnosti Finchip v oblasti vlastnictví a distribuce programovatelných dovedností.“

Toto uvedení navazuje na expanzi společnosti Certik do oblasti bezpečnostní infrastruktury zaměřené na AI. Na začátku tohoto roku společnost představila svou iniciativu AI Auditor, která se zabývá riziky spojenými s autonomními systémy a prostředími pro provádění řízenými AI.

„Aplikace AI směřují k stále autonomnějšímu provádění, což vytváří novou kategorii výzev v oblasti bezpečnosti a důvěry,“ řekl Gu. „Věříme, že bezpečnostní infrastruktura pro éru AI musí fungovat proaktivně, nikoli reaktivně.“