Certik predstavil „antivírus pre agentov umelej inteligencie“, keďže trhy so zručnosťami čelia skrytým hrozbám

Bezpečnostná výzva

Spoločnosť Certik, ktorá sa zaoberá bezpečnosťou blockchainu a umelej inteligencie (AI), 27. mája predstavila novú bezpečnostnú platformu určenú na hodnotenie rizík v zručnostiach umelej inteligencie (AI) tretích strán. Táto novinka, nazývaná „antivírus pre agentov AI“, prichádza uprostred rastúcich obáv odvetvia o bezpečnosť trhovísk so zručnosťami AI.

Bezpečnostní výskumníci varovali, že mnohé z týchto zručností nie sú overené, môžu vykonávať akcie na úrovni systému a môžu obsahovať skryté škodlivé správanie, čím vytvárajú nové riziko v dodávateľskom reťazci softvéru pre éru umelej inteligencie. Bezpečnostné audity v celom sektore identifikovali riziká siahajúce od zberu prihlasovacích údajov a exfiltrácie dát až po manipuláciu s prevodmi finančných prostriedkov a útoky založené na prepisovaní príkazov.

Napriek týmto obavám sa trhy so zručnosťami umelej inteligencie rýchlo rozširovali s tým, ako dozrievali ekosystémy agentov. Na rozdiel od tradičných obchodov s aplikáciami však väčšina zručností pochádza z verejných repozitárov s minimálnou alebo žiadnou kontrolou. Analytici tvrdia, že to vytvára príležitosti pre útočníkov na vloženie škodlivých inštrukcií, spustenie neoprávneného prístupu k údajom alebo manipuláciu s autonómnymi tokmi vykonávania.

V nedávnom blogovom príspevku spoločnosť Certik uviedla, že jej platforma na skenovanie zručností je navrhnutá špeciálne na hodnotenie rizík, ktoré sa objavujú počas vykonávania, vrátane scenárov zahŕňajúcich finančné transakcie alebo výzvy na prevod finančných prostriedkov. Skenér generuje numerické skóre od 0 do 100 spolu s verdiktmi „úspešný“, „varovanie“ alebo „neúspešný“ a kategorizovanými zisteniami. Podľa spoločnosti dosahuje systém pri identifikácii bezpečnostných rizík presnosť až 90,5 %.

„Keďže sa agenti umelej inteligencie stále viac integrujú do finančných systémov, podnikových pracovných postupov a každodenných digitálnych interakcií, bezpečnostný model týkajúci sa zručností tretích strán nadobúda kritický význam,“ uviedol Ronghui Gu, generálny riaditeľ a spoluzakladateľ spoločnosti Certik. „CertiK Skill Scanner bol vytvorený s cieľom vytvoriť štandardizovanú vrstvu dôvery pred vykonaním, čím pomáha používateľom a platformám identifikovať skryté riziká skôr, ako dôjde k vystaveniu citlivých údajov, aktív alebo systémov.“

Certik uviedol, že trhy s AI zručnosťami môžu skener integrovať priamo do publikačných procesov, automaticky kontrolovať zručnosti pred ich spustením a zobrazovať používateľom bezpečnostné posudky. Podniky môžu tento nástroj nasadiť ako súčasť interných pracovných postupov v oblasti dodržiavania predpisov a riadenia rizík, zatiaľ čo nezávislí vývojári ho môžu využiť na vlastnú kontrolu zručností pred ich publikovaním.

Spoločnosť uviedla, že budúce aktualizácie umožnia bežným používateľom skenovať zručnosti sami pred inštaláciou. Skener bol už nasadený vo vybraných prostrediach infraštruktúry agentov Web3 AI. Certik tiež rozširuje integrácie s ďalšími platformami, vrátane Finchip.ai.

„Dôvera je predpokladom pre fungovanie akejkoľvek ekonomiky zručností vo veľkom meradle,“ povedal Gary Yang, inkubačný investor vo Finchip.ai. „Práca spoločnosti CertiK v oblasti overovania bezpečnosti zručností je presne to, čo tento ekosystém potrebuje. Práve to robí misiu spoločnosti Finchip v oblasti vlastníctva a distribúcie programovateľných zručností hodnou budovania.“

Toto spustenie nadväzuje na expanziu spoločnosti Certik do oblasti bezpečnostnej infraštruktúry zameranej na umelú inteligenciu. Začiatkom tohto roka spoločnosť predstavila svoju iniciatívu AI Auditor zameranú na riešenie rizík spojených s autonómnymi systémami a prostredím vykonávania riadeným umelou inteligenciou.

„Aplikácie umelej inteligencie smerujú k čoraz autonómnejšiemu vykonávaniu, čo vytvára novú kategóriu výziev v oblasti bezpečnosti a dôvery,“ povedal Gu. „Veríme, že bezpečnostná infraštruktúra pre éru umelej inteligencie musí fungovať proaktívne, nie reaktívne.“