Certik lanserar ”antivirusprogram för AI-agenter” när marknadsplatser för färdigheter står inför dolda hot

Säkerhetsutmaningen

Blockchain- och AI-säkerhetsföretaget Certik presenterade den 27 maj en ny säkerhetsplattform utformad för att utvärdera risker i tredjeparts kompetens inom artificiell intelligens (AI). Lanseringen, som kallas ”antivirus för AI-agenter”, kommer mitt i en växande oro inom branschen över säkerheten på marknadsplatser för AI-kompetens.

Säkerhetsforskare har varnat för att många av dessa färdigheter inte är granskade, kan utföra åtgärder på systemnivå och kan innehålla dolda skadliga beteenden, vilket skapar en ny risk i programvarans leveranskedja för AI-eran. Säkerhetsgranskningar inom sektorn har identifierat risker som sträcker sig från insamling av inloggningsuppgifter och dataexfiltrering till manipulation av penningöverföringar och promptbaserade överstyrningsattacker.

Trots dessa farhågor har marknadsplatserna för AI-kompetenser expanderat snabbt i takt med att agentekosystemen mognat. Till skillnad från traditionella appbutiker hämtas dock de flesta kompetenserna från offentliga arkiv med liten eller ingen granskning. Analytiker säger att detta skapar möjligheter för angripare att bädda in skadliga instruktioner, utlösa obehörig datatillgång eller manipulera autonoma exekveringsflöden.

I ett nyligen publicerat blogginlägg uppgav Certik att deras plattform för kompetensskanning är specifikt utformad för att utvärdera risker som uppstår under körning, inklusive scenarier som involverar finansiella transaktioner eller uttagsbegäranden. Skannern genererar ett numeriskt betyg mellan 0 och 100, tillsammans med bedömningarna ”godkänd”, ”varning” eller ”underkänd” samt kategoriserade resultat. Enligt företaget uppnår systemet en precision på upp till 90,5 % vid identifiering av säkerhetsrisker.

”I takt med att AI-agenter integreras allt djupare i finansiella system, företagsarbetsflöden och vardagliga digitala interaktioner blir säkerhetsmodellen kring tredjepartsfärdigheter avgörande”, säger Ronghui Gu, Certiks VD och medgrundare. ”CertiK Skill Scanner har utvecklats för att etablera ett standardiserat förtroendelager före exekvering, vilket hjälper användare och plattformar att identifiera dolda risker innan känsliga data, tillgångar eller system exponeras.”

Certik uppger att marknadsplatser för AI-kompetenser kan integrera skannern direkt i publiceringspipelines, vilket automatiskt granskar kompetenser innan de publiceras och visar säkerhetsbedömningar för användarna. Företag kan använda verktyget som en del av interna arbetsflöden för regelefterlevnad och riskhantering, medan oberoende utvecklare kan använda det för att själva granska kompetenser innan publicering.

Företaget uppger att framtida uppdateringar kommer att göra det möjligt för vanliga användare att själva skanna färdigheter innan installation. Skannern har redan implementerats i utvalda Web3 AI-agentinfrastrukturmiljöer. Certik utökar också integrationer med ytterligare plattformar, däribland Finchip.ai.

”Förtroende är en förutsättning för att en kompetensekonomi ska fungera i stor skala”, säger Gary Yang, inkubationsinvesterare på Finchip.ai. ”Certiks arbete med säkerhetsverifiering av kompetenser är precis vad detta ekosystem behöver. Det är det som gör Finchips mission om ägande och distribution av programmerbara kompetenser värt att bygga upp.”

Lanseringen följer på Certiks expansion in i AI-fokuserad säkerhetsinfrastruktur. Tidigare i år introducerade företaget sitt AI Auditor-initiativ för att hantera risker kopplade till autonoma system och AI-drivna exekveringsmiljöer.

”AI-applikationer går mot alltmer autonom exekvering, vilket skapar en ny kategori av säkerhets- och förtroendeutmaningar”, säger Gu. ”Vi tror att säkerhetsinfrastrukturen för AI-eran måste fungera proaktivt, inte reaktivt.”