Certik heeft een nieuw beveiligingsplatform gelanceerd dat wordt omschreven als een „antivirus voor AI-agenten“ en dat is ontworpen om de toenemende risico’s van niet-gecontroleerde marktplaatsen voor AI-skills van derden aan te pakken.
Certik introduceert ‘antivirus voor AI-agenten’ nu marktplaatsen voor vaardigheden met verborgen bedreigingen worden geconfronteerd
GESCHREVEN DOOR
DELEN
Belangrijkste punten
- Certik heeft een beveiligingsplatform gelanceerd om een "antivirus"-laag te bieden voor agent-ecosystemen.
- Sectoraudits wijzen op hoge risico's, maar Certik streeft ernaar marktplaatsen te beschermen met een scanprecisie van 90,5%.
- Finchip.ai is een van de platforms die hun integraties uitbreiden in afwachting van toekomstige scanupdates voor consumenten.
De beveiligingsuitdaging
Blockchain- en AI-beveiligingsbedrijf Certik heeft op 27 mei een nieuw beveiligingsplatform onthuld dat is ontworpen om risico's in AI-vaardigheden van derden te evalueren. De release, die de bijnaam "antivirus voor AI-agenten" heeft gekregen, komt te midden van groeiende bezorgdheid in de sector over de beveiliging van AI-vaardigheidsmarktplaatsen.
Beveiligingsonderzoekers hebben gewaarschuwd dat veel van deze vaardigheden niet zijn gecontroleerd, acties op systeemniveau kunnen uitvoeren en verborgen kwaadaardig gedrag kunnen bevatten, waardoor een nieuw risico in de softwaretoeleveringsketen ontstaat voor het AI-tijdperk. Beveiligingsaudits in de sector hebben risico's geïdentificeerd die variëren van het verzamelen van inloggegevens en het wegsluizen van gegevens tot manipulatie van geldoverboekingen en op prompts gebaseerde override-aanvallen.
Ondanks deze zorgen zijn AI-skill-marktplaatsen snel gegroeid naarmate agent-ecosystemen volwassener worden. In tegenstelling tot traditionele app-winkels zijn de meeste skills echter afkomstig uit openbare repositories met weinig of geen beoordeling. Analisten zeggen dat dit kansen creëert voor aanvallers om schadelijke instructies in te bedden, ongeoorloofde gegevenstoegang te activeren of autonome uitvoeringsstromen te manipuleren.
In een recente blogpost zei Certik dat zijn platform voor het scannen van vaardigheden specifiek is ontworpen om risico's te evalueren die tijdens de uitvoering aan het licht komen, waaronder scenario's met financiële transacties of geldopnames. De scanner genereert een numerieke score van 0 tot 100, samen met beoordelingen als "geslaagd", "waarschuwing" of "mislukt" en gecategoriseerde bevindingen. Volgens het bedrijf bereikt het systeem een nauwkeurigheid tot 90,5% bij het identificeren van beveiligingsrisico's.
"Naarmate AI-agenten steeds dieper worden geïntegreerd in financiële systemen, bedrijfsworkflows en dagelijkse digitale interacties, wordt het beveiligingsmodel rond vaardigheden van derden van cruciaal belang", aldus Ronghui Gu, CEO en medeoprichter van Certik. "CertiK Skill Scanner is ontwikkeld om vóór de uitvoering een gestandaardiseerde vertrouwenslaag op te zetten, waardoor gebruikers en platforms verborgen risico's kunnen identificeren voordat gevoelige gegevens, activa of systemen worden blootgesteld."
Certik zegt dat AI-skill-marktplaatsen de scanner rechtstreeks in hun publicatiepijplijnen kunnen integreren, waardoor skills automatisch worden beoordeeld voordat ze live gaan en beveiligingsbeoordelingen aan gebruikers worden getoond. Bedrijven kunnen de tool inzetten als onderdeel van interne compliance- en risicobeheerworkflows, terwijl onafhankelijke ontwikkelaars deze kunnen gebruiken om skills zelf te controleren voordat ze worden gepubliceerd.
Het bedrijf zei dat toekomstige updates gewone gebruikers in staat zullen stellen om vaardigheden zelf te scannen vóór de installatie. De scanner is al geïmplementeerd in geselecteerde Web3 AI-agentinfrastructuuromgevingen. Certik breidt ook de integraties uit met aanvullende platforms, waaronder Finchip.ai.
“Vertrouwen is de voorwaarde voor elke skill-economie om op schaal te functioneren,” aldus Gary Yang, incubatie-investeerder bij Finchip.ai. “Het werk van CertiK op het gebied van beveiligingsverificatie van skills is precies wat dit ecosysteem nodig heeft. Het is wat de missie van Finchip, namelijk het bezit en de distributie van programmeerbare skills, de moeite waard maakt om op te bouwen.”
De lancering volgt op Certiks uitbreiding naar AI-gerichte beveiligingsinfrastructuur. Eerder dit jaar introduceerde het bedrijf zijn AI Auditor-initiatief om risico's aan te pakken die verband houden met autonome systemen en AI-gestuurde uitvoeringsomgevingen.
“AI-toepassingen evolueren naar een steeds autonomere uitvoering, wat een nieuwe categorie van uitdagingen op het gebied van beveiliging en vertrouwen creëert,” aldus Gu. “Wij zijn van mening dat beveiligingsinfrastructuur voor het AI-tijdperk proactief moet functioneren, niet reactief.”
