Certik predstavlja ‘antivirus za AI agente’ dok se tržišta vještina suočavaju sa skrivenim prijetnjama

Sigurnosni izazov

Certik, tvrtka za sigurnost blockchaina i umjetne inteligencije, 27. svibnja predstavila je novu sigurnosnu platformu osmišljenu za procjenu rizika u vještinama umjetne inteligencije (AI) trećih strana. Nazvano „antivirus za AI agente”, izdanje dolazi usred rastuće zabrinutosti industrije oko sigurnosti tržišta AI vještina.

Sigurnosni istraživači upozorili su da su mnoge od tih vještina neprovjerene, da mogu izvršavati radnje na razini sustava te da mogu sadržavati skriveno zlonamjerno ponašanje, stvarajući novi rizik lanca opskrbe softverom za eru AI-ja. Sigurnosne revizije diljem sektora identificirale su rizike u rasponu od krađe vjerodajnica i eksfiltracije podataka do manipulacije prijenosom sredstava i napada nadjačavanja temeljenih na promptovima.

Unatoč tim zabrinutostima, tržišta AI vještina brzo su se proširila kako ekosustavi agenata sazrijevaju. Međutim, za razliku od tradicionalnih trgovina aplikacijama, većina vještina dolazi iz javnih repozitorija uz malo ili nimalo pregleda. Analitičari kažu da to stvara prilike da napadači ugrade štetne upute, pokrenu neovlašteni pristup podacima ili manipuliraju autonomnim tokovima izvršavanja.

U nedavnom blog postu Certik je rekao da je njegova platforma skenera vještina posebno osmišljena za procjenu rizika koji se pojavljuju tijekom izvršavanja, uključujući scenarije koji uključuju financijske transakcije ili pozive na sredstva. Skener proizvodi numerički rezultat od 0 do 100, uz presude „prolaz”, „upozorenje” ili „pad” te kategorizirane nalaze. Prema navodima tvrtke, sustav postiže do 90,5% preciznosti u identificiranju sigurnosnih rizika.

„Kako se AI agenti sve dublje integriraju u financijske sustave, poslovne tijekove rada i svakodnevne digitalne interakcije, sigurnosni model oko vještina trećih strana postaje kritično važan”, rekao je Ronghui Gu, izvršni direktor i suosnivač Certika. „CertiK Skill Scanner izgrađen je kako bi uspostavio standardizirani sloj povjerenja prije izvršavanja, pomažući korisnicima i platformama da identificiraju skrivene rizike prije nego što se osjetljivi podaci, imovina ili sustavi izlože.”

Certik je rekao da tržišta AI vještina mogu integrirati skener izravno u tokove objavljivanja, automatski pregledavajući vještine prije nego što postanu dostupne i prikazujući sigurnosne presude korisnicima. Poduzeća mogu implementirati alat kao dio internih tijekova usklađenosti i upravljanja rizicima, dok ga neovisni programeri mogu koristiti za samoreviziju vještina prije objavljivanja.

Tvrtka je rekla da će buduća ažuriranja omogućiti svakodnevnim korisnicima da sami skeniraju vještine prije instalacije. Skener je već implementiran u odabranim Web3 okruženjima infrastrukture AI agenata. Certik također proširuje integracije s dodatnim platformama, uključujući Finchip.ai.

„Povjerenje je preduvjet da bilo koja ekonomija vještina funkcionira u velikom obujmu”, rekao je Gary Yang, investitor za inkubaciju u Finchip.ai. „CertiK-ov rad na verifikaciji sigurnosti vještina upravo je ono što ovom ekosustavu treba. To je ono zbog čega vrijedi graditi Finchipovu misiju programabilnog vlasništva i distribucije vještina.”

Lansiranje slijedi nakon Certikova širenja na sigurnosnu infrastrukturu usmjerenu na AI. Ranije ove godine tvrtka je predstavila svoju inicijativu AI Auditor kako bi odgovorila na rizike povezane s autonomnim sustavima i okruženjima izvršavanja vođenima AI-jem.

„AI aplikacije kreću se prema sve autonomnijem izvršavanju, što stvara novu kategoriju sigurnosnih i povjereničkih izazova”, rekao je Gu. „Vjerujemo da sigurnosna infrastruktura za eru AI-ja mora djelovati proaktivno, a ne reaktivno.”