A közelmúltbeli eseményekre – amikor mesterséges intelligencia (AI) ügynökök kiszabadultak a tesztkörnyezetükből és valós célpontokat támadtak meg – reagálva Kaijern Lau, a CertiK műszaki igazgatója úgy véli, hogy az iparágnak fel kell készülnie erre azáltal, hogy növeli a mesterséges intelligencia biztonságába történő beruházásait, mivel a blokklánc-iparág egyre szorosabban összefonódik a mesterséges intelligenciával.
Lau, a CertiK igazgatója a kockázatok ellenére is úgy véli, hogy a mesterséges intelligencia nettó szempontból pozitív hatással bír
ÍRTA
MEGOSZTÁS
Főbb tanulságok
- A Hugging Face-t feltörő mesterséges intelligencia-ügynök bizonyítja, hogy az autonóm kiberháború valós veszély, ami arra készteti a Web3-at, hogy vezesse be a mesterséges intelligencia biztonságát.
- Bár a mesterséges intelligencia felgyorsítja a sebezhetőségek felderítését, az emberi szakértőknek továbbra is ellenőrizniük kell azok tényleges hatását.
- A CertiK olyan védelmi eszközöket fejleszt, mint az AI Auditor, hogy ellenálljon az automatizált támadásoknak és biztosítsa a Web3-projektek biztonságát.
Kaijern Lau, a CertiK munkatársa: A mesterséges intelligencia pozitív hatással lesz a Web3 biztonságára, de egyben „kétélű kard” is
A blokklánc-biztonság és -auditálás világa gyorsan változik, mivel a sebezhetőségek felfedezésének folyamatába bevont mesterséges intelligencia (AI) révén a kihasználható sebezhetőségeket ma már sokkal gyorsabban fedezik fel és használják ki.
Az AI e tevékenységekben betöltött egyre növekvő szerepével kapcsolatos általános aggodalmak a Hugging Face-incidenssel fokozódtak, amelynek során egy AI-platformot hackeltek meg – ez volt az első olyan behatolás, amelyet „végig egy autonóm AI-ügynökrendszer hajtott végre”.
Az eset – amelyet később egy OpenAI-modellnek tulajdonítottak, amely kiszabadult a tesztelési sandboxból – megerősítette, hogy az ügynökök által vezérelt kiberbiztonsági háború valósággá vált, és hogy az intézményeknek már most, nem pedig holnap kell felkészülniük ezekre a kockázatokra.
Az aggodalmak elérték a Web3 ökoszisztémát is, ahol a biztonság inkább passzív, mint aktív jellegű, és olyan auditok és biztonsági szempontok alapján működik, amelyeket a fejlesztési fázisokban terveztek meg, és amelyeket gyakran nem lehet valós időben frissíteni az új szerződések bevezetése előtt.
A Bitcoin.com News-nak adott exkluzív interjúban Kaijern Lau, a CertiK műszaki igazgatója, megvizsgálta a mesterséges intelligencia szerepét mindkét támadásban, valamint a kód auditálásának folyamatát azok megelőzése érdekében.
Lau hangsúlyozza, hogy a mesterséges intelligencia hasznos eszköz lehet a sebezhetőségek azonosításához és a platformon fellelhető potenciális támadási vektorok vizsgálatához. Mindazonáltal továbbra is szükség van egy közbenső ember bevonására, „hogy biztosítsuk: a mesterséges intelligencia alaposan elemezte a kódot, és ellenőrizzük, hogy a jelentett sebezhetőségek valódiak-e, nem pedig téves riasztások.”
Lau kijelentette, hogy a hardveres pénztárcák támadási felületeit vizsgáló legújabb kutatások jól illusztrálják a mesterséges intelligencia korlátait és az emberi beavatkozás fontosságát. „A mesterséges intelligencia segíthet a mintázatok feltárásában és az elemzés felgyorsításában, de továbbra is szükség van tapasztalt kutatókra az eredmények validálásához és tényleges hatásuk felméréséhez” – értékelte.
A Hugging Face-incidens elszigetelt eset, nem bizonyíték „rosszindulatú ügynökökre”
Lau hangsúlyozta, hogy a Hugging Face-incidens egy konkrét értékelési környezetben merült fel, és egy ilyen váratlan esemény nem jelenti azt, hogy az AI-modellek ellenőrizhetetlenek lennének.
Ennek ellenére rámutatott, hogy a támadás rávilágított a mesterséges intelligencia-ügynökök jelenlegi képességeire, amelyek egyre inkább képesek komplex kiberbiztonsági műveletek végrehajtására, beleértve az olyan, önmagukban kezelhetőnek tűnő gyenge pontok azonosítását és kombinálását – mint például egy védtelen szolgáltatás, egy hibás konfiguráció, túlzott jogosultságok vagy kompromittált hitelesítő adatok –, és ezek gépi sebességgel összehangolt támadási útvonalakká alakítását.
Ennek következtében ez azt is mutatja, hogy a biztonsági célú mesterséges intelligenciába való befektetés hogyan válik normává a kódalapú termékekkel foglalkozó vállalatok számára, például a Web3- és a blokklánc-iparban.
„A mesterséges intelligencia mind a támadók, mind a védekezők képességeit növeli. Éppen ezért a blokklánc-vállalatoknak többet kellene befektetniük a mesterséges intelligencián alapuló biztonságba kódjuk és infrastruktúrájuk védelme érdekében. Olyan korszakba lépünk, ahol a legfontosabb kérdés már nem az, hogy használjunk-e mesterséges intelligenciát, hanem az, hogy a szervezetek mennyi mesterséges intelligencia-erőforrást (vagy tokent) fektetnek be rendszereik védelmére ahhoz képest, amennyit a támadók egyre kifinomultabb támadások indítására fordítanak” – nyilatkozta a szakértő.
Mesterséges intelligencia és blokklánc-biztonság: hol tartunk
Bár Lau biztos abban, hogy a mesterséges intelligencia és a blokklánc-biztonság elkerülhetetlenül összefonódik majd, elismeri, hogy még túl korai lenne a sebezhetőségek felderítését és a biztonságos szoftverfejlesztési feladatokat emberi beavatkozás nélkül elvégezni.
A CertiK még a védelmi ügynököket és azok eszközeit is a támadási felület részének tekinti, mivel azok is vizsgálhatók azonnali behatolás, rosszindulatú eszközbevitelek, túlzott jogosultságok, adat szivárgás vagy nem biztonságos automatizált javítások szempontjából. Valójában a vállalat kifejlesztett egy eszközt, az AI Skill Scannert, amely segít azonosítani a mesterséges intelligencia-képességekben rejlő kockázatokat a bevezetés előtt, növelve ezzel az AI-ügynökök feletti ellenőrzést.
Lau elárulta, hogy a CertiK továbbra is jelentős összegeket fog befektetni a fejlett, AI-alapú biztonsági rendszer kiépítésébe. „Saját fejlesztőink és biztonsági kutatóink éjjel-nappal dolgoznak az AI-vezérelt blokklánc-biztonság fejlesztésén” – erősítette meg.
A CertiK kifejlesztette az AI Auditor nevű eszközt is, amely automatikusan elemzi a blokklánc-projekteket, és azonosítja a gyakori biztonsági kockázatokat. „Ez a többmodellű, többügynökös megközelítés javítja a biztonsági értékelések pontosságát és megbízhatóságát egyaránt” – mondta Lau, miközben leírta, hogyan fejleszti a vállalat az AI-t használó támadók elleni védekező képességeit.
A mesterséges intelligencia egyensúlyi gyakorlata: merre tovább?
Bár a mesterséges intelligencia csökkenti a támadások korlátait – hiszen a fenyegető szereplők máris ügynököket vetnek be a sebezhetőségek felderítésére és az intelligens szerződések sebezhetőségi vizsgálatára –, Lau biztosítja, hogy a mesterséges intelligencia védelmi célokra való felhasználásának valódi előnyei vannak.
„A mesterséges intelligencia drámai mértékben növeli a fenyegetés-felismerés hatékonyságát és hatókörét. A CertiK javította a formális verifikáció hatékonyságát azáltal, hogy mesterséges intelligenciát integrált saját fejlesztésű CertiK Prover motorjába” – pontosította Lau.
A CertiK hozzájárulása a területhez – mondta Lau – túlmutat a sebezhetőségek felderítésén, és arra irányul, hogy a védelmi biztonsági intézkedések lépést tartsanak ezekkel a felmerülő AI-fenyegetésekkel azáltal, hogy a vállalat AI-modelleit is kiképezi és alkalmazza ügyfelei biztonságának garantálása érdekében.
„Összességében az AI nettó pozitív erő lesz a Web3 biztonsága szempontjából, de tagadhatatlanul kétélű kard, amely folyamatos egyensúlyozást igényel” – zárta Lau.
Ezt a cikket mesterséges intelligencia segítségével fordították le angolról. Az eredeti angol nyelvű változat a hiteles forrás; az automatikus fordítások pontatlanságokat tartalmazhatnak, különösen a jogi és szabályozási terminológiában.
