Več kot 40 podjetij s področja kriptovalut opozarja na varnostno vrzel v zvezi z umetno inteligenco

Bitcoin Policy Institute je 10. avgusta objavil odprto pismo z naslovom »Defenders Need the Frontier«. Med podpisniki so Coinbase, Bitgo, Block, Blockstream, Anchorage Digital, ARK Invest, Bitwise, Foundry, Strategy, MARA, Galaxy, Trezor ter skupine za podporo razvijalcem, kot so Brink, Chaincode Labs, Btrust, OpenSats in BTCPay Server.

Tekma med napadalci in branilci

Prošnja se osredotoča na spreminjajočo se realnost na področju kibernetske varnosti. Napredni sistemi umetne inteligence lahko pregledujejo ogromne zbirke računalniškega kode, prepoznajo morebitne šibke točke in pomagajo raziskovalcem preizkusiti, ali je mogoče izkoristiti določeno pomanjkljivost.

To lahko pospeši in poglobi varnostne preglede. Hkrati pa lahko napadi postanejo cenejši in lažje razširljivi. Ta novica sledi nedavnemu vdoru v Coldcard, kjer se sumi, da je umetna inteligenca odkrila napako v firmware-u strojne denarnice, še preden je prišlo do vdora.

Koalicija trdi, da veliki laboratoriji za umetno inteligenco in majhna skupina izbranih partnerjev pogosto pridobijo zgodnji vpogled v te zmogljivosti, medtem ko ljudje, ki vzdržujejo široko uporabljano odprtokodno finančno programsko opremo, tega nimajo. Pismo trdi, da do takrat, ko bodo močnejša orodja splošno dostopna, napadalci morda že bodo našli načine za dostop, kopiranje ali razvoj primerljivih zmogljivosti.

»Frontier AI spreminja ekonomiko tako raziskav na področju varnosti kot tudi kibernetskih operacij,« piše v pismu. Opozarja, da se zagovorniki varnosti pogosto soočajo z varnostnimi omejitvami, ko poskušajo uporabiti javne izdelke umetne inteligence za legitimne raziskave, zaradi česar so »prisiljeni zanašati se na manj zmogljive odprtokodne alternative za kritične varnostne preglede«.

Odprti modeli so sistemi umetne inteligence, katerih osnovno programsko opremo lahko zunanji razvijalci prenesejo in prilagodijo. Lahko so koristni, vendar koalicija trdi, da morda ne dosegajo ravni najmočnejših modelov, ki so na voljo v večjih laboratorijih. Ta razlika je pomembna, ko mora majhna ekipa pregledati zapleteno programsko opremo, ki upravlja z resničnim denarjem.

Kaj je ogroženo

Samo bitcoin varuje več kot 1 bilijon dolarjev vrednosti, navaja pismo. Širši sistem digitalnih sredstev je prav tako odvisen od odprtokodne programske opreme za denarnice, kriptografske knjižnice, plačilne procesorje, borze, storitve hrambe in orodja omrežja Lightning Network.

Napaka v katerem koli od teh elementov lahko ima resne posledice. Digitalna sredstva pogosto delujejo kot instrumenti na prinosnika: nadzor nad kriptografskimi poverilnicami lahko pomeni nadzor nad sredstvi. Ko je denar enkrat prenesen, je njegova vrnitev lahko težka ali celo nemogoča.

Zato je hitro odkrivanje še posebej pomembno za potrošnike, ki hranijo prihranke, trgovce, ki sprejemajo plačila v bitcoinih, ter podjetja, ki varujejo sredstva strank. Koalicija trdi, da lahko varnostne pomanjkljivosti ogrozijo pokojninske račune, poslovna sredstva, prihranke za nujne primere in institucionalni kapital, ne le programske sisteme.

V pismu je navedeno, da je ta pritisk že viden med majhnimi vzdrževalnimi ekipami. Navaja, da je Bitcoin Policy Institute prejel poročila, da izkušeni akterji, vključno z morebitnimi tujimi nasprotniki, uporabljajo napredne zmožnosti umetne inteligence, da ohranjajo pritisk na razvijalce odprtokodne programske opreme. Tudi neuspešni napadi lahko porabijo čas in denar, ki bi ga vzdrževalci sicer porabili za izboljšanje svoje programske opreme.

Nedavna revizija je pokazala obrambno moč umetne inteligence

Ta pobuda sledi prostovoljnemu projektu iz začetka avgusta, imenovanemu »Bitcoin Red Team«, v okviru katerega so z orodji, podprtimi z umetno inteligenco, revidirali kodo, povezano z Bitcoinom. Med udeleženci sta bila razvijalec Cashu Calle in izvršni direktor podjetja Anchorwatch Rob Hamilton.

V enem od prvih pregledov, objavljenih na X, je skupina v približno 27,5 urah pregledala 390 projektov in zabeležila okoli 4.962 ugotovitev. Med njimi so bile desetinke, ki so bile razvrščene kot kritične, ter stotine, ki so bile ocenjene kot zelo resne. Ekipa je uporabila več sistemov umetne inteligence, vključno s sistemom Kimi K3 podjetja Moonshot, sistemi OpenAI in različicami sistema Claude podjetja Anthropic, medtem ko je podjetje Opensats pomagalo pri financiranju stroškov računalniških zmogljivosti, ki so po poročanju znašali več deset tisoč dolarjev.

Takšne ugotovitve niso avtomatično potrjene ranljivosti. Poročila, ki jih ustvari umetna inteligenca, še vedno zahtevajo, da jih preverijo izkušeni strokovnjaki, ocenijo njihovo resnost in usklajujejo popravke. Vendar je obseg prizadevanj pokazal, kako hitro lahko umetna inteligenca pomaga raziskovalcem na področju varnosti pri pregledovanju zapletene kode, katere preučevanje bi sicer trajalo veliko dlje.

Koalicija pravi, da so omejitve dostopa skupino prisilile, da se je v začetni fazi dela močno zanašala na razpoložljive modele. Njihov širši argument je, da bi morali usposobljeni varnostni strokovnjaki imeti možnost uporabljati najzmogljivejše sisteme, preden ti postanejo običajna orodja za kriminalce ali sovražne vlade.

Resnična varnostna luknja je povečala tveganje

Razprava je postala še bolj nujna, potem ko je BTCPay Server razkril kritično ranljivost, ki vpliva na različice pred 2.4.2. BTCPay je odprtokodna programska oprema, ki trgovcem pomaga sprejemati plačila v bitcoinih.

Ta ranljivost bi lahko neavtentificiranemu oddaljenemu napadalcu omogočila pridobitev občutljivih administrativnih poverilnic za LND, pogosto uporabljeno implementacijo omrežja Lightning Network. Te poverilnice bi napadalcu omogočile nadzor nad povezanimi denarnicami in izpraznitev sredstev. Ranljivost je bila aktivno izkoriščena, nekateri operaterji pa so poročali o izgubah.

Incident je argumentom iz pisma dal konkreten primer. Člani Bitcoin Red Teama so pomagali pri analizi problema, medtem ko je razvijalec denarnice Sparrow Wallet, Craig Raw, po poročanju vira odigral ključno vlogo pri njegovem odkrivanju, potem ko je bil sam prizadet. BTCPay je dejal, da umetna inteligenca spreminja ravnovesje med napadalci in branilci, saj znižuje stroške pregledovanja obsežnih kodnih baz.

Koalicija ne zahteva odprtega dostopa

Podpisniki ne pozivajo k neomejenemu javnemu dostopu do najbolj kibernetsko zmogljivih modelov umetne inteligence. Namesto tega želijo stalne programe za zaupanja vreden dostop za posameznike in skupine, ki lahko dokažejo legitimne varnostne odgovornosti.

Njihovi predlagani programi bi omogočali zgodnji, nadzorovan dostop do naprednih modelov, vključno s sistemi v predizdaji, kadar je to primerno. Prav tako si prizadevajo za zadostno računalniško zmogljivost za dolgotrajne naloge umetne inteligence, varne prostore za pregledovanje zasebne ali prepovedane kode ter neposredne komunikacijske kanale z varnostnimi ekipami laboratorijev.

Pismo izrecno poziva laboratorije, naj upravičenosti ne omejujejo na velika podjetja in vlade. Majhne neprofitne organizacije, neodvisni vzdrževalci in prostovoljni razvijalci pogosto varujejo programsko opremo, ki jo uporabljajo milijoni ljudi, piše v pismu, vendar jim morda primanjkuje virov ali institucionalnih povezav, potrebnih za vstop v obstoječe programe.

»Zagovorniki potrebujejo prostranstvo za raziskovanje,« se pismo zaključi. »Prosimo, dajte jim pošteno prednost.«

Kaj se bo zgodilo v prihodnosti, bo odvisno od tega, ali bodo vodilni laboratoriji za umetno inteligenco razširili specializirane programe za dostop na področju kibernetske varnosti in ali bodo v svoja pravila o upravičenosti vključili odprtokodno finančno infrastrukturo. Pismo je še vedno odprto za dodatne podpise, uporabniki bitcoina, trgovci in vlagatelji pa naj spremljajo odzive laboratorijev, nove rezultate revizij ter nadaljnja razkritja iz programskih projektov, ki se zanašajo na varnostne preglede z umetno inteligenco.