Over 40 kryptovirksomheder slår alarm om sikkerhedskløften inden for kunstig intelligens

Bitcoin Policy Institute offentliggjorde det åbne brev med titlen »Defenders Need the Frontier« den 10. august. Blandt underskriverne er Coinbase, Bitgo, Block, Blockstream, Anchorage Digital, ARK Invest, Bitwise, Foundry, Strategy, MARA, Galaxy, Trezor samt udviklerstøttegrupper som Brink, Chaincode Labs, Btrust, OpenSats og BTCPay Server.

Et kapløb mellem angribere og forsvarere

Anmodningen drejer sig om en forandret virkelighed inden for cybersikkerhed. Avancerede AI-systemer kan gennemgå enorme mængder computerkode, identificere mulige svagheder og hjælpe forskere med at teste, om en fejl kan udnyttes.

Det kan gøre sikkerhedsvurderinger hurtigere og mere grundige. Det kan også gøre angreb billigere og nemmere at skalere. Nyheden kommer i kølvandet på det nylige sikkerhedsbrud hos Coldcard, hvor AI mistænkes for at have opdaget firmwarefejlen i hardware-walleten, inden den gik i luften.

Koalitionen påpeger, at store AI-laboratorier og en lille gruppe udvalgte partnere ofte får tidlig indsigt i disse muligheder, mens de personer, der vedligeholder udbredt open-source-finanssoftware, ikke gør det. Når mere kraftfulde værktøjer bliver bredt tilgængelige, argumenterer brevet, har angribere muligvis allerede fundet måder at få adgang til, kopiere eller udvikle tilsvarende kapaciteter.

»Frontier AI ændrer økonomien inden for både sikkerhedsforskning og cyberoperationer,« hedder det i brevet. Det advarer om, at forsvarere ofte støder på sikkerhedsbegrænsninger, når de forsøger at bruge offentlige AI-produkter til legitim forskning, hvilket tvinger dem til »at stole på mindre kapable open-source-alternativer til kritiske sikkerhedsvurderinger.«

Open-source-modeller er AI-systemer, hvis underliggende software kan downloades og tilpasses af eksterne udviklere. De kan være nyttige, men koalitionen siger, at de muligvis ikke kan måle sig med de stærkeste modeller, der er tilgængelige fra de store laboratorier. Forskellen har betydning, når et lille team skal inspicere kompleks software, der håndterer rigtige penge.

Hvad der er på spil

Ifølge brevet sikrer Bitcoin alene mere end 1 billion dollar i værdi. Det bredere system for digitale aktiver er også afhængigt af open-source-software til tegnebøger, kryptografiske biblioteker, betalingsprocessorer, børser, opbevaringstjenester og Lightning Network-værktøjer.

En fejl i et hvilket som helst af disse elementer kan have alvorlige konsekvenser. Digitale aktiver fungerer ofte som ihændehaverinstrumenter: Kontrol over de kryptografiske legitimationsoplysninger kan betyde kontrol over midlerne. Når pengene først er overført, kan det være svært eller umuligt at få dem tilbage.

Det gør hurtig opdagelse særligt vigtig for forbrugere, der har opsparing, forhandlere, der accepterer bitcoin-betalinger, og virksomheder, der beskytter kundernes aktiver. Koalitionen argumenterer for, at sikkerhedsmæssige svagheder kan udsætte pensionskonti, virksomhedsmidler, nødopsparinger og institutionel kapital for risiko – ikke blot softwaresystemer.

I brevet står der, at presset allerede er mærkbart blandt små vedligeholdelsesteams. Det fremgår, at Bitcoin Policy Institute har modtaget rapporter om, at sofistikerede aktører, herunder mulige udenlandske modstandere, bruger avancerede AI-funktioner til at opretholde presset på open source-udviklere. Selv mislykkede angreb kan koste tid og penge, som vedligeholdere ellers ville bruge på at forbedre deres software.

En nylig revision viste AI’s defensive styrke

Initiativet følger i kølvandet på et frivilligt projekt fra begyndelsen af august kaldet Bitcoin Red Team, som anvendte AI-assisterede værktøjer til at revidere Bitcoin-relateret kode. Blandt deltagerne var Cashu-udvikleren Calle og Anchorwatch-CEO Rob Hamilton.

I et tidligt øjebliksbillede, der blev lagt ud på X, gennemgik gruppen 390 projekter på cirka 27,5 timer og indberettede omkring 4.962 fund. Blandt disse var der snesevis, der blev klassificeret som kritiske, og hundredvis, der blev betragtet som meget alvorlige. Teamet anvendte flere AI-systemer, herunder Moonshots Kimi K3, OpenAI-systemer og Anthropics Claude-varianter, mens Opensats bidrog til at dække beregningsomkostningerne, der angives til at ligge i titusindvis af dollars.

Sådanne fund er ikke automatisk bekræftede sårbarheder. AI-genererede rapporter kræver stadig, at erfarne personer verificerer dem, vurderer deres alvorlighed og koordinerer afhjælpningen. Men omfanget af indsatsen viste, hvor hurtigt AI kan hjælpe sikkerhedsforskere med at gennemgå kompleks kode, som ellers ville tage meget længere tid at undersøge.

Koalitionen siger, at adgangsbegrænsninger tvang gruppen til i høj grad at stole på de tilgængelige modeller under det indledende arbejde. Deres bredere argument er, at kvalificerede sikkerhedseksperter bør kunne bruge de mest avancerede systemer, før disse systemer bliver almindelige værktøjer for kriminelle eller fjendtlige regeringer.

Et reelt sikkerhedsbrud øgede indsatsen

Debatten blev mere presserende, efter at BTCPay Server afslørede en kritisk fejl, der påvirkede versioner før 2.4.2. BTCPay er open source-software, der hjælper forhandlere med at acceptere Bitcoin-betalinger.

Sårbarheden kunne give en uautentificeret fjernangriber mulighed for at få fat i følsomme administratoroplysninger til LND, en almindeligt anvendt implementering af Lightning Network. Disse oplysninger kunne give en angriber kontrol over tilknyttede tegnebøger og gøre det muligt at tømme dem for midler. Sårbarheden blev aktivt udnyttet, og nogle operatører rapporterede om tab.

Hændelsen gav argumentet i brevet et konkret eksempel. Medlemmer af Bitcoin Red Team hjalp med at analysere problemet, mens Sparrow Wallet-udvikleren Craig Raw spillede en nøglerolle i at identificere det, efter at han selv var blevet ramt, ifølge kilderapporten. BTCPay sagde, at AI ændrer balancen mellem angribere og forsvarere ved at sænke omkostningerne ved at gennemgå store kodebaser.

Koalitionen beder ikke om offentlig frigivelse

Underskriverne opfordrer ikke til ubegrænset offentlig adgang til de mest cyberdygtige AI-modeller. I stedet ønsker de faste programmer for betroet adgang til personer og grupper, der kan påvise legitime sikkerhedsansvar.

Deres foreslåede programmer vil tilbyde tidlig, kontrolleret adgang til avancerede modeller, herunder præudgivelsessystemer, når det er relevant. De søger også tilstrækkelig regnekapacitet til langvarige AI-opgaver, sikre områder til at gennemgå privat eller embargo-beskyttet kode samt direkte kommunikationskanaler med laboratoriernes sikkerhedsteams.

I brevet opfordres laboratorierne specifikt til ikke at begrænse adgangen til store virksomheder og regeringer. Små nonprofitorganisationer, uafhængige vedligeholdere og frivillige udviklere beskytter ofte software, der bruges af millioner af mennesker, hedder det, men mangler muligvis de ressourcer eller institutionelle forbindelser, der er nødvendige for at deltage i eksisterende programmer.

»Forsvarerne har brug for grænseområdet,« konkluderer brevet. »Giv dem venligst et retfærdigt forspring.«

Hvad der sker herefter, vil afhænge af, om førende AI-laboratorier udvider deres specialiserede adgangsprogrammer inden for cybersikkerhed, og om de inkluderer open source-finansiel infrastruktur i deres adgangsregler. Brevet er stadig åbent for yderligere underskrifter, og bitcoin-brugere, forhandlere og investorer bør holde øje med laboratoriernes svar, nye revisionsresultater og yderligere oplysninger fra softwareprojekter, der er afhængige af AI-assisterede sikkerhedsvurderinger.