Více než 40 kryptoměnových firem bije na poplach ohledně bezpečnostních rozdílů v oblasti umělé inteligence

Bitcoin Policy Institute zveřejnilo 10. srpna otevřený dopis s názvem „Defenders Need the Frontier“ (Obránci potřebují hranici). Mezi signatáři jsou Coinbase, Bitgo, Block, Blockstream, Anchorage Digital, ARK Invest, Bitwise, Foundry, Strategy, MARA, Galaxy, Trezor a skupiny podporující vývojáře, jako jsou Brink, Chaincode Labs, Btrust, OpenSats a BTCPay Server.

Souboj mezi útočníky a obránci

Žádost se zaměřuje na měnící se realitu v oblasti kyberbezpečnosti. Pokročilé systémy umělé inteligence dokážou prohledávat obrovské sbírky počítačového kódu, identifikovat možné slabiny a pomáhat výzkumníkům testovat, zda lze danou chybu zneužít.

Díky tomu mohou být bezpečnostní prověrky rychlejší a důkladnější. Zároveň to však může vést k tomu, že útoky budou levnější a snáze škálovatelné. Tato zpráva navazuje na nedávný útok na Coldcard, při kterém se předpokládá, že umělá inteligence odhalila chybu ve firmwaru hardwarové peněženky ještě předtím, než došlo k útoku.

Koalice uvádí, že velké laboratoře zabývající se umělou inteligencí a malá skupina vybraných partnerů často získávají včasný přehled o těchto schopnostech, zatímco lidé, kteří spravují široce používaný finanční software s otevřeným zdrojovým kódem, nikoli. Jak dopis argumentuje, v době, kdy se výkonnější nástroje stanou široce dostupnými, mohou útočníci již najít způsoby, jak získat přístup, kopírovat nebo vyvinout srovnatelné schopnosti.

„Frontier AI mění ekonomiku jak bezpečnostního výzkumu, tak kybernetických operací,“ uvádí se v dopise. Varuje, že obránci často narážejí na bezpečnostní omezení, když se pokoušejí využít veřejně dostupné produkty umělé inteligence pro legitimní výzkum, což je nutí „spoléhat se při kritických bezpečnostních prověrkách na méně výkonné alternativy s otevřeným zdrojovým kódem.“

Modely s otevřeným kódem jsou systémy umělé inteligence, jejichž základní software si mohou externí vývojáři stáhnout a přizpůsobit. Mohou být užitečné, ale koalice tvrdí, že nemusí dosahovat úrovně nejvýkonnějších modelů, které jsou k dispozici od velkých laboratoří. Tento rozdíl hraje roli, když musí malý tým prověřovat složitý software, který pracuje s reálnými penězi.

Co je v sázce

Podle dopisu zajišťuje samotný bitcoin hodnotu více než 1 bilion dolarů. Širší systém digitálních aktiv také závisí na open-source softwaru pro peněženky, kryptografické knihovny, platební procesory, burzy, služby úschovy a nástroje Lightning Network.

Chyba v kterékoli z těchto součástí může mít vážné důsledky. Digitální aktiva často fungují jako nástroje na doručitele: kontrola nad kryptografickými přihlašovacími údaji může znamenat kontrolu nad finančními prostředky. Jakmile jsou peníze převedeny, jejich navrácení může být obtížné nebo nemožné.

Proto je rychlá detekce obzvláště důležitá pro spotřebitele, kteří drží úspory, obchodníky přijímající platby v bitcoinech a podniky, které chrání aktiva svých klientů. Koalice tvrdí, že bezpečnostní slabiny mohou ohrozit nejen softwarové systémy, ale také penzijní účty, podnikové fondy, nouzové úspory a institucionální kapitál.

V dopise se uvádí, že tato zátěž je již patrná u malých týmů správců. Uvádí se v něm, že Bitcoin Policy Institute obdržel zprávy o tom, že sofistikovaní aktéři, včetně možných zahraničních protivníků, využívají pokročilé schopnosti umělé inteligence k udržení tlaku na vývojáře open-source softwaru. I neúspěšné útoky mohou spotřebovávat čas a peníze, které by správci jinak věnovali vylepšování svého softwaru.

Nedávný audit prokázal obranný potenciál umělé inteligence

Tato iniciativa navazuje na dobrovolnický projekt z počátku srpna s názvem Bitcoin Red Team, který k auditu kódu souvisejícího s bitcoiny využil nástroje podporované umělou inteligencí. Mezi účastníky patřil vývojář Cashu Calle a generální ředitel společnosti Anchorwatch Rob Hamilton.

V jednom z prvních přehledů zveřejněných na platformě X skupina za přibližně 27,5 hodiny prověřila 390 projektů a zaznamenala zhruba 4 962 zjištění. Mezi nimi byly desítky klasifikovaných jako kritické a stovky považované za vysoce závažné. Tým využil několik systémů umělé inteligence, včetně Kimi K3 od Moonshotu, systémů OpenAI a variant Claude od společnosti Anthropic, zatímco společnost Opensats pomohla financovat náklady na výpočetní výkon, které se pohybovaly v řádu desítek tisíc dolarů.

Taková zjištění nejsou automaticky potvrzenými zranitelnostmi. Zprávy generované umělou inteligencí stále vyžadují, aby je ověřili zkušení odborníci, posoudili jejich závažnost a koordinovali opravy. Rozsah tohoto úsilí však ukázal, jak rychle může umělá inteligence pomoci bezpečnostním výzkumníkům třídit složitý kód, jehož prozkoumání by jinak mohlo trvat mnohem déle.

Koalice uvádí, že omezení přístupu donutila skupinu při počáteční práci ve velké míře spoléhat na dostupné modely. Jejím širším argumentem je, že kvalifikovaní odborníci na kyberbezpečnost by měli mít možnost využívat nejvýkonnější systémy dříve, než se tyto systémy stanou běžnými nástroji pro zločince nebo nepřátelské vlády.

Skutečný útok zvýšil sázky

Debata nabyla na naléhavosti poté, co BTCPay Server odhalil kritickou chybu postihující verze starší než 2.4.2. BTCPay je open-source software, který pomáhá obchodníkům přijímat platby v bitcoinech.

Tato zranitelnost mohla umožnit neautentizovanému vzdálenému útočníkovi získat citlivé přihlašovací údaje správce pro LND, což je běžně používaná implementace sítě Lightning Network. Tyto přihlašovací údaje mohly útočníkovi poskytnout kontrolu nad připojenými peněženkami a umožnit vyprázdnění prostředků. Chyba byla aktivně zneužita a někteří provozovatelé nahlásili ztráty.

Tento incident poskytl argumentům uvedeným v dopise konkrétní příklad. Členové Bitcoin Red Teamu pomohli s analýzou problému, zatímco vývojář peněženky Sparrow Wallet Craig Raw sehrál podle zdrojové zprávy klíčovou roli při jeho identifikaci poté, co byl sám zasažen. Společnost BTCPay uvedla, že umělá inteligence mění rovnováhu mezi útočníky a obránci tím, že snižuje náklady na prověřování rozsáhlých kódových základen.

Koalice nepožaduje volné zpřístupnění

Podepsaní nepožadují neomezený veřejný přístup k nejvýkonnějším modelům umělé inteligence v oblasti kybernetiky. Místo toho chtějí zavést stálé programy důvěryhodného přístupu pro osoby a skupiny, které mohou prokázat legitimní odpovědnost v oblasti bezpečnosti.

Jimi navrhované programy by nabízely včasný a kontrolovaný přístup k pokročilým modelům, včetně předběžných verzí systémů, bude-li to vhodné. Usilují také o dostatečnou výpočetní kapacitu pro dlouhodobě běžící úkoly umělé inteligence, zabezpečené prostory pro kontrolu soukromého nebo embargovaného kódu a přímé komunikační kanály s bezpečnostními týmy laboratoří.

Dopis výslovně žádá laboratoře, aby neomezovaly způsobilost pouze na velké společnosti a vlády. Malé neziskové organizace, nezávislí správci a dobrovolní vývojáři často chrání software používaný miliony lidí, uvádí se v něm, přesto jim však mohou chybět zdroje nebo institucionální vazby potřebné pro vstup do stávajících programů.

„Ochránci potřebují prostor pro průkopnické činnosti,“ uzavírá dopis. „Prosím, dejte jim spravedlivý náskok.“

Další vývoj bude záviset na tom, zda přední laboratoře zabývající se umělou inteligencí rozšíří specializované programy přístupu v oblasti kyberbezpečnosti a zda do svých pravidel způsobilosti zahrnou finanční infrastrukturu založenou na open source. Dopis zůstává otevřený pro další podpisy a uživatelé, obchodníci i investoři v oblasti bitcoinu by měli sledovat reakce laboratoří, nové výsledky auditů a další zveřejnění informací ze softwarových projektů, které se spoléhají na bezpečnostní prověrky podporované umělou inteligencí.