Ponad 40 firm z branży kryptowalutowej bije na alarm w związku z lukami w zabezpieczeniach sztucznej inteligencji

10 sierpnia Bitcoin Policy Institute opublikowało list otwarty zatytułowany „Defenders Need the Frontier” („Obrońcy potrzebują przestrzeni do działania”). Wśród sygnatariuszy znaleźli się: Coinbase, Bitgo, Block, Blockstream, Anchorage Digital, ARK Invest, Bitwise, Foundry, Strategy, MARA, Galaxy, Trezor oraz grupy wspierające programistów, takie jak Brink, Chaincode Labs, Btrust, OpenSats i BTCPay Server.

Wyścig między atakującymi a obrońcami

Prośba ta dotyczy zmieniającej się rzeczywistości w dziedzinie cyberbezpieczeństwa. Zaawansowane systemy sztucznej inteligencji mogą skanować ogromne zbiory kodu komputerowego, identyfikować potencjalne słabe punkty i pomagać badaczom w testowaniu, czy dana luka może zostać wykorzystana.

Dzięki temu przeglądy bezpieczeństwa mogą przebiegać szybciej i być bardziej szczegółowe. Może to również sprawić, że ataki staną się tańsze i łatwiejsze do skalowania. Wiadomość ta pojawiła się po niedawnym włamaniu do serwisu Coldcard, gdzie podejrzewano, że sztuczna inteligencja wykryła lukę w oprogramowaniu sprzętowym portfela, zanim doszło do ataku.

Koalicja twierdzi, że duże laboratoria zajmujące się sztuczną inteligencją oraz niewielka grupa wybranych partnerów często uzyskują wczesny wgląd w te możliwości, podczas gdy osoby odpowiedzialne za utrzymanie powszechnie używanego oprogramowania finansowego typu open source nie mają takiej możliwości. Jak argumentuje list, zanim silniejsze narzędzia staną się powszechnie dostępne, atakujący mogą już znaleźć sposoby na uzyskanie dostępu, skopiowanie lub stworzenie porównywalnych możliwości.

„Frontier AI zmienia ekonomię zarówno badań nad bezpieczeństwem, jak i operacji cybernetycznych” – czytamy w liście. Ostrzega on, że osoby zajmujące się ochroną często napotykają ograniczenia bezpieczeństwa, gdy próbują wykorzystać publiczne produkty AI do legalnych badań, co zmusza je do „polegania na mniej wydajnych alternatywach typu open-source podczas przeprowadzania krytycznych przeglądów bezpieczeństwa”.

Modele o otwartej architekturze to systemy sztucznej inteligencji, których oprogramowanie bazowe może być pobierane i dostosowywane przez zewnętrznych programistów. Mogą one być przydatne, ale koalicja twierdzi, że mogą nie dorównywać najsilniejszym modelom dostępnym w dużych laboratoriach. Różnica ta ma znaczenie, gdy niewielki zespół musi zbadać złożone oprogramowanie obsługujące prawdziwe pieniądze.

Co jest zagrożone

Według treści listu sam bitcoin zabezpiecza aktywa o wartości ponad 1 biliona dolarów. Szerszy system aktywów cyfrowych opiera się również na oprogramowaniu open-source w zakresie portfeli, bibliotek kryptograficznych, procesorów płatności, giełd, usług powierniczych oraz narzędzi sieci Lightning Network.

Błąd w którymkolwiek z tych elementów może mieć poważne konsekwencje. Aktywa cyfrowe często funkcjonują jak instrumenty na okaziciela: kontrola nad danymi kryptograficznymi może oznaczać kontrolę nad środkami. Po przekazaniu pieniędzy odzyskanie ich może być trudne lub niemożliwe.

To sprawia, że szybkie wykrywanie jest szczególnie ważne dla konsumentów posiadających oszczędności, sprzedawców akceptujących płatności w bitcoinach oraz firm zabezpieczających aktywa klientów. Koalicja argumentuje, że luki w zabezpieczeniach mogą narazić na ryzyko nie tylko systemy oprogramowania, ale także konta emerytalne, fundusze biznesowe, oszczędności na wypadek sytuacji kryzysowych oraz kapitał instytucjonalny.

W liście zaznaczono, że obciążenie to jest już widoczne wśród małych zespołów zajmujących się utrzymaniem oprogramowania. Stwierdzono, że Bitcoin Policy Institute otrzymało doniesienia, iż wyrafinowani aktorzy, w tym potencjalni zagraniczni przeciwnicy, wykorzystują zaawansowane możliwości sztucznej inteligencji do wywierania presji na programistów oprogramowania open source. Nawet nieudane ataki mogą pochłaniać czas i pieniądze, które opiekunowie oprogramowania mogliby w innym przypadku przeznaczyć na ulepszanie swojego oprogramowania.

Niedawny audyt wykazał potencjał obronny sztucznej inteligencji

Inicjatywa ta jest następstwem projektu wolontariackiego z początku sierpnia o nazwie Bitcoin Red Team, w ramach którego wykorzystano narzędzia wspomagane przez sztuczną inteligencję do przeprowadzenia audytu kodu związanego z Bitcoinem. Wśród uczestników znaleźli się Calle, programista Cashu, oraz Rob Hamilton, dyrektor generalny Anchorwatch.

W jednym z pierwszych podsumowań opublikowanych na platformie X grupa przeanalizowała 390 projektów w ciągu około 27,5 godziny i zgłosiła około 4 962 ustaleń. Wśród nich znalazły się dziesiątki sklasyfikowanych jako krytyczne oraz setki uznanych za bardzo poważne. Zespół korzystał z kilku systemów opartych na sztucznej inteligencji, w tym Kimi K3 firmy Moonshot, systemów OpenAI oraz wariantów Claude firmy Anthropic, a firma Opensats pomogła sfinansować koszty obliczeniowe, które wyniosły dziesiątki tysięcy dolarów.

Takie ustalenia nie są automatycznie potwierdzonymi lukami w zabezpieczeniach. Raporty generowane przez sztuczną inteligencję nadal wymagają weryfikacji przez doświadczonych specjalistów, którzy oceniają ich powagę i koordynują działania naprawcze. Jednak skala tego przedsięwzięcia pokazała, jak szybko sztuczna inteligencja może pomóc badaczom zajmującym się bezpieczeństwem w przeglądaniu złożonego kodu, którego analiza w innym przypadku mogłaby zająć znacznie więcej czasu.

Koalicja twierdzi, że ograniczenia dostępu zmusiły grupę do silnego polegania na dostępnych modelach podczas początkowej fazy prac. Jej szerszym argumentem jest to, że wykwalifikowani specjaliści ds. bezpieczeństwa powinni mieć możliwość korzystania z najwydajniejszych systemów, zanim staną się one powszechnymi narzędziami w rękach przestępców lub wrogich rządów.

Prawdziwy wyciek podniósł stawkę

Debata nabrała na pilności po tym, jak BTCPay Server ujawnił krytyczną lukę dotyczącą wersji starszych niż 2.4.2. BTCPay to oprogramowanie typu open source, które pomaga sprzedawcom przyjmować płatności w bitcoinach.

Luka ta mogła umożliwić nieuwierzytelnionemu zdalnemu atakującemu uzyskanie poufnych danych uwierzytelniających administratora dla LND, powszechnie stosowanej implementacji sieci Lightning Network. Dane te mogłyby dać atakującemu kontrolę nad podłączonymi portfelami i umożliwić wyprowadzenie środków. Luka była aktywnie wykorzystywana, a niektórzy operatorzy zgłosili straty.

Incydent ten stanowił konkretny przykład argumentacji zawartej w liście. Członkowie zespołu Bitcoin Red Team pomogli w analizie problemu, natomiast programista portfela Sparrow Wallet, Craig Raw, odegrał kluczową rolę w jego zidentyfikowaniu po tym, jak sam padł ofiarą ataku, jak wynika z raportu źródłowego. Firma BTCPay stwierdziła, że sztuczna inteligencja zmienia równowagę sił między atakującymi a obrońcami, obniżając koszty przeglądu rozległych baz kodu.

Koalicja nie domaga się publicznego udostępnienia

Sygnatariusze nie wzywają do nieograniczonego publicznego dostępu do modeli sztucznej inteligencji o największych możliwościach cybernetycznych. Zamiast tego domagają się stałych programów zaufanego dostępu dla osób i grup, które mogą wykazać się uzasadnionymi obowiązkami w zakresie bezpieczeństwa.

Proponowane przez nich programy oferowałyby wczesny, kontrolowany dostęp do zaawansowanych modeli, w tym – w stosownych przypadkach – do systemów przedpremierowych. Domagają się oni również wystarczającej mocy obliczeniowej do długotrwałych zadań związanych ze sztuczną inteligencją, bezpiecznych przestrzeni do analizy kodu prywatnego lub objętego embargiem oraz bezpośrednich kanałów komunikacji z zespołami ds. bezpieczeństwa laboratoriów.

W liście wyraźnie zwraca się do laboratoriów, aby nie ograniczały uprawnień wyłącznie do dużych firm i rządów. Jak stwierdzono w liście, małe organizacje non-profit, niezależni opiekunowie oprogramowania i programiści-wolontariusze często chronią oprogramowanie używane przez miliony ludzi, ale mogą nie dysponować zasobami lub powiązaniami instytucjonalnymi niezbędnymi do przystąpienia do istniejących programów.

„Obrońcy potrzebują nowych horyzontów” – podsumowuje list. „Prosimy o zapewnienie im sprawiedliwego startu”.

To, co stanie się dalej, będzie zależało od tego, czy wiodące laboratoria zajmujące się sztuczną inteligencją rozszerzą specjalistyczne programy dostępu w zakresie cyberbezpieczeństwa oraz czy uwzględnią infrastrukturę finansową opartą na oprogramowaniu open source w swoich zasadach kwalifikacji. List pozostaje otwarty na kolejne podpisy, a użytkownicy bitcoina, sprzedawcy i inwestorzy powinni śledzić reakcje laboratoriów, nowe wyniki audytów oraz dalsze ujawnienia ze strony projektów oprogramowania, które opierają się na przeglądach bezpieczeństwa wspomaganych przez sztuczną inteligencję.