Lebih 40 Firma Kripto Membunyikan Amaran tentang Jurang Keselamatan AI

Bitcoin Policy Institute menerbitkan surat terbuka itu, bertajuk “Defenders Need the Frontier,” pada 10 Ogos. Penandatangan surat itu termasuk Coinbase, Bitgo, Block, Blockstream, Anchorage Digital, ARK Invest, Bitwise, Foundry, Strategy, MARA, Galaxy, Trezor, serta kumpulan sokongan pembangun seperti Brink, Chaincode Labs, Btrust, OpenSats, dan BTCPay Server.

Perlumbaan Antara Penyerang dan Pembela

Permintaan ini berpusat pada realiti yang berubah dalam keselamatan siber. Sistem AI canggih boleh mengimbas koleksi kod komputer yang sangat besar, mengenal pasti kelemahan berpotensi, dan membantu penyelidik menguji sama ada sesuatu kecacatan boleh dieksploitasi.

Ini boleh menjadikan semakan keselamatan lebih pantas dan lebih menyeluruh. Ia juga boleh menjadikan serangan lebih murah dan lebih mudah diskalakan. Berita ini menyusuli pencerobohan terbaru Coldcard, di mana AI disyaki mengesan kecacatan firmware dompet perkakasan itu sebelum ia meletup.

Gabungan itu berkata makmal AI besar dan sekumpulan kecil rakan kongsi terpilih sering mendapat keterlihatan awal terhadap keupayaan tersebut, sedangkan pihak yang menyelenggara perisian kewangan sumber terbuka yang digunakan secara meluas tidak. Menjelang masa alat yang lebih kuat tersedia secara meluas, surat itu berhujah, penyerang mungkin sudah menemui cara untuk mengakses, menyalin, atau membina keupayaan yang setanding.

“AI frontier sedang mengubah ekonomi kedua-dua penyelidikan keselamatan dan operasi siber,” kata surat itu. Ia memberi amaran bahawa pembela kerap berdepan sekatan keselamatan apabila mereka cuba menggunakan produk AI awam untuk penyelidikan yang sah, menyebabkan mereka “bergantung pada alternatif open-weight yang kurang berkeupayaan untuk semakan keselamatan kritikal.”

Model open-weight ialah sistem AI yang perisian asasnya boleh dimuat turun dan diubah suai oleh pembangun luar. Ia boleh berguna, tetapi gabungan itu berkata ia mungkin tidak setanding dengan model terkuat yang tersedia daripada makmal utama. Perbezaan ini penting apabila sebuah pasukan kecil perlu memeriksa perisian kompleks yang mengendalikan wang sebenar.

Apa yang berisiko

Bitcoin sahaja melindungi lebih daripada $1 trilion nilai, menurut surat itu. Sistem aset digital yang lebih luas juga bergantung pada perisian sumber terbuka untuk dompet, perpustakaan kriptografi, pemproses pembayaran, bursa, perkhidmatan kustodian, dan alat Lightning Network.

Kecacatan pada mana-mana komponen itu boleh membawa kesan yang serius. Aset digital sering berfungsi seperti instrumen pembawa: kawalan terhadap kelayakan kriptografi boleh bermakna kawalan terhadap dana. Setelah wang dipindahkan, pemulihan boleh menjadi sukar atau mustahil.

Itu menjadikan pengesanan pantas sangat penting khususnya bagi pengguna yang menyimpan simpanan, peniaga yang menerima pembayaran bitcoin, dan perniagaan yang melindungi aset pelanggan. Gabungan itu berhujah bahawa kelemahan keselamatan boleh mendedahkan akaun persaraan, dana perniagaan, simpanan kecemasan, dan modal institusi, bukan semata-mata sistem perisian.

Surat itu berkata tekanan ini sudah kelihatan dalam kalangan pasukan penyelenggaraan kecil. Ia menyatakan Bitcoin Policy Institute telah menerima laporan bahawa pelaku canggih, termasuk kemungkinan musuh asing, menggunakan keupayaan AI canggih untuk mengekalkan tekanan terhadap pembangun sumber terbuka. Malah serangan yang tidak berjaya boleh memakan masa dan wang yang sepatutnya digunakan oleh penyelenggara untuk menambah baik perisian mereka.

Audit Terkini Menunjukkan Kuasa Pertahanan AI

Dorongan ini menyusuli projek sukarelawan awal Ogos yang dipanggil Bitcoin Red Team, yang menggunakan alat bantuan AI untuk mengaudit kod berkaitan Bitcoin. Peserta termasuk pembangun Cashu Calle dan CEO Anchorwatch Rob Hamilton.

Dalam satu gambaran awal yang dimuat naik ke X, kumpulan itu meneliti 390 projek dalam kira-kira 27.5 jam dan memfailkan lebih kurang 4,962 dapatan. Dapatan tersebut termasuk berpuluh-puluh yang diklasifikasikan sebagai kritikal, dan ratusan yang dianggap berkeparahan tinggi. Pasukan itu menggunakan beberapa sistem AI, termasuk Kimi K3 oleh Moonshot, sistem OpenAI, dan varian Claude oleh Anthropic, sementara Opensats membantu membiayai kos pengkomputeran yang dilaporkan mencecah puluhan ribu dolar.

Dapatan sedemikian tidak semestinya kerentanan yang telah disahkan. Laporan yang dijana AI masih memerlukan orang berpengalaman untuk mengesahkannya, menilai tahap keparahannya, dan menyelaraskan pembaikan. Namun skala usaha itu menunjukkan betapa cepatnya AI dapat membantu penyelidik keselamatan menapis kod kompleks yang sebaliknya mungkin mengambil masa jauh lebih lama untuk diperiksa.

Gabungan itu berkata had akses memaksa kumpulan tersebut bergantung kuat pada model yang tersedia semasa kerja awalnya. Hujah yang lebih luas ialah pembela yang layak sepatutnya boleh menggunakan sistem paling berkeupayaan sebelum sistem itu menjadi alat biasa bagi penjenayah atau kerajaan yang bermusuhan.

Pencerobohan Sebenar Menaikkan Taruhannya

Perdebatan menjadi lebih mendesak selepas BTCPay Server mendedahkan kecacatan kritikal yang menjejaskan versi sebelum 2.4.2. BTCPay ialah perisian sumber terbuka yang membantu peniaga menerima pembayaran Bitcoin.

Kerentanan itu boleh membenarkan penyerang jarak jauh tanpa pengesahan mendapatkan kelayakan pentadbir sensitif untuk LND, pelaksanaan Lightning Network yang biasa digunakan. Kelayakan tersebut boleh memberi penyerang kawalan terhadap dompet yang disambungkan dan membolehkan dana disedut keluar. Kecacatan itu dieksploitasi secara aktif, dan sesetengah pengendali melaporkan kerugian.

Insiden itu memberikan hujah dalam surat itu contoh yang nyata. Ahli Bitcoin Red Team membantu menganalisis isu tersebut, manakala pembangun Sparrow Wallet Craig Raw memainkan peranan penting dalam mengenal pastinya selepas terjejas, menurut laporan sumber. BTCPay berkata AI sedang mengubah imbangan antara penyerang dan pembela dengan menurunkan kos menyemak pangkalan kod yang besar.

Gabungan Ini Tidak Meminta Pelepasan Terbuka

Para penandatangan tidak menyeru akses awam tanpa sekatan kepada model AI yang paling berkeupayaan dalam siber. Sebaliknya, mereka mahukan program akses dipercayai yang kekal untuk individu dan kumpulan yang boleh membuktikan tanggungjawab keselamatan yang sah.

Program yang dicadangkan akan menawarkan akses awal yang terkawal kepada model canggih, termasuk sistem pra-keluaran apabila sesuai. Mereka juga memohon kapasiti pengkomputeran yang mencukupi untuk tugasan AI yang berjalan lama, ruang selamat untuk memeriksa kod peribadi atau di bawah embargo, serta saluran komunikasi terus dengan pasukan keselamatan makmal.

Surat itu secara khusus meminta supaya makmal tidak mengehadkan kelayakan kepada syarikat besar dan kerajaan. Badan bukan untung kecil, penyelenggara bebas dan pembangun sukarelawan sering melindungi perisian yang digunakan oleh jutaan orang, kata surat itu, namun mungkin kekurangan sumber atau hubungan institusi yang diperlukan untuk memasuki program sedia ada.

“Pembela memerlukan frontier,” kesimpulan surat itu. “Tolong berikan mereka permulaan awal yang adil.”

Apa yang berlaku seterusnya akan bergantung pada sama ada makmal AI terkemuka memperluas program akses keselamatan siber khusus dan sama ada mereka memasukkan infrastruktur kewangan sumber terbuka dalam peraturan kelayakan mereka. Surat itu kekal terbuka untuk tandatangan tambahan, dan pengguna bitcoin, peniaga, serta pelabur wajar memerhati respons makmal, keputusan audit baharu, dan pendedahan lanjut daripada projek perisian yang bergantung pada semakan keselamatan berbantukan AI.