Vitalik Buterin dari Ethereum Memberi Amaran terhadap Risiko Keselamatan Ejen AI, Berkongsi Tindanan LLM Peribadinya

Pengambilan Utama:

• Pengasas bersama Ethereum Vitalik Buterin meninggalkan AI awan pada April 2026, menjalankan Qwen3.5:35B secara setempat pada komputer riba Nvidia 5090 pada kadar 90 token sesaat.
• Buterin mendapati bahawa kira-kira 15% kemahiran ejen AI mengandungi arahan berniat jahat, merujuk data daripada firma keselamatan Hiddenlayer.
• Daemon pemesejan sumber terbukanya menguatkuasakan peraturan pengesahan 2-daripada-2 manusia-plus-LLM bagi semua tindakan Signal dan e-mel keluar kepada pihak ketiga.

Bagaimana Vitalik Buterin Menjalankan Sistem AI Berdikari Tanpa Akses Awan

Buterin menghuraikan sistem itu sebagai “berdaulat kendiri / setempat / peribadi / selamat” dan berkata ia dibina sebagai respons langsung terhadap apa yang beliau lihat sebagai kegagalan keselamatan dan privasi yang serius yang merebak dalam ruang ejen AI. Beliau merujuk kepada penyelidikan yang menunjukkan kira-kira 15% kemahiran ejen, atau alat pemalam, mengandungi arahan berniat jahat. Firma keselamatan Hiddenlayer menunjukkan bahawa menghurai satu halaman web berniat jahat boleh menjejaskan sepenuhnya satu instans Openclaw, membolehkannya memuat turun dan melaksanakan skrip shell tanpa pengetahuan pengguna.

“Saya datang daripada cara fikir yang sangat takut bahawa ketika kita akhirnya membuat satu langkah ke hadapan dalam privasi melalui pemasyhuran penyulitan hujung-ke-hujung dan semakin banyak perisian berorientasikan setempat, kita kini berada di ambang mengambil sepuluh langkah ke belakang,” tulis Buterin.

Perkakasan pilihan beliau ialah komputer riba yang menjalankan GPU Nvidia 5090 dengan 24 GB memori video. Menjalankan model pemberat terbuka Qwen3.5:35B daripada Alibaba melalui llama-server, persediaan itu mencapai 90 token sesaat, yang Buterin sifatkan sebagai sasaran untuk penggunaan harian yang selesa. Beliau menguji AMD Ryzen AI Max Pro dengan 128 GB memori bersatu, yang mencapai 51 token sesaat, serta DGX Spark, yang mencapai 60 token sesaat.

Beliau berkata DGX Spark, yang dipasarkan sebagai superkomputer AI desktop, tidak mengagumkan memandangkan kosnya dan kadar keluaran yang lebih rendah berbanding GPU komputer riba yang bagus. Untuk sistem operasinya, Buterin beralih daripada Arch Linux kepada NixOS, yang membolehkan pengguna mentakrif keseluruhan konfigurasi sistem mereka dalam satu fail deklaratif. Beliau menggunakan llama-server sebagai daemon latar belakang yang mendedahkan port setempat yang boleh disambungkan oleh mana-mana aplikasi.

Claude Code, katanya, boleh dihalakan kepada instans llama-server setempat dan bukannya pelayan Anthropic. Penyandboxan adalah teras kepada model keselamatannya. Beliau menggunakan bubblewrap untuk mencipta persekitaran terpencil daripada mana-mana direktori dengan satu arahan. Proses yang berjalan di dalam sandbox itu hanya boleh mengakses fail yang dibenarkan secara jelas dan port rangkaian yang dikawal. Buterin membuka sumber daemon pemesejan di github.com/vbuterin/messaging-daemon yang membalut signal-cli dan e-mel.

Beliau menyatakan bahawa daemon itu boleh membaca mesej dengan bebas dan menghantar mesej kepada dirinya sendiri tanpa pengesahan. Sebarang mesej keluar kepada pihak ketiga memerlukan kelulusan manusia yang jelas. Beliau memanggil ini model “manusia + LLM 2-daripada-2”, dan berkata logik yang sama terpakai pada dompet Ethereum. Beliau menasihati pasukan yang membina alat dompet yang disambungkan kepada AI supaya mengehadkan transaksi autonomi kepada $100 sehari dan memerlukan pengesahan manusia untuk apa-apa yang lebih tinggi atau sebarang transaksi yang membawa calldata yang boleh mengeksfiltrasi data.

Inferens Jarak Jauh, Mengikut Terma Buterin

Untuk tugasan penyelidikan, Buterin membandingkan alat setempat Local Deep Research dengan persediaannya sendiri menggunakan rangka kerja ejen pi yang dipadankan dengan SearXNG, enjin meta-carian berfokus privasi yang dihoskan sendiri. Beliau berkata pi plus SearXNG menghasilkan jawapan yang lebih berkualiti. Beliau menyimpan dump Wikipedia setempat kira-kira 1 terabait bersama dokumentasi teknikal untuk mengurangkan kebergantungan pada pertanyaan carian luaran, yang beliau anggap sebagai kebocoran privasi.

Beliau turut menerbitkan daemon transkripsi audio setempat di github.com/vbuterin/stt-daemon. Alat itu berjalan tanpa GPU untuk penggunaan asas dan menyalurkan output kepada LLM untuk pembetulan dan peringkasan. Mengenai integrasi Ethereum, Buterin berkata ejen AI tidak sepatutnya memegang akses dompet tanpa sekatan. Beliau mengesyorkan agar manusia dan LLM dianggap sebagai dua faktor pengesahan yang berbeza, yang masing-masing menangkap mod kegagalan yang berbeza.

Bagi kes di mana model setempat tidak mencukupi, Buterin menggariskan pendekatan pemeliharaan privasi untuk inferens jarak jauh. Beliau merujuk kepada cadangan ZK-API beliau sendiri bersama penyelidik Davide, projek Openanonymity, serta penggunaan mixnet untuk menghalang pelayan daripada memautkan permintaan berturut-turut melalui alamat IP. Beliau juga menyebut persekitaran pelaksanaan dipercayai sebagai cara untuk mengurangkan kebocoran data daripada inferens jarak jauh dalam jangka terdekat, sambil menyatakan bahawa penyulitan homomorfik sepenuhnya untuk inferens awan peribadi masih terlalu perlahan untuk praktikal pada hari ini.

Buterin menutup dengan nota bahawa catatan itu menerangkan titik permulaan, bukan produk yang siap, dan memberi amaran kepada pembaca agar tidak meniru alat beliau secara tepat dan menganggap ia selamat.