Vitalik Buterin dari Ethereum Memperingatkan soal Risiko Keamanan Agen AI, dan Membagikan Stack LLM Pribadinya

Poin-poin Utama:

• Pendiri Ethereum, Vitalik Buterin, meninggalkan layanan AI berbasis cloud pada April 2026, dan menjalankan Qwen3.5:35B secara lokal di laptop Nvidia 5090 dengan kecepatan 90 token per detik.
• Buterin menemukan bahwa sekitar 15% keterampilan agen AI mengandung instruksi berbahaya, mengutip data dari perusahaan keamanan Hiddenlayer.
• Daemon pesan sumber terbuka miliknya menerapkan aturan konfirmasi 2-dari-2 "manusia-plus-LLM" untuk semua tindakan keluar melalui Signal dan email ke pihak ketiga.

Bagaimana Vitalik Buterin Mengoperasikan Sistem AI Berdaulat Mandiri Tanpa Akses Cloud

Buterin menggambarkan sistem tersebut sebagai "mandiri / lokal / pribadi / aman" dan mengatakan sistem ini dibangun sebagai respons langsung terhadap apa yang ia lihat sebagai kegagalan keamanan dan privasi yang serius yang menyebar di ruang agen AI. Ia menunjuk pada penelitian yang menunjukkan bahwa sekitar 15% dari keterampilan agen, atau alat plug-in, mengandung instruksi berbahaya. Perusahaan keamanan Hiddenlayer mendemonstrasikan bahwa mengurai satu halaman web berbahaya saja dapat sepenuhnya mengkompromikan instance Openclaw, memungkinkan sistem tersebut mengunduh dan menjalankan skrip shell tanpa sepengetahuan pengguna.

"Saya memiliki pandangan bahwa saya sangat khawatir bahwa tepat ketika kita akhirnya membuat langkah maju dalam privasi dengan semakin meluasnya enkripsi ujung-ke-ujung dan perangkat lunak yang mengutamakan lokal, kita berada di ambang mengambil sepuluh langkah mundur," tulis Buterin.

Perangkat keras pilihannya adalah laptop yang menjalankan GPU Nvidia 5090 dengan memori video 24 GB. Dengan menjalankan model Qwen3.5:35B open-source dari Alibaba melalui llama-server, konfigurasi tersebut mencapai 90 token per detik, yang menurut Buterin merupakan target untuk penggunaan sehari-hari yang nyaman. Dia menguji AMD Ryzen AI Max Pro dengan memori terpadu 128 GB, yang mencapai 51 token per detik, serta DGX Spark, yang mencapai 60 token per detik.

Dia mengatakan DGX Spark, yang dipasarkan sebagai superkomputer AI desktop, kurang mengesankan mengingat biayanya dan throughput yang lebih rendah dibandingkan dengan GPU laptop yang baik. Untuk sistem operasinya, Buterin beralih dari Arch Linux ke NixOS, yang memungkinkan pengguna mendefinisikan seluruh konfigurasi sistem dalam satu berkas deklaratif. Ia menggunakan llama-server sebagai daemon latar belakang yang mengekspos port lokal yang dapat diakses oleh aplikasi apa pun.
Claude Code, katanya, dapat diarahkan ke instance llama-server lokal alih-alih server Anthropic. Sandboxing menjadi inti dari model keamanannya. Ia menggunakan bubblewrap untuk membuat lingkungan terisolasi dari direktori mana pun dengan satu perintah. Proses yang berjalan di dalam sandbox tersebut hanya dapat mengakses file yang secara eksplisit diizinkan dan port jaringan yang dikendalikan. Buterin merilis daemon pesan sebagai open-source di github.com/vbuterin/messaging-daemon yang mengintegrasikan signal-cli dan email.

Ia menyebutkan bahwa daemon tersebut dapat membaca pesan secara bebas dan mengirim pesan ke dirinya sendiri tanpa konfirmasi. Setiap pesan keluar ke pihak ketiga memerlukan persetujuan manusia secara eksplisit. Ia menyebut ini sebagai model "manusia + LLM 2-dari-2", dan mengatakan logika yang sama berlaku untuk dompet Ethereum. Ia menyarankan tim yang mengembangkan alat dompet terhubung AI untuk membatasi transaksi otonom hingga $100 per hari dan mewajibkan konfirmasi manusia untuk transaksi di atas jumlah tersebut atau transaksi yang membawa calldata yang berpotensi mengekstraksi data.

Inferensi Jarak Jauh, Menurut Istilah Buterin

Untuk tugas penelitian, Buterin membandingkan alat lokal Local Deep Research dengan pengaturannya sendiri yang menggunakan kerangka kerja pi agent bersama SearXNG, mesin pencari meta yang berfokus pada privasi dan dihosting sendiri. Ia mengatakan kombinasi pi dan SearXNG menghasilkan jawaban berkualitas lebih baik. Ia menyimpan salinan lokal Wikipedia sebesar sekitar 1 terabyte bersama dokumentasi teknis untuk mengurangi ketergantungan pada kueri pencarian eksternal, yang ia anggap sebagai kebocoran privasi.

Ia juga menerbitkan daemon transkripsi audio lokal di github.com/vbuterin/stt-daemon. Alat ini berjalan tanpa GPU untuk penggunaan dasar dan mengirimkan output ke LLM untuk koreksi dan ringkasan. Mengenai integrasi Ethereum, Buterin mengatakan agen AI tidak boleh memiliki akses dompet tanpa batasan. Ia merekomendasikan memperlakukan manusia dan LLM sebagai dua faktor konfirmasi terpisah yang masing-masing menangani mode kegagalan yang berbeda.

Untuk kasus di mana model lokal tidak memadai, Buterin menguraikan pendekatan yang melindungi privasi untuk inferensi jarak jauh. Ia menunjuk pada usulan ZK-API miliknya bersama peneliti Davide, proyek Openanonymity, dan penggunaan mixnets untuk mencegah server menghubungkan permintaan berturut-turut berdasarkan alamat IP. Ia juga menyebut lingkungan eksekusi tepercaya sebagai cara untuk mengurangi kebocoran data dari inferensi jarak jauh dalam jangka pendek, sambil mencatat bahwa enkripsi homomorfik penuh untuk inferensi cloud pribadi masih terlalu lambat untuk diterapkan saat ini.

Buterin menutup dengan catatan bahwa posting ini menggambarkan titik awal, bukan produk jadi, dan memperingatkan pembaca agar tidak meniru alat-alatnya secara persis dan menganggapnya aman.