Nagbabala si Vitalik Buterin ng Ethereum Laban sa Mga Panganib sa Seguridad ng AI Agent, Ibinahagi ang Kanyang Pribadong LLM Stack

Mahahalagang Punto:

• Iniwan ni Vitalik Buterin ang cloud AI noong Abril 2026, at pinatatakbo ang Qwen3.5:35B nang lokal sa isang Nvidia 5090 laptop sa bilis na 90 token bawat segundo.
• Natuklasan ni Buterin na humigit-kumulang 15% ng mga kasanayan ng AI agent ay naglalaman ng masasamang tagubilin, batay sa datos mula sa security firm na Hiddenlayer.
• Ipinapatupad ng kanyang open-sourced messaging daemon ang patakarang “tao + LLM 2-of-2” na kumpirmasyon para sa lahat ng papalabas na aksyon sa Signal at email patungo sa mga third party.

Paano Pinatatakbo ni Vitalik Buterin ang Isang Self-Sovereign AI System na Walang Cloud Access

Inilarawan ni Buterin ang sistema bilang “self-sovereign / local / private / secure” at sinabi niyang ito ay itinayo bilang direktang tugon sa nakikita niyang seryosong kabiguan sa seguridad at privacy na kumakalat sa espasyo ng AI agent. Itinuro niya ang pananaliksik na nagpapakitang humigit-kumulang 15% ng mga kasanayan ng agent, o mga plug-in tool, ay naglalaman ng masasamang tagubilin. Ipinakita ng security firm na Hiddenlayer na ang pag-parse ng iisang malicious na web page ay maaaring ganap na makompromiso ang isang instance ng Openclaw, na nagbibigay-daan dito na mag-download at magpatakbo ng mga shell script nang hindi nalalaman ng user.

“Mula ako sa pananaw na labis na natatakot na gaya ng pag-abante natin sa privacy dahil sa paglaganap ng end-to-end encryption at mas marami pang local-first software, nasa bingit tayo ng pag-atras ng sampung hakbang,” isinulat ni Buterin.

Ang pinili niyang hardware ay isang laptop na may Nvidia 5090 GPU na may 24 GB video memory. Kapag pinapatakbo ang open-weights na modelong Qwen3.5:35B mula sa Alibaba sa pamamagitan ng llama-server, umaabot ang setup sa 90 token bawat segundo, na tinatawag ni Buterin na target para sa komportableng pang-araw-araw na paggamit. Sinubukan niya ang AMD Ryzen AI Max Pro na may 128 GB unified memory, na umabot sa 51 token bawat segundo, at ang DGX Spark, na umabot sa 60 token bawat segundo.

Sinabi niya na ang DGX Spark, na ibinibenta bilang desktop AI supercomputer, ay hindi kahanga-hanga kung isasaalang-alang ang presyo nito at mas mababang throughput kumpara sa isang mahusay na laptop GPU. Para sa kanyang operating system, lumipat si Buterin mula Arch Linux patungong NixOS, na nagpapahintulot sa mga user na tukuyin ang kabuuang configuration ng kanilang sistema sa iisang declarative file. Ginagamit niya ang llama-server bilang background daemon na nagbubukas ng lokal na port na maaaring konektahan ng anumang application.

Nabanggit niya na ang Claude Code ay maaaring ituro sa isang lokal na llama-server instance sa halip na sa mga server ng Anthropic. Sentro ng kanyang security model ang sandboxing. Gumagamit siya ng bubblewrap upang lumikha ng mga hiwalay na environment mula sa anumang directory gamit ang iisang command. Ang mga prosesong tumatakbo sa loob ng mga sandbox na iyon ay maaari lamang maka-access ng mga file na tahasang pinahihintulutan at ng mga kontroladong network port. In-open source ni Buterin ang isang messaging daemon sa github.com/vbuterin/messaging-daemon na bumabalot sa signal-cli at email.

Sinabi niya na ang daemon ay maaaring magbasa ng mga mensahe nang malaya at magpadala ng mga mensahe sa sarili niya nang walang kumpirmasyon. Anumang papalabas na mensahe patungo sa third party ay nangangailangan ng tahasang pag-apruba ng tao. Tinawag niya ito na modelong “tao + LLM 2-of-2,” at sinabi niyang ang parehong lohika ay nalalapat sa mga wallet ng Ethereum. Pinayuhan niya ang mga team na bumubuo ng mga AI-connected na wallet tool na limitahan ang mga autonomous na transaksyon sa $100 bawat araw at humingi ng kumpirmasyon ng tao para sa anumang mas mataas doon o anumang transaksyong may calldata na maaaring maglabas ng data.

Remote Inference, Ayon sa mga Tuntunin ni Buterin

Para sa mga gawaing pananaliksik, ikinumpara ni Buterin ang lokal na tool na Local Deep Research laban sa sarili niyang setup gamit ang pi agent framework na ipinares sa SearXNG, isang self-hosted na meta-search engine na nakatuon sa privacy. Sinabi niya na ang pi plus SearXNG ay nagbigay ng mas mataas na kalidad na mga sagot. Nag-iimbak siya ng lokal na Wikipedia dump na humigit-kumulang 1 terabyte kasama ng teknikal na dokumentasyon upang mabawasan ang pag-asa niya sa mga panlabas na search query, na itinuturing niyang isang tagas sa privacy.

Naglabas rin siya ng lokal na audio transcription daemon sa github.com/vbuterin/stt-daemon. Gumagana ang tool nang walang GPU para sa basic na paggamit at ipinapasa ang output sa LLM para sa pagwawasto at pagbubuod. Tungkol sa integrasyon sa Ethereum, sinabi ni Buterin na ang mga AI agent ay hindi dapat kailanman magkaroon ng walang limitasyong access sa wallet. Iminungkahi niyang ituring ang tao at ang LLM bilang dalawang magkahiwalay na salik ng kumpirmasyon na bawat isa ay nakakahuli ng magkaibang uri ng pagkabigo.

Para sa mga kasong kapos ang mga lokal na model, inilatag ni Buterin ang isang privacy-preserving na paraan para sa remote inference. Itinuro niya ang sarili niyang ZK-API proposal kasama ang researcher na si Davide, ang Openanonymity project, at ang paggamit ng mixnets upang pigilan ang mga server na maiugnay ang magkakasunod na request sa pamamagitan ng IP address. Binanggit din niya ang trusted execution environments bilang paraan upang mabawasan ang pagtagas ng data mula sa remote inference sa malapit na panahon, habang binibigyang-diin na ang fully homomorphic encryption para sa pribadong cloud inference ay nananatiling masyadong mabagal upang maging praktikal sa kasalukuyan.

Nagtapos si Buterin sa paalala na ang post ay naglalarawan ng panimulang punto, hindi pa tapos na produkto, at binalaan ang mga mambabasa laban sa pagkopya ng eksakto niyang mga tool at pag-aakalang ligtas ang mga ito.