Vitalik Buterin iz Ethereuma upozorava na sigurnosne rizike AI agenata, dijeli svoj privatni LLM stack

Ključne poruke:

• Suosnivač Ethereuma Vitalik Buterin napustio je cloud AI u travnju 2026., pokrećući Qwen3.5:35B lokalno na prijenosniku s Nvidia 5090 pri 90 tokena u sekundi.
• Buterin je utvrdio da otprilike 15% vještina AI agenata sadrži zlonamjerne upute, pozivajući se na podatke sigurnosne tvrtke Hiddenlayer.
• Njegov open-source daemon za razmjenu poruka provodi pravilo potvrde „čovjek + LLM” 2-od-2 za sve odlazne radnje u Signal-u i e-pošti prema trećim stranama.

Kako Vitalik Buterin pokreće samosuveren AI sustav bez pristupa cloudu

Buterin je opisao sustav kao „samosuveren / lokalni / privatan / siguran” i rekao da je izgrađen kao izravna reakcija na ono što smatra ozbiljnim sigurnosnim i privatnosnim propustima koji se šire prostorom AI agenata. Ukazao je na istraživanja koja pokazuju da otprilike 15% vještina agenata, odnosno plug-in alata, sadrži zlonamjerne upute. Sigurnosna tvrtka Hiddenlayer demonstrirala je da parsiranje jedne zlonamjerne web stranice može u potpunosti kompromitirati instancu Openclaw, omogućujući joj preuzimanje i izvršavanje shell skripti bez znanja korisnika.

„Dolazim iz načina razmišljanja u kojem sam duboko uplašen da, baš kad smo napokon napravili korak naprijed u privatnosti zahvaljujući širem prihvaćanju end-to-end enkripcije i sve više lokalno-prvo softvera, na pragu smo da napravimo deset koraka unatrag”, napisao je Buterin.

Njegov odabir hardvera je prijenosnik s Nvidia 5090 GPU-om s 24 GB videomemorije. Pokrećući open-weights model Qwen3.5:35B iz Alibabe putem llama-servera, postavka doseže 90 tokena u sekundi, što Buterin naziva ciljem za ugodno svakodnevno korištenje. Testirao je AMD Ryzen AI Max Pro sa 128 GB objedinjene memorije, koji je postigao 51 token u sekundi, te DGX Spark, koji je dosegnuo 60 tokena u sekundi.

Rekao je da je DGX Spark, koji se prodaje kao stolno AI superračunalo, bio neimpresivan s obzirom na cijenu i manji protok u usporedbi s dobrim GPU-om u prijenosniku. Što se tiče operativnog sustava, Buterin je prešao s Arch Linuxa na NixOS, koji korisnicima omogućuje definiranje cjelokupne konfiguracije sustava u jednoj deklarativnoj datoteci. Koristi llama-server kao pozadinski daemon koji izlaže lokalni port na koji se može povezati bilo koja aplikacija.

Claude Code, napomenuo je, može se usmjeriti na lokalnu instancu llama-servera umjesto na Anthropiceve poslužitelje. Sandboxing je središnji dio njegova sigurnosnog modela. Koristi bubblewrap za stvaranje izoliranih okruženja iz bilo kojeg direktorija jednom naredbom. Procesi koji se izvode unutar tih sandboxa mogu pristupiti samo datotekama koje su izričito dopuštene i kontroliranim mrežnim portovima. Buterin je open-sourceao daemon za razmjenu poruka na github.com/vbuterin/messaging-daemon koji omata signal-cli i e-poštu.

Napomenuo je da daemon može slobodno čitati poruke i slati poruke njemu samome bez potvrde. Svaka odlazna poruka prema trećoj strani zahtijeva izričito ljudsko odobrenje. Nazvao je to modelom „čovjek + LLM 2-od-2” te rekao da se ista logika primjenjuje i na Ethereum novčanike. Savjetovao je timovima koji grade alate za novčanike povezane s AI-jem da ograniče autonomne transakcije na 100 USD dnevno i zahtijevaju ljudsku potvrdu za sve iznad toga ili za bilo koju transakciju koja sadrži calldata koja bi mogla izvući podatke.

Udaljena inferencija, pod Buterinovim uvjetima

Za istraživačke zadatke, Buterin je usporedio lokalni alat Local Deep Research sa svojom postavkom koja koristi pi agent framework uparen sa SearXNG-om, samohostanim metatražilom usmjerenim na privatnost. Rekao je da je pi plus SearXNG davao kvalitetnije odgovore. Pohranjuje lokalni dump Wikipedije od približno 1 terabajta uz tehničku dokumentaciju kako bi smanjio oslanjanje na vanjske upite pretraživanja, koje smatra curenjem privatnosti.

Također je objavio lokalni daemon za transkripciju zvuka na github.com/vbuterin/stt-daemon. Alat radi i bez GPU-a za osnovnu upotrebu te prosljeđuje izlaz LLM-u radi ispravaka i sažimanja. Što se tiče integracije s Ethereumom, Buterin je rekao da AI agenti nikada ne bi trebali imati neograničen pristup novčaniku. Preporučio je tretirati čovjeka i LLM kao dva različita faktora potvrde, pri čemu svaki hvata različite načine otkaza.

Za slučajeve kada lokalni modeli nisu dovoljni, Buterin je iznio pristup udaljenoj inferenciji koji čuva privatnost. Ukazao je na vlastiti ZK-API prijedlog s istraživačem Davideom, projekt Openanonymity i korištenje mixnetova kako bi se poslužitelje spriječilo da IP adresom povezuju uzastopne zahtjeve. Također je naveo pouzdana izvršna okruženja kao način za smanjenje curenja podataka iz udaljene inferencije u bliskoj budućnosti, uz napomenu da je potpuno homomorfna enkripcija za privatnu cloud inferenciju i dalje prespora da bi danas bila praktična.

Buterin je završio napomenom da objava opisuje početnu točku, a ne dovršen proizvod, te je upozorio čitatelje da ne kopiraju njegove točne alate i ne pretpostave da su sigurni.