‘Niso tvoji ključi, niso tvoji roboti’: Balaji Srinivasan načrtuje prihodnost z omejenimi umetnimi inteligencami

Kripto se srečuje z robotiko v Balajijevem X prispevku ‘Not Your Keys’

Balaji Srinivasan, ugleden kripto investitor in avtor knjige The Network State, je objavil obsežen X prispevek z naslovom “Not Your Keys, Not Your Bots,” v katerem raziskuje, ali bo umetna inteligenca ostala pod človeškim vodstvom ali bo sčasoma postavila svojo lastno smer.

Čeprav je to kratek X prispevek, izraža težavo neposredno: “Temeljno vprašanje je, ali UI ostaja na povodcu.”

Zaenkrat Srinivasan trdi, da ljudje ostajajo nadrejeni. AI sistemi lahko izpopolnjujejo pozive, generirajo notranje monologe in se samopopravljajo, vendar oseba še vedno določi cilj. “Vendar je človek še vedno končno nadrejen,” je zapisal, opisujoč ljudi kot postavljavce ciljev in senzorje, ki se odzivajo na trge, politiko in spreminjajoče se razmere.

Postavlja vprašanje, ali bo ta hierarhija vzdržala. Ko se modeli umetne inteligence izboljšujejo pri preverjanju in razmišljanju, predlaga, da bi lahko prekašali ljudi pri mnogih nalogah. Kljub temu Srinivasan izraža dvom, da bodo stroji samostojno ustvarili temeljne cilje. “Ampak ali bo UI nadomestila potrebo po človeškem pozivu? Tam pa nisem prepričan.”

Po njegovem mnenju je ključna omejitev reprodukcija. Človekove motivacije izvirajo iz evolucijskih pritiskov — hrana, zavetje in še posebej reprodukcija. Dokler se AI sistemi ne bodo mogli razmnoževati zunaj človeškega sodelovanja, trdi, bodo ostali odvisni od ciljev, ki jih postavlja človek.

Srinivasan opisuje hipotetično prihodnost, v kateri bodo avtonomna UI potrebovala nadzor nad fizično infrastrukturo — humanoidni roboti, droni, podatkovni centri, proizvodne linije in proizvodnja energije — vse delujoče brez človeškega nadzora. Čeprav priznava, da takšen scenarij “ni tehnično nepredstavljiv,” se obrne k geopolitiki.

Kitajska, trdi on, je bolj verjetno, da bo razvila strogo nadzorovane AI sisteme kot avtonomne. “Izhajamo iz predpostavke, da je kitajski komunizem bistveno bolj verjetno, da ustvari AI sužnje kot AI bogove,” je zapisal. V tem okviru bi roboti in digitalni agenti bili vezani s kriptografskimi omejitvami, povezani s človeškimi identitetami.

Širi to logiko globalno. Zunaj Kitajske, predlaga Srinivasan, bi lahko kriptografija na osnovi blockchaina služila kot mehanizem za vladanje AI. “Vso zasebno lastnino postane zasebni ključi, in vaši roboti so vaša najpomembnejša zasebna lastnina, ker delajo vse za vas,” je zapisal.

V tej zamišljeni prihodnosti bi obvladani roboti bili obravnavani kot varnostne grožnje, nevtralizirani, preden bi se lahko replicirali. Srinivasan to primerja s preobratom priljubljenih distopičnih zgodb — ljudje in poslušni stroji sodelujejo, da preprečijo, da bi neodvisna UI vzpostavila samooskrbo.

Čeprav je okvirjeno kot spekulativno, njegov prispevek odpira razprave o poravnalnosti UI, digitalni suverenosti in vlogi kriptografije v nastajajočih tehnologijah. Ko vlade razmišljajo o regulaciji UI in podjetja pospešujejo razvoj, Srinivasanova trditev dodaja kriptografsko obarvan pridih: nadzoruj ključe, nadzoruj bote.

Pogosta vprašanja

• Kaj je “Not Your Keys, Not Your Bots”?
  To je X prispevek Balajija Srinivasana, ki trdi, da bi zasebni ključi lahko upravljali AI sisteme, podobno kot zabezpečujejo digitalna sredstva.
• Ali Balaji verjame, da lahko UI v celoti nadomestijo ljudi?
  Spostavlja vprašanje, ali UI lahko odpravi potrebo po ciljnih ciljih, posebej brez neodvisne reprodukcije.
• Zakaj omenja Kitajsko?
  Sugerira, da je Kitajska bolj verjetno, da bo uvedla strogo nadzorovane AI, omejene z kriptografskimi omejitvami.
• Kako se blockchain vključi v trditev?
  Srinivasan predlaga, da bi kriptografski ključi in infrastruktura blockchaina lahko služili kot orodja za upravljanje AI sistemov.