„Nie vaše kľúče, nie vaše boty“: Balaji Srinivasan mapuje obmedzenú budúcnosť AI

Krypto sa stretáva s robotikou v Balajiho X príspevku ‘Nie Vaše Kľúče’

Balaji Srinivasan, významný krypto investor a autor knihy The Network State, zverejnil rozsiahly X príspevok nazvaný “Nie Vaše Kľúče, Nie Vaši Boti,” v ktorom skúma, či umelá inteligencia ostane pripútaná k ľudskému smerovaniu alebo si nakoniec vytvorí vlastnú cestu.

Hoci je to krátky X príspevok, nastoluje otázku priamo: „Základná otázka je, či AI zostane na vodítku.”

Zatiaľ sa Srinivasan domnieva, že ľudia zostávajú nadradení. AI systémy môžu zdokonaliť príkazy, generovať vnútorný monológ a opravovať sa, ale človek stále definuje cieľ. „Avšak, človek je stále v konečnom dôsledku nadradený,“ napísal, opisujúc ľudí ako stanovovateľov cieľov a senzory reagujúce na trhy, politiku a meniace sa podmienky.

Pýta sa, či si táto hierarchia udrží. Ako sa modely AI zlepšujú vo verifikácii a odôvodňovaní, naznačuje, že by mohli prekonávať ľudí v mnohých úlohách. Napriek tomu Srinivasan vyjadruje pochybnosti, že stroje budú nezávisle generovať základné ciele. „Ale nahradí AI potrebu ľudského príkazu? Tam si nie som až tak istý.“

Podľa neho je kľúčovým obmedzením reprodukcia. Ako poznamenáva, motivácie ľudí vyplývajú z evolučných tlakov — potraviny, prístrešie a najmä reprodukcia. Pokiaľ AI systémy nemôžu rozmnožovať sa mimo ľudskej spolupráce, tvrdí, zostanú závislé na ľudských cieľoch.

Srinivasan načrtáva hypotetickú budúcnosť, v ktorej by autonómna AI vyžadovala kontrolu nad fyzickou infraštruktúrou — humanoidnými robotmi, dronmi, dátovými centrami, výrobnými linkami a energetickou produkciou — všetko fungujúce bez ľudského dohľadu. Hoci pripúšťa, že taký scenár je „technologicky nie nepredstaviteľný,“ prechádza k geopolitike.

Čína, podľa jeho názoru, je pravdepodobnejšia pri vytváraní prísne kontrolovaných AI systémov než autonómnych. „Začíname s premisou, že čínsky komunizmus je oveľa pravdepodobnejší v generovaní AI otrokov než AI bohov,“ napísal. V rámci tohto rámca by roboti a digitálni agenti boli viazaní kryptografickými kontrolami spojenými s ľudskými identitami.

Túto logiku rozširuje globálne. Mimo Číny, Srinivasan naznačuje, že blockchainová kryptografia by mohla slúžiť ako mechanizmus pre správu AI. „Celý súkromný majetok sa stáva súkromnými kľúčmi, a vaši roboti sú váš najdôležitejší súkromný majetok, pretože robia všetko za vás,“ napísal.

V tejto predstavenej budúcnosti by nekontrolovaní roboti boli pokladaní za bezpečnostné hrozby, neutralizovaní skôr, než by sa mohli rozmnožovať. Srinivasan to prirovnáva k obráteniu populárnych dystopických naratívov — ľudia a poslušné stroje spolupracujúce na tom, aby zabránili nezávislej AI vo vytváraní sebestačného základu.

Hoci je skicovaný ako špekulatívny, jeho príspevok sa dotýka prebiehajúcich debát o zhode AI, digitálnej suverenite a úlohe kryptografie v rozvíjajúcich sa technológiách. Ako vlády zvažujú reguláciu AI a spoločnosti zrýchľujú vývoj, argumentácia Srinivasana pridáva krypto-zvýraznený twist: kontrolujte kľúče, kontrolujte boty.

Často kladené otázky

• Čo je “Nie Vaše Kľúče, Nie Vaši Boti”?
  Je to X príspevok od Balajiho Srinivasana, ktorý tvrdí, že súkromné kľúče by mohli riadiť AI systémy podobne, ako zabezpečujú digitálne aktíva.
• Verí Balaji, že AI môže úplne nahradiť ľudí?
  Pochybuje, či AI môže eliminovať potrebu cieľov stanovených ľuďmi, najmä bez nezávislej reprodukcie.
• Prečo spomína Čínu?
  Naznačuje, že Čína je pravdepodobnejšia pri nasadení prísne kontrolovanej AI ohraničenej kryptografickými obmedzeniami.
• Ako zapadá blockchain do argumentu?
  Srinivasan navrhuje, že kryptografické kľúče a blockchainová infraštruktúra by mohli fungovať ako nástroje správy pre AI systémy.