‘Non sono le tue chiavi, non sono i tuoi bot’: Balaji Srinivasan traccia un futuro dell’IA sotto controllo

Le criptovalute incontrano la robotica nel post X di Balaji "Not Your Keys"

Balaji Srinivasan, importante investitore nel settore delle criptovalute e autore di The Network State, ha pubblicato un post su X dal titolo "Not Your Keys, Not Your Bots" (Non le tue chiavi, non i tuoi bot), in cui si interroga sul fatto che l'intelligenza artificiale rimarrà legata alla direzione umana o finirà per seguire una propria rotta. Sebbene si tratti di un breve post su X, egli inquadra la questione in modo schietto: "La domanda fondamentale è se l'IA rimarrà al guinzaglio".

Per ora, sostiene Srinivasan, gli esseri umani rimangono a monte. I sistemi di IA possono perfezionare i prompt, generare monologhi interni e autocorreggersi, ma è ancora una persona a definire l'obiettivo. "Tuttavia, l'essere umano rimane comunque a monte", ha scritto, descrivendo gli esseri umani come coloro che fissano gli obiettivi e sensori che rispondono ai mercati, alla politica e alle condizioni mutevoli. Si chiede se tale gerarchia rimarrà invariata. Man mano che i modelli di IA migliorano nella verifica e nel ragionamento, egli suggerisce che potrebbero superare gli esseri umani in molti compiti. Tuttavia, Srinivasan esprime dubbi sul fatto che le macchine genereranno autonomamente obiettivi fondamentali. "Ma l'IA sostituirà la necessità del prompt umano a monte? Su questo non sono così sicuro".

A suo avviso, il vincolo chiave è la riproduzione. Le motivazioni umane, osserva, derivano dalle pressioni evolutive: cibo, riparo e soprattutto riproduzione. A meno che i sistemi di IA non siano in grado di riprodursi al di fuori della cooperazione umana, sostiene, rimarranno dipendenti dagli obiettivi fissati dall'uomo. Srinivasan delinea un futuro ipotetico in cui l'IA autonoma richiederebbe il controllo delle infrastrutture fisiche (robot umanoidi, droni, centri dati, linee di assemblaggio e produzione di energia), tutte operative senza la supervisione umana. Pur ammettendo che uno scenario del genere "non è tecnicamente inconcepibile", passa alla geopolitica.

La Cina, sostiene, è più propensa a progettare sistemi di IA strettamente controllati piuttosto che autonomi. "Partiamo dal presupposto che il comunismo cinese sia molto più propenso a generare schiavi dell'IA piuttosto che dei dei dell'IA", ha scritto. In questo contesto, i robot e gli agenti digitali sarebbero vincolati da controlli crittografici collegati alle identità umane. Egli estende questa logica a livello globale. Al di fuori della Cina, suggerisce Srinivasan, la crittografia basata su blockchain potrebbe fungere da meccanismo per la governance dell'IA. "Tutte le proprietà private diventano chiavi private, e i robot sono la proprietà privata più importante perché fanno tutto per te", ha scritto. In questo futuro immaginario, i robot non incatenati sarebbero trattati come minacce alla sicurezza, neutralizzati prima che possano replicarsi. Srinivasan lo paragona a un ribaltamento delle popolari narrazioni distopiche: esseri umani e macchine obbedienti che cooperano per impedire all'IA indipendente di stabilire un punto d'appoggio autosufficiente.

Sebbene formulato in modo speculativo, il suo post attinge ai dibattiti in corso sull'allineamento dell'IA, la sovranità digitale e il ruolo della crittografia nelle tecnologie emergenti. Mentre i governi valutano la regolamentazione dell'IA e le aziende accelerano lo sviluppo, l'argomentazione di Srinivasan aggiunge una svolta influenzata dalla crittografia: controllare le chiavi, controllare i bot.

FAQ

• Che cos'è "Not Your Keys, Not Your Bots"? È un post di Balaji Srinivasan in cui sostiene che le chiavi private potrebbero governare i sistemi di IA proprio come proteggono le risorse digitali.
• Balaji crede che l'IA possa sostituire completamente gli esseri umani? Egli si chiede se l'IA possa eliminare la necessità di obiettivi fissati dall'uomo, soprattutto senza una riproduzione indipendente.
• Perché menziona la Cina? Suggerisce che la Cina è più propensa a implementare un'IA strettamente controllata e vincolata da restrizioni crittografiche.
• Come si inserisce la blockchain in questa argomentazione? Srinivasan propone che le chiavi crittografiche e l'infrastruttura blockchain possano funzionare come strumenti di governance per i sistemi di IA.