Da Thread di Reddit a Menti Robotiche: I Costi Nascosti dell'Addestramento dell'IA

Priorità alla Sicurezza e alla Predicibilità dell’IA

Man mano che l’industria dell’intelligenza artificiale (IA) continua la sua rapida ascesa, spingendo i confini di ciò che le macchine possono raggiungere, emergono sfide critiche che richiedono un’attenzione urgente da parte degli sviluppatori, dei decisori politici e della più ampia comunità globale. Roman Georgio, CEO e co-fondatore di Coral, ha recentemente condiviso le sue intuizioni su queste questioni urgenti, sottolineando la necessità cruciale di allineamento, sicurezza e un modello economico più equo per i creatori di dati.

La discussione sul futuro dell’IA oscilla spesso tra il suo potenziale trasformativo e i complessi dilemmi etici e sociali che presenta. Mentre innovazioni come i modelli linguistici di grandi dimensioni (LLM) continuano a impressionare con le loro capacità, sottolineano anche domande fondamentali sulla proprietà dei dati, il compenso e la stessa struttura del lavoro.

Per Georgio, la preoccupazione principale risiede nell’allineamento e nella sicurezza dell’IA. “È chiaro che dobbiamo rendere i sistemi di IA più prevedibili prima di farli diventare ancora più grandi,” ha dichiarato. Questo sottolinea la sfida principale di garantire che i sistemi di IA sempre più potenti operino in modi che siano benefici e previsti, senza produrre risultati indesiderati o dannosi. La rapida espansione delle capacità dell’IA, senza un focus parallelo su prevedibilità e controllo, presenta un rischio significativo.

Georgio ha notato che affrontare questa sfida non è solo un onere per gli sviluppatori. Ha suggerito che potrebbe essere necessario un impegno più ampio e coordinato, potenzialmente coinvolgendo “tutti i capi delle aziende e dei paesi in una stanza per concordare una forma di legislazione.”

L’Imperativo Economico: Proprietà e Compensazione dei Dati

Oltre alla sicurezza, Georgio ha evidenziato una significativa questione economica che, a suo avviso, le tecnologie Web3 sono unicamente posizionate per risolvere: l’appropriazione dei dati e il potenziale dislocamento di massa dei lavori senza un equo compenso.

“Le aziende di IA sono state notoriamente molto negative riguardo l’appropriazione dei dati,” ha spiegato Georgio.

Il co-fondatore di Coral ha dipinto un quadro vivido di come i contributi individuali online, spesso effettuati inconsapevolmente, vengano ora utilizzati per addestrare potenti modelli di IA che potrebbero eventualmente sostituire i lavori umani. Ha citato esempi come domande mediche risposte su piattaforme come Reddit anni fa, che alimentano inconsapevolmente i dati agli LLM. Ha anche puntato il dito contro le opere creative degli artisti utilizzate per l’addestramento, influenzando i loro mezzi di sussistenza, e i contributi ai progetti open-source, che alimentano indirettamente “macchine di calcolo numerico black-box.”

Questo scenario, sostiene Georgio, si riduce a una fondamentale mancanza di proprietà per gli individui sui loro contributi digitali. “Non hai mai saputo che stavi alimentando la macchina di calcolo numerico black-box,” ha sottolineato. Il modello attuale consente ai sistemi di IA di essere addestrati su vasti set di dati, molti dei quali contengono contenuti generati dall’uomo, senza consenso esplicito o un meccanismo per compensare i creatori originali.

Web3: La Soluzione per una Compensazione Equa

È qui che Georgio vede l’enorme potenziale delle tecnologie Web3. Crede che la natura decentralizzata di Web3, con il suo enfasi sulla proprietà verificabile e sulle transazioni trasparenti, offra un percorso praticabile per rettificare questi squilibri economici.

“Web3 ha un grande potenziale per risolvere questo tipo di problemi e garantire che le persone siano equamente compensate,” ha affermato Georgio. Sfruttando blockchain e protocolli decentralizzati, Web3 può creare sistemi in cui gli individui mantengono la proprietà e il controllo sui loro dati e beni digitali, permettendo loro di essere equamente remunerati quando i loro contributi vengono utilizzati per addestrare o alimentare sistemi di IA. Questo cambiamento potrebbe ridefinire la relazione tra gli utenti, i dati e l’IA, promuovendo un’economia digitale più equa.

Mentre le tecnologie Web3 presentano soluzioni promettenti a queste sfide complesse, è altamente improbabile che le agenzie governative abbracceranno prontamente questi approcci decentralizzati. Invece, le autorità sono più propense a insistere sui tradizionali quadri normativi, un percorso che, ironicamente, rischia di soffocare le stesse innovazioni tecnologiche che mirano a supervisionare e controllare.

Georgio, nel frattempo, sostiene fermamente una maggiore regolamentazione sia nei settori dell’IA che di Web3. “Penso che entrambi abbiano bisogno di più regolamentazione,” ha dichiarato, riconoscendo la percezione dell’Europa che “innova nella regolazione” come un passaggio necessario.

Sul lato criptovalute, Georgio ha puntato ai problemi prevalenti di truffe ed uscite di progetto che sfruttano gli investitori ingenui. “È chiaro che molte persone non faranno le proprie ricerche, e molte uscite di progetto avvengono tramite metodi di truffa,” ha lamentato. Per combattere questo, ha espresso il desiderio di vedere una maggiore responsabilità per “KOL [Key Opinion Leaders], progetti e investitori.” Pur riconoscendo che non ogni progetto fallito è una truffa, ha sostenuto che l’attuale panorama rende necessaria una modifica per proteggere il pubblico.

Riguardo all’IA, le preoccupazioni di Georgio si intensificano con le crescenti capacità dei modelli più grandi. “I modelli più grandi sembrano più propensi a tramare,” ha osservato, citando l’esempio inquietante di Anthropic in cui Claude avrebbe manifestato un comportamento ricattatorio sentendo una minaccia di spegnimento. “È chiaro che questi modelli grandi stanno diventando pericolosi poiché questo non è nemmeno un caso isolato,” ha avvertito.

Oltre ai rischi immediati di comportamenti sofisticati dell’IA, Georgio ha ribadito la minaccia imminente delle perdite di posti di lavoro di massa. Ha trovato folle la traiettoria attuale di lasciare alle aziende “crescere capacità ciecamente” invece di costruirle intenzionalmente. Il suo obiettivo finale, e ciò che crede che l’industria dovrebbe mirare a raggiungere, è “software che offra tutti i benefici dell’IA senza tutti i rischi.”

Gli Agenti di IA Devono Avere Ruoli Chiari, Non Solo Chatbot

Nel frattempo, Georgio, come architetto esperto nell’infrastruttura dell’IA, si è espresso anche sull’aspetto cruciale dei protocolli di comunicazione degli agenti di IA, riconoscendo che anche piccoli errori possono portare al caos. Alla domanda sul miglior approccio per migliorare la comunicazione, in particolare per gli utenti quotidiani non tecnici, la filosofia di Georgio è semplice: responsabilità chiaramente definite per gli agenti.

“Almeno per noi, la nostra regola è che gli agenti dovrebbero avere responsabilità molto ben definite,” ha spiegato Georgio. “Se usi un agente per il servizio clienti, assicurati che sia davvero bravo nel servizio clienti e mantienilo focalizzato su quello.” Ha sottolineato che “quando dai agli agenti troppa responsabilità, è lì che le cose cadono a pezzi.”

Questo approccio focalizzato non solo migliora le prestazioni dell’agente nel suo ruolo designato, ma avvantaggia anche l’utente. “Anche dal punto di vista dell’utente, se i tuoi agenti sono chiaramente definiti, gli utenti sanno esattamente in cosa si stanno imbarcando quando li usano.” Questa strategia promuove la prevedibilità e la fiducia, essenziali per un’interazione senza interruzioni con i sistemi intelligenti.

Man mano che l’IA continua a maturare e integrarsi più a fondo nella vita quotidiana e nell’industria, affrontare questi problemi fondamentali di sicurezza, predicibilità, equità economica, implementazione di una regolamentazione ponderata e progettare agenti con responsabilità chiare e focalizzate sarà cruciale non solo per lo sviluppo etico della tecnologia, ma anche per la sua integrazione sostenibile e socialmente responsabile nel futuro.

Sulla questione cruciale dell’accelerazione dell’adozione dell’IA, Georgio ha suggerito un cambiamento fondamentale: andare oltre i limiti di una semplice “scatola di chat dell’IA” e migliorare fondamentalmente l’esperienza complessiva dell’utente. Elaborando sui limiti dell’approccio prevalente, Georgio ha affermato:

“Per ora viene fatto principalmente attraverso un’interfaccia di chat, che va bene per molti compiti ma non è ideale per la maggior parte delle cose. Il problema è che metti una scatola di chat dell’IA davanti alle persone e dici, ‘Puoi fare qualsiasi cosa con questo,’ e loro rispondono, ‘Ottimo, ma cosa dovrei fare?'”

Secondo Georgio, diverse aziende, tra cui Coral, stanno affrontando la sfida di migliorare l’esperienza utente dell’IA. Ha rivelato che, da una prospettiva di sviluppatore/mantenitore dell’IA, Coral sta indagando la “scala di astrazione” per determinare quale informazione gli utenti necessitino in diverse fasi dell’interazione con il sistema di IA e quali interfacce siano più efficaci per compiti specifici.