Esperto di AI: I protocolli di verità potrebbero diventare l'SSL dell'era dell'informazione

Disinformazione e i Suoi Pericoli

L’anno 2024 ha rappresentato un avvertimento chiaro sui pericoli che l’intelligenza artificiale (IA) può rappresentare se non vengono messe in atto delle salvaguardie. In tutto il mondo, dal massiccio esercizio democratico dell’India al teso clima politico di Taiwan, le campagne di disinformazione generate dall’IA hanno lasciato il loro segno.

A Taiwan, i conduttori di notizie deepfake hanno offuscato i confini tra realtà e fabbricazione, mentre negli Stati Uniti, un audio falso del Presidente Biden che presumibilmente scoraggiava i Democratici del New Hampshire dal votare ha sottolineato la facilità con cui l’IA può essere armata per la manipolazione politica. L’enorme volume e la sofisticazione di questi media sintetici hanno lasciato molti alla deriva in un mare di incertezza, lottando per distinguere i fatti dalla finzione.

Tuttavia, alcuni esperti, come Yannick Myson, fondatore e CEO di Swarm Network, sostengono che il problema sia più profondo della manipolazione elettorale. Egli cita la psicosi indotta dall’IA, un fenomeno inquietante di persone che sviluppano deliri grandiosi, che alcuni studi collegano a interazioni prolungate con chatbot IA. Il costo di questa psicosi indotta dall’IA è stato enorme; alcuni hanno perso il lavoro mentre altri sono finiti in trattamento psichiatrico.

“Proprio come i deepfake sfruttano scorciatoie di elaborazione visiva, la psicosi da IA sfrutta le nostre vulnerabilità psicologiche, con i chatbot che fungono da perfette camere di eco che convalidano e amplificano il pensiero delirante,” ha detto Myson.

Soluzioni Centralizzate vs. Decentralizzate

Myson crede che le misure reattive attuali, come le iniziative patchwork per il fact-checking, siano semplicemente insufficienti per combattere questo problema in escalation. “Quello a cui l’industria si sta svegliando è che il fact-checking frammentario non può tenere il passo con la velocità dei media sintetici o la manipolazione psicologica dei sistemi IA,” afferma.

La sua soluzione, incarnata in Swarm Network, è proattiva: integrare la verifica su larga scala. Questo comporta stabilire la provenienza al momento della creazione del contenuto, garantendo che l’origine delle informazioni digitali possa essere tracciata e autenticata. Inoltre, Myson sostiene sistemi di verifica decentralizzati, in cui le informazioni vengono controllate e validate mentre si diffondono nella sfera digitale.

Questa visione di un’infrastruttura robusta della “verità” risuona con una preoccupazione crescente all’interno dell’industria IA. Man mano che la tecnologia continua ad avanzare a un ritmo rapido, le implicazioni etiche e sociali del suo uso improprio diventano sempre più evidenti. L’erosione della fiducia nelle informazioni digitali, alimentata da sofisticate falsità generate dall’IA, rappresenta una minaccia significativa per i processi democratici, la coesione sociale e persino il benessere mentale individuale.

Per combattere questo, alcuni hanno sostenuto una risposta regolatoria, citando casi passati in cui questo si è rivelato uno strumento vitale per proteggere gli utenti da potenziali rischi associati a tecnologie emergenti. Tuttavia, i critici avvertono che ciò potrebbe avere l’effetto indesiderato di soffocare l’innovazione, una contesa con cui Myson sembra essere d’accordo.

“La regolamentazione può essere d’aiuto, ma solo se evita la trappola della centralizzazione della verità. Abbiamo visto governi armare le ‘leggi sulla disinformazione’ per mettere a tacere il dibattito,” ha dichiarato il CEO di Swarm Network.

A sostegno di questa affermazione, Myson ha indicato come i burocrati dell’UE starebbero utilizzando il Digital Services Act (DSA) dell’Unione Europea, che impone la rimozione di contenuti ampiamente definiti come “dannosi”, come “uno strumento per limitare il discorso aperto in tutto il mondo.” Myson sostiene che anche l’AI Act dell’UE crei problemi simili.

Invece di varare strumenti come il DSA o l’AI Act, Myson sostiene di mandare trasparenza, etichettatura chiara dei media sintetici e standard aperti di provenienza come C2PA. “Le regole dovrebbero imporre prove, non opinioni,” ha argomentato.

Il Futuro della Verifica

Secondo il CEO, grandi piattaforme social come Meta e TikTok ne hanno preso coscienza e si sono orientate verso approcci più decentralizzati di fact-checking.

“Questo cambiamento rappresenta un riconoscimento fondamentale che il fact-checking centralizzato crea colli di bottiglia e punti unici di fallimento. Il futuro della verifica dei contenuti non riguarda il dare a governi o aziende il potere di decidere cosa sia vero,” ha dichiarato il CEO.

Myson crede che questo cambiamento renda soluzioni come quelle offerte da Swarm Network cruciali. Piuttosto che fare affidamento su un ristretto numero di fact-checker centralizzati, Swarm utilizza “agenti IA che lavorano accanto ai revisori umani per creare un record certificabile di dichiarazioni verificate.”

In effetti, gli agenti IA stanno rapidamente passando da concetti teorici ad applicazioni pratiche, cambiando fondamentalmente il modo in cui operano vari settori. Il principale vantaggio di questi agenti è la loro capacità di automatizzare e ottimizzare. Possono elaborare grandi quantità di dati in breve tempo, identificare modelli che gli esseri umani potrebbero perdere e operare 24/7 senza affaticamento.

Tuttavia, l’adozione diffusa di agenti IA introduce anche sfide complesse che devono essere affrontate con attenzione. Per superare alcune di queste sfide, Myson ha detto che l’approccio della sua azienda “è trasformare gli agenti in collaboratori trasparenti, non oracoli incontrollati.” Ha aggiunto:

“In Swarm, gli agenti scompongono le informazioni in piccole affermazioni testabili, si controllano reciprocamente, e laddove è necessario il discernimento umano, esso interviene. Ogni passo viene registrato e ancorato on-chain, in modo che il loro ragionamento sia riproducibile. In breve: nessuna scatola nera, solo tracciati verificabili.”

Nel frattempo, Myson crede che, nei prossimi cinque anni, il fact-checking evolverà da un processo manuale a una funzionalità incorporata nella vita digitale, e gli agenti IA verranno valutati per la loro trasparenza, non solo per la velocità. La visione ultima è di rendere la verità uno strato fondamentale di Internet.

“Nello stesso modo in cui SSL è diventato lo standard per il traffico web, un protocollo di verità diventerà lo standard per le informazioni. Ed è così che impediamo all’IA di sommergere il mondo nel rumore,” ha concluso Myson.