Expert AI: Protocoalele de Adevăr Ar Putea Deveni SSL-ul Epocii Informaționale

Dezinformarea și Pericolele Sale

Anul 2024 a servit drept un avertisment dur despre pericolele pe care inteligența artificială (IA) le poate reprezenta dacă nu se implementează măsuri de protecție. La nivel global, de la exercițiul democratic masiv din India până la climatul politic tensionat din Taiwan, campaniile de dezinformare generate de IA și-au lăsat amprenta.

În Taiwan, prezentatorii de știri deepfake au estompat granițele dintre realitate și fabricație, în timp ce în Statele Unite, un audio fals al președintelui Biden, presupus descurajând democrații din New Hampshire să voteze, a subliniat cu ușurință modul în care IA poate fi folosită ca armă pentru manipulare politică. Volumul și sofisticarea acestui mediu sintetic au lăsat mulți oameni simțindu-se pierduți într-o mare de incertitudine, luptând să discerneze realitatea de ficțiune.

Cu toate acestea, unii experți, precum Yannick Myson, fondator și CEO al Swarm Network, susțin că problema este mai profundă decât manipularea electorală. El citează psihoza indusă de IA, un fenomen deranjant de oameni care dezvoltă iluzii grandioase, pe care unele studii le leagă de interacțiuni prelungite cu chatbot-uri IA. Costul acestei psihoze induse de IA a fost imens; unii și-au pierdut locurile de muncă, în timp ce alții au ajuns la tratament psihiatric.

„Așa cum deepfake-urile exploatează scurtăturile noastre de procesare vizuală, psihoza IA exploatează vulnerabilitățile noastre psihologice, cu chatbot-uri care servesc drept camere de ecou perfecte care validează și amplifică gândirea delirantă,” a spus Myson.

Soluții Centralizate vs. Descentralizate

Myson crede că măsurile reactive actuale, cum ar fi inițiativele de verificare a faptelor, sunt pur și simplu insuficiente pentru a combate această problemă în creștere. „Ceea ce industria constată este că verificarea faptelor nu poate ține pasul cu viteza mediei sintetice sau cu manipularea psihologică a sistemelor IA,” afirmă el.

Soluția sa, întruchipată de Swarm Network, este una proactivă: integrarea verificării la scară. Acest lucru implică stabilirea provenienței chiar din momentul creării conținutului, asigurându-se că originea informațiilor digitale poate fi urmărită și autentificată. În plus, Myson pledează pentru sisteme de verificare descentralizate, unde informațiile sunt verificate și validate pe măsură ce se propagă în sfera digitală.

Această viziune asupra unei „infrastructuri ale adevărului” robuste rezonează cu o preocupare tot mai mare în cadrul industriei IA. Pe măsură ce tehnologia continuă să avanseze într-un ritm rapid, implicațiile etice și sociale ale utilizării abuzive devin din ce în ce mai evidente. Eroziunea încrederii în informația digitală, alimentată de falsurile sofisticate generate de IA, reprezintă o amenințare semnificativă la adresa proceselor democratice, coeziunii sociale și chiar a bunăstării mentale individuale.

Pentru a combate acest lucru, unii au pledat pentru un răspuns de reglementare, citând cazuri din trecut când aceasta s-a dovedit a fi un instrument vital în protejarea utilizatorilor de potențialele riscuri asociate cu tehnologiile emergente. Cu toate acestea, criticii avertizează că acest lucru ar putea avea efectul nedorit de a sufoca inovația, o contestație cu care Myson pare să fie de acord.

„Reglementarea poate ajuta, dar doar dacă evită capcana centralizării adevărului. Am văzut guverne folosind ‘legi împotriva dezinformării’ pentru a reduce la tăcere dezbaterea,” a declarat CEO-ul Swarm Network.

Pentru a susține această afirmație, Myson a indicat cum birocrații UE ar folosi se pare Actul privind Serviciile Digitale al Uniunii Europene (DSA), care obligă la eliminarea conținutului „dăunător” definit în mod vag, ca „un instrument pentru a restrânge discursul deschis în lume.” Myson susține că Actul privind IA al UE creează, de asemenea, probleme similare.

În loc de implementarea unor acte precum DSA sau Actul IA, Myson pledează pentru impunerea transparenței, etichetarea clară a media sintetice și standarde deschise de proveniență precum C2PA. „Regulile ar trebui să impună dovezi, nu opinii,” a argumentat el.

Viitorul Verificării

Potrivit CEO-ului, principalele platforme de socializare precum Meta și TikTok recunosc acest lucru și s-au îndreptat către abordări mai descentralizate de verificare a faptelor.

„Această schimbare reprezintă o recunoaștere fundamentală că verificarea centralizată a faptelor creează blocaje și puncte unice de eșec. Viitorul verificării conținutului nu este despre a da putere guvernelor sau corporațiilor să decidă ce este adevărat,” a declarat CEO-ul.

Myson crede că această schimbare face soluțiile oferite de Swarm Network cruciale. În loc să se bazeze pe un număr restrâns de verificatori de fapte centralizați, Swarm folosește „agenți IA care lucrează alături de recenzori umani pentru a crea un registru auditat, în lanț, al afirmațiilor verificate.”

Într-adevăr, agenții IA trec rapid de la concepte teoretice la aplicații practice, schimbând fundamental modul în care diferite sectoare operează. Principalul beneficiu al acestor agenți este capacitatea lor de a automatiza și optimiza. Ei pot procesa cantități mari de date într-o perioadă scurtă, identifica modele pe care oamenii le-ar putea rata și funcționa 24/7 fără oboseală.

Totuși, adoptarea pe scară largă a agenților IA introduce, de asemenea, provocări complexe care trebuie abordate cu atenție. Pentru a depăși unele dintre aceste provocări, Myson a spus că abordarea companiei sale „este de a transforma agenții în colaboratori transparenți, nu oracole necontrolate.” El a adăugat:

„În Swarm, agenții descompun informațiile în mici afirmații testabile, se verifică unul pe altul și, acolo unde este nevoie de nuanțe, oamenii intervin. Fiecare pas este înregistrat și ancorat în lanț, astfel încât raționamentul lor să fie reluabil. Pe scurt: nici o cutie neagră, doar trasee verificabile.”

Între timp, Myson crede că, în următorii cinci ani, verificarea faptelor va evolua de la un proces manual la o caracteristică încorporată în viața digitală, iar agenții de IA vor fi evaluați după transparența lor, nu doar după rapiditate. Viziunea supremă este de a face adevărul o strat fondator al internetului.

„În același mod în care SSL a devenit standardul pentru traficul web, un protocol al adevărului va deveni standardul pentru informație. Și așa vom împiedica IA să înece lumea în zgomot,” a concluzionat Myson.