AI strokovnjak: Protokoli resnice bi lahko postali SSL informacijske dobe

Dezinformacije in njihove nevarnosti

Leto 2024 je služilo kot ostra opozorilo o nevarnostih, ki jih lahko predstavlja umetna inteligenca (AI), če ne bodo sprejeti varovalni ukrepi. Po vsem svetu, od velikega demokratičnega dogodka v Indiji do napetega političnega ozračja v Tajvanu, so kampanje z dezinformacijami, ustvarjenimi z AI, pustile svoja znamenja.

Na Tajvanu so deepfake novinarski voditelji zabrisali meje med resničnostjo in prevaro, medtem ko je v Združenih državah lažni avdio predsednika Bidena, ki naj bi odvračal New Hampshirejeve demokrate od volitev, poudaril, kako enostavno je AI mogoče uporabiti za politično manipulacijo. Ogromna količina in sofisticiranost te sintetične medije je mnoge pustila v občutku negotovosti, saj se težko razlikujejo med dejstvi in fikcijo.

Vendar pa nekateri strokovnjaki, kot je Yannick Myson, ustanovitelj in CEO Swarm Network, trdijo, da problem sega globlje od volilne manipulacije. Naveduje psihotične motnje, povzročene z AI, kar je zaskrbljujoč pojav razvoja velikih blodnjav pri ljudeh, kar nekatere študije povezujejo z dolgotrajnimi interakcijami z AI chatbot-i. Stroški teh motenj so bili ogromni; nekateri so izgubili službe, medtem ko so drugi pristali na psihiatričnem zdravljenju.

“Tako kot deepfakes izkoriščajo bližnjice v našem vizualnem procesiranju, psihotične motnje izkoriščajo naše psihološke ranljivosti, chatbot-i pa delujejo kot popolne odmevne komore, ki potrjujejo in krepijo blodnjave misli,” je dejal Myson.

Centralizirane vs. decentralizirane rešitve

Myson verjame, da obstoječi reaktivni ukrepi, kot so občasne iniciative za preverjanje dejstev, preprosto niso dovolj za obvladovanje tega naraščajočega problema. “Industrija ugotavlja, da občasnega preverjanja dejstev ni možno spremljati s hitrostjo sintetičnih medijev ali psihološko manipulacijo AI sistemov,” trdi.

Njegova rešitev, utelešena v Swarm Network, je proaktivna: vgradnja preverjanja v velikem meri. To vključuje ustanovitev porekla že ob samem ustvarjanju vsebine, s čimer se zagotavlja sledljivost in avtentičnost izvora digitalnih informacij. Poleg tega zagovarja decentralizirane sisteme preverjanja, kjer se informacije preverjajo in potrjujejo, ko se širijo po digitalni sferi.

Ta vizija robustne “infrastrukture resnice” odraža naraščajočo skrb znotraj AI industrije. Ker tehnologija hitro napreduje, so etični in družbeni vidiki njene zlorabe vse bolj očitni. Erozija zaupanja v digitalne informacije, spodbujena s sofisticiranimi lažmi, ustvarjenimi z AI, pomeni resno grožnjo demokratičnim procesom, socialni koheziji in celo posameznikovemu duševnemu zdravju.

Za boj proti temu so nekateri zagovarjali regulativni odgovor, pri čemer navajajo pretekle primere, ko je to dokazalo ključno orodje za zaščito uporabnikov pred morebitnimi tveganji, povezanimi z novimi tehnologijami. Vendar kritiki opozarjajo, da bi to lahko imelo neželen učinek dušenja inovacij, kar Myson očitno podpira.

“Regulacija lahko pomaga, vendar le, če se izogne past centralizacije resnice. Videli smo, kako so vlade zlorabile ‘zakone o dezinformacijah’ za utišanje razprav,” je dejal izvršni direktor Swarm Network.

Da bi podprl to trditev, je Myson opozoril na poročila o tem, kako EU birokrati domnevno uporabljajo Zakon o digitalnih storitvah Evropske unije (DSA), ki zahteva odstranitev splošno opredeljene “škodljive” vsebine, kot “orodje za omejevanje odprtega diskurza po svetu.” Myson trdi, da AI zakon EU ustvarja podobne težave.

Namesto sprejemanja zakonov, kot sta DSA ali zakon o AI, Myson podpira zahtevo po preglednosti, jasnem označevanju sintetičnih medijev in odprtih standardih porekla, kot je C2PA. “Pravila naj uveljavljajo dokaz, ne mnenje,” je trdil.

Prihodnost preverjanja

Po besedah ​​CEO-ja, pomembne platforme družabnih medijev, kot sta Meta in TikTok, to priznavajo in so se od takrat usmerile k bolj decentraliziranim pristopom k preverjanju dejstev.

“Ta premik predstavlja temeljno priznanje, da centralizirano preverjanje dejstev ustvarja ozka grla in enotne točke odpovedi. Prihodnost preverjanja vsebine ni v tem, da bi vladam ali korporacijam dali moč odločati, kaj je res,” je izjavil CEO.

Myson verjame, da ta premik naredi rešitve, kot jih ponuja Swarm Network, ključne. Namesto da bi se zanašali na peščico centraliziranih preverjevalcev dejstev, Swarm uporablja “AI agente, ki delajo skupaj s človeškimi pregledovalci za ustvarjanje revidljivega zapisa preverjenih trditev na verigi.”

Dejansko AI agenti hitro napredujejo od teoretičnih konceptov k praktičnim aplikacijam, kar temeljito spreminja delovanje različnih sektorjev. Primarna prednost teh agentov je njihova sposobnost avtomatizacije in optimizacije. Lahko obdelujejo velike količine podatkov v kratkem času, prepoznavajo vzorce, ki bi jih ljudje lahko spregledali, in delujejo 24/7 brez utrujenosti.

Kljub temu množična uporaba AI agentov prinaša tudi kompleksne izzive, ki jih je treba skrbno obravnavati. Da bi premagali nekatere od teh izzivov, je Myson izjavil, da je pristop njegovega podjetja “spremeniti agente v pregledne sodelavce, ne nekontrolirane oraklje.” Dodal je:

“V Swarm-u agenti razčlenijo informacije na majhne, preverljive trditve, se med seboj preverjajo, in kjer je potrebna nianse, vstopajo ljudje. Vsak korak je zabeležen in sidriran na verigi, tako da je njihovo razmišljanje ponovljivo. Na kratko: brez črnih škatel, samo preverljive sledi.”

Medtem Myson verjame, da se bo v naslednjih petih letih preverjanje dejstev razvilo iz ročnega procesa v vgrajeno funkcijo digitalnega življenja in AI agenti bodo ocenjeni po njihovi preglednosti, ne le hitrosti. Končna vizija je, da resnica postane temeljna plast interneta.

“Na enak način, kot je SSL postal privzeto za spletni promet, bo protokol resnice postal privzeto za informacije. In tako bomo preprečili, da bi AI utopil svet v hrupu,” je sklenil Myson.