AI stručnjak: Protokoli istine mogli bi postati SSL informacijske ere

Dezinformacije i Njihove Opasnosti

Godina 2024. poslužila je kao oštri podsjetnik na opasnosti koje umjetna inteligencija (AI) može predstavljati ako se ne postave zaštitne mjere. Diljem svijeta, od velike demokratske akcije u Indiji do napete političke klime na Tajvanu, AI-generirane kampanje dezinformiranja ostavile su traga.

Na Tajvanu, deepfake voditelji vijesti zamaglili su granice između stvarnosti i izmišljotina, dok je u Sjedinjenim Američkim Državama lažni audio predsjednika Bidena koji navodno odvraća demokrate iz New Hampshirea da glasaju, pokazao koliko lako AI može biti korišten za političku manipulaciju. Ogromna količina i sofisticiranost ovog sintetičkog medija ostavila je mnoge da se osjećaju izgubljeno u moru nesigurnosti, boreći se razabrati činjenice od fikcije.

Međutim, neki stručnjaci, poput Yannicka Mysona, osnivača i CEO-a Swarm Networka, tvrde da problem ide dublje od izborne manipulacije. On spominje psihozu uzrokovanu AI-em, uznemirujuću pojavu razvoja grandioznih zabluda među ljudima, što neke studije povezuju s produženim interakcijama s AI chatbotovima. Troškovi ove psihoze uzrokovane AI-em bili su golemi; neki su izgubili poslove, dok su drugi završili na psihijatrijskom liječenju.

“Baš kao što deepfakeovi iskorištavaju naše vizualne prečace, AI psihoza iskorištava naše psihološke ranjivosti, pri čemu chatbotovi služe kao savršeni odjeci koji potvrđuju i pojačavaju zabludno razmišljanje,” rekao je Myson.

Centralizirana nasuprot Decentraliziranim Rješenjima

Myson vjeruje da trenutne reaktivne mjere, poput usputnih inicijativa provjere činjenica, jednostavno nisu dovoljne za borbu protiv ovog eskalirajućeg problema. “Industrija shvata da usputna provjera činjenica ne može pratiti brzinu sintetičkog medija ili psihološku manipulaciju AI sustava,” ističe on.

Njegovo rješenje, utjelovljeno u Swarm Networku, je proaktivno: ugrađivanje verifikacije u velikoj mjeri. To uključuje uspostavljanje porijekla u samom trenutku kreiranja sadržaja, osiguravajući da se porijeklo digitalnih informacija može pratiti i potvrditi. Štoviše, Myson zagovara decentralizirane sustave verifikacije, gdje se informacije provjeravaju i validiraju dok se šire digitalnom sferom.

Ova vizija robusne “infrastrukture istine” odjekuje rastućom zabrinutošću unutar AI industrije. Kako tehnologija nastavlja brzim tempom napredovati, etičke i socijalne implikacije njezine zloupotrebe postaju sve očitije. Erozija povjerenja u digitalne informacije, potaknuta sofisticiranim AI-generiranim lažima, predstavlja značajnu prijetnju demokratskim procesima, društvenoj koheziji, pa čak i individualnom mentalnom zdravlju.

Kako bi se borilo protiv toga, neki su se zauzeli za regulatorni odgovor, navodeći prethodne instance kada se to pokazalo vitalnim alatom za zaštitu korisnika od potencijalnih rizika povezanih s novim tehnologijama. Međutim, kritičari upozoravaju da bi to moglo imati neželjeni učinak gušenja inovacija, što je tvrdnja s kojom se Myson čini slaže.

“Regulacija može pomoći, ali samo ako izbjegne zamku centraliziranja istine. Vidjeli smo kako vlade koriste ‘zakone o dezinformiranju’ da ušutkaju raspravu,” izjavio je CEO Swarm Networka.

Kako bi podupro ovu tvrdnju, Myson je ukazao na to kako EU birokrati navodno koriste Akt o digitalnim uslugama (DSA) Europske unije, koji nalaže uklanjanje široko definiranog “štetnog” sadržaja, kao “alat za obuzdavanje otvorene rasprave širom svijeta.” Myson tvrdi da EU Akt o AI također stvara slične probleme.

Umjesto donošenja zakona poput DSA ili Akta o AI, Myson zagovara obaveznu transparentnost, jasno označavanje sintetičkog medija i otvorene standarde porijekla poput C2PA. “Pravila bi trebala nametati dokaze, a ne mišljenja,” argumentirao je.

Budućnost Verifikacije

Prema CEO-u, velike platforme društvenih medija poput Meta i TikToka to prepoznaju te su se od tada preusmjerile prema više decentraliziranim pristupima provjere činjenica.

“Ovaj pomak predstavlja temeljno prepoznavanje da centralizirana provjera činjenica stvara uska grla i jedinstvene točke neuspjeha. Budućnost verifikacije sadržaja nije u davanju vlada ili korporacijama moći da odlučuju što je istina,” izjavio je CEO.

Myson vjeruje da ovaj pomak čini rješenja poput onog koje nudi Swarm Network ključnima. Umjesto da se oslanja na nekolicinu centraliziranih provjeravatelja, Swarm koristi “AI agente koji rade zajedno s ljudskim recenzentima kako bi stvorili revizibilan, on-chain zapis verificiranih tvrdnji.”

Doista, AI agenti brzo prelaze iz teoretskih koncepata u praktične primjene, temeljno mijenjajući način rada različitih sektora. Primarna prednost ovih agenata je njihova sposobnost automatizacije i optimizacije. Mogu obraditi ogromne količine podataka u kratkom vremenu, identificirati obrasce koje ljudi možda propuštaju i raditi 24/7 bez umora.

Ipak, široka primjena AI agenata također uvodi složene izazove koje treba pažljivo riješiti. Kako bi prevladao neke od ovih izazova, Myson je izjavio da pristup njegove kompanije “pretvara agente u transparentne suradnike, a ne nekontrolirane proročišta.” Dodao je:

“U Swarmu, agenti rastavljaju informacije na male, testabilne tvrdnje, međusobno se provjeravaju, a gdje je potrebna nijansa, ljudi interveniraju. Svaki korak biva zabilježen i priložen na blockchainu, pa je njihovo rezonovanje moguće pregledati. Ukratko: nema crnih kutija, samo provjerljivi tragovi.”

U međuvremenu, Myson vjeruje da će, u narednih pet godina, provjera činjenica evoluirati iz ručnog procesa u ugrađenu značajku digitalnog života, te će se AI agenti ocjenjivati prema njihovoj transparentnosti, a ne samo brzini. Krajnja vizija je učiniti istinu temeljnim slojem interneta.

“Na isti način na koji je SSL postao zadani za internetski promet, protokol istine postat će zadani za informacije. I tako ćemo spriječiti da AI utopi svijet u buku,” zaključio je Myson.