AI-ekspert: Sannhetsprotokoller kan bli SSL for informasjonsalderen

Desinformasjon og dens farer

Året 2024 tjente som en skarp advarsel om farene kunstig intelligens (AI) kan utgjøre dersom ingen sikkerhetstiltak blir innført. Over hele kloden, fra Indias massive demokratiske øvelse til det anspente politiske klimaet i Taiwan, etterlot AI-genererte desinformasjonskampanjer sine spor.

I Taiwan visket deepfake-nyhetsankere ut grensene mellom virkelighet og fabrikasjon, mens i USA underbygde en falsk lyd av president Biden som angivelig frarådet New Hampshire-demokratene fra å stemme, hvor lett AI kan bli brukt som våpen for politisk manipulasjon. Det store volumet og sofistikering av dette syntetiske medie har fått mange til å føle seg drivende i et hav av usikkerhet, i kamp for å skille fakta fra fiksjon.

Imidlertid argumenterer noen eksperter, som Yannick Myson, grunnlegger og administrerende direktør i Swarm Network, for at problemet går dypere enn valgmanipulasjon. Han viser til AI-indusert psykose, et foruroligende fenomen hvor folk utvikler storhetsidéer, noe noen studier knytter til omfattende interaksjoner med AI-chatboter. Kostnadene ved denne AI-induserte psykosen har vært enorme; noen har mistet jobber mens andre har endt opp i psykiatrisk behandling.

“Akkurat som deepfakes utnytter våre visuelle behandlingssnarveier, utnytter AI-psykose våre psykologiske sårbarheter, med chatboter som fungerer som perfekte ekkokamre som validerer og forsterker vrangforestillinger,” sa Myson.

Sentraliserte vs. Desentraliserte Løsninger

Myson mener at de nåværende reaktive tiltakene, som lappverk av faktasjekkinitiativer, er rett og slett utilstrekkelige for å bekjempe dette økende problemet. “Det industrien våkner opp til, er at lappverk av faktasjekking ikke kan holde tritt med hastigheten til syntetiske medier eller den psykologiske manipulasjonen av AI-systemer,” hevder han.

Hans løsning, innlemmet i Swarm Network, er en proaktiv: integrering av verifikasjon i stor skala. Dette innebærer å etablere proveniens allerede ved innholdsskapelse, sikre at opprinnelsen til digital informasjon kan spores og autentiseres. Videre foreslår Myson desentraliserte verifikasjonssystemer, hvor informasjon kryssjekkes og valideres etter hvert som den sprer seg i den digitale sfæren.

Denne visjonen om en robust “infrastruktur av sannhet” resonerer med en økende bekymring innenfor AI-industrien. Etter hvert som teknologien fortsetter å utvikle seg i et raskt tempo, blir de etiske og sosiale implikasjonene av dens misbruk stadig mer åpenbare. Erosjon av tillit til digital informasjon, drevet av sofistikerte AI-genererte usannheter, utgjør en betydelig trussel mot demokratiske prosesser, sosial samhold og til og med individuell mental velvære.

For å bekjempe dette har noen tatt til orde for en regulatorisk respons, med henvisning til tidligere tilfeller når dette viste seg å være et viktig verktøy i å beskytte brukere fra potensielle risikoer forbundet med nye teknologier. Imidlertid advarer kritikere om at dette kan ha den utilsiktede effekten av å dempe innovasjon, en innvending som Myson ser ut til å være enig i.

“Regulering kan hjelpe, men bare hvis det unngår fellen av å sentralisere sannhet. Vi har sett regjeringer bruke ‘desinformasjon lover’ for å tie debatt,” uttalte administrerende direktør i Swarm Network.

For å støtte denne påstanden pekte Myson på hvordan EU-byråkrater angivelig bruker Den europeiske unions (EU) lov om digitale tjenester (DSA), som krever fjerning av bredt definert “skadelig” innhold, som “et verktøy for å begrense åpen diskurs rundt om i verden.” Myson hevder at EU AI Act også skaper lignende problemer.

I stedet for å vedta stykker som DSA eller AI Act, advokerer Myson i stedet for å mandatere åpenhet, klar merking av syntetiske medier, og åpne proveniensstandarder som C2PA. “Regler bør håndheve bevis, ikke mening,” argumenterte han.

Fremtiden for Verifikasjon

Ifølge administrerende direktør anerkjenner store sosiale medieplattformer som Meta og TikTok dette, og har siden gått over til mer desentraliserte tilnærminger til faktasjekking.

“Dette skiftet representerer en grunnleggende anerkjennelse av at sentralisert faktasjekking skaper flaskehalser og enkeltpunkter for svikt. Fremtiden for innholdsverifikasjon handler ikke om å gi regjeringer eller selskaper makten til å bestemme hva som er sant,” uttalte administrerende direktør.

Myson tror dette skiftet gjør løsninger som den tilbudt av Swarm Network avgjørende. I stedet for å stole på en håndfull sentraliserte faktasjekkere, bruker Swarm “AI-agenter som jobber sammen med menneskelige anmeldere for å skape en reviderbar, on-chain rekord av verifiserte påstander.”

Faktisk beveger AI-agenter seg raskt fra teoretiske konsepter til praktiske anvendelser, fundamentalt forandrer hvordan ulike sektorer opererer. Den primære fordelen med disse agentene er deres evne til å automatisere og optimalisere. De kan behandle store mengder data på kort tid, identifisere mønstre som mennesker kanskje overser, og operere 24/7 uten tretthet.

Likevel introduserer den utbredte adopsjonen av AI-agenter også komplekse utfordringer som må nøye adresseres. For å overvinne noen av disse utfordringene sa Myson at selskapets tilnærming “er å gjøre agenter til transparente samarbeidspartnere, ikke ukontrollerte orakler.” Han la til:

“I Swarm dekomponerer agenter informasjon i små, testbare påstander, de kryssjekker hverandre, og der hvor nyanser er nødvendig, trer mennesker inn. Hvert trinn blir loggført og forankret i kjeden, så deres resonnement er re-playbart. Kort sagt: ingen svartbokser, bare verifiserbare spor.”

I mellomtiden tror Myson at, i løpet av de neste fem årene, vil faktasjekking utvikle seg fra en manuell prosess til en innebygd funksjon av digitalt liv, og AI-agenter vil bli evaluert av deres åpenhet, ikke bare hastighet. Den ultimate visjonen er å gjøre sannhet til et fundamentalt lag av internett.

“Akkurat som SSL ble standard for webtrafikk, vil en sannhetsprotokoll bli standard for informasjon. Og det er sånn vi hindrer AI fra å drukne verden i støy,” konkluderte Myson.