AI-ekspert: Sandhedsprotokoller kunne blive SSL for informationsalderen

Desinformation og Dets Farer

Året 2024 tjente som en skarp advarsel om de farer, kunstig intelligens (AI) kan udgøre, hvis der ikke indføres sikkerhedsforanstaltninger. På tværs af kloden, fra Indiens massive demokratiske øvelse til det spændte politiske klima i Taiwan, satte AI-genererede desinformationskampagner deres præg.

I Taiwan udviskede deepfake-nyhedsværter grænserne mellem virkelighed og fabrikation, mens i USA understregede en falsk lydoptagelse med præsident Biden, angiveligt opfordrende New Hampshire-demokrater til ikke at stemme, hvor let AI kan bruges som et politisk manipulationsvåben. Den enorme mængde og sofistikering af disse syntetiske medier har efterladt mange følelsesmæssigt fortabte i et hav af usikkerhed, der kæmper for at skelne fakta fra fiktion.

Dog mener nogle eksperter, som Yannick Myson, grundlægger og CEO af Swarm Network, at problemet stikker dybere end valgmanipulation. Han nævner AI-induceret psykose, et foruroligende fænomen, hvor folk udvikler grandiose vrangforestillinger, som nogle studier forbinder med forlænget interaktion med AI-chatbots. Omkostningerne ved denne AI-inducerede psykose har været omfattende; nogle har mistet deres job, mens andre er endt i psykiatrisk behandling.

“Ligesom deepfakes udnytter vores visuelle forarbejdningsgenveje, udnytter AI-psykose vores psykologiske sårbarheder, med chatbots som perfekte ekko-kamre, der bekræfter og forstærker vrangforestillinger,” sagde Myson.

Centraliserede vs. Decentraliserede Løsninger

Myson mener, at de nuværende reaktive foranstaltninger, såsom lappeløsninger for faktatjek, simpelthen er utilstrækkelige til at bekæmpe dette eskalerende problem. “Hvad branchen er ved at vågne op til, er, at lappeløsninger for faktatjek ikke kan følge med hastigheden af syntetiske medier eller den psykologiske manipulation af AI-systemer,” hævder han.

Hans løsning, indbygget i Swarm Network, er en proaktiv en: indføre verifikation i stor skala. Dette indebærer etablering af oprindelse på selve det punkt, hvor indhold skabes, og sikrer, at oprindelsen af digital information kan spores og autentificeres. Yderligere går Myson ind for decentraliserede verifikationssystemer, hvor information krydstjekkes og valideres, mens det spredes over den digitale sfære.

Denne vision om en robust “sandhedsinfrastruktur” resonerer med en voksende bekymring inden for AI-industrien. I takt med at teknologien fortsætter med at udvikle sig i et hurtigt tempo, bliver de etiske og sociale implikationer af dens misbrug mere og mere åbenlyse. Erosionen af tillid til digital information, drevet af sofistikerede AI-genererede usandheder, udgør en betydelig trussel mod demokratiske processer, social samhørighed og endda individuel mental sundhed.

For at bekæmpe dette har nogle talt for en lovmæssig reaktion og henvist til tidligere tilfælde, hvor dette viste sig at være et vigtigt værktøj til at beskytte brugere mod potentielle risici forbundet med nye teknologier. Dog advarer kritikere om, at dette kan have den utilsigtede effekt at kvæle innovation, en påstand Myson tilsyneladende er enig i.

“Regulering kan hjælpe, men kun hvis det undgår fælden med at centralisere sandhed. Vi har set regeringer bruge ‘misinformationslove’ som våben til at tie debatter,” sagde Swarm Networks CEO.

For at underbygge denne påstand pegede Myson på, hvordan EU-bureaukrater angiveligt bruger Den Europæiske Unions (EU) digitale serviceslov (DSA), der kræver fjernelse af bredt defineret “skadelig” indhold, som “et værktøj til at begrænse åben diskurs over hele verden.” Myson hævder, at EU’s AI-lov også skaber lignende problemer.

I stedet for at vedtage stykker som DSA eller AI-loven går Myson ind for at lovgive gennemsigtighed, klar mærkning af syntetiske medier og åbne kildeopgavestandarder som C2PA. “Regler skal håndhæve bevis, ikke mening,” hævdede han.

Fremtiden for Verifikation

Ifølge CEO’en anerkender store sociale medieplatforme som Meta og TikTok dette og har derfor skiftet mod mere decentraliserede tilgange til faktatjek.

“Dette skift repræsenterer en fundamental anerkendelse af, at centraliseret faktatjek skaber flaskehalse og enkeltpunkter for fiasko. Fremtiden for indholdsverifikation handler ikke om at give regeringer eller virksomheder magten til at bestemme, hvad der er sandt,” sagde CEO’en.

Myson mener, at dette skift gør løsninger som den, Swarm Network tilbyder, afgørende. I stedet for at stole på et par centraliserede faktatjekkere bruger Swarm “AI-agenter, der arbejder sammen med menneskelige anmeldere for at skabe en revisionsbar, på-kæde-registrering af verificerede påstande.”

Faktisk bevæger AI-agenter sig hurtigt fra teoretiske koncepter til praktiske anvendelsesområder, hvilket fundamentalt ændrer, hvordan forskellige sektorer fungerer. Den primære fordel ved disse agenter er deres evne til at automatisere og optimere. De kan behandle store mængder data på kort tid, identificere mønstre, som mennesker måske overser, og arbejde 24/7 uden træthed.

Alligevel introducerer den brede adoption af AI-agenter også komplekse udfordringer, der skal tages omhyggeligt hånd om. For at overvinde nogle af disse udfordringer sagde Myson, at hans virksomheds tilgang “er at gøre agenter til gennemsigtige samarbejdspartnere, ikke ukontrollerede orakler.” Han tilføjede:

“I Swarm nedbryder agenter information i små, testbare påstande, de krydstjekker hinanden, og hvor der er behov for nuance, træder mennesker til. Hvert trin bliver logget og forankret på-kæde, så deres ræsonnement kan genafspilles. Kort sagt: ingen sorte bokse, bare verificerbare spor.”

Imens mener Myson, at faktatjek inden for de næste fem år vil udvikle sig fra en manuel proces til en indbygget funktion i digitalt liv, og AI-agenter vil blive vurderet efter deres gennemsigtighed, ikke bare hastighed. Den ultimative vision er at gøre sandhed til et fundamentalt lag af internettet.

“På samme måde som SSL blev standarden for webtrafik, vil en sandhedsprotokol blive standarden for information. Og det er sådan, vi holder AI fra at drukne verden i støj,” konkluderede Myson.