AI-expert: Sanningsprotokoll kan bli informationserans SSL

Desinformation och dess faror

År 2024 fungerade som en tydlig varning om de faror artificiell intelligens (AI) kan utgöra om inga skyddsåtgärder vidtas. Över hela världen, från Indiens massiva demokratiska övning till det spända politiska klimatet i Taiwan, lämnade AI-genererade desinformationskampanjer sina spår.

I Taiwan suddade deepfake-nyhetsankare ut gränserna mellan verklighet och fabrikation, medan i USA underströk ett falskt ljud av president Biden som påstås avråda demokrater i New Hampshire från att rösta lättheten med vilken AI kan användas för politisk manipulation. Den rena mängden och sofistikeringen av detta syntetiska media har lämnat många känsla i ett hav av osäkerhet, kämpandes för att urskilja fakta från fiktion.

Men vissa experter, som Yannick Myson, grundare och VD för Swarm Network, argumenterar för att problemet går djupare än valmanipulation. Han nämner AI-inducerad psykos, ett oroande fenomen där människor utvecklar grandiosa vanföreställningar, som vissa studier kopplar till förlängda interaktioner med AI-chatbots. Kostnaden för denna AI-inducerade psykos har varit enorm; vissa har förlorat jobb medan andra har hamnat i psykiatrisk behandling.

“Precis som deepfakes utnyttjar våra visuella bearbetnings-genvägar, utnyttjar AI-psykos våra psykologiska sårbarheter, där chatbots fungerar som perfekta ekokammare som bekräftar och förstärker vanföreställningar,” sa Myson.

Centraliserade vs. Decentraliserade lösningar

Myson tror att de nuvarande reaktiva åtgärderna, såsom lappverk faktagranskande initiativ, helt enkelt är otillräckliga för att bekämpa detta växande problem. “Vad industrin vaknar upp till är att lappverk faktagranskning inte kan hålla jämna steg med den syntetiska medians hastighet eller AI-systemens psykologiska manipulation,” hävdar han.

Hans lösning, inkarnerad i Swarm Network, är en proaktiv: inbäddad verifiering i stor skala. Detta innebär att etablera proveniens vid själva punkten för innehållsskapande, vilket säkerställer att ursprunget till digital information kan spåras och autentiseras. Vidare förespråkar Myson decentraliserade verifieringssystem, där information korsverifieras och valideras när den sprider sig över den digitala sfären.

Denna vision av en robust “infrastruktur för sanning” resonerar med en växande oro inom AI-industrin. Eftersom tekniken fortsätter att avanceras i snabb takt, blir dess missbruk allt tydligare i dess etiska och sociala implikationer. Erosionen av förtroende för digital information, drivet av sofistikerade AI-genererade osanningar, utgör ett betydande hot mot demokratiska processer, social sammanhållning och även individuell mental välfärd.

För att bekämpa detta har vissa förespråkat för ett regleringsmässigt svar, med hänvisning till tidigare tillfällen när detta visade sig vara ett viktigt verktyg för att skydda användare från potentiella risker förknippade med nya teknologier. Men kritiker varnar för att detta kan ha den oavsiktliga effekten att kväva innovation, en invändning som Myson verkar hålla med om.

“Reglering kan hjälpa till, men bara om det undviker fällan att centralisera sanningen. Vi har sett regeringar vapenanvända ‘desinformationslagar’ för att tysta debatt,” förklarade Swarm Networks VD.

För att stödja detta påstående, pekade Myson på hur EU-byråkrater enligt uppgift använder Europeiska unionens (EU) Digital Services Act (DSA), som kräver borttagande av brett definierat “skadligt” innehåll, som “ett verktyg för att begränsa öppen diskurs världen över.” Myson hävdar att EU AI Act också skapar liknande problem.

Istället för att anta delar som DSA eller AI Act, förespråkar Myson istället för att mandat ge transparens, tydlig märkning av syntetiska medier och öppna proveniensstandarder som C2PA. “Regler bör främja bevis, inte åsikt,” argumenterade han.

Verifieringens framtid

Enligt VD:n erkänner stora sociala medieplattformar som Meta och TikTok detta och har sedan dess skiftat mot mer decentraliserade tillvägagångssätt för faktagranskning.

“Detta skifte representerar en grundläggande insikt om att centraliserad faktagranskning skapar flaskhalsar och enstaka felpunkter. Framtiden för innehållsverifikation handlar inte om att ge regeringar eller företag makt att bestämma vad som är sant,” uttalade VD:n.

Myson tror att detta skifte gör lösningar som den som erbjuds av Swarm Network avgörande. Istället för att förlita sig på ett fåtal centraliserade faktagranskare, använder Swarm “AI-agenter som arbetar tillsammans med mänskliga granskare för att skapa en reviderbar, on-chain-inspelning av verifierade påståenden.”

Faktum är att AI-agenter snabbt rör sig från teoretiska koncept till praktiska tillämpningar, vilket fundamentalt förändrar hur olika sektorer fungerar. De främsta fördelarna med dessa agenter är deras förmåga att automatisera och optimera. De kan bearbeta stora mängder data på kort tid, identifiera mönster som människor kan missa och arbeta dygnet runt utan att tröttna.

Ändå innebär den utbredda antagandet av AI-agenter också komplexa utmaningar som måste hanteras noggrant. För att övervinna vissa av dessa utmaningar sa Myson att hans företags tillvägagångssätt “är att göra agenter till transparenta samarbetspartners, inte otyglade orakler.” Han tillade:

“I Swarm bryter agenter ner information i små, testbara påståenden, de korsverifierar varandra, och där nyanser behövs, kliver människor in. Varje steg loggas och förankras on-chain, så deras resonemang är spelbar. Kort sagt: inga svarta lådor, bara verifierbara spår.”

Under tiden tror Myson att, inom de närmaste fem åren, kommer faktagranskning att utvecklas från en manuell process till en inbyggd funktion i det digitala livet, och AI-agenter kommer att utvärderas utifrån deras transparens, inte bara hastighet. Den ultimata visionen är att göra sanning till ett grundläggande lager av internet.

“På samma sätt som SSL blev standard för webtrafik, kommer ett sanningens protokoll att bli standard för information. Och det är så vi förhindrar att AI dränker världen i buller,” avslutade Myson.