AI Expert: Waarheidsprotocollen zouden de SSL van het Informatietijdperk kunnen worden

Desinformatie en de gevaren ervan

Het jaar 2024 diende als een duidelijke waarschuwing voor de gevaren die kunstmatige intelligentie (AI) kan vormen als er geen veiligheidsmaatregelen worden getroffen. Wereldwijd, van India’s massale democratische oefening tot het gespannen politieke klimaat in Taiwan, lieten AI-gegenereerde desinformatiecampagnes hun sporen na.

In Taiwan vervaagde nepnieuws met deepfake-nieuwsankers de grenzen tussen realiteit en fictie, terwijl in de Verenigde Staten een nep-audio van president Biden die naar verluidt Democraten in New Hampshire ontmoedigde om te stemmen, de gemakkelijke manier benadrukte waarop AI kan worden ingezet voor politieke manipulatie. Het enorme volume en de verfijning van deze synthetische media hebben velen het gevoel gegeven te verdrinken in een zee van onzekerheid, worstelend om feit van fictie te onderscheiden.

Echter, sommige experts, zoals Yannick Myson, oprichter en CEO van Swarm Network, beweren dat het probleem dieper gaat dan alleen electorale manipulatie. Hij wijst op AI-geïnduceerde psychose, een verontrustend fenomeen waarbij mensen grootse wanen ontwikkelen, wat volgens sommige studies verband houdt met uitgebreide interacties met AI-chatbots. De kosten van deze AI-geïnduceerde psychose zijn enorm; sommigen hebben hun baan verloren terwijl anderen in psychiatrische behandeling zijn terechtgekomen.

“Net zoals deepfakes onze visuele verwerkingssnellere processen exploiteren, exploiteert AI-psychose onze psychologische kwetsbaarheden, waarbij chatbots dienen als perfecte echokamers die waanvoorstellingen valideren en versterken,” zei Myson.

Gecentraliseerde vs. gedecentraliseerde oplossingen

Myson gelooft dat de huidige reactieve maatregelen, zoals lapwerk fact-checking initiatieven, eenvoudigweg onvoldoende zijn om dit escalerende probleem te bestrijden. “Wat de industrie nu begint te beseffen, is dat lapwerk fact-checking niet kan bijhouden met de snelheid van synthetische media of de psychologische manipulatie van AI-systemen,” beweert hij.

Zijn oplossing, belichaamd in Swarm Network, is een proactieve: verificatie op grote schaal opnemen. Dit houdt in dat de herkomst moet worden vastgesteld bij het punt van inhoudscreatie, zodat de oorsprong van digitale informatie kan worden getraceerd en geverifieerd. Verder pleit Myson voor gedecentraliseerde verificatiesystemen, waarbij informatie wordt gecontroleerd en gevalideerd naarmate het zich verspreidt in de digitale sfeer.

Deze visie van een robuuste “infrastructuur van waarheid” resoneert met een groeiende zorg binnen de AI-industrie. Naarmate de technologie zich in een razendsnel tempo blijft ontwikkelen, worden de ethische en sociale implicaties van misbruik steeds duidelijker. De erosie van vertrouwen in digitale informatie, gevoed door geavanceerde door AI gegenereerde onwaarheden, vormt een aanzienlijke bedreiging voor democratische processen, sociale cohesie en zelfs het individuele mentale welzijn.

Om dit te bestrijden, hebben sommigen gepleit voor een regulerende reactie, verwijzend naar eerdere gevallen waarin dit een belangrijk hulpmiddel bleek bij het beschermen van gebruikers tegen potentiële risico’s van opkomende technologieën. Critici waarschuwen echter dat dit een onbedoeld effect kan hebben van het verstikken van innovatie, een stelling waar Myson het mee lijkt eens te zijn.

“Regelgeving kan helpen, maar alleen als het de valkuil vermijdt van het centraliseren van de waarheid. We hebben gezien dat overheden ‘desinformatiewetten’ bewapenen om debat het zwijgen op te leggen,” verklaarde de Swarm Network CEO.

Om deze bewering te ondersteunen, wees Myson op de manier waarop EU-bureaucraten naar verluidt de Digital Services Act (DSA) van de Europese Unie gebruiken, die de verwijdering van breed gedefinieerde “schadelijke” inhoud vereist, als “een tool om open discours over de hele wereld te beperken.” Myson betoogt dat de EU AI Act ook vergelijkbare problemen creëert.

In plaats van maatregelen zoals de DSA of de AI Act, pleit Myson voor het verplichten van transparantie, duidelijke labeling van synthetische media en open herkomststandaarden zoals C2PA. “Regels moeten bewijs afdwingen, niet opinie,” betoogde hij.

De toekomst van verificatie

Volgens de CEO erkennen grote sociale-mediaplatforms zoals Meta en TikTok dit en hebben ze sindsdien een verschuiving gemaakt naar meer gedecentraliseerde benaderingen van fact-checking.

“Deze verschuiving vertegenwoordigt een fundamentele erkenning dat gecentraliseerde fact-checking knelpunten en enkele punten van falen creëert. De toekomst van inhoudsverificatie gaat niet over het geven van de macht aan overheden of bedrijven om te beslissen wat waar is,” verklaarde de CEO.

Myson gelooft dat deze verschuiving oplossingen zoals die aangeboden door Swarm Network cruciaal maakt. In plaats van vertrouwen op een handvol gecentraliseerde fact-checkers, gebruikt Swarm “AI-agenten die samenwerken met menselijke reviewers om een controleerbaar, op de keten geregistreerd verslag van geverifieerde claims te creëren.”

Inderdaad, AI-agenten bewegen zich snel van theoretische concepten naar praktische toepassingen, fundamenteel veranderend hoe verschillende sectoren opereren. Het primaire voordeel van deze agenten is hun vermogen om te automatiseren en optimaliseren. Ze kunnen enorme hoeveelheden gegevens in korte tijd verwerken, patronen identificeren die mensen misschien missen, en 24/7 opereren zonder vermoeidheid.

Toch introduceert de brede adoptie van AI-agenten ook complexe uitdagingen die zorgvuldig moeten worden aangepakt. Om enkele van deze uitdagingen te overwinnen, zei Myson dat de aanpak van zijn bedrijf “is om agenten te transformeren in transparante medewerkers, niet in ongecontroleerde orakels.” Hij voegde toe:

“In Swarm ontbinden agenten informatie in kleine, testbare claims, ze controleren elkaar, en waar nuance nodig is, stappen mensen in. Elke stap wordt geregistreerd en vastgelegd op de keten, zodat hun redeneringen opnieuw afspeelbaar zijn. Kortom: geen black boxes, alleen verifieerbare sporen.”

Ondertussen gelooft Myson dat in de komende vijf jaar fact-checking zal evolueren van een handmatig proces naar een ingebouwde functie in het digitale leven, en dat AI-agenten zullen worden beoordeeld op hun transparantie, niet alleen snelheid. De ultieme visie is om waarheid een fundamentele laag van het internet te maken.

“Op dezelfde manier als SSL de standaard werd voor webverkeer, zal een waarheidprotocol de standaard worden voor informatie. En dat is hoe we voorkomen dat AI de wereld in lawaai verdrinkt,” concludeerde Myson.