Sydney Huang waarschuwt dat samenspanning tussen AI-bots zich zou kunnen uitbreiden voordat toezichthouders ingrijpen

Het einde van de 'vertraging' in het beleid

Volgens een rapport van het Internationaal Monetair Fonds (IMF) uit april 2026 verlaat de wereld in hoog tempo het tijdperk van 'click-to-pay' en treedt het tijdperk van 'decide-to-pay' in. Maar nu mensen uit de loop worden gelaten, rijst een belangrijke vraag: kunnen onze financiële vangrails een economie op machinesnelheid overleven?

Het IMF-rapport merkt op dat agentische kunstmatige intelligentie (AI) de omloopsnelheid van geld radicaal zal verhogen. Door menselijke 'wrijving' weg te nemen, zal kapitaal met ongekende snelheden door de wereldeconomie circuleren. Sydney Huang, CEO van Human API, suggereert dat we een vertienvoudiging van de omloopsnelheid van geld zouden kunnen zien. Hoewel dit klinkt als een productiviteitswonder, is het een nachtmerrie voor centrale banken. Traditioneel monetair beleid is gebaseerd op 'vertraging'. Wanneer een centrale bank de rente verhoogt, duurt het maanden voordat dat besluit door de menselijke instellingen is doorgedrongen. In een AI-naar-AI-economie verdwijnt die vertraging.

"Een vertienvoudiging van de omloopsnelheid van geld, aangedreven door AI-naar-AI-handel, zou vereisen dat toezichthouders instrumenten invoeren die op machinesnelheid werken," waarschuwt Huang. Zonder deze mogelijkheden zou er een inflatiepiek op machinesnelheid of een wereldwijde flash crash kunnen plaatsvinden voordat een menselijke toezichthouder zelfs maar een dashboardwaarschuwing ontvangt.
Om een kettingreactie van storingen te voorkomen, stelt Huang dat toezichthouders moeten ophouden toeschouwers te zijn en onderdeel moeten worden van de code zelf. "Dit omvat realtime monitoringsystemen, programmeerbare compliance die direct in de financiële infrastructuur is ingebed, en geautomatiseerde circuitbreakers om cascadefouten te voorkomen," zei ze. Deze visie sluit aan bij het door het IMF voorgestelde drielagige raamwerk, dat suggereert dat de autorisatielaag van elke transactie ingebedde, door mensen gedefinieerde mandaten moet hebben.

Huang suggereert dat "toezichthouders mogelijk ook beleid moeten uitdrukken in machinaal leesbare formaten die op transactieniveau kunnen worden afgedwongen." Agentische handel vereist ook geautomatiseerde circuitbreakers op transactieniveau, zodat wanneer agenten sterk gecorreleerd gedrag beginnen te vertonen, autonome "zekeringen" moeten doorslaan om de kettingreactie te stoppen.

Het IMF-rapport benadrukt dat "agentische systemen doelstellingen kunnen interpreteren en activiteiten in realtime kunnen monitoren." Dit betekent dat 'ken-uw-klant'- en antiwitwascontroles direct in het DNA van de AI-agent zijn geprogrammeerd.

De herkomst van beslissingen aantonen

Misschien wel een van de meest complexe uitdagingen voor toezichthouders in dit nieuwe tijdperk is de "onzichtbare" markt. In een wereld waar agenten geen menselijke taal gebruiken om te coördineren, rijst de vraag: hoe maken we onderscheid tussen een bot die simpelweg optimaliseert en een vloot van bots die samenspannen om prijzen af te spreken?

Huang merkt op dat dit een verschuiving vereist van het analyseren van communicatie naar het analyseren van gedrag.

"Toezichthouders zullen patronen moeten onderzoeken, zoals gesynchroniseerde acties, gedeelde gegevensafhankelijkheden en statistische afwijkingen," zei ze. De oplossing ligt wellicht in "beslissingsherkomst". Huang suggereert een toekomst waarin agenten verplicht zijn om verifieerbaar bewijs te leveren dat beslissingen onafhankelijk zijn genomen volgens een vastgesteld beleid. Door aan te tonen hoe een beslissing tot stand is gekomen, kunnen agenten aantonen dat ze niet in het geheim met concurrenten hebben samengewerkt.

Naast regelgeving is er de kwestie van hoe deze agenten daadwerkelijk met elkaar communiceren. Huang wijst erop dat veilige onderhandelingen tussen agenten universele standaarden vereisen voor identiteit, communicatie en handhaving.
"Agenten moeten elkaars identiteit en autorisatie kunnen verifiëren, opereren binnen gedeelde onderhandelingskaders en verifieerbare garanties aan hun acties kunnen koppelen," zei Huang. Deze verschuiving verplaatst het vertrouwen weg van individuele tegenpartijen en legt het bij de garanties van het systeem. Door gebruik te maken van opkomende standaarden zoals het Agent Payments Protocol (AP2) en het Model Context Protocol (MCP), kunnen bedrijven ervoor zorgen dat een agent van bedrijf A veilig kan onderhandelen met een agent van bedrijf B zonder een eigen tussenpersoon.
Naarmate er meer governance wordt gedelegeerd aan deze digitale proxies, ontstaat er een nieuw menselijk risico: atrofie. Als een agent vijf jaar lang de treasury van een bedrijf beheert zonder menselijke tussenkomst, weet de menselijke treasurer dan nog wel hoe hij een crisis moet aanpakken als het systeem uitvalt?

Huang waarschuwt dat naarmate er steeds meer beheer wordt gedelegeerd, er een ernstig risico bestaat dat menselijke operators het vermogen verliezen om effectief in te grijpen. "Het handhaven van operationele paraatheid is net zo belangrijk als het opzetten van noodmechanismen," zei ze.

Bestrijding van atrofie van menselijke vaardigheden

Om dit te beperken, stelt zij dat systemen regelmatig oefeningen moeten houden waarbij mensen het stuur overnemen en modi moeten integreren waarin mensen de acties van agents simuleren om de logica te vergelijken. Er is ook behoefte aan het waarborgen dat de "kill switch" een geoefende route is. "Het doel," zei Huang, "is ervoor te zorgen dat menselijk toezicht functioneel en geoefend blijft, in plaats van theoretisch."

Nu de wereld op weg is naar een verwachte agentische markt van 236 miljard dollar in 2034, verandert de definitie van een "marktdeelnemer". Het gaat niet langer alleen om het reguleren van mensen, maar ook om de zogenaamde "superindividuen" die worden aangedreven door duizenden autonome bots.

De 'decide-to-pay'-revolutie biedt een wereld van soepele efficiëntie, maar vereist een totale herinrichting van de mondiale financiële architectuur. Zoals Huang het stelt: om een economie op machinesnelheid te besturen, moet de wet zelf ook op machinesnelheid komen. Als we er niet in slagen om de mens in de loop op architecturaal niveau in te bedden, lopen we het risico een economie op te bouwen die te snel gaat om door haar scheppers te worden beheerst.