Sydney Huang advarer om, at samarbejde mellem AI-bots kan brede sig, inden myndighederne når at reagere

Slutningen på politisk "forsinkelse"

Ifølge en rapport fra Den Internationale Valutafond (IMF) fra april 2026 er verden hurtigt på vej ud af "click-to-pay"-æraen og ind i "decide-to-pay"-æraen. Men i takt med at mennesker træder ud af kredsløbet, opstår der et vigtigt spørgsmål: Kan vores finansielle sikkerhedsforanstaltninger overleve en økonomi, der kører i maskinhastighed?

IMF-rapporten bemærker, at agentisk kunstig intelligens (AI) vil øge pengenes omløbshastighed radikalt. Ved at fjerne menneskelig "friktion" vil kapitalen cirkulere gennem den globale økonomi med hidtil usete hastigheder. Sydney Huang, CEO for Human API, antyder, at vi kunne se en tidobling af pengenes omløbshastighed. Selvom dette lyder som et produktivitetsmirakel, udgør det et mareridt for centralbankerne. Traditionel pengepolitik er baseret på "forsinkelse". Når en centralbank hæver renten, tager det måneder, før denne beslutning slår igennem i de menneskelige institutioner. I en AI-til-AI-økonomi forsvinder denne forsinkelse.

"En tidobling af pengenes omløbshastighed drevet af AI-til-AI-handel vil kræve, at tilsynsmyndighederne indfører værktøjer, der fungerer med maskinens hastighed," advarer Huang. Uden disse muligheder kan der opstå en inflationsstigning med maskinens hastighed eller et globalt flash-crash, før en menneskelig tilsynsmyndighed overhovedet modtager en advarsel på sit kontrolpanel.
For at forhindre kaskadefejl argumenterer Huang for, at tilsynsmyndighederne skal holde op med at være tilskuere og i stedet blive en del af selve koden. "Dette omfatter overvågningssystemer i realtid, programmerbar compliance indbygget direkte i den finansielle infrastruktur og automatiske afbrydere for at forhindre kaskadefejl," sagde hun. Denne vision er i tråd med IMF's foreslåede trelagsramme, som antyder, at autorisationslaget i hver transaktion skal have indbyggede, menneskedefinerede mandater.

Huang foreslår, at "tilsynsmyndighederne muligvis også bliver nødt til at udtrykke politikker i maskinlæsbare formater, der kan håndhæves på transaktionsniveau." Agentbaseret handel kræver også automatiske afbrydere på transaktionsniveau, så når agenter begynder at udvise stærkt korreleret adfærd, skal autonome "sikringer" slå fra for at stoppe kædereaktionen.

IMF-rapporten fremhæver, at "agentbaserede systemer kan fortolke mål og overvåge aktivitet i realtid." Dette betyder, at "know-your-customer"- og anti-hvidvaskningskontroller er programmeret direkte ind i AI-agentens DNA.

Bevis for beslutningers oprindelse

En af de måske mest komplekse udfordringer for tilsynsmyndighederne i denne nye æra er det "usynlige" marked. I en verden, hvor agenter ikke bruger menneskeligt sprog til at koordinere, opstår spørgsmålet: Hvordan skelner vi mellem en bot, der blot optimerer, og en flåde af bots, der samarbejder om at fastsætte priser?

Huang bemærker, at dette kræver et skift fra at analysere kommunikation til at analysere adfærd.

"Tilsynsmyndighederne bliver nødt til at undersøge mønstre såsom synkroniserede handlinger, fælles dataafhængigheder og statistiske afvigelser," sagde hun. Løsningen ligger måske i "beslutningsherkomst." Huang foreslår en fremtid, hvor agenterne skal fremlægge verificerbart bevis for, at beslutningerne er truffet uafhængigt i henhold til en erklæret politik. Ved at bevise, hvordan en beslutning blev truffet, kan agenterne demonstrere, at de ikke hemmeligt koordinerede med konkurrenterne.

Ud over regulering er der spørgsmålet om, hvordan disse agenter rent faktisk kommunikerer med hinanden. Huang påpeger, at sikker forhandling mellem agenter kræver universelle standarder for identitet, kommunikation og håndhævelse.
"Agenter skal være i stand til at verificere hinandens identitet og autorisation, operere inden for fælles forhandlingsrammer og knytte verificerbare garantier til deres handlinger," sagde Huang. Dette skift flytter tilliden væk fra individuelle modparter og placerer den i systemets garantier. Ved at bruge nye standarder som agent payments protocol (AP2) og model context protocol (MCP) kan virksomheder sikre, at en agent fra virksomhed A kan forhandle sikkert med en agent fra virksomhed B uden en proprietær mellemmand.

Efterhånden som mere styring uddelegeres til disse digitale stedfortrædere, opstår der en ny menneskelig risiko: atrofi. Hvis en agent forvalter en virksomheds finanser i fem år uden menneskelig indgriben, vil den menneskelige finanschef så stadig vide, hvordan man håndterer en krise, hvis systemet går ned?

Huang advarer om, at i takt med at styringen i stigende grad delegeres, er der en alvorlig risiko for, at menneskelige operatører mister evnen til at gribe effektivt ind. "At opretholde operationel beredskab er lige så vigtigt som at opbygge nødmekanismer," sagde hun.

Bekæmpelse af forringelse af menneskelige færdigheder

For at afbøde dette argumenterer hun for, at systemerne skal afholde regelmæssige øvelser, hvor mennesker tager rattet, og indarbejde tilstande, hvor mennesker simulerer agenters handlinger for at sammenligne logik. Der er også behov for at sikre, at "kill switch" er en indøvet fremgangsmåde. "Målet," sagde Huang, "er at sikre, at menneskelig overvågning forbliver funktionel og praktiseret, snarere end teoretisk."

I takt med at verden bevæger sig mod et forventet agentmarked på 236 milliarder dollar i 2034, ændrer definitionen af en "markedsdeltager" sig. Det handler ikke længere kun om at regulere mennesker, men de såkaldte "superindivider", der drives af tusindvis af autonome bots.

Revolutionen inden for "decide-to-pay" tilbyder en verden af gnidningsfri effektivitet, men den kræver en total omlægning af den globale finansielle arkitektur. Som Huang udtrykker det, skal loven selv blive maskinhurtig for at kunne styre en økonomi, der kører med maskinhastighed. Hvis vi ikke formår at indarbejde "human-in-the-loop" på det arkitektoniske niveau, risikerer vi at opbygge en økonomi, der bevæger sig for hurtigt til, at dens skabere kan kontrollere den.