Sydney Huang advarer om at kollusjon mellom AI-roboter kan spre seg før regulatorene reagerer

Slutten på politikkens «etterslep»

Ifølge en rapport fra Det internasjonale pengefondet (IMF) fra april 2026 er verden raskt i ferd med å forlate epoken med «klikk-for-å-betale» og gå inn i tidsalderen «bestem-for-å-betale». Men når mennesker trer ut av loopen, dukker et viktig spørsmål opp: Kan våre finansielle sikkerhetsrekkverk overleve en økonomi i maskinhastighet?

IMF-rapporten bemerker at agentisk kunstig intelligens (AI) vil øke pengenes omløpshastighet radikalt. Ved å fjerne menneskelig «friksjon» vil kapital sirkulere gjennom den globale økonomien i hastigheter uten sidestykke. Sydney Huang, CEO i Human API, antyder at vi kan se en tidobling i pengenes omløpshastighet. Selv om dette høres ut som et produktivitetsmirakel, utgjør det et mareritt for sentralbanker. Tradisjonell pengepolitikk er bygget på «etterslep». Når en sentralbank hever renten, tar det måneder før den beslutningen filtreres gjennom menneskelige institusjoner. I en AI-til-AI-økonomi forsvinner dette etterslepet.

«En tidobling i pengenes omløpshastighet drevet av AI-til-AI-handel vil kreve at regulatorer tar i bruk verktøy som opererer i maskinhastighet», advarer Huang. Uten disse kapasitetene kan en inflasjonstopp i maskinhastighet eller et globalt lynkrakk inntreffe før en menneskelig regulator i det hele tatt mottar et varsel på dashbordet.

For å forhindre kaskaderende feil, hevder Huang at regulatorer må slutte å være tilskuere og bli en del av selve koden. «Dette inkluderer overvåkingssystemer i sanntid, programmerbar etterlevelse bygget direkte inn i finansiell infrastruktur, og automatiserte kretsbrytere for å forhindre kaskaderende feil», sa hun. Denne visjonen samsvarer med IMFs foreslåtte trelagsrammeverk, som antyder at autorisasjonslaget i hver transaksjon må ha innebygde, menneskedefinerte mandater.

Huang foreslår at «regulatorer kan også trenge å uttrykke politikk i maskinlesbare formater som kan håndheves på transaksjonsnivå». Agentisk handel krever også automatiserte kretsbrytere på transaksjonsnivå slik at når agenter begynner å utvise sterkt korrelert atferd, må autonome «sikringer» løse ut for å stoppe kjedereaksjonen.

IMF-rapporten fremhever at «agentiske systemer kan tolke mål og overvåke aktivitet i sanntid». Dette betyr at kjenn-din-kunde- og anti-hvitvaskingskontroller programmeres direkte inn i AI-agentens DNA.

Å bevise beslutningsopphav

Kanskje en av de mest komplekse utfordringene for regulatorer i denne nye æraen er den «usynlige» markedsplassen. I en verden der agenter ikke bruker menneskelig språk for å koordinere, oppstår spørsmålet: Hvordan skiller vi mellom en bot som bare optimaliserer og en flåte av boter som samarbeider for å fikse priser?

Huang bemerker at dette krever et skifte fra å analysere kommunikasjon til å analysere atferd.

«Regulatorer vil måtte undersøke mønstre som synkroniserte handlinger, delte dataavhengigheter og statistiske avvik», sa hun. Løsningen kan ligge i «beslutningsopphav». Huang ser for seg en fremtid der agenter må levere verifiserbart bevis på at beslutninger ble tatt uavhengig under en erklært policy. Ved å bevise hvordan en beslutning ble nådd, kan agenter demonstrere at de ikke i hemmelighet koordinerte med konkurrenter.

Utover regulering er det spørsmålet om hvordan disse agentene faktisk snakker med hverandre. Huang påpeker at trygg agent-til-agent-forhandling krever universelle standarder for identitet, kommunikasjon og håndheving.

«Agenter må kunne verifisere hverandres identitet og autorisasjon, operere innenfor delte forhandlingsrammeverk, og knytte verifiserbare garantier til handlingene sine», sa Huang. Dette skiftet flytter tillit bort fra individuelle motparter og plasserer den i systemets garantier. Ved å bruke fremvoksende standarder som agentbetalingsprotokollen (AP2) og modellkontekstprotokollen (MCP), kan virksomheter sikre at en agent fra Selskap A kan forhandle trygt med en agent fra Selskap B uten en proprietær mellommann.

Etter hvert som mer styring delegeres til disse digitale stedfortrederne, oppstår en ny menneskelig risiko: atrofiering. Hvis en agent forvalter et selskaps treasury i fem år uten menneskelig inngripen, vil den menneskelige kassereren fortsatt vite hvordan man håndterer en krise hvis systemet går i svart?

Huang advarer om at når styring i økende grad delegeres, er det en alvorlig risiko for at menneskelige operatører mister evnen til å gripe inn effektivt. «Å opprettholde operativ beredskap er like viktig som å bygge fallback-mekanismer», sa hun.

Å bekjempe forvitring av menneskelige ferdigheter

For å redusere dette, argumenterer hun for at systemer må gjennomføre regelmessige øvelser der mennesker tar roret, og innlemme moduser der mennesker simulerer agenthandlinger for å sammenligne logikk. Det er også behov for å sikre at «kill switch»-en er en innøvd prosedyre. «Målet», sa Huang, «er å sikre at menneskelig tilsyn forblir funksjonelt og innøvd, heller enn teoretisk.»

Etter hvert som verden beveger seg mot et anslått agentisk marked på 236 milliarder dollar innen 2034, endres definisjonen av en «markedsdeltaker». Det handler ikke lenger bare om å regulere mennesker, men de såkalte «superindividene» drevet av tusenvis av autonome boter.

Bestem-for-å-betale-revolusjonen tilbyr en verden av friksjonsfri effektivitet, men den krever en total omtegning av den globale finansarkitekturen. Som Huang uttrykker det: For å styre en økonomi i maskinhastighet må selve loven bli maskinhastighet. Hvis vi ikke klarer å bygge mennesket-i-loopen inn på arkitekturnivå, risikerer vi å bygge en økonomi som beveger seg for raskt til at skaperne kan kontrollere den.