Sydney Huang upozorava da bi se tajno dogovaranje AI botova moglo proširiti prije nego što regulatori reagiraju

Kraj političkog „kašnjenja”

Prema izvješću Međunarodnog monetarnog fonda (MMF) iz travnja 2026., svijet brzo izlazi iz ere „klikni za platiti” i ulazi u doba „odluči za platiti”. No kako ljudi izlaze iz petlje, pojavljuje se važno pitanje: mogu li naše financijske zaštitne ograde preživjeti ekonomiju brzinom stroja?

Izvješće MMF-a navodi da će agentska umjetna inteligencija (AI) radikalno povećati brzinu optjecaja novca. Uklanjanjem ljudskog „trenja”, kapital će kružiti globalnim gospodarstvom dosad nezabilježenim brzinama. Sydney Huang, izvršna direktorica Human API-ja, sugerira da bismo mogli vidjeti 10-struko povećanje brzine optjecaja novca. Iako to zvuči kao čudo produktivnosti, za središnje banke to predstavlja noćnu moru. Tradicionalna monetarna politika temelji se na „kašnjenju”. Kada središnja banka podigne kamatne stope, potrebni su mjeseci da se ta odluka provuče kroz ljudske institucije. U ekonomiji AI-s-AI, to kašnjenje nestaje.

„Deseterostruko povećanje brzine optjecaja novca potaknuto trgovinom AI-s-AI zahtijevalo bi da regulatori usvoje alate koji djeluju brzinom stroja,” upozorava Huang. Bez tih sposobnosti, do skoka inflacije brzinom stroja ili globalnog naglog kraha moglo bi doći prije nego što ljudski regulator uopće primi upozorenje na nadzornoj ploči.

Kako bi se spriječili kaskadni kvarovi, Huang tvrdi da regulatori moraju prestati biti promatrači i postati dio samog koda. „To uključuje sustave praćenja u stvarnom vremenu, programabilnu usklađenost ugrađenu izravno u financijsku infrastrukturu i automatizirane prekidače (circuit breakers) za sprječavanje kaskadnih kvarova,” rekla je. Ta se vizija podudara s MMF-ovim predloženim Okvirom s tri sloja, koji sugerira da autorizacijski sloj svake transakcije mora imati ugrađene, ljudima definirane mandate.

Huang sugerira da će „regulatori možda također trebati izražavati politike u strojno čitljivim formatima koji se mogu provoditi na razini transakcije”. Agentska trgovina također zahtijeva automatizirane prekidače na razini transakcije tako da, kada agenti počnu pokazivati snažno korelirano ponašanje, autonomni „osigurači” moraju pregorjeti kako bi zaustavili lančanu reakciju.

Izvješće MMF-a ističe da „agentski sustavi mogu tumačiti ciljeve i pratiti aktivnost u stvarnom vremenu.” To znači da su provjere „upoznaj svog klijenta” i sprječavanja pranja novca programirane izravno u DNK AI agenta.

Dokazivanje podrijetla odluka

Možda je jedan od najsloženijih izazova za regulatore u ovom novom dobu „nevidljivo” tržište. U svijetu u kojem agenti ne koriste ljudski jezik za koordinaciju, postavlja se pitanje: kako razlikovati bota koji samo optimizira od flote botova koji se dogovaraju kako bi namještali cijene?

Huang napominje da to zahtijeva pomak s analize komunikacije na analizu ponašanja.

„Regulatori će morati ispitivati obrasce poput sinkroniziranih radnji, zajedničkih ovisnosti o podacima i statističkih anomalija,” rekla je. Rješenje bi moglo ležati u „podrijetlu odluka” (decision provenance). Huang predlaže budućnost u kojoj se od agenata traži da pruže provjerljiv dokaz da su odluke donesene neovisno prema deklariranoj politici. Dokazivanjem kako je odluka donesena, agenti mogu pokazati da se nisu potajno koordinirali s konkurentima.

Osim regulacije, tu je i pitanje kako ti agenti zapravo međusobno razgovaraju. Huang ističe da sigurno pregovaranje agent-s-agent zahtijeva univerzalne standarde za identitet, komunikaciju i provedbu.

„Agenti moraju moći provjeriti identitet i ovlaštenje jedni drugih, djelovati unutar zajedničkih pregovaračkih okvira i pridružiti provjerljiva jamstva svojim radnjama,” rekla je Huang. Ovaj pomak premješta povjerenje s pojedinačnih ugovornih strana i stavlja ga u jamstva sustava. Korištenjem novih standarda poput protokola plaćanja agenata (AP2) i protokola konteksta modela (MCP), poduzeća mogu osigurati da agent iz tvrtke A može sigurno pregovarati s agentom iz tvrtke B bez vlasničkog posrednika.

Kako se sve više upravljanja delegira tim digitalnim posrednicima, pojavljuje se novi ljudski rizik: atrofija. Ako agent pet godina upravlja trezorskim poslovanjem tvrtke bez ljudske intervencije, hoće li ljudski rizničar i dalje znati kako postupiti u krizi ako sustav utihne?

Huang upozorava da, kako se upravljanje sve više delegira, postoji ozbiljan rizik da će ljudski operateri izgubiti sposobnost učinkovite intervencije. „Održavanje operativne spremnosti jednako je važno kao i izgradnja rezervnih mehanizama,” rekla je.

Borba protiv atrofije ljudskih vještina

Kako bi se to ublažilo, ona tvrdi da sustavi moraju održavati redovite vježbe u kojima ljudi preuzimaju kontrolu te uključivati načine u kojima ljudi simuliraju radnje agenata kako bi usporedili logiku. Također je potrebno osigurati da je „prekidač za gašenje” uvježbani postupak. „Cilj,” rekla je Huang, „jest osigurati da ljudski nadzor ostane funkcionalan i uvježban, a ne samo teorijski.”

Kako se svijet kreće prema projiciranom agentskom tržištu od 236 milijardi dolara do 2034., definicija „sudionika na tržištu” mijenja se. Više se ne radi samo o reguliranju ljudi, nego i takozvanih „super-pojedinaca” pogonjenih tisućama autonomnih botova.

Revolucija „odluči za platiti” nudi svijet besprijekorne učinkovitosti, ali zahtijeva potpuno redizajniranje globalne financijske arhitekture. Kako Huang kaže, da bismo upravljali ekonomijom brzinom stroja, i sam zakon mora postati brzinom stroja. Ako ne uspijemo ugraditi čovjeka u petlju na arhitektonskoj razini, riskiramo izgradnju ekonomije koja se kreće prebrzo da bi je njezini tvorci mogli kontrolirati.