Sydney Huang opozarja, da se lahko tajno dogovarjanje med botom z umetno inteligenco razširi, preden se regulativni organi odzovejo

Konec »zamika« v politiki

Glede na poročilo Mednarodnega denarnega sklada (IMF) iz aprila 2026 se svet hitro poslavlja od dobe »klikni in plačaj« ter vstopa v dobo »odloči se in plačaj«. A ko se ljudje umikajo iz kroga, se pojavi pomembno vprašanje: ali lahko naše finančne zaščitne ograje preživijo gospodarstvo, ki deluje s hitrostjo strojev?

Poročilo MDS ugotavlja, da bo agencijska umetna inteligenca (AI) radikalno povečala hitrost denarnega obtoka. Z odstranitvijo človeškega »trenja« bo kapital krožil po svetovnem gospodarstvu z doslej neznanimi hitrostmi. Sydney Huang, izvršni direktor podjetja Human API, predvideva, da bi se hitrost denarnega obtoka lahko povečala za desetkrat. Čeprav se to sliši kot čudež produktivnosti, za centralne banke predstavlja nočno moro. Tradicionalna monetarna politika temelji na »zamiku«. Ko centralna banka dvigne obrestne mere, traja mesece, preden se ta odločitev prenese skozi človeške institucije. V gospodarstvu AI-AI ta zamik izgine.

»Desetkratno povečanje hitrosti denarnega obtoka, ki ga poganjajo trgovina med umetno inteligenco in umetno inteligenco, bi od regulatorjev zahtevalo sprejetje orodij, ki delujejo s hitrostjo stroja,« opozarja Huang. Brez teh zmogljivosti bi lahko prišlo do inflacijskega skoka s hitrostjo stroja ali globalnega bliskovitega zloma, še preden bi človeški regulator sploh prejel opozorilo na nadzornem panelu.
Da bi preprečili verižne okvare, Huang trdi, da morajo regulatorji prenehati biti gledalci in postati del samega kode. »To vključuje sisteme za spremljanje v realnem času, programirljivo skladnost, vgrajeno neposredno v finančno infrastrukturo, in avtomatizirane prekinjevalce tokokroga za preprečevanje verižnih okvar,“ je dejala. Ta vizija je v skladu s predlaganim trislojnim okvirom MDS, ki predlaga, da mora imeti avtorizacijski sloj vsake transakcije vgrajene, s strani človeka določene mandate.

Huang predlaga, da „bodo regulatorji morda morali izražati politike v strojno berljivih formatih, ki jih je mogoče izvrševati na ravni transakcij.“ Agentsko trgovanje zahteva tudi avtomatizirane prekinjevalce na ravni transakcij, tako da se, ko agenti začnejo kazati visoko korelirano vedenje, sprožijo avtonomne »varovalke«, ki ustavijo verižno reakcijo.

Poročilo MDS poudarja, da »agentski sistemi lahko razlagajo cilje in spremljajo dejavnosti v realnem času«. To pomeni, da so preverjanja »poznaj svojega stranko« in proti pranju denarja programirana neposredno v DNK AI agenta.

Dokazovanje izvora odločitev

Morda je eden najbolj zapletenih izzivov za regulatorje v tej novi dobi »nevidni« trg. V svetu, kjer agenti za usklajevanje ne uporabljajo človeškega jezika, se pojavi vprašanje: kako razlikujemo med botom, ki preprosto optimizira, in floto botov, ki se dogovarjajo o določitvi cen?

Huang opozarja, da to zahteva prehod od analize komunikacije k analizi vedenja.

»Regulatorji bodo morali preučiti vzorce, kot so sinhronizirana dejanja, odvisnosti od skupnih podatkov in statistične anomalije,« je dejala. Rešitev je morda v »izvoru odločitev«. Huang predlaga prihodnost, v kateri bodo agenti morali zagotoviti preverljiv dokaz, da so bile odločitve sprejete neodvisno v skladu z deklarirano politiko. Z dokazovanjem, kako je bila sprejeta odločitev, lahko agenti pokažejo, da se niso skrivaj usklajevali s konkurenti.

Poleg regulacije je tu še vprašanje, kako ti agenti dejansko komunicirajo med seboj. Huang poudarja, da varna pogajanja med agenti zahtevajo univerzalne standarde za identiteto, komunikacijo in izvrševanje.
„Agenti morajo biti sposobni preveriti identiteto in pooblastila drug drugega, delovati v okviru skupnih pogajalskih okvirov ter svojim dejanjem priložiti preverljiva jamstva,“ je dejala Huang. Ta prehod zaupanje preusmerja stran od posameznih pogodbenih strank in ga prenese na jamstva sistema. Z uporabo nastajajočih standardov, kot sta protokol za plačila agentov (AP2) in protokol za modelni kontekst (MCP), lahko podjetja zagotovijo, da se agent iz podjetja A lahko varno pogaja z agentom iz podjetja B brez lastniškega posrednika.
Ko se tem digitalnim pooblaščenim zastopnikom prenese več upravljanja, se pojavi novo človeško tveganje: atrofija. Če agent pet let upravlja s finančnimi sredstvi podjetja brez človeškega posredovanja, bo človeški finančni direktor še vedno vedel, kako ravnati v krizi, če sistem neha delovati?

Huang opozarja, da s čedalje večjim prenosom upravljanja obstaja resno tveganje, da bodo človeški operaterji izgubili sposobnost učinkovitega posredovanja. »Ohranjanje operativne pripravljenosti je enako pomembno kot vzpostavljanje nadomestnih mehanizmov,« je dejala.

Boj proti atrofiji človeških veščin

Da bi to ublažili, trdi, da morajo sistemi izvajati redne vaje, kjer ljudje prevzamejo krmilo, in vključiti načine, kjer ljudje simulirajo dejanja agentov, da primerjajo logiko. Prav tako je treba zagotoviti, da je »kill switch« vaja. »Cilj,« je dejala Huang, »je zagotoviti, da človeški nadzor ostane funkcionalen in v praksi, ne le teoretičen.«

Ker se svet približuje predvidenemu trgu agentov v vrednosti 236 milijard dolarjev do leta 2034, se spreminja definicija »udeleženca na trgu«. Ne gre več le za reguliranje ljudi, ampak za tako imenovane »superposameznike«, ki jih poganjajo tisoči avtonomnih botov.

Revolucija »odloči se za plačilo« ponuja svet brezhibne učinkovitosti, vendar zahteva popolno preoblikovanje globalne finančne arhitekture. Kot pravi Huang, mora za upravljanje gospodarstva, ki deluje s hitrostjo strojev, postati tudi zakon sam tako hiter kot stroji. Če nam ne uspe vgraditi človeškega dejavnika na arhitekturni ravni, tvegamo, da bomo zgradili gospodarstvo, ki se giblje prehitro, da bi ga njegovi ustvarjalci lahko nadzorovali.