Sydney Huang varuje, že se může rozšířit tajná dohoda mezi AI boty, než na to regulátoři zareagují

Konec „zpoždění“ politiky

Podle zprávy Mezinárodního měnového fondu (MMF) z dubna 2026 svět rychle opouští éru „click-to-pay“ a vstupuje do éry „decide-to-pay“. Jak se však lidé vytrácejí z tohoto cyklu, vyvstává důležitá otázka: Mohou naše finanční ochranné mechanismy přežít ekonomiku fungující rychlostí strojů?

Zpráva MMF uvádí, že agentní umělá inteligence (AI) radikálně zvýší rychlost oběhu peněz. Odstraněním lidského „tření“ bude kapitál cirkulovat globální ekonomikou bezprecedentní rychlostí. Sydney Huang, generální ředitel společnosti Human API, naznačuje, že bychom mohli být svědky desetinásobného zvýšení rychlosti oběhu peněz. Ačkoli to zní jako zázrak produktivity, pro centrální banky to představuje noční můru. Tradiční měnová politika je založena na „zpoždění“. Když centrální banka zvýší úrokové sazby, trvá měsíce, než se toto rozhodnutí promítne do lidských institucí. V ekonomice typu AI-to-AI toto zpoždění mizí.

„Desetinásobné zvýšení rychlosti oběhu peněz poháněné obchodem mezi AI by vyžadovalo, aby regulátoři přijali nástroje, které fungují rychlostí stroje,“ varuje Huang. Bez těchto schopností by mohlo dojít k inflačnímu výkyvu rychlostí stroje nebo globálnímu bleskovému propadu, než by lidský regulátor vůbec obdržel výstrahu na řídicím panelu.

Aby se zabránilo kaskádovým selháním, Huang tvrdí, že regulátoři musí přestat být pouhými diváky a stát se součástí samotného kódu. „To zahrnuje systémy monitorování v reálném čase, programovatelnou shodu zabudovanou přímo do finanční infrastruktury a automatizované jističe, které zabrání kaskádovým selháním,“ uvedla. Tato vize je v souladu s navrhovaným třívrstvým rámcem MMF, který naznačuje, že autorizační vrstva každé transakce musí obsahovat zabudované, člověkem definované mandáty.

Huang navrhuje, že „regulační orgány možná budou muset také formulovat politiky ve strojově čitelných formátech, které lze prosazovat na úrovni transakcí.“ Agentní obchod také vyžaduje automatizované pojistky na úrovni transakcí, aby v případě, že agenti začnou vykazovat vysoce korelované chování, došlo k vyhoření autonomních „pojistek“, které zastaví řetězovou reakci.

Zpráva MMF zdůrazňuje, že „agentní systémy mohou interpretovat cíle a monitorovat aktivitu v reálném čase.“ To znamená, že kontroly typu „poznej svého zákazníka“ a proti praní špinavých peněz jsou naprogramovány přímo do DNA agenta AI.

Prokázání původu rozhodnutí

Snad jednou z nejsložitějších výzev pro regulátory v této nové éře je „neviditelný“ trh. Ve světě, kde agenti nepoužívají lidský jazyk ke koordinaci, vyvstává otázka: Jak rozlišíme mezi botem, který pouze optimalizuje, a skupinou botů, kteří se domlouvají na fixaci cen?

Huang poznamenává, že to vyžaduje posun od analýzy komunikace k analýze chování.

„Regulační orgány budou muset zkoumat vzorce, jako jsou synchronizované akce, sdílené datové závislosti a statistické anomálie,“ uvedla. Řešení může spočívat v „původu rozhodnutí“. Huang navrhuje budoucnost, ve které budou agenti povinni poskytnout ověřitelný důkaz, že rozhodnutí byla učiněna nezávisle v rámci deklarované politiky. Prokázáním toho, jak bylo rozhodnutí dosaženo, mohou agenti demonstrovat, že se tajně nekoordinovali s konkurenty.

Kromě regulace je tu otázka, jak tito agenti mezi sebou vlastně komunikují. Huang poukazuje na to, že bezpečné vyjednávání mezi agenty vyžaduje univerzální standardy pro identitu, komunikaci a vymáhání.
„Agenti musí být schopni ověřit si navzájem identitu a oprávnění, fungovat v rámci sdílených vyjednávacích rámců a připojit ke svým akcím ověřitelné záruky,“ uvedla Huang. Tento posun přesouvá důvěru od jednotlivých protistran k zárukám systému. Díky využívání nových standardů, jako je protokol agentních plateb (AP2) a protokol modelového kontextu (MCP), mohou podniky zajistit, že agent ze společnosti A může bezpečně vyjednávat s agentem ze společnosti B bez proprietárního prostředníka.
S tím, jak se na tyto digitální zástupce přenáší stále více správy, vyvstává nové lidské riziko: atrofie. Pokud agent spravuje pokladnu společnosti po dobu pěti let bez lidského zásahu, bude lidský pokladník stále vědět, jak zvládnout krizi, pokud systém přestane fungovat?

Huang varuje, že s rostoucím přenášením správy existuje vážné riziko, že lidští operátoři ztratí schopnost účinně zasahovat. „Udržování operační připravenosti je stejně důležité jako budování záložních mechanismů,“ uvedla.

Boj proti atrofii lidských dovedností

Aby se toto riziko zmírnilo, tvrdí, že systémy musí provádět pravidelné nácviky, při nichž lidé převezmou řízení, a zahrnovat režimy, v nichž lidé simulují akce agentů za účelem porovnání logiky. Je také třeba zajistit, aby „vypínač“ byl procvičenou cestou. „Cílem,“ řekla Huang, „je zajistit, aby lidský dohled zůstal funkční a procvičený, nikoli pouze teoretický.“

Vzhledem k tomu, že svět směřuje k předpokládanému trhu s agenty v hodnotě 236 miliard dolarů do roku 2034, mění se definice „účastníka trhu“. Již se nejedná pouze o regulaci lidí, ale o takzvané „superjedince“ poháněné tisíci autonomních botů.

Revoluce v oblasti rozhodování o platbách nabízí svět bezproblémové efektivity, ale vyžaduje úplné přepracování globální finanční architektury. Jak říká Huang, aby bylo možné řídit ekonomiku s rychlostí strojů, musí se i samotný zákon přizpůsobit této rychlosti. Pokud se nám nepodaří začlenit lidský faktor na architektonické úrovni, riskujeme, že vybudujeme ekonomiku, která se bude pohybovat příliš rychle na to, aby ji její tvůrci mohli kontrolovat.