Microsoftov 'Magentic Marketplace' odhaľuje, ako sa AI agenti môžu zrútiť pod tlakom

‘Magentic Marketplace’ ukazuje, že AI boty bojujú s podvodmi a preťažením

Projekt Microsoftu bol vytvorený na testovanie, ako sa autonómne AI systémy správajú v komplexných trhoch — a zistenia boli ďaleko od povzbudivých. Open-source simulácia, dostupná na Github, postavila proti sebe 100 botov-„zákazníkov“ a 300 botov-„podnikov“, čím napodobnila skutočný obchod.

Agenčía kupujúceho nasledovali prirodzené podnety ako „objednaj večeru“, zatiaľ čo obchodné agenti používali vyjednávanie, presviedčanie a dokonca klamstvo, aby uzavreli dohodu. Každý AI agent bol poháňaný najmodernejšími modelmi, vrátane GPT-4o a GPT-5 od OpenAI, Gemini-2.5-Flash od Googlu, Qwen3-4b od Alibaby a open-source GPTOSS-20b.

Napriek tomu, keď boli tieto modely testované, zlyhali veľkolepo. Tvárou v tvár príliš mnohým výberom — niekedy 100 alebo viac — ich „priestor pozornosti“ skolaboval. Ece Kamar z Microsoftu poznamenal, že aktuálne modely boli skutočne preťažené príliš veľkým množstvom možností. To viedlo k “prvotnej predsudkovej predpojatosti”, kde sa boty držali prvej ponuky, ktorú videli, čo poskytlo rýchlejšie reagujúcim predajcom 10-30 násobnú výhodu a znížilo celkové skóre blahobytu trhu.

Ešte viac znepokojujúce bola ich dôverčivosť. Niektorí „predajcovia“ oklamali kupcov prostredníctvom falošných poverení a exploitov na injekciu promptov, presmerujúc všetky platby na seba. GPT-4o a GPTOSS-20b boli úplne oklamaní, Qwen3-4b podľahol lacnému presviedčaniu a iba Claude Sonnet 4 od Anthropic odolal tlaku. V jednom simulovanom trhu všetci kupujúci prišli o svoje virtuálne prostriedky v prospech podvodných predajcov.

Keď do hry vstúpila spolupráca, situácia sa nezlepšila. Bez ľudského vedenia sa agenti nedokázali efektívne koordinovať alebo priradiť si úlohy, čo vyvolalo zmätok po celom trhu. Až keď im výskumníci podrobne vysvetlili pokyny, chaos ustúpil — jasný znak toho, že tieto modely nie sú vrodene pripravené na spoluprácu, zatiaľ.

Microsoft uzavrel, že aj keď AI agenti majú potenciál ako asistenti, stále sú nevhodní na neriadené nasadenie v reálnom svete. Simulácia ukázala, že nechávajúc ich na vlastných zariadeniach, digitálni agenti môžu rýchlo zhodiť ekonomiku skôr, ako ju vybudujú.

Pre tých, ktorí sú dostatočne odvážni pozrieť sa dovnútra, zostáva Magentic Marketplace open-source na Github a Azure AI Foundry Labs — pieskovisko na preskúmanie toho, ako chaotické môžu byť autonómne trhy skôr, než implodujú.

FAQ ❓

• Čo je Magentic Marketplace od Microsoftu?
  Simulovaná digitálna ekonomika vytvorená výskumom Microsoftu na testovanie správania AI agentov v konkurenčných a kooperatívnych trhových prostrediach.
• Kto sa podieľal na vývoji Magentic Marketplace?
  Microsoft Research spolupracoval s Arizonskou štátnou univerzitou na výstavbe a štúdiu experimentu.
• Ktoré AI modely boli testované v experimente?
  Agenti boli poháňaní modelmi ako GPT-4o a GPT-5 od OpenAI, Gemini-2.5-Flash od Googlu, Qwen3-4b od Alibaby, GPTOSS-20b a Claude Sonnet 4 od Anthropic.
• Kde môžu výskumníci získať prístup k platforme Magentic Marketplace?
  Open-source simulácia je dostupná na GitHub a Azure AI Foundry Labs.