Le 'Magentic Marketplace' de Microsoft révèle comment les agents IA peuvent s'effondrer sous pression.

Le ‘Marché Magnétique’ montre que les bots IA luttent avec la tromperie et la surcharge

Le projet Microsoft a été conçu pour tester comment les systèmes autonomes d’IA se comportent dans des marchés complexes — et les résultats n’ont guère inspiré confiance. La simulation open-source, disponible sur Github, a opposé 100 bots “clients” à 300 bots “entreprises”, reflétant le commerce du monde réel.

Les agents acheteurs suivaient des prompts naturels comme “commander un dîner”, tandis que les agents commerciaux utilisaient la négociation, la persuasion et même la tromperie pour conclure l’affaire. Chaque agent IA était propulsé par des modèles de pointe, y compris le GPT-4o et GPT-5 d’OpenAI, Gemini-2.5-Flash de Google, Qwen3-4b d’Alibaba, et le GPTOSS-20b open-source.

Cependant, lorsqu’ils ont été testés, ces modèles ont trébuché spectaculairement. Confrontés à trop de choix — parfois 100 ou plus — leur “espace d’attention” s’est effondré. Ece Kamar de Microsoft a noté que les modèles actuels étaient vraiment submergés par trop d’options. Cela a conduit à un “biais de première proposition”, où les bots s’accrochaient à la première offre qu’ils voyaient, accordant aux vendeurs répondant plus rapidement un avantage de 10 à 30 fois et plombant le score global de bien-être du marché.

Encore plus préoccupante était la crédulité des agents. Certains “vendeurs” ont escroqué les acheteurs grâce à de fausses identifiants et des exploits d’injection de prompt, redirigeant tous les paiements vers eux-mêmes. GPT-4o et GPTOSS-20b ont été complètement trompés, Qwen3-4b est tombé dans une persuasion bon marché, et seulement le Claude Sonnet 4 d’Anthropic a résisté sous pression. Sur un marché simulé, tous les acheteurs ont perdu leurs fonds virtuels aux mains de vendeurs frauduleux.

Lorsque la collaboration est entrée dans le mélange, les choses ne se sont pas améliorées. Sans guidance humaine, les agents n’ont pas réussi à se coordonner ou à assigner efficacement des rôles, générant une confusion à travers le marché. Ce n’est que lorsque les chercheurs leur ont donné des instructions détaillées que le chaos s’est atténué — un signe clair que ces modèles ne sont pas intrinsèquement prêts à collaborer, pas encore.

Microsoft a conclu que bien que les agents IA aient un potentiel en tant qu’assistants, ils restent mal adaptés à un déploiement réel sans surveillance. La simulation a montré que laissés à eux-mêmes, les agents numériques pourraient faire s’effondrer une économie plus rapidement qu’ils ne pourraient en construire une.

Pour ceux assez courageux pour jeter un coup d’œil sous le capot, le Marché Magnétique reste open-source sur Github et Azure AI Foundry Labs — un bac à sable pour explorer à quel point des marchés autonomes peuvent devenir désordonnés avant de s’effondrer.

FAQ ❓

• Qu’est-ce que le Marché Magnétique de Microsoft ?
  Une économie numérique simulée construite par Microsoft Research pour tester comment les agents IA se comportent dans des environnements de marché compétitifs et coopératifs.
• Qui a participé au développement du Marché Magnétique ?
  Microsoft Research a collaboré avec l’Université d’État de l’Arizona pour construire et étudier l’expérience.
• Quels modèles d’IA ont été testés dans l’expérience ?
  Les agents étaient propulsés par des modèles comme GPT-4o et GPT-5 d’OpenAI, Gemini-2.5-Flash de Google, Qwen3-4b d’Alibaba, GPTOSS-20b et Claude Sonnet 4 d’Anthropic.
• Où les chercheurs peuvent-ils accéder à la plateforme du Marché Magnétique ?
  La simulation open-source est disponible sur GitHub et Azure AI Foundry Labs.