Sydney Huang met en garde contre le risque de voir la collusion entre les bots IA se généraliser avant que les autorités de régulation n'interviennent

La fin du « décalage » politique

Selon un rapport du Fonds monétaire international (FMI) datant d'avril 2026, le monde sort rapidement de l'ère du « click-to-pay » pour entrer dans celle du « decide-to-pay ». Mais alors que les humains se retirent de la boucle, une question importante se pose : nos garde-fous financiers peuvent-ils survivre à une économie fonctionnant à la vitesse des machines ?

Le rapport du FMI note que l’intelligence artificielle (IA) agentique est sur le point d’augmenter radicalement la vitesse de circulation de la monnaie. En supprimant les « frictions » humaines, le capital circulera dans l’économie mondiale à des vitesses sans précédent. Sydney Huang, PDG de Human API, suggère que nous pourrions assister à une multiplication par dix de la vitesse de circulation de la monnaie. Si cela ressemble à un miracle de productivité, cela représente un cauchemar pour les banques centrales. La politique monétaire traditionnelle repose sur un « décalage ». Lorsqu’une banque centrale relève ses taux d’intérêt, il faut des mois pour que cette décision se répercute à travers les institutions humaines. Dans une économie de type IA-à-IA, ce décalage disparaît.

« Une multiplication par dix de la vitesse de circulation de la monnaie, induite par le commerce entre IA, obligerait les régulateurs à adopter des outils fonctionnant à la vitesse des machines », prévient Mme Huang. Sans ces capacités, un pic d’inflation à la vitesse des machines ou un krach boursier mondial instantané pourrait se produire avant même qu’un régulateur humain ne reçoive une alerte sur son tableau de bord. Pour prévenir les défaillances en cascade, Mme Huang soutient que les régulateurs doivent cesser d’être de simples spectateurs et s’intégrer au code lui-même. «Cela inclut des systèmes de surveillance en temps réel, une conformité programmable intégrée directement dans l’infrastructure financière et des coupe-circuits automatisés pour prévenir les défaillances en cascade », a-t-elle déclaré. Cette vision s’aligne sur le cadre à trois niveaux proposé par le FMI, qui suggère que la couche d’autorisation de chaque transaction doit comporter des mandats intégrés, définis par l’homme. Huang suggère que « les régulateurs pourraient également devoir exprimer leurs politiques dans des formats lisibles par les machines, pouvant être appliqués au niveau de la transaction ». Le commerce agentique nécessite également des coupe-circuits automatisés au niveau des transactions, de sorte que lorsque les agents commencent à adopter un comportement fortement corrélé, des « fusibles » autonomes doivent sauter pour mettre fin à la réaction en chaîne. Le rapport du FMI souligne que « les systèmes agentiques peuvent interpréter des objectifs et surveiller l’activité en temps réel ». Cela signifie que les contrôles « Know Your Customer » (KYC) et de lutte contre le blanchiment d’argent sont programmés directement dans l’ADN de l’agent IA.

Prouver la provenance des décisions

L'un des défis les plus complexes pour les régulateurs dans cette nouvelle ère est peut-être le marché « invisible ». Dans un monde où les agents n'utilisent pas le langage humain pour se coordonner, la question se pose : comment distinguer un bot qui se contente d'optimiser ses actions d'une flotte de bots agissant de concert pour fixer les prix ? Huang note que cela nécessite de passer de l'analyse de la communication à l'analyse du comportement.

« Les régulateurs devront examiner des schémas tels que les actions synchronisées, les dépendances de données partagées et les anomalies statistiques », a-t-elle déclaré. La solution pourrait résider dans la « provenance des décisions ». Huang envisage un avenir où les agents seraient tenus de fournir une preuve vérifiable que les décisions ont été prises de manière indépendante, conformément à une politique déclarée. En prouvant comment une décision a été prise, les agents peuvent démontrer qu’ils ne se sont pas secrètement coordonnés avec leurs concurrents.

Au-delà de la réglementation, se pose la question de savoir comment ces agents communiquent réellement entre eux. Huang souligne qu’une négociation sécurisée entre agents nécessite des normes universelles en matière d’identité, de communication et d’application. « Les agents doivent être en mesure de vérifier l’identité et l’autorisation de chacun, d’opérer dans des cadres de négociation partagés et d’assortir leurs actions de garanties vérifiables », a déclaré Huang. Ce changement déplace la confiance des contreparties individuelles vers les garanties du système. En utilisant des normes émergentes telles que le protocole de paiement des agents (AP2) et le protocole de contexte modèle (MCP), les entreprises peuvent s’assurer qu’un agent de la société A peut négocier en toute sécurité avec un agent de la société B sans intermédiaire propriétaire. À mesure que la gouvernance est de plus en plus déléguée à ces mandataires numériques, un nouveau risque humain émerge : l’atrophie. Si un agent gère la trésorerie d’une entreprise pendant cinq ans sans intervention humaine, le trésorier humain saura-t-il encore comment gérer une crise si le système tombe en panne ? Mme Huang met en garde contre le fait que, à mesure que la gouvernance est de plus en plus déléguée, il existe un risque sérieux que les opérateurs humains perdent la capacité d’intervenir efficacement. « Maintenir la préparation opérationnelle est aussi important que de mettre en place des mécanismes de secours », a-t-elle déclaré.

Lutter contre l'atrophie des compétences humaines

Pour atténuer ce risque, elle soutient que les systèmes doivent organiser régulièrement des exercices où les humains prennent les commandes et intégrer des modes où les humains simulent les actions des agents afin de comparer la logique. Il est également nécessaire de s’assurer que le « kill switch » (bouton d’arrêt d’urgence) est une procédure bien rodée. « L’objectif », a déclaré Mme Huang, « est de garantir que la supervision humaine reste fonctionnelle et mise en pratique, plutôt que théorique ».

Alors que le monde s’oriente vers un marché des agents estimés à 236 milliards de dollars d’ici 2034, la définition d’un « acteur du marché » évolue. Il ne s’agit plus seulement de réglementer les personnes, mais les soi-disant « super-individus » alimentés par des milliers de robots autonomes.

La révolution du « decide-to-pay » offre un monde d’efficacité sans friction, mais elle exige une refonte totale de l’architecture financière mondiale. Comme le dit Huang, pour gouverner une économie à la vitesse des machines, la loi elle-même doit atteindre cette vitesse. Si nous ne parvenons pas à intégrer l’intervention humaine au niveau architectural, nous risquons de construire une économie qui évolue trop vite pour que ses créateurs puissent la contrôler.