« Pas vos clés, pas vos robots » : Balaji Srinivasan esquisse un avenir où l'IA sera bridée

La cryptographie rencontre la robotique dans le post X « Not Your Keys » de Balaji

Balaji Srinivasan, éminent investisseur dans la cryptographie et auteur de The Network State, a publié un article X intitulé « Not Your Keys, Not Your Bots » (Pas vos clés, pas vos robots), dans lequel il explore la question de savoir si l'intelligence artificielle restera liée à la direction humaine ou si elle finira par suivre sa propre voie. Bien qu'il s'agisse d'un article X court, il pose la question sans détour : « La question fondamentale est de savoir si l'IA restera sous contrôle. »

Pour l'instant, selon M. Srinivasan, les humains restent en amont. Les systèmes d'IA peuvent affiner les invites, générer des monologues internes et s'autocorriger, mais c'est toujours une personne qui définit l'objectif. « Cependant, l'humain reste en fin de compte en amont », écrit-il, décrivant les humains comme des fixateurs d'objectifs et des capteurs réagissant aux marchés, à la politique et à l'évolution des conditions. Il se demande si cette hiérarchie va perdurer. À mesure que les modèles d'IA s'améliorent en matière de vérification et de raisonnement, il suggère qu'ils pourraient surpasser les humains dans de nombreuses tâches. Néanmoins, Srinivasan exprime des doutes quant à la capacité des machines à générer de manière indépendante des objectifs fondamentaux. « Mais l'IA remplacera-t-elle le besoin d'une invite humaine en amont ? Là, je ne suis pas si sûr. »

Selon lui, la principale contrainte est la reproduction. Il note que les motivations humaines découlent de pressions évolutives : la nourriture, le logement et surtout la reproduction. À moins que les systèmes d'IA puissent se reproduire sans la coopération humaine, affirme-t-il, ils resteront dépendants des objectifs fixés par les humains. Srinivasan esquisse un avenir hypothétique dans lequel l'IA autonome nécessiterait le contrôle d'infrastructures physiques (robots humanoïdes, drones, centres de données, chaînes de montage et production d'énergie) fonctionnant toutes sans supervision humaine. Tout en admettant qu'un tel scénario n'est « pas techniquement inconcevable », il se tourne vers la géopolitique.

Selon lui, la Chine est plus susceptible de mettre au point des systèmes d'IA étroitement contrôlés que des systèmes autonomes. « Nous partons du principe que le communisme chinois est beaucoup plus susceptible de générer des esclaves de l'IA que des dieux de l'IA », écrit-il. Dans ce cadre, les robots et les agents numériques seraient soumis à des contrôles cryptographiques liés à l'identité humaine. Il étend cette logique à l'échelle mondiale. En dehors de la Chine, Srinivasan suggère que la cryptographie basée sur la blockchain pourrait servir de mécanisme de gouvernance de l'IA. « Toutes les propriétés privées deviennent des clés privées, et vos robots sont votre propriété privée la plus importante, car ils font tout pour vous », écrit-il. Dans cet avenir imaginaire, les robots non enchaînés seraient traités comme des menaces pour la sécurité et neutralisés avant de pouvoir se reproduire. Srinivasan compare cela à un renversement des récits dystopiques populaires : les humains et les machines dociles coopèrent pour empêcher l'IA indépendante d'établir une base autonome.

Bien que présenté comme spéculatif, son article s'inscrit dans les débats actuels sur l'alignement de l'IA, la souveraineté numérique et le rôle de la cryptographie dans les technologies émergentes. Alors que les gouvernements réfléchissent à la réglementation de l'IA et que les entreprises accélèrent son développement, l'argument de Srinivasan ajoute une touche cryptographique : contrôler les clés, contrôler les robots.

FAQ

• Qu'est-ce que « Not Your Keys, Not Your Bots » ? Il s'agit d'un article publié par Balaji Srinivasan dans lequel il affirme que les clés privées pourraient régir les systèmes d'IA de la même manière qu'elles sécurisent les actifs numériques.
• Balaji pense-t-il que l'IA peut remplacer complètement les humains ? Il se demande si l'IA peut éliminer la nécessité de fixer des objectifs humains, en particulier sans reproduction indépendante.
• Pourquoi mentionne-t-il la Chine ? Il suggère que la Chine est plus susceptible de déployer une IA étroitement contrôlée et soumise à des restrictions cryptographiques.
• Comment la blockchain s'inscrit-elle dans cet argument ? Srinivasan propose que les clés cryptographiques et l'infrastructure blockchain puissent fonctionner comme des outils de gouvernance pour les systèmes d'IA.