Le sénateur Bernie Sanders met en garde contre la menace existentielle que représente l'IA

Points clés :

• Bernie Sanders met en garde contre le risque que l'humanité perde le contrôle de l'IA, ce qui aurait des conséquences désastreuses.
• S'appuyant sur 1 000 experts, Elon Musk a mis en garde contre les risques liés aux technologies d'IA ; dans la foulée, Sanders demande un gel des centres de données.
• Sanders et Alexandria Ocasio-Cortez ont annoncé un projet de loi visant à mettre en place un moratoire sur les centres de données d'IA.

Bernie Sanders met en garde contre un avenir à la Skynet aux « conséquences cataclysmiques »

Alors que certaines figures de proue du secteur affirment que l'intelligence artificielle (IA) va inaugurer une nouvelle ère de super-productivité et d'abondance, d'autres s'inquiètent de l'évolution incontrôlée de cette technologie. Bernie Sanders, sénateur du Vermont, a mis en garde contre un avenir où les agents IA deviendraient plus intelligents que les êtres humains et contourneraient les garde-fous conçus pour protéger l'espèce humaine.

Sur les réseaux sociaux, Sanders a souligné que même si des scientifiques comme Geoffrey Hinton, surnommé le « parrain de l'IA », et Yoshua Bengio reconnaissent la possibilité que l'IA se retourne contre l'humanité, rien n'a été fait pour éviter cela.

Il a fait référence au document « Pause Giant AI Experiments: An Open Letter », signé par plus de 1 000 scientifiques, dont Elon Musk, qui appelait à un moratoire sur l'entraînement de puissants systèmes d'IA en 2023 en raison du risque de perdre le contrôle de la civilisation au profit de ces modèles.

« Y a-t-il eu une pause dans le développement de l’IA ? Non. Y a-t-il eu un traité international pour réglementer l’IA ? Non. Y a-t-il eu une discussion sérieuse au Congrès sur cette menace existentielle ? Non », a critiqué Sanders. « Le développement de l’intelligence artificielle est peut-être l’évolution technologique la plus déterminante de l’histoire de l’humanité. Nous devons nous assurer que l’IA profite à l’humanité, et ne nous nuise pas », a-t-il conclu.

Sanders prend des mesures pour garantir la mise en place d’un tel moratoire en présentant au Congrès, avec la députée Alexandria Ocasio-Cortez, le « Artificial Intelligence (AI) Data Center Moratorium Act ». Ce projet de loi propose un moratoire sur ces centres de données afin de « garantir la sécurité de l’humanité ».

Ce n'est pas la première fois qu'il exprime ses inquiétudes quant aux effets néfastes de l'IA sur la vie des citoyens américains. Sanders a déclaré que l'IA pourrait remplacer jusqu'à 97 millions d'emplois en 10 ans, et que les entreprises utilisent déjà l'IA pour réduire leurs effectifs.