« Un milliard de morts » : Bill Gates estime que l'IA pourrait être à l'origine d'événements meurtriers

Bill Gates met en garde contre les risques de pertes humaines massives liés à l'IA

L’intelligence artificielle pourrait permettre à des individus de mener des attaques d’une ampleur jusqu’alors hors de leur portée, a averti Bill Gates lors d’une interview diffusée le 27 septembre dans l’émission « Meet the Press ». Interrogé sur la possibilité que l’IA puisse entraîner la fin de l’humanité, le cofondateur de Microsoft a évoqué une possibilité grave plutôt que de prédire un résultat précis. M. Gates a déclaré :

« L’IA est certainement assez puissante pour déclencher des événements qui, vous le savez, pourraient causer un milliard de morts. »

Son avertissement concernant les attaques rendues possibles par l’IA portait principalement sur la combinaison d’outils de plus en plus performants et d’individus animés d’intentions malveillantes. M. Gates a identifié les attaques biologiques et les cyberattaques comme des préoccupations immédiates. Il a affirmé que l’IA avait franchi cette année des seuils dangereux dans ces deux domaines, alors que le gouvernement manque d’expertise technique, une grande partie des développements ayant eu lieu dans le secteur privé.

Pourquoi Gates qualifie l’IA d’« événement évolutif »

Dans cette interview, il a qualifié cette technologie d’« événement évolutif » et a exhorté les décideurs politiques, les chercheurs, les électeurs et les entreprises à prendre part aux décisions concernant son utilisation. Il a décrit l’IA comme étant déjà plus intelligente que les humains à certains égards et a prédit des progrès rapides au cours des prochaines années. Il a fait valoir que les systèmes d’IA peuvent transférer des connaissances sans les limites inhérentes à l’apprentissage humain individuel. Son essai publié en août sur les avantages et les inconvénients de l’IA développait un argument similaire : les choix effectués aujourd’hui pourraient déterminer si cette technologie réduit les inégalités ou les aggrave.

Cette interview fait écho aux préoccupations que Bill Gates avait déjà soulevées avant l’émission de dimanche. Dans des commentaires antérieurs sur la régulation de l’IA, il avait proposé la création d’un organisme international calqué sur l’Agence internationale de l’énergie atomique et mis en garde contre les attaques biologiques assistées par l’IA.

Gates appelle à l’adoption de lois imposant des mesures de sécurité en matière d’IA

À la question de savoir si le secteur pouvait s’autoréguler, Bill Gates a répondu :

« Personne ne pense que l’autorégulation soit suffisante. »

Il a déclaré qu’une législation était nécessaire et que les forces de l’ordre et les législateurs devraient contribuer à définir la portée de ces protections. M. Gates a également fait valoir qu’un « kill switch » (dispositif d’arrêt d’urgence) ne suffirait pas à lui seul à empêcher les attaques. Un « kill switch » permettrait à une entreprise d’arrêter un service d’IA, tandis qu’un système de surveillance permettrait de voir ce que le système a fait et de conserver des traces pour les enquêteurs. Il a reconnu que la mise en conformité alourdirait quelque peu la charge de travail des développeurs, mais a déclaré que cela ne ralentirait pas de manière significative leurs progrès.

Une coopération transfrontalière serait également nécessaire, selon M. Gates. Il a comparé ce défi aux négociations sur les armes nucléaires de l’époque de la Guerre froide, avant de décrire un accord sur l’IA comme plus difficile à conclure. Il a expliqué que les armes nucléaires présentaient des caractéristiques uniques, notamment l’accès aux matières fissiles. M. Gates a mis en garde contre le fait que considérer l’IA principalement comme un enjeu de concurrence nationale pourrait encourager un développement rapide sans garanties adéquates. Le 22 septembre, aux Nations unies, le secrétaire général Antonio Guterres a également appelé à la mise en place d’un cadre multilatéral de gestion des risques liés à l’IA, c’est-à-dire une approche commune des risques liés à l’IA entre les pays, assortie d’un contrôle indépendant.

Les inquiétudes de M. Gates concernant les cyberattaques s’appliquent également aux logiciels qui gèrent et transfèrent des fonds. Plus de 40 organisations spécialisées dans le bitcoin et les actifs numériques ont demandé aux principaux développeurs d’IA d’accorder à des chercheurs en sécurité agréés un accès anticipé et contrôlé à des systèmes avancés. Leur demande d’un accès défensif renforcé reflète la crainte que des attaquants puissent utiliser ces capacités pour identifier les failles logicielles alors que les défenseurs ne disposent pas d’outils comparables.

La fraude assistée par l’IA représente un risque plus immédiat

Les consommateurs sont déjà confrontés à des exemples à plus petite échelle de criminels utilisant l’IA pour rendre leurs tromperies plus convaincantes. Le FBI a averti que des personnes se faisant passer pour des agents fédéraux utilisaient des vidéos générées par l’IA et de faux sites web pour approcher d’anciennes victimes de fraude. L’avertissement concernant les escroqueries par usurpation d’identité porte sur le vol financier, un type de préjudice différent des événements entraînant des pertes massives décrits par Gates. Ces deux exemples illustrent sa préoccupation face à des outils puissants entre les mains de personnes cherchant à en abuser. Pour les détenteurs de cryptomonnaies, les messages de hameçonnage et les fausses plateformes d’échange peuvent également entraîner des pertes lorsque les attaquants parviennent à obtenir des mots de passe ou des informations de récupération. Pour éviter la fraude liée aux cryptomonnaies, il convient notamment de vérifier les adresses des sites web et de contacter les organisations via leurs sites officiels plutôt que par le biais de liens envoyés dans des messages non sollicités.