'Mil millones de muertes': Bill Gates afirma que la IA podría provocar sucesos mortales

Bill Gates advierte del riesgo de víctimas en masa por culpa de la IA

La inteligencia artificial podría ayudar a las personas a llevar a cabo ataques a una escala que antes estaba fuera de su alcance, advirtió Bill Gates en una entrevista en el programa «Meet the Press» emitida el 27 de septiembre. Cuando se le preguntó si la IA podría acabar con la humanidad, el cofundador de Microsoft describió una grave posibilidad en lugar de predecir un resultado concreto. Gates afirmó:

«La IA es sin duda lo suficientemente potente como para provocar acontecimientos que, ya sabes, causen mil millones de muertes».

Su advertencia sobre los ataques facilitados por la IA se centró en la combinación de herramientas cada vez más capaces y personas con intenciones maliciosas. Gates identificó los ataques biológicos y cibernéticos como preocupaciones inmediatas. Sostuvo que la IA había superado umbrales peligrosos en ambas áreas este año, mientras que el gobierno carece de conocimientos técnicos, ya que gran parte del desarrollo tuvo lugar en el sector privado.

Por qué Gates califica la IA de «acontecimiento evolutivo»

En la entrevista, calificó la tecnología de «acontecimiento evolutivo» e instó a los responsables políticos, investigadores, votantes y empresas a participar en las decisiones sobre su uso. Describió la IA como algo que, en algunos aspectos, ya es más inteligente que las personas y predijo avances rápidos en los próximos años. Argumentó que los sistemas de IA pueden transferir conocimientos sin las limitaciones del aprendizaje humano individual. Su ensayo de agosto sobre los beneficios y los riesgos de la IA planteaba un argumento relacionado: las decisiones que se tomen ahora podrían determinar si la tecnología reduce la desigualdad o la agrava.

La entrevista amplía las preocupaciones que Gates ya había planteado antes de la emisión del domingo. En comentarios anteriores sobre la supervisión de la IA, propuso un organismo internacional inspirado en el Modelo de la Agencia Internacional de Energía Atómica y advirtió sobre posibles ataques biológicos asistidos por IA.

Gates aboga por leyes que exijan medidas de seguridad para la IA

Cuando se le preguntó si el sector podría autorregularse, Gates respondió:

«Nadie cree que la autorregulación sea suficiente».

Afirmó que era necesaria una legislación y que las fuerzas del orden y los legisladores deberían ayudar a determinar en qué consisten esas protecciones. Gates también argumentó que un «interruptor de apagado» por sí solo no evitaría los ataques. Un «interruptor de emergencia» permitiría a una empresa desactivar un servicio de IA, mientras que la supervisión mostraría lo que hizo el sistema y conservaría los registros para los investigadores. Reconoció que el cumplimiento de la normativa supondría algo más de trabajo para los desarrolladores, pero afirmó que no ralentizaría drásticamente su progreso.

Según Gates, también sería necesaria la cooperación transfronteriza. Comparó el reto con las negociaciones sobre armas nucleares de la época de la Guerra Fría y, a continuación, describió un acuerdo sobre IA como algo más difícil de alcanzar. Afirmó que las armas nucleares tenían características únicas, incluido el acceso a materiales fisionables. Gates advirtió de que tratar la IA principalmente como una competición nacional podría fomentar un desarrollo rápido sin las garantías adecuadas. El 22 de septiembre, en las Naciones Unidas, el secretario general, Antonio Guterres, también abogó por un marco multilateral de gestión de riesgos de la IA, un enfoque compartido de los riesgos de la IA entre países, con supervisión independiente.

La preocupación de Gates por los ciberataques también se aplica al software que gestiona y transfiere dinero. Más de 40 organizaciones de bitcoins y activos digitales han pedido a los principales desarrolladores de IA que concedan a investigadores de seguridad acreditados un acceso controlado y anticipado a los sistemas avanzados. Su petición de un acceso defensivo más sólido refleja la preocupación de que los atacantes puedan utilizar esas capacidades para detectar vulnerabilidades en el software, mientras que los defensores carecen de herramientas comparables.

El fraude basado en la IA supone un riesgo más inmediato

Los consumidores ya se enfrentan a ejemplos a menor escala de delincuentes que utilizan la IA para hacer que el engaño resulte más convincente. El FBI ha advertido de que hay personas que se hacen pasar por agentes federales y utilizan vídeos generados por IA y sitios web falsos para acercarse a víctimas de fraudes anteriores. La advertencia sobre las estafas por suplantación de identidad se refiere al robo financiero, un tipo de perjuicio diferente al de los incidentes con víctimas en masa que describió Gates. Ambos casos ilustran su preocupación por las herramientas potentes que caen en manos de personas que buscan hacer un uso indebido de ellas. Para los titulares de criptomonedas, los mensajes de phishing y las plataformas de intercambio falsas también pueden provocar pérdidas cuando los atacantes obtienen contraseñas o información de recuperación. Las medidas para evitar el fraude con criptomonedas incluyen comprobar las direcciones de los sitios web y ponerse en contacto con las organizaciones a través de sus sitios oficiales, en lugar de utilizar enlaces enviados en mensajes no solicitados.