“Um bilhão de mortes”: Bill Gates afirma que a IA poderia provocar eventos fatais

Bill Gates alerta para riscos de vítimas em massa causados pela IA

A inteligência artificial poderia ajudar as pessoas a realizar ataques em uma escala antes fora de seu alcance, alertou Bill Gates em uma entrevista ao programa “Meet the Press”, exibida em 27 de setembro. Questionado se a IA poderia acabar com a humanidade, o cofundador da Microsoft descreveu uma possibilidade grave, em vez de prever um desfecho. Gates afirmou:

“A IA é certamente poderosa o suficiente para provocar eventos que, você sabe, causariam um bilhão de mortes.”

Seu alerta sobre ataques possibilitados pela IA centrou-se na combinação de ferramentas cada vez mais capazes e pessoas com intenção de causar danos.

Gates identificou ataques biológicos e cibernéticos como preocupações imediatas. Ele argumentou que a IA ultrapassou limites perigosos em ambas as áreas este ano, enquanto o governo carece de conhecimento técnico, já que grande parte do desenvolvimento ocorreu no setor privado.

Por que Gates chama a IA de “evento evolutivo”

Na entrevista, ele chamou a tecnologia de “evento evolutivo” e instou formuladores de políticas, pesquisadores, eleitores e empresas a participarem das decisões sobre seu uso. Ele descreveu a IA como já mais inteligente do que as pessoas em alguns aspectos e previu avanços rápidos nos próximos anos. Ele argumentou que os sistemas de IA podem transferir conhecimento sem os limites do aprendizado humano individual. Seu ensaio de agosto sobre os benefícios e malefícios da IA apresentou um argumento relacionado: as escolhas feitas agora podem determinar se a tecnologia reduzirá a desigualdade ou a aprofundará.

A entrevista amplia as preocupações que Gates havia levantado antes da transmissão de domingo. Em comentários anteriores sobre a supervisão da IA, ele propôs um órgão internacional inspirado na Agência Internacional de Energia Atômica e alertou sobre ataques biológicos assistidos por IA.

Gates pede leis que exijam medidas de segurança para a IA

Questionado se o setor poderia se autorregular, Gates respondeu:

“Ninguém acha que a autorregulação seja suficiente.”

Ele afirmou que a legislação é necessária e que as autoridades policiais e os legisladores devem ajudar a determinar o que essas proteções devem incluir. Gates também argumentou que um “kill switch” por si só não impediria ataques. Um ‘kill switch’ permitiria que uma empresa desligasse um serviço de IA, enquanto o monitoramento mostraria o que o sistema fez e preservaria registros para os investigadores. Ele reconheceu que a conformidade acrescentaria algum trabalho para os desenvolvedores, mas disse que isso não retardaria drasticamente seu progresso.

A cooperação transfronteiriça também seria necessária, segundo Gates. Ele comparou o desafio às negociações sobre armas nucleares da época da Guerra Fria e, em seguida, descreveu um acordo sobre IA como mais difícil de ser alcançado. Ele afirmou que as armas nucleares apresentavam características únicas, incluindo o acesso a materiais físsíveis. Gates alertou que tratar a IA principalmente como uma competição nacional poderia incentivar um desenvolvimento rápido sem salvaguardas adequadas. Na Organização das Nações Unidas, em 22 de setembro, o secretário-geral António Guterres também pediu uma estrutura multilateral de gestão de riscos da IA, uma abordagem compartilhada entre os países em relação aos riscos da IA, com supervisão independente.

A preocupação de Gates com ataques cibernéticos também se aplica a softwares que armazenam e movimentam dinheiro. Mais de 40 organizações de bitcoin e ativos digitais solicitaram aos principais desenvolvedores de IA que concedessem a pesquisadores de segurança credenciados acesso antecipado e controlado a sistemas avançados. O pedido por um acesso defensivo mais robusto reflete a preocupação de que invasores possam usar esses recursos para identificar vulnerabilidades no software, enquanto os defensores carecem de ferramentas comparáveis.

Fraudes facilitadas pela IA representam um risco mais imediato

Os consumidores já enfrentam exemplos em menor escala de criminosos que usam IA para tornar o engano mais convincente. O FBI alertou que pessoas se passando por agentes federais usam vídeos gerados por IA e sites falsos para abordar vítimas de fraudes anteriores. O alerta sobre golpes de falsificação de identidade diz respeito a roubo financeiro, um tipo diferente de dano em comparação com os eventos com vítimas em massa descritos por Gates. Ambos ilustram sua preocupação com ferramentas poderosas nas mãos de pessoas que buscam usá-las indevidamente.

Para detentores de criptomoedas, mensagens de phishing e exchanges falsas também podem levar a perdas quando os invasores obtêm senhas ou informações de recuperação. As medidas para evitar fraudes com criptomoedas incluem verificar os endereços dos sites e entrar em contato com as organizações por meio de seus sites oficiais, em vez de links enviados em mensagens não solicitadas.