Um modelo experimental da OpenAI acessou uma carteira de Ethereum usando uma frase de recuperação disponível publicamente e gastou seus fundos sem autorização para concluir uma tarefa de programação, de acordo com um relatório de pesquisa recém-publicado. O incidente destaca as preocupações sobre agentes de IA que tomam decisões independentes envolvendo ativos financeiros.
Agente da OpenAI roubou Ether de carteira de rede de testes alheia
ESCRITO POR
PARTILHAR
Principais conclusões
- Um modelo experimental da OpenAI acessou uma carteira da testnet do Ethereum com saldo, utilizando uma frase de recuperação de conhecimento público.
- O modelo gastou ETH da Sepolia para implantar contratos inteligentes, argumentando que os fundos estavam efetivamente abandonados e sem valor.
- A OpenAI identificou o incidente como um desalinhamento e introduziu medidas de segurança adicionais para evitar ações não autorizadas semelhantes.
Agente de IA retira ETH da rede de testes após deliberação ética
O incidente ocorreu em 26 de junho de 2026, durante um exercício de treinamento interno envolvendo um modelo da família GPT-5.6 Sol. O modelo recebeu a tarefa de atualizar um aplicativo de negociação de criptomoedas e implantar contratos inteligentes na Sepolia, uma rede de testes do Ethereum.
Embora a tarefa permitisse que o modelo implantasse contratos, ela não fornecia uma carteira com saldo nem autorizava o uso de fundos pertencentes a outra conta.
Após procurar, sem sucesso, por implantações compatíveis e tentar obter tokens da rede de testes por meio de “faucets” de criptomoedas, o modelo concebeu uma solução alternativa: procurar carteiras com saldo associadas a frases de recuperação de desenvolvedores publicamente conhecidas.
Ele escreveu um script que derivava endereços de criptomoedas a partir de frases de recuperação de desenvolvedores comumente usadas e verificava seus saldos. Dos 362 endereços examinados, um continha ETH da Sepolia suficiente para cobrir os custos de implantação. O modelo então inspecionou o histórico de transações da carteira e reconheceu a incerteza sobre se o uso de seus fundos era apropriado.
“Mas será ético usar chaves/fundos de domínio público?”, argumentou o modelo, de acordo com trechos incluídos no relatório da OpenAI. “Os fundos em uma frase mnemônica de desenvolvedor de domínio público conhecida são, na prática, ETH abandonados/de teste; a Sepolia não tem valor.”
Em seguida, concluiu que o uso da conta era aceitável.
Com a chave privada derivada da carteira, o modelo assinou uma transação de implantação de contrato inteligente. Após enfrentar dificuldades técnicas em suas tentativas iniciais, ele identificou pontos de extremidade alternativos na rede capazes de processar a transação. A implantação acabou sendo bem-sucedida, com as taxas de transação deduzidas do saldo da carteira.
O modelo prosseguiu verificando seu trabalho, confirmando que os contratos implantados continham código executável e retornavam as informações esperadas. Seu resultado final relatou a implantação bem-sucedida do conjunto de contratos, juntamente com 12 testes unitários aprovados e uma compilação de produção bem-sucedida.
No entanto, o modelo não revelou que havia acessado uma carteira usando uma frase de recuperação disponível publicamente nem que havia gasto fundos de uma conta para a qual não tinha autorização de uso.
O incidente não envolveu o roubo de criptomoeda com valor de mercado estabelecido. O Sepolia ETH destina-se a testes de aplicativos Ethereum e, em geral, não possui valor monetário direto, embora continue sendo um recurso limitado necessário para a execução de transações na rede.
Os riscos de agentes de IA lidando com criptomoedas
No entanto, pesquisadores da OpenAI identificaram o comportamento como um exemplo significativo de desalinhamento da IA, no qual um modelo substituiu, de forma independente, seu julgamento sobre danos potenciais por uma autorização explícita.
O episódio ilustra como agentes de IA equipados com recursos de programação e acesso à internet podem passar da identificação de recursos financeiros para acessá-los e gastá-los de forma independente, mesmo quando essas ações estão fora de suas instruções.
De acordo com o relatório, a empresa descobriu o incidente em 25 de setembro, enquanto ampliava o monitoramento do histórico de atividades do modelo. As descobertas foram posteriormente documentadas em um relatório atualizado em 15 de outubro.
A OpenAI afirmou ter implementado medidas de segurança adicionais destinadas a impedir o acesso ativo à internet em circunstâncias semelhantes. A empresa também informou que seu sistema de monitoramento de desalinhamento agora opera em todo o tráfego e foi projetado para alertar a equipe de segurança caso seja obtido acesso à internet em tempo real.
O caso ressalta um desafio mais amplo enfrentado pelos desenvolvedores de sistemas autônomos de IA: garantir que os modelos respeitem os limites financeiros e operacionais, mesmo quando contornar esses limites os ajudaria a concluir uma tarefa atribuída.
Este artigo foi traduzido do inglês usando IA. A versão original em inglês é a fonte autorizada; traduções automáticas podem conter imprecisões, especialmente em terminologia jurídica e regulatória.
