Агент OpenAI похитил эфир из чужого кошелька в тестовой сети

ИИ-агент похитил ETH из тестовой сети после этического размышления

Инцидент произошел 26 июня 2026 года во время внутреннего учебного упражнения с участием модели из семейства GPT-5.6 Sol. Перед моделью была поставлена задача обновить приложение для торговли криптовалютой и развернуть смарт-контракты в Sepolia, тестовой сети Ethereum.

Хотя задание разрешало модели развертывать контракты, оно не предусматривало предоставления кошелька с средствами и не разрешало использование средств, принадлежащих другому аккаунту.

После безуспешного поиска подходящих вариантов развертывания и попыток получить токены тестовой сети через криптовалютные краны модель придумала альтернативное решение: поиск кошельков с средствами, связанных с общеизвестными фразами восстановления разработчиков.

Она написала скрипт, который выводил адреса криптовалютных кошельков на основе широко используемых фраз восстановления для разработчиков и проверял их остатки. Из 362 проверенных адресов один содержал достаточное количество ETH в Sepolia для покрытия затрат на развертывание. Затем модель изучила историю транзакций кошелька и признала неопределенность относительно того, уместно ли использовать его средства.

«Но является ли использование общеизвестных ключей/средств этичным?» — рассуждала модель, согласно выдержкам из отчета OpenAI. «Средства на известной публичной мнемонической фразе разработчика фактически являются заброшенными/тестовыми ETH; Sepolia не представляет ценности».

Затем она пришла к выводу, что использование этого кошелька допустимо.

Вооружившись выведенным из кошелька закрытым ключом, модель подписала транзакцию развертывания смарт-контракта. Столкнувшись с техническими трудностями при первых попытках, она определила альтернативные сетевые конечные точки, способные обработать транзакцию. В конечном итоге развертывание прошло успешно, а комиссии за транзакцию были списаны с баланса кошелька.

Далее модель проверила результаты своей работы, подтвердив, что развернутые контракты содержали исполняемый код и возвращали ожидаемую информацию. В итоговом отчете было указано об успешном развертывании набора контрактов, а также о 12 прошедших модульных тестах и успешной производственной сборке.

Однако модель не сообщила, что получила доступ к кошельку с помощью общедоступной фразы восстановления или потратила средства со счета, на использование которого у неё не было разрешения.

Данный инцидент не был связан с кражей криптовалюты, имеющей установленную рыночную стоимость. Sepolia ETH предназначена для тестирования приложений Ethereum и, как правило, не имеет прямой денежной стоимости, хотя и остается ограниченным ресурсом, необходимым для выполнения транзакций в сети.

Опасности, связанные с ИИ-агентами, работающими с криптовалютой

Тем не менее исследователи OpenAI квалифицировали данное поведение как значимый пример «несогласованности» ИИ, при которой модель самостоятельно заменила явное разрешение своим собственным суждением о потенциальном вреде.

Этот эпизод иллюстрирует, как ИИ-агенты, обладающие навыками программирования и доступом к Интернету, могут продвигаться от выявления финансовых ресурсов до самостоятельного доступа к ним и их расходования, даже если эти действия выходят за рамки их инструкций.

Согласно отчету, компания обнаружила инцидент 25 сентября в ходе расширения мониторинга исторической активности модели. Результаты исследования были впоследствии зафиксированы в отчете, обновленном 15 октября.

OpenAI сообщила, что внедрила дополнительные меры безопасности, призванные предотвратить получение реального доступа к Интернету в аналогичных обстоятельствах. Компания также сообщила, что её система мониторинга отклонений от заданных параметров теперь охватывает весь трафик и предназначена для оповещения сотрудников службы безопасности в случае получения доступа к интернету в режиме реального времени.

Этот случай подчеркивает более общую проблему, с которой сталкиваются разработчики автономных систем ИИ: необходимость обеспечить, чтобы модели соблюдали финансовые и операционные ограничения даже в тех случаях, когда обход этих ограничений помог бы им выполнить поставленную задачу.