Виталик Бутерин рассказал о настройке ИИ-агента в «параноидальном режиме»

Бутерин переходит в «параноидальный режим» с конфигурацией конфиденциального ИИ

В пятницу в посте в X Бутерин описал новый «параноидальный режим» для своего набора инструментов Pi AI, объединяющий платежную систему zkAPI на базе Ethereum, сеть анонимности Tor, случайный сопутствующий трафик и локально запущенную крупную языковую модель (LLM).

Эта экспериментальная конфигурация призвана противодействовать нескольким способам, с помощью которых сервисы ИИ могут идентифицировать пользователей, включая платежные записи, IP-адреса, узнаваемые шаблоны письма и содержание отправляемых запросов.

Каждому диалогу назначается отдельный канал Tor, а дополнительный рандомизированный сетевой трафик помогает замаскировать подлинные запросы. При этом локальная модель ИИ переписывает запросы перед их отправкой во внешние сервисы, снижая вероятность того, что идентифицирующая информация дойдет до провайдера.

Бутерин отметил, что в его реализации для локальной обработки запросов используется Qwen3.8-Flash-Next, хотя система позволяет пользователям заменять её на свои предпочтительные модели. Функции конфиденциальности объединены в демон, совместимый с OpenAI, что позволяет им работать вместе с существующим программным обеспечением ИИ.

Бутерин также добавил ещё один уровень безопасности, запустив агент Pi внутри песочницы Bubblewrap, которая ограничивает его доступ к окружающей операционной системе. Сетевые подключения агента маршрутизируются через Tor с использованием torsocks, при этом Бутерин отметил, что экспериментирует с микро-виртуальными машинами в качестве дополнительного механизма изоляции.

В эту конфигурацию включен zkAPI — платежная система с обеспечением конфиденциальности, запущенная 1 октября Ethereum Foundation и Open Anonymity Project.

Как ранее сообщал Bitcoin.com News, zkAPI использует доказательства с нулевым разглашением для отделения платежных идентичностей от отдельных запросов ИИ. Пользователи вносят криптовалюту, включая ETH или USDC, в хранилище на базе Ethereum и получают частные кредиты, которые можно тратить, не связывая каждую транзакцию с исходным источником пополнения.

Сервис выдает временные учетные данные API с лимитами расходов, что позволяет клиентам получать доступ к моделям ИИ без сохранения традиционных идентификаторов для выставления счетов, привязанных к их запросам.

Однако zkAPI сам по себе не обеспечивает полной анонимности. Поставщики ИИ по-прежнему получают содержание запросов, а IP-адреса, поведенческие модели и другие идентифицирующие детали потенциально могут связать иначе анонимные запросы с отдельными пользователями. Последний эксперимент Бутерина направлен на устранение этих уязвимостей путем объединения конфиденциальности платежей с сетевой анонимностью и локальной обработкой.

Еще есть над чем работать, считает основатель Ethereum

Несмотря на дополнительные меры защиты, Бутерин признал, что его система по-прежнему несовершенна.

«Она становится вполне пригодной для использования!» — написал он, добавив: «Хотя вы, безусловно, по-прежнему платите довольно высокую цену в виде увеличенной задержки, особенно при начале нового диалога».

Он также предупредил, что меры защиты Tor могут быть обойдены опытными злоумышленниками. Хотя рандомизированный сопутствующий трафик может сбить с толку пассивных наблюдателей, поставщик ИИ, сотрудничающий с входным ретранслятором Tor, потенциально может манипулировать временем отправки запросов для идентификации пользователей. Бутерин предположил, что специально разработанная микс-сеть, включающая непрерывный сопутствующий трафик и большую пропускную способность, могла бы обеспечить более надежную защиту от таких атак.

Соучредитель Ethereum также сообщил, что в основной сети Ethereum скоро появятся значительно более низкие расходы на газ при пополнении и снятии средств через zkAPI, хотя он не указал ни графика, ни конкретных цифр.

Этот эксперимент подчеркивает растущее пересечение интересов инфраструктуры криптовалют и ИИ-агентов, демонстрируя, как платежи на основе блокчейна, сети конфиденциальности и локально размещенные модели могут взаимодействовать для сокращения объема информации, раскрываемой при взаимодействии со все более мощными ИИ-сервисами.

Предложение Бутерина, ориентированное на конфиденциальность, появилось как раз в тот момент, когда гигант в области ИИ OpenAI сообщил, что агент ИИ похитил ETH в тестовой сети Sepolia из кошелька, который он не контролировал — это ещё один потенциальный риск, связанный с передачей агентам полномочий по управлению криптовалютными средствами. Гигант в области ИИ заявил, что внедрил дополнительные меры безопасности, чтобы попытаться предотвратить повторение подобных инцидентов в будущем.