«Не твои ключи, не твои боты»: Баладжи Сринивасан рисует картину будущего искусственного интеллекта, находящегося под контролем

Криптовалюта встречается с робототехникой в посте Баладжи «Not Your Keys»

Баладжи Сринивасан, известный криптоинвестор и автор книги «The Network State», опубликовал обширный пост под названием «Not Your Keys, Not Your Bots» (Не твои ключи, не твои боты), в котором исследует, останется ли искусственный интеллект привязанным к человеческому руководству или в конечном итоге выберет свой собственный курс.

Хотя это короткий пост, он прямо формулирует проблему: «Фундаментальный вопрос заключается в том, останется ли ИИ на поводке».

Пока что, по мнению Сринивасана, люди остаются на вершине. Системы ИИ могут уточнять подсказки, генерировать внутренние монологи и самокорректироваться, но человек по-прежнему определяет цель. «Однако в конечном итоге человек все еще остается на вершине», — пишет он, описывая людей как тех, кто ставит цели и реагирует на рынки, политику и меняющиеся условия.

Он задается вопросом, сохранится ли эта иерархия. По мере совершенствования моделей ИИ в области верификации и рассуждений, он предполагает, что они могут превзойти людей во многих задачах. Тем не менее, Сринивасан выражает сомнение в том, что машины будут самостоятельно генерировать основополагающие цели. «Но заменит ли ИИ необходимость в подсказках человека, стоящего выше по иерархии? В этом я не так уверен».

По его мнению, ключевым ограничением является воспроизводство. Он отмечает, что мотивация человека проистекает из эволюционных потребностей — пищи, жилья и, особенно, воспроизводства. Он утверждает, что, если системы ИИ не смогут воспроизводиться без сотрудничества с людьми, они будут по-прежнему зависеть от целей, поставленных людьми.

Сринивасан рисует гипотетическое будущее, в котором автономный ИИ потребует контроля над физической инфраструктурой — гуманоидными роботами, дронами, центрами обработки данных, сборочными линиями и производством энергии — и все это будет работать без контроля со стороны человека. Хотя он признает, что такой сценарий «технически не невозможен», он переходит к геополитике.

По его мнению, Китай скорее создаст строго контролируемые системы ИИ, чем автономные. «Мы исходим из того, что китайский коммунизм гораздо более склонен создавать рабов ИИ, чем богов ИИ», — пишет он. В этой модели роботы и цифровые агенты будут связаны криптографическими механизмами контроля, привязанными к личностям людей.

Он распространяет эту логику на глобальный уровень. Сринивасан предполагает, что за пределами Китая криптография на основе блокчейна может служить механизмом управления ИИ. «Вся частная собственность становится частными ключами, а ваши роботы — вашей самой важной частной собственностью, потому что они делают для вас все», — пишет он.

В этом воображаемом будущем несвязанные роботы будут рассматриваться как угроза безопасности и нейтрализованы до того, как они смогут размножиться. Сринивасан сравнивает это с обращением популярных антиутопических нарративов — люди и послушные машины сотрудничают, чтобы не дать независимому ИИ закрепиться.

Хотя его пост и носит спекулятивный характер, он затрагивает текущие дебаты о согласовании ИИ, цифровом суверенитете и роли криптографии в новых технологиях. В то время как правительства взвешивают регулирование ИИ, а компании ускоряют его развитие, аргумент Сринивасана добавляет криптографический поворот: контролируйте ключи, контролируйте ботов.

Часто задаваемые вопросы

• Что такое «Не твои ключи, не твои боты»?
  Это пост Баладжи Сринивасана, в котором он утверждает, что приватные ключи могут управлять системами ИИ так же, как они защищают цифровые активы.
• Считает ли Баладжи, что ИИ может полностью заменить людей?
  Он ставит под сомнение, может ли ИИ устранить необходимость в целях, поставленных людьми, особенно без независимой репродукции.
• Почему он упоминает Китай?
  Он предполагает, что Китай с большей вероятностью будет использовать строго контролируемый ИИ, ограниченный криптографическими ограничениями.
• Как блокчейн вписывается в эту аргументацию?
  Сринивасан предлагает использовать криптографические ключи и инфраструктуру блокчейна в качестве инструментов управления системами ИИ.