JPMorgan и гиганты Уолл-стрит блокируют ИИ-агентов из-за безопасности

Банки блокируют перевод средств агентами ИИ на фоне развития криптовалют

Уолл-стрит обнаружила новый тип клиентов, в которых она не особо заинтересована: программное обеспечение или агенты искусственного интеллекта (ИИ), способные входить в банковские счета и переводить деньги без участия человека. JPMorgan Chase, Bank of America, Citigroup и другие финансовые гиганты ужесточают ограничения в отношении сторонних ИИ-агентов, уделяя особое внимание несанкционированным транзакциям.

Эти меры обнажают растущую проблему для традиционного банковского дела: машины все чаще могут работать со скоростью, характерной для финансового сектора, но банки по-прежнему полагаются на системы безопасности, разработанные с учетом поведения людей, паролей и утверждений.

Уолл-стрит ставит точку в вопросе автономного банковского обслуживания

В опубликованных на этой неделе отчетах описывается, как крупные американские банки обнаружили сторонних агентов ИИ, получающих доступ к счетам клиентов, причем иногда с использованием учетных данных, добровольно предоставленных владельцами счетов. В чём загвоздка? Наличие действительного пароля не обязательно означает, что владелец счёта одобрил каждое последующее действие. Citigroup прямо запретила неавторизованным сторонним агентам входить в систему или совершать транзакции напрямую через свои цифровые платформы, разрешив при этом определённые одобренные подключения только для чтения.

Генеральный директор JPMorgan Джейми Даймон забил тревогу во время телеконференции по финансовым результатам банка 13 октября, предупредив о недопустимости предоставления неограниченного доступа внешним агентам к банковским системам из-за рисков для клиентов и самого учреждения. Генеральный директор Bank of America Брайан Мойнихан также подчеркнул необходимость авторизации исходящих платежей человеком. Обновленное соглашение о доступе Wells Fargo, вступление которого в силу запланировано на 24 ноября, проводит разграничение между просмотром финансовой информации и проведением транзакций. Вырисовывающийся в банковской отрасли компромисс прост: разрешить утвержденному программному обеспечению анализировать информацию о счете, но не передавать ему «ключи от хранилища».

Сторонники криптовалют видят в этом возможность

Основатель Binance Чанпэн Чжао неоднократно утверждал, что автономные агенты будут все чаще обходить традиционные финансовые учреждения (TradFi) в пользу криптовалютных сетей. Его аргументация основана на скорости и доступности. Агенты искусственного интеллекта по своей природе не подходят для систем, требующих распознавания лиц, SMS-подтверждения, обработки в рабочее время и традиционных заявок на открытие счетов.

Криптовалютные кошельки, по сравнению с ними, могут непрерывно выполнять программируемые транзакции при условии, что их операторы контролируют необходимые криптографические ключи. Чжао высказал предположение, что платежи, осуществляемые машинами, в конечном итоге могут значительно превзойти объемы транзакций, совершаемых людьми, потенциально достигнув частоты, в миллион раз превышающей их.

Ведущий подкаста «Token Narratives» Дэвид Сенсил предупреждает, что стареющие банки сталкиваются с более серьезной угрозой

В ходе подкаста «Token Narratives» от Bitcoin.com News на этой неделе Дэвид Сенсил поднял ещё одну проблему: искусственный интеллект может выявить слабые места в безопасности всей традиционной финансовой инфраструктуры. Сенсил рассказал об интервью с Таруном Читрой из Gauntlet, который предупредил, что крупное учреждение традиционного финансового сектора (TradFi) в конечном итоге может подвергнуться разрушительной хакерской атаке.

«Он сказал, что когда традиционный банк подвергнется хакерской атаке — а это почти неизбежно из-за того, что его технологическая база настолько устарела», — пояснил Сенсил, указав на устаревшие системы, которые так и не были модернизированы. Сенсил озвучил самый провокационный вывод этого прогноза:

«Это заставит всё, что происходило в криптовалютной сфере, выглядеть как игра на бумажные деньги».

Взлом банка с использованием ИИ может заставить откат блокчейна показаться детской забавой

Представьте себе гипотетический сценарий, в котором автономные агенты ИИ компрометируют половину критически важной инфраструктуры одного из крупнейших американских банков, проникая в платежные системы, внутренние реестры и механизмы авторизации транзакций. Миллионы несанкционированных переводов могут потенциально произойти ещё до того, как службы безопасности смогут даже попытаться сдержать вторжение, что вынудит учреждение приостановить предоставление услуг, пока следователи определят, какие транзакции являются законными. В результате сбои могут распространиться на платежные системы, финансовых контрагентов и международные банковские сети.

В отличие от сети блокчейна, способной вернуться к более раннему состоянию транзакций, крупный банк не может просто «перемотать назад» свою взаимосвязанную финансовую инфраструктуру. Некоторые платежи, возможно, уже были зачислены через Федеральную резервную систему, в то время как другие могли достичь зарубежных учреждений или быть потрачены ничего не подозревающими получателями. Восстановление операций может потребовать обширных криминалистических расследований, сверки транзакций, координации с регулирующими органами и, в зависимости от масштаба ущерба, потенциально миллиардов долларов на покрытие расходов по ликвидации последствий.

Генеральный директор Crowdstrike предупреждает: ИИ разрушает иерархию хакеров

Опасения Сенсила перекликаются с предупреждениями генерального директора Crowdstrike Джорджа Куртца, который утверждает, что ИИ разрушает традиционную иерархию возможностей киберпреступников. В видеоролике, ставшем вирусным на X, Куртц описал ситуацию в сфере безопасности, при которой сложные хакерские методы, когда-то в основном доступные только хорошо финансируемым операциям на уровне национальных государств, становятся доступными для гораздо менее опытных злоумышленников.

Глава Crowdstrike пошел еще дальше, заявив: «Новым верховным хищником становится агент. Я имею в виду, что на самом деле мы наблюдаем подъем «государства агентов». Мы слышим о «национальном государстве»; теперь это — «государство агентов»».

Октябрьские аналитические выводы Crowdstrike подкрепляют этот аргумент, документируя атаки с использованием ИИ, в ходе которых автономные системы проводили разведку, похищали учетные данные и перемещались по скомпрометированным сетям. Исследователи компании прогнозируют, что снижение эксплуатационных затрат на ИИ может сделать такие возможности все более доступными в течение следующих 12 месяцев, хотя степень изощренности отдельных атак будет варьироваться.

Для банков, уже борющихся с несанкционированными ИИ-агентами, последствия выходят далеко за рамки сомнительных транзакций. Финансовые учреждения теперь вынуждены иметь дело с технологией, которая потенциально может действовать по обе стороны периметра безопасности, помогая законным клиентам и одновременно предоставляя злоумышленникам всё более мощные инструменты.

Иронию этой ситуации трудно не заметить: банки изо всех сил пытаются не дать автономным агентам перемещать деньги, в то время как руководители служб кибербезопасности предупреждают, что та же самая технология делает людей, пытающихся украсть эти деньги, значительно более опасными.