«Миллиард смертей»: Билл Гейтс заявляет, что ИИ может стать причиной смертоносных событий

Билл Гейтс предупреждает о рисках массовых жертв из-за ИИ

Искусственный интеллект может помочь людям осуществлять атаки в масштабах, ранее недоступных для них, предупредил Билл Гейтс в интервью программе «Meet the Press», которое вышло в эфир 27 сентября. На вопрос, может ли ИИ положить конец человечеству, соучредитель Microsoft описал серьезную вероятность, а не предсказал конкретный исход. Гейтс заявил:

«ИИ, безусловно, достаточно мощный, чтобы спровоцировать события, которые, как вы понимаете, могут привести к гибели миллиарда человек».

Его предупреждение об атаках с использованием ИИ было сосредоточено на сочетании всё более совершенных инструментов и людей, намеревающихся причинить вред.

Гейтс назвал биологические и кибератаки неотложными проблемами. Он утверждал, что в этом году ИИ пересёк опасные пороги в обеих областях, в то время как правительству не хватает технической экспертизы, поскольку большая часть разработок происходила в частном секторе.

Почему Гейтс называет ИИ «эволюционным событием»

В интервью он назвал эту технологию «эволюционным событием» и призвал политиков, исследователей, избирателей и компании принимать участие в принятии решений о её использовании. Он описал ИИ как технологию, которая в некоторых аспектах уже умнее людей, и предсказал стремительный прогресс в ближайшие несколько лет. Он утверждал, что системы ИИ могут передавать знания, не ограничиваясь рамками индивидуального человеческого обучения. В своей августовской статье о преимуществах и вреде ИИ он высказал схожую точку зрения: выбор, сделанный сейчас, может определить, приведет ли эта технология к сокращению неравенства или, напротив, усугубит его.

В интервью Гейтс развил те опасения, о которых он говорил ещё до воскресной трансляции. В своих предыдущих комментариях по поводу контроля над ИИ он предложил создать международный орган по образцу Международного агентства по атомной энергии и предупредил о биологических атаках с использованием ИИ.

Гейтс призывает принять законы, требующие мер безопасности в сфере ИИ

На вопрос, может ли отрасль регулировать себя сама, Гейтс ответил:

«Никто не считает, что саморегулирования достаточно».

Он заявил, что необходимо законодательство и что правоохранительные органы и законодатели должны помочь определить, что именно должны включать в себя эти меры защиты. Гейтс также отметил, что одного «аварийного выключателя» будет недостаточно для предотвращения атак. «Аварийный выключатель» позволил бы компании отключить сервис ИИ, в то время как мониторинг показывал бы, что делала система, и сохранял бы записи для следователей. Он признал, что соблюдение требований добавит разработчикам некоторую работу, но отметил, что это не замедлит их прогресс значительно.

По мнению Гейтса, также необходимо трансграничное сотрудничество. Он сравнил эту задачу с переговорами по ядерному оружию в эпоху «холодной войны», а затем отметил, что достичь соглашения в сфере ИИ будет сложнее. Он указал, что ядерное оружие имеет уникальные особенности, в том числе доступ к расщепляющимся материалам. Гейтс предупредил, что рассмотрение ИИ преимущественно как предмета национальной конкуренции может стимулировать его стремительное развитие без надлежащих мер безопасности. 22 сентября в Организации Объединенных Наций генеральный секретарь Антониу Гутерриш также призвал к созданию многосторонней системы управления рисками ИИ — общего подхода к рискам ИИ для всех стран с независимым надзором.

Обеспокоенность Гейтса по поводу кибератак также касается программного обеспечения, которое хранит и перемещает денежные средства. Более 40 организаций, занимающихся биткойнами и цифровыми активами, обратились к ведущим разработчикам ИИ с просьбой предоставить проверенным исследователям в области безопасности контролируемый ранний доступ к передовым системам. Их просьба о более строгом контролируемом доступе отражает опасения, что злоумышленники могут использовать эти возможности для выявления слабых мест в программном обеспечении, в то время как у защитников отсутствуют сопоставимые инструменты.

Мошенничество с использованием ИИ представляет более непосредственную угрозу

Потребители уже сталкиваются с небольшими по масштабу примерами того, как преступники используют ИИ, чтобы сделать обман более убедительным. ФБР предупредило, что люди, выдающие себя за федеральных агентов, используют видеоролики, сгенерированные с помощью ИИ, и поддельные веб-сайты, чтобы связаться с предыдущими жертвами мошенничества. Предупреждение о мошенничестве с подделкой личности касается финансового хищения — это другой вид ущерба, отличающийся от событий с массовыми жертвами, описанных Гейтсом. Оба случая иллюстрируют его обеспокоенность тем, что мощные инструменты попадают в руки людей, стремящихся злоупотребить ими.

Для владельцев криптовалюты фишинговые сообщения и поддельные биржи также могут привести к убыткам, когда злоумышленники получают доступ к паролям или информации для восстановления доступа. Меры по предотвращению криптовалютного мошенничества включают проверку адресов веб-сайтов и обращение в организации через их официальные сайты, а не по ссылкам, присланным в нежелательных сообщениях.