«Мільярд смертей»: Білл Гейтс заявляє, що штучний інтелект може спричинити трагічні події

Білл Гейтс попереджає про ризики масових жертв від ШІ

Штучний інтелект може допомогти людям здійснювати атаки в масштабах, які раніше були для них недосяжними, — попередив Білл Гейтс в інтерв’ю програмі «Meet the Press», що вийшло в ефір 27 вересня. На запитання, чи може ШІ знищити людство, співзасновник Microsoft описав серйозну ймовірність, а не передбачив конкретний результат. Гейтс заявив:

«ШІ, безперечно, достатньо потужний, щоб спричинити події, які, як ви розумієте, можуть призвести до мільярда смертей».

Його попередження щодо атак із використанням штучного інтелекту стосувалося поєднання дедалі потужніших інструментів та людей, які мають намір заподіяти шкоду.

Гейтс назвав біологічні та кібератаки найактуальнішими проблемами. Він стверджував, що цього року штучний інтелект перетнув небезпечні межі в обох сферах, тоді як уряд не має технічної експертизи, оскільки значна частина розробок відбувалася у приватному секторі.

Чому Гейтс називає ШІ «еволюційною подією»

У інтерв’ю він назвав цю технологію «еволюційною подією» та закликав політиків, дослідників, виборців і компанії брати участь у прийнятті рішень щодо її використання. Він описав ШІ як технологію, що в деяких аспектах вже перевершує людей за інтелектом, і передбачив стрімкий прогрес у найближчі кілька років. Він стверджував, що системи ШІ можуть передавати знання без обмежень, властивих індивідуальному навчанню людини. У своєму серпневому есе про переваги та шкоду ШІ він висловив подібну думку: від того, які рішення будуть прийняті зараз, може залежати, чи сприятиме ця технологія зменшенню нерівності, чи, навпаки, поглибить її.

Це інтерв’ю є продовженням занепокоєнь, які Гейтс висловлював ще до недільної трансляції. У своїх попередніх коментарях щодо нагляду за ШІ він запропонував створити міжнародний орган за зразком Міжнародного агентства з атомної енергії та попередив про біологічні атаки за допомогою ШІ.

Гейтс закликає ухвалити закони, що вимагають заходів безпеки щодо ШІ

На запитання, чи може галузь саморегулюватися, Гейтс відповів:

«Ніхто не вважає, що саморегулювання є достатнім».

Він зазначив, що необхідне законодавство, а правоохоронні органи та законодавці повинні допомогти визначити, що саме мають включати ці заходи захисту. Гейтс також стверджував, що сама лише функція «kill switch» не запобігатиме атакам. «Кілл-світч» дозволить компанії вимкнути сервіс ШІ, тоді як моніторинг покаже, що робила система, і збереже записи для слідчих. Він визнав, що дотримання вимог додасть розробникам трохи роботи, але зазначив, що це не суттєво сповільнить їхній прогрес.

На думку Гейтса, також буде необхідна транскордонна співпраця. Він порівняв це завдання з переговорами щодо ядерної зброї часів «Холодної війни», а потім зазначив, що досягти угоди щодо ШІ буде складніше. Він сказав, що ядерна зброя має унікальні особливості, зокрема доступ до розщеплювальних матеріалів. Гейтс попередив, що розгляд ШІ переважно як предмета національної конкуренції може стимулювати стрімкий розвиток без належних запобіжних заходів. 22 вересня в Організації Об’єднаних Націй Генеральний секретар Антоніу Гутерреш також закликав до створення багатосторонньої системи управління ризиками ШІ — спільного підходу до ризиків ШІ для різних країн із незалежним наглядом.

Занепокоєння Гейтса щодо кібератак також стосується програмного забезпечення, яке зберігає та переказує кошти. Понад 40 організацій, що працюють із біткойнами та цифровими активами, звернулися до провідних розробників ШІ з проханням надати перевіреним дослідникам у сфері безпеки контрольований ранній доступ до передових систем. Їхнє прохання про посилений захисний доступ відображає побоювання, що зловмисники можуть використовувати ці можливості для виявлення слабких місць у програмному забезпеченні, тоді як захисники не мають аналогічних інструментів.

Шахрайство з використанням ШІ становить більш безпосередню загрозу

Споживачі вже стикаються з дрібними прикладами того, як злочинці використовують ШІ, щоб зробити обман переконливішим. ФБР попередило, що особи, які видають себе за федеральних агентів, використовують відео, згенеровані ШІ, та фейкові веб-сайти, щоб зв’язатися з попередніми жертвами шахрайства. Попередження про шахрайство з підробкою особи стосується фінансових крадіжок — це інший вид шкоди, ніж події з масовими жертвами, про які говорив Гейтс. Обидва випадки ілюструють його занепокоєння щодо потужних інструментів у руках тих, хто прагне зловживати ними.

Для власників криптовалюти фішингові повідомлення та підроблені біржі також можуть призвести до втрат, коли зловмисники отримують паролі або дані для відновлення доступу. Щоб уникнути криптовалютного шахрайства, слід перевіряти адреси веб-сайтів та звертатися до організацій через їхні офіційні сайти, а не за посиланнями, надісланими у небажаних повідомленнях.