За підтримки
News

Трейдери Kalshi прогнозують, що ціна Fable 5 до 1 липня повернеться до рівня 68% після історичної заборони на використання штучного інтелекту

Як повідомляється, генеральний директор Amazon Енді Джессі поінформував високопоставлених чиновників адміністрації Трампа про висновки щодо безпеки, отримані внутрішньою дослідницькою групою його компанії, що спричинило ланцюжок подій, який завершився тим, що Міністерство торгівлі США зобов’язало компанію Anthropic вимкнути дві свої найдосконаліші моделі штучного інтелекту (ШІ) для всіх користувачів у світі.

АВТОР
ПОДІЛИТИСЯ
Трейдери Kalshi прогнозують, що ціна Fable 5 до 1 липня повернеться до рівня 68% після історичної заборони на використання штучного інтелекту

Основні висновки

  • Як повідомляється, 12 червня генеральний директор Amazon Енді Джессі повідомив чиновникам адміністрації Трампа про результати дослідження щодо джейлбрейку Fable 5, що спричинило глобальне вимкнення.
  • Трейдери Polymarket оцінюють ймовірність того, що Anthropic відновить доступ до Fable 5 до 1 липня 2026 року, у 71%.
  • Anthropic назвала директиву Міністерства торгівлі «непорозумінням» і пообіцяла відновити доступ якомога швидше.

Що сталося

12 червня 2026 року Міністерство торгівлі видало директиву з експортного контролю, яка вимагала від Anthropic призупинити доступ до Claude Fable 5 та Claude Mythos 5 для будь-яких іноземних громадян, як у США, так і за їх межами. Оскільки API-доступ не може надійно фільтрувати користувачів за національністю, Anthropic вимкнула обидві моделі для всіх клієнтів по всьому світу. Інші моделі Anthropic продовжували працювати.

Директива надійшла близько 17:21 за східним часом. До вечора Anthropic підтвердила вимкнення у публічній заяві.

Зв'язок з Amazon

За словами осіб, обізнаних у цій справі, на яких посилається Wall Street Journal, Джессі повідомив міністра фінансів Скотта Бессента, міністра торгівлі Говарда Лутніка та директора Національного кіберуправління Шона Кернкросса, що дослідники Amazon використовували спеціально створені запити у Fable 5 для вилучення інформації про вразливості програмного забезпечення, яку модель мала відхиляти.

Дослідження виявило запити, які обходили деякі вбудовані класифікатори безпеки Fable 5 у щонайменше чотирьох програмах. Дослідники виявили, що модель могла виявляти програмні помилки і, теоретично, допомагати перетворювати їх на експлойт-код, хоча захисні механізми блокували повну реалізацію в тестованих випадках. Не було жодних доказів того, що Amazon використовувала або мала доступ до зловмисних можливостей.

Звернення Джессі було частиною ширших дискусій між керівниками технологічних компаній та адміністрацією щодо ризиків штучного інтелекту. Потім адміністрація перейшла до введення експортного контролю, і, як повідомляється, президент Трамп підписав відповідний указ, незважаючи на застереження щодо впливу на інновації.

Що означає «джейлбрейк» моделі ШІ

Традиційний «джейлбрейк», який прославив Джордж Хотц, розблокувавши оригінальний iPhone у 2007 році, передбачає пошук і використання вразливостей на низькому рівні прошивки або апаратного забезпечення для усунення обмежень виробника. Швидкий джейлбрейк у ШІ працює інакше.

«Джейлбрейк» промптів означає створення текстових вхідних даних, призначених для того, щоб обдурити велику мовну модель (LLM) і змусити її ігнорувати свої правила безпеки. Замість використання коду дослідники використовують мову. Одним із найперших прикладів був промт «DAN» (Do Anything Now), який поширився на Reddit наприкінці 2022 року, даючи вказівку ChatGPT грати роль необмеженого персонажа. Техніки варіюються від сценаріїв рольових ігор та гіпотетичного фреймінгу до автоматизованих методів, що оптимізують суперечливі текстові рядки.

У випадку з Fable 5 дослідники Amazon використовували техніки на основі промтів, щоб спонукати модель розкрити інформацію про вразливість, яку вона мала відхилити.

Незгода Anthropic

Anthropic дотрималася директиви, але рішуче висловила свою незгоду. Компанія переглянула демонстрацію Amazon і дійшла висновку, що вона виявила лише невелику кількість раніше відомих незначних вразливостей, які можна виявити за допомогою інших загальнодоступних моделей без будь-якого обходу. Anthropic заявила, що не існує універсального джейлбрейку для Fable 5 або Mythos 5, незважаючи на масштабні тестування методом «червоної команди» за участю уряду США, Британського інституту безпеки штучного інтелекту та третіх сторін.

Компанія стверджувала, що застосування цього стандарту в масштабах всієї галузі «фактично зупинить розгортання всіх нових моделей». Anthropic назвала ці дії «непорозумінням» і заявила, що працює над відновленням доступу, зберігаючи при цьому політику зберігання даних протягом 30 днів для дослідницьких цілей.

Колишній радник Білого дому з питань штучного інтелекту та «крипто-цар» Девід Сакс заявив, що обмеження було введено «неохоче», і висловив надію, що Anthropic вирішить цю проблему, щоб можна було скасувати експортний контроль.

За словами Сакса, «дуже надійний та авторитетний партнер» виявив спосіб обійти захисні механізми Fable та повідомив про це як Anthropic, так і уряд США. Він стверджує, що адміністрація попросила генерального директора Anthropic Даріо Амодеї або виправити вразливість, або видалити модель, але Anthropic відмовилася.

«М'яч на боці Anthropic», — написав Сакс у X, додавши, що адміністрація сподівається, що Anthropic виправить проблему, щоб обмеження можна було зняти, а Fable знову стала загальнодоступною. Ерік Вурхіс, засновник Venice AI та ShapeShift, заперечив версію подій, викладену урядом.

У коментарі до допису Сакса Вурхіс припустив, що ймовірний «джейлбрейк» був скоріше звичайною проблемою безпеки, а не серйозною загрозою, і висловив думку, що Anthropic, можливо, вважала вимоги зупинити розгортання моделі надмірними. Воорхіс також припустив, що федеральні чиновники використали цю суперечку як привід покарати Anthropic за попередні розбіжності з Вашингтоном, додавши, що він більше довіряє оцінці Anthropic щодо питань безпеки ШІ, ніж оцінці федерального уряду.

Дослідниця з питань безпеки Кеті Мусуріс із Luta Security, яка ознайомилася з висновками Amazon, назвала реакцію уряду «абсолютною перебільшеною реакцією», зазначивши, що ця інформація насамперед допомагає захисникам, а не зловмисникам.

Що кажуть ринки прогнозів

Трейдери швидко оцінили терміни повернення Fable 5.

На Polymarket 13 червня було відкрито три контракти на основі дати з сукупним обсягом торгів 18 263 доларів:

  • Вирішення 15 червня: ймовірність 22%, обсяг 13 975 доларів
  • Вирішення 22 червня: ймовірність 54%, обсяг 4 011 доларів
  • Вирішення 1 липня: ймовірність 71%, обсяг 1 595 доларів

Трейдери Kalshi укладають подібні контракти на загальну суму 6 419 доларів за 24 години:

  • До 15 червня: ймовірність 14%
  • До 20 червня: ймовірність 51%
  • До 1 липня: ймовірність 68%

Загальний консенсус схиляється до вирішення у другій половині червня, при цьому існує тверде переконання, що відновлення у тому ж тижні малоймовірне.

Чому це важливо

Це є одним із найпряміших випадків застосування експортного контролю США для обмеження глобального доступу до конкретної передової моделі штучного інтелекту від американської компанії, окремо від обмежень на чіпи та апаратне забезпечення, які визначали попередню політику. Цей крок впливає на іноземних дослідників, які працюють у США, глобальні операції з кібербезпеки, що залежать від інструментів Anthropic, а також на комерційні плани та графік IPO компанії Anthropic. Amazon є як інвестором Anthropic, так і основним партнером з хмарного розповсюдження її моделей через Amazon Bedrock.

Дебати щодо «закритого ШІ»

Деякі спостерігачі стверджують, що ця директива знаменує початок ери «закритого ШІ», коли найпотужніші передові моделі більше не будуть широко доступними, а будуть розподілятися через урядове схвалення, KYC, перевірку громадянства та ретельне ліцензування. Громадськість отримує застарілі або спрощені версії, тоді як затверджені партнери мають доступ до повного набору моделей, таких як Fable та Mythos.

Один користувач X описав цей інцидент як переломний момент для ШІ, стверджуючи, що «найпотужніша модель ШІ на землі проіснувала 3 дні», перш ніж дії уряду фактично її вимкнули. У дописі стверджувалося, що компанія Anthropic, яка раніше «благала про регулювання», побачила, як «уряд регулює її», перекривши доступ до її флагманської моделі. Користувач також стверджував, що цей епізод показав, що передовий ШІ має «кнопку вимкнення» і що «компанія її не має».

Занепокоєння викликає не стільки сам інцидент, скільки те, що він сигналізує. Якщо демонстрації вузького джейлбрейку достатньо, щоб вивести з ладу комерційно розгорнуту модель, якою користуються сотні мільйонів людей, то, на думку критиків, планка для майбутніх обмежень нижча, ніж будь-хто припускав.

Зростання вартості акцій Claude в 40 разів пояснює, чому провідні розробники криптовалют отримують вигідну пропозицію

Зростання вартості акцій Claude в 40 разів пояснює, чому провідні розробники криптовалют отримують вигідну пропозицію

Неофіційний аналіз показав, що пакети штучного інтелекту вартістю 200 доларів можуть приховувати обчислювальну потужність на суму 14 000 доларів, оскільки кредити на використання змінюють майбутній попит на штучний інтелект. read more.