Anthropic і Пентагон вступили в конфлікт через використання Claude у військових цілях та для масового стеження

Anthropic вступає в конфлікт із Пентагоном через «неетичне» використання Claude

Anthropic, одна з найбільших компаній у сфері штучного інтелекту (ШІ), як повідомляється, зазнає критики з боку Міністерства війни через використання її моделей ШІ для діяльності, яку компанія вважає неетичною.

Axios повідомило, що міністр оборони Піт Гегсет розглядає можливість визначити Anthropic як ризик для ланцюга постачання, що означає необхідність припинити всі контракти та зв’язки з компанією. Крім того, усі компанії, які мають справи з Пентагоном, також були б змушені відмовитися від послуг Anthropic.

Конфлікт розгорівся після того, як компанія відмовилася дозволити використання Claude, своєї фірмової моделі, у кампаніях масового спостереження та операціях із повністю автономним військовим обладнанням. Натомість Пентагон заявляє, що має мати змогу використовувати можливості Claude «для всіх законних цілей», без права компанії втручатися в ці процеси.

Якщо Anthropic зрештою буде визначено як ризик для ланцюга постачання, це означатиме, що модель доведеться вилучити з інформаційних систем Пентагону, оскільки лише Claude має доступ до засекречених систем організації.

Це дозволило Claude взяти активну участь в операції Absolute Resolve, що призвела до вивезення венесуельця Ніколаса Мадуро в січні. Хоча роль, яку модель виконувала під час операції, ще не була повністю розкрита, це є ескалацією у використанні ШІ для військових кампаній.

Протистояння може створити прецедент того, як ШІ-компанії можуть взаємодіяти з урядами в західному світі, закладаючи основу для рівнів контролю, які ці компанії можуть зберігати над своїми моделями, коли ті застосовуються у військових цілях.

Представник Anthropic заявив, що компанія веде «продуктивні розмови, добросовісно, з DoW щодо того, як продовжувати цю роботу та правильно вирішити ці нові й складні питання».

FAQ

• З якими проблемами стикається Anthropic із Міністерством війни?
  Anthropic перебуває під пильним наглядом Міністерства війни через відмову дозволити використання своєї моделі ШІ Claude для діяльності, яку вона вважає неетичною, зокрема масового спостереження та автономних військових операцій.
• Які потенційні наслідки може зазнати Anthropic у разі класифікації як ризику для ланцюга постачання?
  Якщо її визначать як ризик для ланцюга постачання, усі контракти з Пентагоном буде розірвано, що вимагатиме вилучення Claude з інформаційних систем Пентагону.
• Як Anthropic відповіла на вимоги Пентагону щодо її моделі ШІ?
  Компанія наполягає, що веде «продуктивні розмови» з Міністерством війни, прагнучи зорієнтуватися в складних етичних питаннях, пов’язаних із використанням її технологій ШІ.
• Яка нещодавня військова операція залучала Claude і в чому полягала її значущість?
  Claude брав участь в операції Absolute Resolve, яка сприяла вивезенню Ніколаса Мадуро з Венесуели, що стало значною ескалацією у використанні військовими технологій ШІ.