Отчет: Искусственный интеллект Claude от Anthropic сталкивается с неопределенным будущим в секретных системах Пентагона

Управление военным ИИ проверено на высокопоставленном заседании в Пентагоне

Встреча 24 февраля состоялась после нескольких недель напряженности в связи с политикой использования Anthropic в отношении Claude, большой языковой модели, интегрированной в секретные сети Министерства обороны в рамках пилотного контракта на 2025 год стоимостью до 200 миллионов долларов. Claude в настоящее время является единственной полностью авторизованной большой языковой моделью, работающей в определенных защищенных системах Пентагона.

Согласно сообщению Axios, Хегсет, к которому присоединились заместитель министра Стив Файнберг и генеральный советник Эрл Мэтьюз, выступил против ограничений Anthropic на массовую слежку за американцами и на полностью автономные системы вооружения, работающие без контроля со стороны человека. Представители Министерства обороны утверждали, что эти ограничения сдерживают законное военное применение и не должны преобладать над полномочиями Конгресса и исполнительной власти.

Anthropic утверждает, что ее меры безопасности призваны предотвратить злоупотребления, не ограничивая при этом применение в целях национальной безопасности. Компания заявляет, что ее политика не блокирует законное военное использование, но запрещает такие действия, как отслеживание лиц без их согласия или развертывание смертоносных систем без контроля со стороны человека.

«По словам источника, знакомого с ходом переговоров, Anthropic никогда не возражала против использования своих моделей для «законных военных операций», — сообщила главный корреспондент Fox News по вопросам национальной безопасности Дженнифер Гриффин в X. «Она также сообщила Хегсету, что никогда не жаловалась Пентагону или Palantir на использование своих моделей в рейде на Мадуро».

Claude использовалась для анализа разведданных, киберзащиты и оперативного планирования. Согласно отчетам, она поддерживала планирование и анализ в режиме реального времени во время операции 3 января, в результате которой был захвачен президент Венесуэлы Николас Мадуро. Позже Anthropic запросила разъяснения об участии модели в рамках внутренней проверки на соответствие требованиям, что сотрудники Пентагона истолковали как критику.

9 января Хегсет выпустил меморандум, в котором призвал поставщиков искусственного интеллекта (ИИ) устранить то, что он назвал ограничительными условиями. Эта директива подготовила почву для пересмотра условий и, в конечном итоге, для встречи 24 февраля.

Пентагон установил Anthropic крайний срок до 27 февраля для изменения своих условий. Возможные меры реагирования включают применение Закона о военном производстве для принуждения к соблюдению требований или признание Anthropic риском для цепочки поставок, что может потребовать от подрядчиков отказаться от систем, связанных с Claude.

Чиновники признают, что отделение Claude от существующей инфраструктуры будет сложной операцией. Тем не менее, у ведомства есть альтернативы. Конкуренты, такие как xAI с моделью Grok, OpenAI с ChatGPT и Google с Gemini, имеют аналогичные контракты с Министерством обороны и могут расширить свою роль, если переговоры затянутся.

Этот спор поднимает более широкие вопросы об управлении ИИ в военной сфере, особенно в связи с тем, что федеральное законодательство продолжает развиваться в области новых технологий. На карту поставлен вопрос о том, могут ли частные разработчики ИИ сохранять независимую этическую политику, когда их системы становятся частью операций по обеспечению национальной безопасности.

Реакция в социальных сетях была весьма откровенной. «Возвращается слежка без ордера», — написал один пользователь X в ответ на пост Гриффина. «Это должно быть гораздо более важной новостью, чем есть на самом деле. Существует серьезная вероятность нарушения конституции», — ответил другой на пост Гриффина. Другие, с долей черного юмора, шутили, что появление Skynet, возможно, не за горами. «Skynet уже здесь… 2029 год наступил», — заметил один из пользователей.

Обе стороны охарактеризовали обсуждение 24 февраля как содержательное. То, скорректирует ли Anthropic свои меры безопасности до истечения срока, может определить будущее одной из самых передовых интеграций ИИ в Пентагоне.

Часто задаваемые вопросы 🤖

• Что обсуждалось на встрече в Пентагоне 24 февраля?
  Встреча была посвящена ограничениям Anthropic в отношении Claude AI и тому, ограничивают ли они законные военные применения.
• Почему Пентагон оказывает давление на Anthropic?
  Представители Министерства обороны утверждают, что меры безопасности компании мешают санкционированному использованию в целях национальной безопасности.
• Что может произойти, если Anthropic не подчинится?
  Пентагон может применить Закон о военном производстве или признать компанию риском для цепочки поставок.
• Есть ли альтернативы Claude?
  Да, модели от xAI, OpenAI и Google находятся под контрактами Министерства обороны и могут быть расширены в случае необходимости.