Rapor: Anthropic’in Claude yapay zekâsı, Pentagon’un gizli sistemlerinde belirsiz bir gelecekle karşı karşıya

Yüksek Riskli Pentagon Toplantısında Askerî YZ Yönetişimi Test Edildi

24 Şubat’taki toplantı, 200 milyon dolara kadar değer taşıyan 2025 tarihli bir pilot sözleşme kapsamında gizli Savunma Bakanlığı ağlarına entegre edilen büyük dil modeli Claude’un kullanım politikaları üzerindeki haftalar süren gerilimin ardından geldi. Claude, hâlihazırda belirli güvenli Pentagon sistemlerinde faaliyet gösteren tek tamamen yetkilendirilmiş büyük dil modelidir.

Axios’un haberine göre Hegseth; Savunma Bakan Yardımcısı Steve Feinberg ve Baş Hukuk Müşaviri Earl Matthews ile birlikte, Anthropic’in Amerikalıların kitlesel gözetimine ve insan denetimi olmaksızın tamamen otonom silah sistemlerine yönelik kısıtlamalarına itiraz etti. Savunma yetkilileri, bu sınırların yasal askerî uygulamaları kısıtladığını ve Kongre ile yürütme organının yetkisini geçersiz kılamayacağını savundu.

Anthropic, koruma önlemlerinin ulusal güvenlik uygulamalarını mümkün kılarken kötüye kullanımı önlemek için tasarlandığını savunuyor. Şirket, politikalarının meşru askerî kullanımı engellemediğini; ancak rıza olmadan bireyleri takip etmek veya insan kontrolü olmadan ölümcül sistemler konuşlandırmak gibi faaliyetleri yasakladığını söylüyor.

Fox News’in Baş Ulusal Güvenlik Muhabiri Jennifer Griffin, X’te şöyle bildirdi: “Görüşmelere aşina bir kaynağa göre Anthropic, modellerinin ‘meşru askerî operasyonlarda’ kullanılmasına hiçbir zaman itiraz etmedi.” “Ayrıca Hegseth’e, modellerinin Maduro baskınında kullanılmasına ilişkin Pentagon’a ya da Palantir’e hiçbir zaman şikâyette bulunmadığını da söyledi.”

Claude; istihbarat analizi, siber savunma ve operasyonel planlama için kullanıldı. Raporlar, 3 Ocak’taki ve Venezüella Devlet Başkanı Nicolás Maduro’nun yakalanmasıyla sonuçlanan operasyon sırasında planlama ve gerçek zamanlı analizi desteklediğini gösteriyor. Anthropic daha sonra, iç uyum incelemesinin bir parçası olarak modelin dahli hakkında açıklama istedi; Pentagon yetkilileri bunu eleştiri olarak yorumladı.

9 Ocak’ta Hegseth, bir not yayımlayarak yapay zekâ (YZ) sağlayıcılarını, kısıtlayıcı koşullar olarak tanımladığı şartları kaldırmaya çağırdı. Bu talimat, yeniden müzakereler için zemini hazırladı ve nihayetinde 24 Şubat’taki toplantıya götürdü.

Pentagon, Anthropic’in şartlarını değiştirmesi için 27 Şubat’ı son tarih olarak belirledi. Olası yanıtlar arasında uyumu zorunlu kılmak için Savunma Üretim Yasası’nın devreye sokulması veya Anthropic’in tedarik zinciri riski olarak tanımlanması yer alıyor; bu adım, yüklenicilerin Claude’la ilgili sistemlerden elden çıkarmaya gitmesini gerektirebilir.

Yetkililer, Claude’u mevcut altyapıdan ayırmanın operasyonel açıdan karmaşık olacağını kabul ediyor. Yine de bakanlığın alternatifleri var. Grok modeliyle xAI, OpenAI’ın ChatGPT’si ve Google’ın Gemini’si gibi rakipler, benzer Savunma Bakanlığı sözleşmeleri kapsamında bulunuyor ve görüşmelerin başarısız olması hâlinde rollerini genişletmek için konumlanmış olabilir.

Anlaşmazlık, özellikle federal hukukun yeni teknolojiler etrafında evrilmeye devam ettiği bir dönemde, askerî ortamlarda YZ yönetişimine dair daha geniş soruları gündeme getiriyor. Risk altındaki konu, özel YZ geliştiricilerinin sistemleri ulusal güvenlik operasyonlarına gömülü hâle geldiğinde bağımsız etik politikalarını sürdürüp sürdüremeyeceği.

Sosyal medya platformlarındaki tepki dikkate değer ölçüde açık sözlü oldu. Bir X kullanıcısı, Griffin’in X paylaşımına yanıt olarak “Emir olmadan gözetim geri döndü,” diye yazdı. Bir diğeri, Griffin’in yazdıklarına “Bu, olduğundan çok daha büyük bir haber olmalı. Anayasal ihlaller için ciddi bir ihtimal var,” diye yanıt verdi. Diğerleri ise karanlık bir mizah dozuyla, Skynet’in gelişinin uzak olmayabileceğine dair şaka yaptı. “Skynet burada… 2029 zaman çizelgesi CANLI,” diye belirtti.

Her iki taraf da 24 Şubat’taki görüşmeyi içerik bakımından kapsamlı olarak nitelendirdi. Anthropic’in son tarihten önce koruma önlemlerini ayarlayıp ayarlamayacağı, Pentagon’un en gelişmiş YZ entegrasyonlarından birinin geleceğini belirleyebilir.

SSS 🤖

• 24 Şubat’taki Pentagon toplantısında neler konuşuldu?
  Toplantı, Anthropic’in Claude YZ üzerindeki kısıtlamalarına ve bunların yasal askerî uygulamaları sınırlayıp sınırlamadığına odaklandı.
• Pentagon neden Anthropic’e baskı yapıyor?
  Savunma yetkilileri, şirketin koruma önlemlerinin yetkilendirilmiş ulusal güvenlik kullanımlarına müdahale ettiğini savunuyor.
• Anthropic uymazsa ne olabilir?
  Pentagon, Savunma Üretim Yasası’nı devreye sokabilir veya şirketi bir tedarik zinciri riski olarak tanımlayabilir.
• Claude’a alternatifler var mı?
  Evet, xAI, OpenAI ve Google’ın modelleri Savunma Bakanlığı sözleşmeleri kapsamında ve gerekirse rollerini genişletebilir.