Laporan: Claude AI dari Anthropic Hadapi Masa Depan yang Tidak Pasti dalam Sistem Rahasia Pentagon

Pengelolaan AI Militer Diuji dalam Pertemuan Penting di Pentagon

Pertemuan pada 24 Februari tersebut terjadi setelah beberapa minggu ketegangan terkait kebijakan penggunaan Claude oleh Anthropic, model bahasa besar yang terintegrasi ke dalam jaringan rahasia Departemen Pertahanan melalui kontrak uji coba 2025 senilai hingga $200 juta. Claude saat ini merupakan model bahasa besar satu-satunya yang sepenuhnya diizinkan beroperasi di sistem Pentagon yang aman.

Menurut laporan Axios, Hegseth, didampingi oleh Wakil Menteri Steve Feinberg dan Penasihat Hukum Earl Matthews, menentang pembatasan Anthropic terhadap pengawasan massal terhadap warga Amerika dan sistem senjata otonom sepenuhnya yang beroperasi tanpa pengawasan manusia. Pejabat Departemen Pertahanan berargumen bahwa pembatasan tersebut membatasi aplikasi militer yang sah dan tidak boleh mengesampingkan wewenang Kongres dan eksekutif.

Anthropic menegaskan bahwa langkah-langkah pengamanannya dirancang untuk mencegah penyalahgunaan sambil tetap memungkinkan aplikasi keamanan nasional. Perusahaan tersebut menyatakan bahwa kebijakannya tidak menghalangi penggunaan militer yang sah, tetapi melarang aktivitas seperti melacak individu tanpa persetujuan atau mengerahkan sistem mematikan tanpa kendali manusia.

“Menurut sumber yang familiar dengan pembicaraan tersebut, Anthropic tidak pernah menentang penggunaan modelnya untuk ‘operasi militer yang sah,’” lapor Jennifer Griffin, Kepala Koresponden Keamanan Nasional Fox News, di X. “Perusahaan juga mengatakan kepada Hegseth bahwa mereka tidak pernah mengeluh kepada Pentagon atau Palantir tentang penggunaan modelnya dalam serangan terhadap Maduro.”

Claude telah digunakan untuk analisis intelijen, pertahanan siber, dan perencanaan operasional. Laporan menunjukkan bahwa model tersebut mendukung perencanaan dan analisis real-time selama operasi pada 3 Januari yang berujung pada penangkapan Presiden Venezuela Nicolás Maduro. Anthropic kemudian meminta klarifikasi tentang keterlibatan model tersebut sebagai bagian dari tinjauan kepatuhan internal, yang diinterpretasikan oleh pejabat Pentagon sebagai kritik.

Pada 9 Januari, Hegseth mengeluarkan memo yang mendesak penyedia kecerdasan buatan (AI) untuk menghapus apa yang dia gambarkan sebagai kondisi yang membatasi. Arahan tersebut membuka jalan untuk negosiasi ulang dan akhirnya pertemuan pada 24 Februari.

Pentagon menetapkan batas waktu 27 Februari bagi Anthropic untuk mengubah syarat-syaratnya. Tanggapan yang mungkin termasuk mengaktifkan Undang-Undang Produksi Pertahanan untuk memaksa kepatuhan atau menunjuk Anthropic sebagai risiko rantai pasokan, langkah yang dapat mengharuskan kontraktor untuk melepaskan diri dari sistem terkait Claude.

Pejabat mengakui bahwa memisahkan Claude dari infrastruktur yang ada akan secara operasional kompleks. Namun, departemen memiliki alternatif. Pesaing seperti xAI dengan model Grok-nya, OpenAI dengan ChatGPT, dan Google dengan Gemini berada di bawah kontrak serupa dengan Departemen Pertahanan dan mungkin dapat memperluas perannya jika pembicaraan gagal.

Perselisihan ini menyoroti pertanyaan yang lebih luas tentang tata kelola AI di lingkungan militer, terutama karena undang-undang federal terus berkembang seputar teknologi baru. Yang dipertaruhkan adalah apakah pengembang AI swasta dapat mempertahankan kebijakan etika independen mereka ketika sistem mereka terintegrasi ke dalam operasi keamanan nasional.

Reaksi di platform media sosial cukup jujur. “Pengawasan tanpa surat perintah kembali,” tulis seorang pengguna X menanggapi posting Griffin di X. “Ini harus menjadi berita yang jauh lebih besar dari yang ada. Ada kemungkinan serius pelanggaran konstitusional,” balas pengguna lain di tulisan Griffin. Yang lain, dengan sentuhan humor gelap, bercanda bahwa kedatangan Skynet mungkin tidak jauh lagi. “Skynet sudah ada di sini… garis waktu 2029 sudah aktif,” kata individu tersebut.

Kedua belah pihak menggambarkan diskusi pada 24 Februari sebagai substansial. Apakah Anthropic menyesuaikan langkah-langkah pengamanannya sebelum batas waktu dapat menentukan masa depan salah satu integrasi AI paling canggih Pentagon.

FAQ 🤖

• Apa yang dibahas dalam pertemuan Pentagon pada 24 Februari?
  Pertemuan tersebut berfokus pada pembatasan Anthropic terhadap Claude AI dan apakah pembatasan tersebut menghambat aplikasi militer yang sah.
• Mengapa Pentagon menekan Anthropic?
  Pejabat pertahanan berargumen bahwa langkah-langkah keamanan perusahaan mengganggu penggunaan keamanan nasional yang diizinkan.
• Apa yang bisa terjadi jika Anthropic tidak mematuhi?
  Pentagon dapat mengaktifkan Undang-Undang Produksi Pertahanan atau menunjuk perusahaan tersebut sebagai risiko rantai pasokan.
• Apakah ada alternatif untuk Claude?
  Ya, model dari xAI, OpenAI, dan Google berada di bawah kontrak Departemen Pertahanan dan dapat diperluas jika diperlukan.