Laporan: AI Claude Anthropic Berdepan Masa Depan Tidak Menentu dalam Sistem Pentagon yang Diklasifikasikan

Tadbir Urus AI Ketenteraan Diuji dalam Mesyuarat Pentagon Berkepentingan Tinggi

Mesyuarat 24 Feb. itu menyusuli beberapa minggu ketegangan mengenai dasar penggunaan Claude oleh Anthropic, model bahasa besar yang diintegrasikan ke dalam rangkaian terperingkat Jabatan Pertahanan di bawah kontrak perintis 2025 bernilai sehingga $200 juta. Claude pada masa ini merupakan satu-satunya model bahasa besar yang diberi kuasa sepenuhnya untuk beroperasi merentas beberapa sistem selamat Pentagon tertentu.

Menurut laporan Axios, Hegseth, disertai Timbalan Setiausaha Steve Feinberg dan Penasihat Undang-Undang Am Earl Matthews, membantah sekatan Anthropic terhadap pengawasan massa ke atas rakyat Amerika dan terhadap sistem senjata autonomi sepenuhnya yang beroperasi tanpa pengawasan manusia. Pegawai pertahanan berhujah bahawa had tersebut menyekat aplikasi ketenteraan yang sah dan tidak seharusnya mengatasi kuasa Kongres dan eksekutif.

Anthropic menegaskan bahawa perlindungannya direka untuk mencegah penyalahgunaan sambil tetap membolehkan aplikasi keselamatan negara. Syarikat itu mengatakan polisinya tidak menghalang penggunaan ketenteraan yang sah tetapi melarang aktiviti seperti menjejaki individu tanpa persetujuan atau mengerahkan sistem maut tanpa kawalan manusia.

“Menurut sumber yang mengetahui perbincangan itu, Anthropic tidak pernah membantah penggunaan modelnya untuk ‘operasi ketenteraan yang sah,’” Wartawan Koresponden Keselamatan Negara Utama Fox News Jennifer Griffin melaporkan di X. “Ia juga memberitahu Hegseth bahawa ia tidak pernah mengadu kepada Pentagon atau Palantir tentang penggunaan modelnya dalam serbuan Maduro.”

Claude telah digunakan untuk analisis risikan, pertahanan siber dan perancangan operasi. Laporan menunjukkan ia menyokong perancangan dan analisis masa nyata semasa operasi 3 Jan. yang menghasilkan penangkapan Presiden Venezuela Nicolás Maduro. Anthropic kemudian meminta penjelasan tentang penglibatan model itu sebagai sebahagian daripada semakan pematuhan dalaman, yang pegawai Pentagon tafsirkan sebagai kritikan.

Pada 9 Jan., Hegseth mengeluarkan memo yang menggesa penyedia kecerdasan buatan (AI) supaya menghapuskan apa yang disifatkannya sebagai syarat yang menyekat. Arahan itu menjadi pemangkin kepada rundingan semula dan akhirnya mesyuarat 24 Feb.

Pentagon telah menetapkan tarikh akhir 27 Feb. untuk Anthropic mengubah terma-terma tersebut. Respons yang mungkin termasuk menggunakan Akta Pengeluaran Pertahanan untuk memaksa pematuhan atau melabelkan Anthropic sebagai risiko rantaian bekalan, satu langkah yang boleh menghendaki kontraktor melupuskan sistem yang berkaitan dengan Claude.

Pegawai mengakui bahawa memisahkan Claude daripada infrastruktur sedia ada akan menjadi rumit dari segi operasi. Namun, jabatan itu mempunyai alternatif. Pesaing seperti xAI dengan model Grok, OpenAI dengan ChatGPT, dan Google dengan Gemini berada di bawah kontrak Jabatan Pertahanan yang serupa dan mungkin bersedia untuk memperluaskan peranan mereka jika rundingan gagal.

Pertikaian ini menonjolkan persoalan lebih luas tentang tadbir urus AI dalam persekitaran ketenteraan, terutamanya ketika undang-undang persekutuan terus berkembang seiring teknologi baharu. Yang dipertaruhkan ialah sama ada pembangun AI swasta boleh mengekalkan dasar etika bebas apabila sistem mereka tertanam dalam operasi keselamatan negara.

Reaksi merentas platform media sosial ternyata sangat terus terang. “Pengawasan tanpa waran kembali,” seorang pengguna X menulis sebagai respons kepada hantaran X Griffin. “Ini perlu jadi berita yang jauh lebih besar daripada sekarang. Ada kemungkinan serius pelanggaran perlembagaan,” seorang lagi membalas pada penulisan Griffin. Yang lain, dengan sedikit humor gelap, bergurau bahawa ketibaan Skynet mungkin tidak lama lagi. “Skynet sudah ada… garis masa 2029 adalah AKTIF,” individu itu mengulas.

Kedua-dua pihak menyifatkan perbincangan 24 Feb. sebagai bermakna. Sama ada Anthropic melaraskan perlindungannya sebelum tarikh akhir mungkin menentukan masa depan salah satu integrasi AI paling maju Pentagon.

Soalan Lazim 🤖

• Apa yang dibincangkan dalam mesyuarat Pentagon pada 24 Feb.?
  Mesyuarat itu memfokuskan sekatan Anthropic terhadap Claude AI dan sama ada ia mengehadkan aplikasi ketenteraan yang sah.
• Mengapa Pentagon memberi tekanan kepada Anthropic?
  Pegawai pertahanan berhujah bahawa perlindungan syarikat itu mengganggu penggunaan keselamatan negara yang dibenarkan.
• Apa yang boleh berlaku jika Anthropic tidak mematuhi?
  Pentagon boleh menggunakan Akta Pengeluaran Pertahanan atau melabelkan syarikat itu sebagai risiko rantaian bekalan.
• Adakah terdapat alternatif kepada Claude?
  Ya, model daripada xAI, OpenAI dan Google berada di bawah kontrak Jabatan Pertahanan dan boleh diperluaskan jika perlu.