Anthropic milik Dario Amodei menyaman Kerajaan AS, mendakwa Pentagon membalas tindakan berhubung pagar penghadang keselamatan AI

Anthropic Mencabar Jabatan Pertahanan dalam Saman AI Bersejarah

Menurut beberapa laporan, Anthropic memfailkan dua saman pada 9 Mac di mahkamah persekutuan yang mencabar tindakan yang diambil oleh Jabatan Pertahanan A.S. dan pentadbiran Trump, dengan berhujah bahawa kerajaan secara tidak sah membalas terhadap syarikat itu selepas ia enggan membuang langkah perlindungan daripada sistem kecerdasan buatan Claude miliknya. Saman tersebut menyasarkan satu penetapan yang lazimnya dikenakan kepada musuh asing yang disyaki melakukan pengintipan atau sabotaj, bukannya firma teknologi domestik.

Pertikaian ini berpunca daripada rundingan kontrak antara Anthropic dan Pentagon mengenai bagaimana model AI Claude milik syarikat itu boleh digunakan oleh agensi pertahanan A.S.. Anthropic sebelum ini menyokong inisiatif keselamatan negara dan menjadi syarikat AI barisan hadapan pertama yang melaksanakan model pada rangkaian kerajaan A.S. berklasifikasi pada Jun 2024, membantu penganalisis dan perancang ketenteraan dengan semakan risikan, simulasi, perancangan operasi serta kerja keselamatan siber.

Ketegangan meningkat apabila Jabatan Pertahanan menuntut akses tanpa sekatan kepada Claude untuk “semua tujuan yang sah” sebagai sebahagian daripada pembaharuan kontrak. Anthropic bersetuju dengan kebanyakan syarat tetapi menegaskan dua sekatan: melarang penggunaan AI mereka untuk pengawasan domestik secara besar-besaran terhadap rakyat Amerika dan menghalang pelaksanaan dalam sistem senjata maut autonomi sepenuhnya.

Eksekutif syarikat berhujah bahawa penghadang itu perlu kerana model AI barisan hadapan semasa masih terlalu tidak boleh dipercayai untuk senjata autonomi dan kerana program pengawasan berskala besar boleh bercanggah dengan perlindungan perlembagaan. Anthropic menyatakan sekatan tersebut tidak pernah mengganggu sebarang misi ketenteraan sepanjang kerja terdahulu mereka dengan kerajaan.

Rundingan runtuh selepas mesyuarat pada 24 Feb. antara CEO Anthropic Dario Amodei dan Setiausaha Pertahanan Pete Hegseth. Beberapa hari kemudian, pada 27 Feb., Presiden Donald Trump menyiarkan di Truth Social, mengarahkan agensi persekutuan untuk “segera menghentikan” penggunaan teknologi Anthropic, menyifatkan pergantungan berterusan kepada syarikat itu sebagai “kesilapan yang membawa bencana.”

Tidak lama selepas itu, Hegseth bertindak mengklasifikasikan Anthropic sebagai risiko rantaian bekalan di bawah kuasa perolehan persekutuan yang digariskan dalam 10 U.S.C. § 3252. Penetapan itu, yang disahkan dalam surat yang dihantar kepada syarikat sekitar 4 Mac, menyekat kontraktor kerajaan tertentu daripada menggunakan teknologi yang dianggap terdedah kepada sabotaj atau pengaruh asing.

Anthropic berhujah langkah itu meluaskan skop statut tersebut jauh melangkaui tujuan asalnya. Dalam pemfailan mahkamah, syarikat itu menegaskan penetapan tersebut dimaksudkan untuk ancaman keselamatan yang berkaitan dengan pihak asing, bukannya pertikaian dasar dengan pembekal domestik. Saman itu mendakwa kerajaan gagal menggunakan “cara yang paling kurang membataskan” seperti yang dikehendaki undang-undang dan sebaliknya mengenakan apa yang disifatkan syarikat sebagai senarai hitam tidak rasmi.

Pemfailan undang-undang itu juga membangkitkan kebimbangan perlembagaan. Anthropic berhujah penetapan tersebut melanggar Pindaan Pertama dengan menghukum syarikat kerana secara terbuka mengadvokasi had penggunaan AI seperti senjata autonomi dan pengawasan domestik. Menurut aduan itu, melabel firma tersebut sebagai risiko keselamatan negara merosakkan reputasinya dan boleh mengancam kontrak bernilai ratusan juta dolar.

Anthropic meminta mahkamah menghalang penguatkuasaan penetapan tersebut, mengarahkan agensi persekutuan menarik balik arahan yang menghentikan urusan perniagaan dengan syarikat itu, serta mencegah tindakan serupa pada masa hadapan. Syarikat itu berkata matlamatnya bukan untuk memaksa kerajaan membeli teknologinya tetapi untuk mencegah tindakan balas atas perbezaan dasar.

“Memohon semakan kehakiman tidak mengubah komitmen lama kami untuk memanfaatkan AI bagi melindungi keselamatan negara kami,” kata seorang jurucakap Anthropic dalam satu kenyataan. “Namun ini adalah langkah yang perlu untuk melindungi perniagaan kami, pelanggan kami dan rakan kongsi kami.”

Pegawai Pentagon tidak memberikan komen secara terbuka mengenai litigasi itu, dengan merujuk kepada dasar berkaitan kes mahkamah yang sedang berjalan. Sesetengah pemimpin pertahanan sebelum ini berhujah bahawa agensi ketenteraan mesti mengekalkan kuasa operasi penuh ke atas teknologi kontraktor semasa kecemasan dan tidak boleh membenarkan vendor menentukan bagaimana sistem digunakan.

Pertikaian ini berlaku ketika perlumbaan untuk mendapatkan kontrak AI ketenteraan semakin memuncak. Firma pesaing, termasuk OpenAI, mencapai perjanjian dengan Pentagon sekitar waktu yang sama apabila rundingan Anthropic terhenti. Sementara itu, rakan kongsi teknologi utama seperti Google dan Microsoft telah menyatakan mereka berhasrat untuk terus bekerjasama dengan Anthropic dalam perkhidmatan komersial yang tidak berkaitan dengan pertahanan.

Penganalisis industri mengatakan keputusan kes ini boleh mewujudkan preseden tentang bagaimana kerajaan persekutuan menekan syarikat AI untuk mengubah dasar keselamatan apabila kepentingan keselamatan negara terlibat. Buat masa ini, produk pengguna Anthropic dan perkhidmatan AI komersialnya kekal tersedia, sementara pertempuran undang-undang mengenai penetapan Pentagon itu mula melalui proses mahkamah.

Soalan Lazim 🧭

• Mengapa Anthropic menyaman kerajaan A.S.?
  Anthropic memfailkan saman dengan mendakwa Pentagon secara tidak sah melabelkan syarikat itu sebagai risiko rantaian bekalan keselamatan negara selepas ia enggan membuang sekatan keselamatan AI.
• Apa yang mencetuskan pertikaian antara Anthropic dan Pentagon?
  Konflik bermula semasa rundingan kontrak apabila Jabatan Pertahanan menuntut penggunaan tanpa sekatan bagi sistem AI Claude milik Anthropic.
• Apakah maksud penetapan “risiko rantaian bekalan”?
  Label tersebut boleh mengehadkan kontraktor kerajaan daripada menggunakan teknologi sesebuah syarikat jika pegawai percaya ia menimbulkan risiko keselamatan atau perolehan.
• Adakah perkhidmatan AI Anthropic masih akan beroperasi semasa saman berlangsung?
  Ya, produk AI komersial dan perkhidmatan pengguna Anthropic kekal tersedia sementara kes undang-undang diteruskan.