Anthropic dan Pentagon Bertembung Mengenai Penggunaan Claude untuk Ketenteraan dan Pengawasan Massa

Anthropic Bertembung Dengan Pentagon Mengenai Penggunaan Claude yang ‘Tidak Beretika’

Anthropic, salah satu syarikat kecerdasan buatan (AI) terbesar, dilaporkan menerima tekanan daripada Jabatan Perang berhubung penggunaan model AI-nya untuk aktiviti yang dianggap tidak beretika oleh syarikat itu.

Axios melaporkan bahawa Setiausaha Pertahanan Pete Hegseth sedang mempertimbangkan untuk melabelkan Anthropic sebagai risiko rantaian bekalan, yang bermaksud semua kontrak dan hubungan dengan syarikat itu perlu diputuskan. Selain itu, semua syarikat yang berurusan dengan Pentagon juga perlu meninggalkan perkhidmatan Anthropic.

Pertembungan ini tercetus apabila syarikat itu enggan membenarkan penggunaan Claude, model tanda dagangnya, dalam kempen pengawasan massa serta operasi yang melibatkan peralatan ketenteraan autonomi sepenuhnya. Sebaliknya, Pentagon mendakwa ia sepatutnya boleh memanfaatkan keupayaan Claude untuk “semua tujuan yang sah,” tanpa syarikat mempunyai sebarang kata putus dalam proses ini.

Jika Anthropic akhirnya dilabelkan sebagai risiko rantaian bekalan, ini bermakna model tersebut perlu dikeluarkan daripada sistem maklumat Pentagon, kerana hanya Claude mempunyai akses kepada sistem terklasifikasi organisasi itu.

Ini membolehkan Claude mengambil peranan aktif dalam Operasi Absolute Resolve, yang membawa kepada pengeluaran Nicolas Maduro dari Venezuela pada Januari. Walaupun peranan yang dimainkan oleh model itu semasa operasi tersebut belum didedahkan sepenuhnya, ia mewakili peningkatan dalam penggunaan AI untuk kempen ketenteraan.

Kebuntuan ini mungkin mewujudkan satu preseden tentang bagaimana syarikat AI boleh berurusan dengan kerajaan di dunia Barat, sekali gus menetapkan asas bagi tahap kawalan yang mungkin dikekalkan syarikat-syarikat ini ke atas model mereka apabila digunakan untuk tujuan ketenteraan.

Seorang jurucakap Anthropic menyatakan bahawa syarikat itu sedang mengadakan “perbualan yang produktif, dengan niat baik, dengan DoW tentang cara untuk meneruskan kerja itu dan menangani isu baharu serta kompleks ini dengan betul.”

Jack Dorsey's Block Bekerjasama Dengan OpenAI dan Anthropic

Syarikat-syarikat akan bekerjasama dalam projek sumber terbuka yang tertumpu secara khusus kepada kemajuan AI agen. read more.

Baca sekarang

Jack Dorsey's Block Bekerjasama Dengan OpenAI dan Anthropic

Syarikat-syarikat akan bekerjasama dalam projek sumber terbuka yang tertumpu secara khusus kepada kemajuan AI agen. read more.

Baca sekarang

Jack Dorsey's Block Bekerjasama Dengan OpenAI dan Anthropic

Baca sekarang

Syarikat-syarikat akan bekerjasama dalam projek sumber terbuka yang tertumpu secara khusus kepada kemajuan AI agen. read more.

Soalan Lazim

• Apakah isu yang dihadapi Anthropic dengan Jabatan Perang?
  Anthropic sedang diteliti oleh Jabatan Perang kerana enggan membenarkan model AI-nya, Claude, digunakan untuk aktiviti yang disifatkannya tidak beretika, seperti pengawasan massa dan operasi ketenteraan autonomi.
• Apakah kemungkinan akibat yang boleh dihadapi Anthropic jika diklasifikasikan sebagai risiko rantaian bekalan?
  Jika dilabelkan sebagai risiko rantaian bekalan, semua kontrak dengan Pentagon akan diputuskan, sekali gus memerlukan Claude dikeluarkan daripada sistem maklumat Pentagon.
• Bagaimanakah Anthropic memberikan respons terhadap tuntutan Pentagon berhubung model AI-nya?
  Syarikat itu menegaskan bahawa ia terlibat dalam “perbualan yang produktif” dengan Jabatan Perang, dengan tujuan untuk mengemudi isu etika yang kompleks berkaitan penggunaan teknologi AI-nya.
• Operasi ketenteraan terkini yang melibatkan Claude ialah yang mana, dan apakah kepentingannya?
  Claude terlibat dalam Operasi Absolute Resolve, yang memudahkan pengeluaran Nicolás Maduro dari Venezuela, menandakan peningkatan ketara dalam penggunaan teknologi AI oleh pihak ketenteraan.