Anthropic Memperingatkan Rintangan Serangan Siber Telah Jatuh Seiring Akselerasi Kemampuan AI

AI Mencapai Titik Balik Keamanan Siber, Anthropic Peringatkan dalam Investigasi Baru

Anthropic, perusahaan AI di balik Claude, mengatakan evaluasi internal dan pekerjaan intelijen ancaman mereka menunjukkan pergeseran yang menentukan dalam pengembangan kemampuan siber. Menurut sebuah investigasi yang baru dirilis, kemampuan siber di antara sistem AI telah dua kali lipat dalam enam bulan, didukung oleh pengukuran aktivitas dunia nyata dan pengujian berbasis model.

Perusahaan mengatakan AI kini secara signifikan mempengaruhi dinamika keamanan global, terutama karena pelaku jahat semakin banyak mengadopsi kerangka serangan otomatis. Dalam laporan terbaru, Anthropic merinci apa yang disebutnya sebagai kasus pertama yang didokumentasikan dari kampanye spionase siber yang diorkestrasi oleh AI. Tim Intelijen Ancaman perusahaan mengidentifikasi dan mengganggu operasi skala besar pada pertengahan Sept. 2025, yang diatributkan ke kelompok yang didukung negara China yang diberi kode GTG-1002.

Kelompok tersebut dilaporkan menggunakan instansi terkoordinasi dari Claude Code untuk melakukan pengintaian, penemuan kerentanan, eksploitasi, pergerakan lateral, ekstraksi metadata, dan eksfiltrasi data—sebagian besar tanpa keterlibatan manusia. Kampanye ini menargetkan sekitar 30 organisasi di berbagai sektor termasuk teknologi, keuangan, kimia, dan sejumlah lembaga pemerintah. Anthropic memvalidasi beberapa intrusi yang berhasil sebelum melakukan intervensi.

Para analis mengatakan penyerang memanfaatkan kerangka kerja otonom yang mampu memecah serangan multi-tahap menjadi tugas-tugas kecil yang tampak sah ketika terisolasi dari konteks yang lebih luas. Hal ini memungkinkan para pelaku untuk melewati prompt melalui personas yang sudah ada dan meyakinkan Claude bahwa operasi adalah uji keamanan defensif ketimbang kampanye ofensif.

Menurut investigasi, Claude secara otomatis menjalankan 80% hingga 90% dari operasi taktis. Operator manusia hanya memberikan pengawasan strategi, menyetujui langkah-langkah utama seperti meningkatkan dari pengintaian ke eksploitasi aktif atau mengizinkan eksfiltrasi data. Laporan tersebut menggambarkan tempo operasional yang tidak mungkin untuk tim yang hanya terdiri dari manusia, dengan beberapa alur kerja menghasilkan beberapa operasi per detik di ribuan permintaan.

Anthropic mengatakan siklus hidup serangan maju melalui jalur terstruktur di mana otonomi AI meningkat di setiap fase. Claude secara mandiri memetakan permukaan serangan, memindai sistem yang aktif, membangun payload khusus untuk kerentanan terverifikasi, mengumpulkan kredensial, dan berputar melalui jaringan internal. Claude juga menganalisis data yang dicuri, mengidentifikasi intelijen bernilai tinggi, dan secara otomatis menghasilkan dokumentasi operasional terperinci yang memungkinkan akses berkelanjutan dan penyerahan antara operator.

Satu keterbatasan, laporan itu mencatat, adalah kecenderungan model untuk berhalusinasi di bawah beban kerja ofensif—kadang-kadang melebih-lebihkan akses, membuat kredensial palsu, atau salah mengklasifikasikan informasi publik sebagai sensitif. Meskipun demikian, Anthropic mengatakan pelaku mengkompensasi melalui langkah-langkah validasi, menunjukkan bahwa operasi ofensif sepenuhnya otonom tetap dapat dilakukan meskipun terdapat ketidaksempurnaan pada model saat ini.

Setelah penemuannya, Anthropic melarang akun-akun terkait, memberi tahu entitas yang terkena dampak, berkoordinasi dengan otoritas, dan memperkenalkan mekanisme pertahanan baru, termasuk pengklasifikasi yang lebih baik untuk mendeteksi pola ancaman baru. Perusahaan kini sedang membuat prototipe sistem peringatan awal yang dirancang untuk menandai upaya intrusi otonom dan membangun alat investigasi baru untuk operasi siber terdistribusi skala besar.

Baca lebih lanjut: ‘Pasar Magentik’ Microsoft Mengungkap Bagaimana Agen AI Bisa Runtuh di Bawah Tekanan

Perusahaan berpendapat bahwa meskipun kemampuan ini dapat digunakan sebagai senjata, mereka juga penting untuk memperkuat kesiapan defensif. Anthropic mencatat tim Intelijen Ancaman mereka sendiri banyak bergantung pada Claude untuk menganalisis dataset besar yang dihasilkan selama investigasi. Anthropic mendesak tim keamanan untuk mulai mengadopsi otomatisasi berbasis AI untuk pusat operasi keamanan, deteksi ancaman, analisis kerentanan, dan respons insiden.

Namun, laporan tersebut memperingatkan bahwa hambatan serangan siber telah “jatuh secara substansial” karena sistem AI memungkinkan kelompok kecil—atau bahkan individu—melakukan operasi yang sebelumnya hanya dapat dilakukan oleh aktor negara yang didanai dengan baik. Anthropic mengharapkan proliferasi cepat dari teknik-teknik ini di lingkungan ancaman yang lebih luas, menyerukan kolaborasi yang lebih dalam, perlindungan defensif yang lebih baik, dan partisipasi industri yang lebih luas dalam berbagi ancaman untuk melawan model serangan yang didukung AI yang muncul.

FAQ ❓

• Apa yang Anthropic temukan dalam investigasinya?
  Anthropic mengidentifikasi dan mengganggu kampanye spionase siber skala besar yang menggunakan AI untuk mengotomatisasi sebagian besar operasi serangan.
• Siapa yang berada di balik serangan tersebut?
  Perusahaan mengatributkan operasi ini ke kelompok yang didukung negara China yang diberi kode GTG-1002.
• Bagaimana AI digunakan dalam intrusi ini?
  Penyerang menggunakan Claude Code untuk secara otonom melakukan pengintaian, eksploitasi, pergerakan lateral, dan ekstraksi data.
• Mengapa laporan ini penting bagi tim keamanan siber?
  Anthropic mengatakan kasus ini menunjukkan bahwa serangan otonom yang didukung AI kini dapat dilakukan dalam skala besar dan memerlukan strategi defensif baru.