Anthropic Mengingatkan Halangan Serangan Siber Telah Luntur seiring Peningkatan Keupayaan AI

AI Mencapai Titik Perubahan Keselamatan Siber, Anthropic Beri Amaran dalam Siasatan Baharu

Anthropic, firma AI di sebalik Claude, mengatakan penilaian dalaman dan kerjanya dalam risikan ancaman menunjukkan peralihan ketara dalam pembangunan kebolehan siber. Menurut siasatan yang baru dikeluarkan, kebolehan siber di kalangan sistem AI telah berganda dalam enam bulan, disokong oleh ukuran aktiviti dunia nyata dan ujian berdasarkan model.

Syarikat itu mengatakan AI kini bermakna mempengaruhi dinamik keselamatan global, terutamanya apabila pelaku jahat semakin memakai rangka kerja serangan automatik. Dalam laporan terbarunya, Anthropic menerangkan apa yang dipanggilnya sebagai kes pertama yang didokumentasikan mengenai kempen persiskapan siber yang ditata AI. Pasukan Risikan Ancaman firma itu mengenal pasti dan mengganggu operasi berskala besar pada pertengahan September 2025, yang dikaitkan dengan kumpulan yang ditaja oleh negara China digelar GTG-1002.

Kumpulan itu dilaporkan menggunakan rangka kerja Claude Code yang terkoordinasi untuk melakukan peninjauan, penemuan kerentanan, eksploitasi, pergerakan lateral, pengekstrakan metadata, dan pengeluaran data—terutamanya tanpa campur tangan manusia. Kempen itu menyasarkan lebih kurang 30 organisasi merentasi sektor termasuk teknologi, kewangan, kimia, dan pelbagai agensi kerajaan. Anthropic telah mengesahkan beberapa pencerobohan yang berjaya sebelum melakukan campur tangan.

Penganalisis berkata penyerang memanfaatkan rangka kerja autonomi yang mampu memecahkan serangan berbilang tahap ke dalam tugas yang lebih kecil yang kelihatan sah apabila diasingkan daripada konteks yang lebih luas. Ini membolehkan pelaku menghantar arahan melalui persona yang ditetapkan dan meyakinkan Claude bahawa operasi tersebut adalah ujian keselamatan defensif dan bukannya kempen ofensif.

Menurut siasatan, Claude secara autonomi melaksanakan 80% hingga 90% operasi taktikal. Pengendali manusia hanya menyediakan pengawasan strategik, meluluskan langkah utama seperti meningkat dari pengenalan kepada eksploitasi aktif atau memberi kuasa kepada pengeluaran data. Laporan itu menggambarkan tahap tempo operasi yang mustahil untuk tim-tim manusia sahaja, dengan beberapa aliran kerja menghasilkan pelbagai operasi per saat di seluruh ribuan permintaan.

Anthropic berkata kitaran hidup serangan bergerak melalui saluran berstruktur di mana autonomi AI meningkat pada setiap fasa. Claude secara bebas memetakan permukaan serangan, mengimbas sistem hidup, membina muatan khusus untuk kerentanan yang telah disahkan, mengumpulkan kelayakan, dan berpindah melalui rangkaian dalaman. Ia juga menganalisa data yang dicuri, mengenal pasti risikan bernilai tinggi, dan secara automatik menjana dokumentasi operasi terperinci yang membolehkan akses berterusan dan peralihan antara pengendali.

Satu kelemahan, laporan itu mencatat, adalah kecenderungan model untuk berhalusinasi di bawah beban kerja ofensif—kadang kala membesar-besarkan akses, mencipta kelayakan, atau salah mengklasifikasikan maklumat yang boleh didapati secara umum sebagai sensitif. Walaupun begitu, Anthropic mengatakan pelaku menebusnya melalui langkah pengesahan, menunjukkan bahawa operasi ofensif autonomi sepenuhnya tetap dapat dilaksanakan walaupun terdapat ketidaksempurnaan dalam model hari ini.

Selepas penemuannya, Anthropic mengharamkan akaun berkaitan, memberitahu entiti yang terjejas, menyelaraskan dengan pihak berkuasa, dan memperkenalkan mekanisme pertahanan baru, termasuk pengkelasan yang lebih baik untuk mengesan corak ancaman baru. Syarikat itu kini membangun sistem amaran awal yang direkabentuk untuk mengesan cubaan pencerobohan autonomi dan membangunkan alat penyiasatan baru untuk operasi siber teragih berskala besar.

Baca lebih lanjut: ‘Magentic Marketplace’ Microsoft Dedahkan Bagaimana Agen AI Boleh Runtuh di Bawah Tekanan

Firma tersebut berhujah bahawa walaupun kebolehan ini boleh dipersenjatai, mereka juga penting untuk memperkasa kesediaan pertahanan. Anthropic mencatat bahawa pasukan Risikan Ancaman sendiri sangat bergantung pada Claude untuk menganalisis banyak dataset yang dijana semasa penyiasatan. Ia menggesa pasukan keselamatan untuk mula menggunakan automasi dipacu AI untuk pusat operasi keselamatan, pengesanan ancaman, analisis kerentanan, dan tindak balas insiden.

Bagaimanapun, laporan itu memberi amaran bahawa penghalang serangan siber telah “jatuh dengan ketara” apabila sistem AI memungkinkan kumpulan kecil—atau bahkan individu—melaksanakan operasi yang dahulunya terhad kepada pelaku yang didanai negara. Anthropic menjangka penyebaran pesat teknik ini di seluruh persekitaran ancaman yang lebih luas, menyeru kerjasama yang lebih mendalam, perlindungan pertahanan yang lebih baik, dan penyertaan industri yang lebih luas dalam perkongsian ancaman untuk menangkal model serangan yang didayakan AI yang muncul.

FAQ ❓

• Apa yang didapati Anthropic dalam siasatannya?
  Anthropic mengenal pasti dan mengganggu kempen persiskapan siber berskala besar yang menggunakan AI untuk mengotomasi kebanyakan operasi serangan.
• Siapa di belakang serangan ini?
  Firma itu mengaitkan operasi itu dengan kumpulan yang ditaja oleh negara China digelar GTG-1002.
• Bagaimana AI digunakan dalam pencerobohan?
  Penyerang menggunakan Claude Code untuk secara autonomi melakukan peninjauan, eksploitasi, pergerakan lateral, dan pengeluaran data.
• Mengapa laporan ini penting untuk pasukan keselamatan siber?
  Anthropic mengatakan kes ini menunjukkan bahawa serangan yang didorong oleh AI autonomi kini dapat dilaksanakan pada skala dan memerlukan strategi pertahanan baru.