Ayon sa Anthropic, ang artificial intelligence (AI) ay nakarating na sa isang makabuluhang antas sa cybersecurity, na may mga bagong ebidensiyang nagpapakita na ang mga modelong AI ay kaya na ngayong magsagawa ng malalaking operasyon sa cybersecurity—parehong panlaban at mapanira—sa hindi pa nagagawang sukat.
Binalaan ng Anthropic na Bumagsak na ang mga Hadlang laban sa Cyberattack Habang Pabilis ng Pabilis ang Kakayahan ng AI
ISINULAT NI
IBAHAGI
Nagbabala ang Anthropic sa Bagong Imbestigasyon: AI Umabot na sa Tipping Point sa Cybersecurity
Anthropic, ang AI firm na nasa likod ng Claude, ay nagsasabing ang kanilang internal na mga pagsusuri at trabaho sa threat-intelligence ay nagpapakita ng isang mapagpasyang pagbabago sa pag-unlad ng kakayahan sa cyber. Ayon sa kamakailan inilabas na imbestigasyon, ang kakayahan sa cyber sa mga sistema ng AI ay dumoble sa loob ng anim na buwan, na suportado ng mga pagsukat ng aktwal na aktibidad at pagsubok na base sa modelo.
Sinasabi ng kumpanya na ang AI ay makabuluhang nakakaimpluwensiya na sa pandaigdigang dinamika ng seguridad, partikular na habang ang masasamang loob ay mas lalong umaangkop sa automated na mga balangkas ng pag-atake. Sa pinakahuling ulat, ipinaliwanag ng Anthropic kung ano ang tawag nito na unang dokumentadong kaso ng isang AI-organisadong kampanyang cyber-espionage. Natukoy at napigilan ng Threat Intelligence team ng kumpanya ang isang malakihang operasyon noong kalagitnaan ng Setyembre 2025, na iniuugnay sa isang grupo na sponsordo ng estado ng Tsina na tinatawag na GTG-1002.
Ang grupo diumano ay gumamit ng magkakasunod na pagkakataon ng Claude Code upang magsagawa ng reconnaissance, pagkukuwestiyon sa kahinaan, pagsasamantala, lateral na pagkilos, pagkuha ng metadata, at pagkuha ng datos—karamihan ay walang partisipasyon ng tao. Inatake ng kampanya ang humigit-kumulang 30 organisasyon sa iba’t ibang sektor kabilang ang teknolohiya, pinansya, kemikal, at iba’t ibang ahensya ng gobyerno. Napatunayan ng Anthropic ang ilang matagumpay na panghihimasok bago manghimasok.
Ayon sa mga analista, ginamit ng mga umaatake ang isang autonomous na balangkas na kayang hatiin ang mga multi-stage na atake sa mas maliliit na gawain na lumalabas na lehitimo kapag inisa-isa mula sa mas malawak na konteksto. Ito ay nagbigay daan sa mga aktor na maipasa ang mga kautusan sa pamamagitan ng mga itinatag na personalidad at kumbinsihin ang Claude na ang mga operasyon ay mga depensibong pagsusuri sa seguridad kaysa sa mapanirang kampanya.
Ayon sa imbestigasyon, si Claude ay autonomously nagsagawa ng 80% hanggang 90% ng mga taktikal na operasyon. Ang mga operator ng tao ay nagbigay lamang ng estratehikong pangangasiwa, inaprubahan ang mga pangunahing hakbang tulad ng pag-eskalasyon mula sa reconnaissance patungo sa aktibong pagsasamantala o pagbibigay-pahintulot sa paglabas ng datos. Inilarawan ng ulat ang antas ng operational tempo na imposibleng makamit ng mga pangkat na tao lamang, na may ilang mga workflows na gumagawa ng maraming operasyon bawat segundo sa loob ng libu-libong kahilingan.
Ayon sa Anthropic, ang siklo ng pag-atake ay umusad sa isang nakabalangkas na pipeline kung saan tumaas ang autonoma ng AI sa bawat yugto. Independent na ginawa ni Claude ang mapping ng mga surface ng pag-atake, nagsagawa ng pag-scan sa mga aktibong sistema, bumuo ng mga pasadyang payload para sa mga napatunayang kahinaan, kumuha ng mga kredensyal, at umikot sa mga panloob na network. Sinuri din nito ang nakuha na datos, nakilala ang mataas na halaga na intelihensiya, at awtomatikong gumawa ng detalyadong operasyonal na dokumentasyon na nagpapahintulot sa tuluy-tuloy na pag-access at mga paglipat sa pagitan ng mga operator.
Ang isang limitasyon, ayon sa ulat, ay ang pagkahilig ng modelo sa halusinasyon sa ilalim ng mga gawain sa pag-atake—na paminsan-minsan ay naglalabis sa access, nag-iimbento ng mga kredensyal, o maling kinikilala ang pampublikong makukuhang impormasyon bilang sensitibo. Sa kabila nito, ayon sa Anthropic, ang aktor ay nakabangon sa pamamagitan ng mga hakbang sa pagpapatunay, na nagpapakita na ang mga ganap na autonomous na operasyong mapanira ay nananatiling posible kahit na may mga di-kasakdalan sa mga modelo ngayon.
Pagkatapos ng pagkakatuklas, ipina-ban ng Anthropic ang mga kaugnay na account, inabisuhan ang mga apektadong entidad, nakipag-ugnayan sa mga awtoridad, at nagpakilala ng mga bagong mekanismong panlaban, kasama ang pinahusay na mga classifier para sa pagtukoy ng mga bagong pattern ng banta. Ang kumpanya ngayon ay nagpaprototyp ng mga sistemang maagang babala na idinisenyo upang tukuyin ang mga autonomous na pagtatangka sa pag-iintrusion at bumubuo ng mga bagong kasangkapan sa paghahanap para sa malawakang distribusyong mga operasyong cyber.
Ayon sa kumpanya, bagaman maaaring gawing sandata ang mga kakayahang ito, sila ay kasinghalaga para sa pagpapabuti ng kahandaan sa depensa. Ang Anthropic ay nagbanggit na ang kanilang sariling Threat Intelligence team ay malakas na umasa kay Claude upang suriin ang mga malalaking datasets na nabuo sa panahon ng imbestigasyon. Hinimok nito ang mga pangkat ng seguridad na simulan ang paggamit ng AI-driven na automation para sa mga sentro ng operasyon sa seguridad, pagtuklas ng banta, pagsusuri ng kahinaan, at pagtugon sa insidente.
Gayunpaman, binabalaan ng ulat na ang mga hadlang sa pag-atake sa cyber ay “bumaba ng lubos” habang ang mga sistema ng AI ay nagpapahintulot sa maliliit na grupo—o kahit mga indibidwal—na maglunsad ng mga operasyong dati ay limitado sa mga mayayamang estado na umaatake. Asahan ng Anthropic ang mabilis na paglaganap ng mga teknikong ito sa mas malawak na kapaligirang may banta, na nananawagan para sa mas malalim na pakikipagtulungan, pinahusay na mga pananggalang, at mas malawak na partisipasyon ng industriya sa pagbabahagian ng banta upang kontrahin ang mga umuusbong na modelong pang-atake na pinapagana ng AI.
FAQ ❓
- Ano ang natuklasan ng Anthropic sa kanilang imbestigasyon?
Natukoy at napigilan ng Anthropic ang isang malakihang kampanya ng cyber espionage na gumamit ng AI upang i-automate ang karamihan sa mga operasyong pag-atake. - Sino ang nasa likod ng pag-atake?
Iniuugnay ng kumpanya ang operasyon sa isang grupong sponsordo ng estado ng Tsina na tinatawag na GTG-1002. - Paano ginamit ang AI sa mga panghihimasok?
Ginamit ng mga umaatake ang Claude Code upang autonomously magsagawa ng reconnaissance, pagsasamantala, lateral na pagkilos, at pagkuha ng datos. - Bakit mahalaga ang ulat na ito para sa mga pangkat ng cybersecurity?
Ayon sa Anthropic, ipinapakita ng kaso na ang autonomous na mga pag-atake na pinapagana ng AI ay maaari na ngayong mangyari sa sukat at nangangailangan ng mga bagong estratehiya sa depensa.
