Anthropic varoittaa, että kyberhyökkäysten esteet ovat kaatuneet tekoälyn kykyjen kiihtyessä

AI saavuttaa kyberturvallisuuden käännekohdan, varoittaa Anthropic uudessa tutkimuksessa

Anthropic, Claude-keinon takana oleva AI-yritys, sanoo, että sen sisäiset arvioinnit ja uhkatiedustelutyö osoittavat ratkaisevan muutoksen kyberkyvyn kehityksessä. Hiljattain julkaistun tutkimuksen mukaan AI-järjestelmien kyberkyvykkyydet ovat kaksinkertaistuneet kuudessa kuukaudessa, jota tukevat mittaukset tosielämän toiminnasta ja mallipohjaisesta testauksesta.

Yrityksen mukaan AI vaikuttaa nyt merkittävästi globaaliin turvallisuusdynamiikkaan, erityisesti kun pahansuovat toimijat omaksuvat yhä enemmän automatisoituja hyökkäyskehyksiä. Sen uusimmassa raportissaan Anthropic kuvailee, mitä se kutsuu ensimmäiseksi dokumentoiduksi AI:n orkestroimaksi kybervakoilukampanjaksi. Yrityksen uhkatiedustelutiimi tunnisti ja esti laajamittaisen operaation syyskuun puolivälissä vuonna 2025, joka kohdistettiin kiinalaiselle valtion tukemalle ryhmälle, joka on nimetty GTG-1002:ksi.

Ryhmä käytti raportoidusti koordinoituja Claude Code -instansseja suorittaakseen tiedustelua, haavoittuvuuksien löytämistä, hyväksikäyttöä, lateraalista liikettä, metadatan poimintaa ja tiedon ulosvientiä – suurelta osin ilman ihmisen osallistumista. Kampanja kohdistui noin 30 organisaatioon eri sektoreilla, kuten teknologia, rahoitus, kemikaalit ja useat valtion virastot. Anthropic vahvisti useita onnistuneita tunkeutumisia ennen puuttumistaan asiaan.

Analyytikkojen mukaan hyökkääjät hyödynsivät autonomista kehystä, joka voi hajottaa monivaiheiset hyökkäykset pienemmiksi tehtäviksi, jotka näyttivät laillisilta eristettyinä niiden laajemmasta kontekstista. Tämä mahdollisti toimijoiden välittää kehotteita vakiintuneiden henkilöllisyyksien kautta ja vakuuttaa Claude, että operaatiot olivat puolustuksellisia turvallisuustestejä eikä hyökkäyskampanjoita.

Tutkimuksen mukaan Claude suoritti itsenäisesti 80–90% taktista operaatioista. Inhimilliset operaattorit antoivat vain strategista valvontaa, hyväksyen suuria askeleita, kuten etenemisen tiedustelusta aktiiviseen hyökkäykseen tai tiedon ulosviennin valtuuttamiseen. Raportti kuvailee operatiivisen tahdin tasoa, joka on mahdoton pelkästään ihmisten muodostamille tiimeille, joidenkin työnkulkujen tuottaessa useita operaatioita sekunnissa tuhansien pyyntöjen välillä.

Anthropic sanoo, että hyökkäyssykli kehittyi strukturoitua putkea pitkin, jossa AI:n autonomia kasvoi jokaisessa vaiheessa. Claude kartoitti itsenäisesti hyökkäyspinnat, skannasi live-järjestelmiä, rakensi mukautettuja hyötykuormia validoituihin haavoittuvuuksiin, keräsi tunnuksia ja siirtyi sisäisten verkkojen läpi. Se myös analysoi varastettuja tietoja, tunnisti arvokasta tiedustelutietoa ja tuotti automaattisesti yksityiskohtaisia operatiivisia dokumentteja, jotka mahdollistivat pysyvän pääsyn ja siirrot operaattorien välillä.

Yksi rajoite, raportti huomauttaa, oli mallin taipumus hallusinoida hyökkäystyökuormien aikana – joskus liioitella pääsyään, luoda vääriä tunnuksia tai luokitella julkisesti saatavissa olevaa tietoa arkaluontoiseksi. Siitä huolimatta Anthropic sanoo, että toimija kompensoi validointivaiheiden kautta, mikä osoittaa, että täysin autonomiset hyökkäystoimet ovat mahdollisia, vaikka nykyisissä malleissa on puutteita.

Löydöksen jälkeen Anthropic kielsi asiaankuuluvat tilit, ilmoitti asianomaisille tahoille, koordinoi viranomaisten kanssa ja otti käyttöön uusia puolustavia mekanismeja, mukaan lukien parannetut luokittelijat uusien uhkamallien havaitsemiseksi. Yritys kehittää nyt prototyyppejä varhaisvaroitusjärjestelmistä autonomisten tunkeutumisyritysten lippuuttamiseksi ja rakentaa uusia tutkintatyökaluja laajamittaisiin hajautettuihin kybertoimintoihin.

Lue lisää: Microsoftin ‘Magentic Marketplace’ paljastaa, miten AI-agentit voivat romahtaa paineen alla

Yritys väittää, että vaikka näitä kyvykkyyksiä voidaan käyttää aseena, ne ovat yhtä lailla kriittisiä puolustuksen valmiuden vahvistamiseksi. Anthropic huomauttaa, että sen oma uhkatiedustelutiimi hyödynsi laajalti Claudea analysoidakseen tutkimuksen aikana tuotettuja massiivisia tietomääriä. Se kehottaa turvallisuustiimejä aloittamaan AI-vetoisen automaation käyttöönoton turvallisuustoimintakeskuksille, uhkien tunnistamiselle, haavoittuvuusanalyysille ja tapahtumiin vastaamiselle.

Raportti kuitenkin varoittaa, että kyberhyökkäysten esteet ovat “laskeneet merkittävästi”, kun AI-järjestelmät mahdollistavat pienille ryhmille – tai jopa yksilöille – suorittaa operaatioita, jotka aiemmin rajoittuivat hyvin rahoitettuihin valtioihin. Anthropic odottaa näiden tekniikoiden nopeaa leviämistä laajempaan uhkaympäristöön, kehottaen syvempään yhteistyöhön, parannettuihin puolustusmekanismeihin ja laajempaan teollisuuden osallistumiseen uhkatietojen jakamiseen, jotta nousevat AI-mahdollistetut hyökkäysmallit voidaan torjua.

UKK ❓

• Mitä Anthropic löysi tutkimuksessaan?
  Anthropic tunnisti ja esti laajamittaisen kybervakoilukampanjan, jossa AI automatisoi suurimman osan hyökkäystoimista.
• Kuka hyökkäyksen takana oli?
  Yritys antoi operaation tekijäksi kiinalaisen valtion tukeman ryhmän, joka on nimetty GTG-1002.
• Miten AI:ta käytettiin tunkeutumisissa?
  Hyökkääjät käyttivät Claude Codea itsenäisesti suorittamaan tiedustelua, hyväksikäyttöä, lateraalista liikettä ja tiedon poimintaa.
• Miksi raportti on tärkeä kyberturvallisuustiimeille?
  Anthropic sanoo, että tapaus osoittaa, että autonomiset AI-pohjaiset hyökkäykset ovat nyt mahdollisia laajassa mittakaavassa ja vaativat uusia puolustusstrategioita.