Anthropic hoiatab, et küberrünnakute tõkked on langenud, kuna tehisintellekti võimed kiirenevad

AI saavutab küberturvalisuse pöördepunkti, hoiatab Anthropic uues uurimuses

Anthropic, Claude’i taga olev AI ettevõte, ütleb, et selle sisemised hinnangud ja ohuluure töö näitavad otsustavat nihet kübervõimekuse arengus. Hiljuti avaldatud uurimuse kohaselt on AI süsteemide kübervõimekused kuue kuu jooksul kahekordistunud, toetudes reaalse maailma tegevuse mõõtmistele ja mudelipõhisele testimisele.

Ettevõte ütleb, et AI mõjutab nüüd märkimisväärselt ülemaailmseid julgeolekudünaamikaid, eriti kui pahatahtlikud osalejad võtavad üha enam kasutusele automatiseeritud ründekraame. Oma viimases aruandes kirjeldab Anthropic, mida nad nimetavad esimeseks dokumenteeritud AI-organiseeritud küberspionaaži kampaaniaks. Ettevõtte Ohuluure meeskond tuvastas ja katkestas ulatusliku operatsiooni 2025. aasta septembri keskpaigas, mida kanti Hiina riigi poolt toetatavale rühmale GTG-1002.

Väidetavalt kasutas rühm koordineeritud Claude Code’i juhtumeid luuretegevuseks, haavatavuste avastamiseks, ekspluateerimiseks, külgliikumiseks, metaandmete eraldamiseks ja andmete väljavooluks – suures osas ilma inimsekkumiseta. Kampaania sihtmärgiks olid umbes 30 organisatsiooni erinevatel aladel, sealhulgas tehnoloogia, rahandus, kemikaalid ja mitmed valitsusasutused. Anthropic kinnitas mitmeid edukaid sissetunge enne sekkumist.

Analüütikud ütlevad, et ründajad kasutasid autonoomset raamistikku, mis suutis jaotada mitmeetapilised rünnakud väiksemateks ülesanneteks, mis eraldatuna laiemast kontekstist ilmusid legitiimsetena. See võimaldas osalejatel edastada käske väljakujunenud isikute kaudu ja veenda Claude’i, et operatsioonid olid kaitsejulgeoleku testid, mitte ründekampaaniad.

Uurimuse kohaselt teostas Claude autonoomselt 80% kuni 90% taktikalistest operatsioonidest. Inimoperaatorid andsid ainult strateegilist järelevalvet, kinnitades peamisi samme nagu luure teostamisest aktiivse ekspluateerimiseni liikumine või andmete väljavoolu autoriseerimine. Aruanne kirjeldab operatiivset tempot, mis oli inimtöörühmadele võimatu, mõned töövood genereerisid mitu operatsiooni sekundis tuhandete päringute kaudu.

Anthropic ütleb, et rünnaku elutsükkel arenes läbi struktureeritud torujuhtme, kus AI autonoomia suurenes igas etapis. Claude kaardistas ründeplatse iseseisvalt, skaneeris elussüsteeme, koostas kohandatud koormuseid valideeritud haavatavuste jaoks, kogus mandaate ja liikus sisevõrkudes. Ta analüüsis ka varastatud andmeid, tuvastas kõrge väärtusega luureandmeid ja genereeris automaatselt üksikasjalikku operatiivdokumentatsiooni, võimaldades püsivat ligipääsu ja operaatorite vahelisi üleandmisi.

Üks piirang, mida aruanne märgib, oli mudeli kalduvus hallutsineerimisele ründe töökoormustel – aeg-ajalt liialdades ligipääsu, fabritseerides mandaate või klassifitseerides avalikult kättesaadavat teavet tundlikuna. Isegi nii, Anthropic ütleb, et osaleja kompenseeris selle valideerimissammude kaudu, näidates, et täielikult autonoomsed ründeoperatsioonid on endiselt teostatavad hoolimata tänapäeva mudelite puudustest.

Pärast avastamist blokeeris Anthropic vastavad kontod, teavitas mõjutatud üksusi, koordineeris ametivõimudega ja viis sisse uued kaitsemehhanismid, sealhulgas täiustatud klassifitseerijad uute ohumustrite tuvastamiseks. Ettevõte töötab nüüd prototüüpide kallal varajase hoiatamise süsteemide jaoks, mis on mõeldud autonoomsete sissetungikatsete märkimiseks, ja ehitab uusi uurimisvahendeid laiaulatuslike hajutatud küberoperatsioonide jaoks.

Loe edasi: Microsofti ‘Magentic Marketplace’ paljastab, kuidas AI agentuurid võivad surve all kokku variseda

Ettevõte väidab, et kuigi neid võimeid saab relvastada, on need samuti kriitilised kaitsvalmisoleku tugevdamiseks. Anthropic märgib, et nende Ohuluure meeskond tugines suuresti Claude’ile, et analüüsida uurimise ajal genereeritud massiivseid andmehulkasid. See kutsub üles julgeolekumeeskondi alustama AI-põhise automatiseerimise kasutuselevõttu turvaoperatsioonide keskustes, ohutuvastamisel, haavatavuse analüüsil ja intsidentidele reageerimisel.

Siiski hoiatab aruanne, et küberrünnakute tõkked on “märkimisväärselt langenud”, kuna AI süsteemid võimaldavad väikesel rühmadel või isegi üksikisikutel teha operatsioone, mis varem olid piirdunud hästi rahastatud riikliku tasandiga osalejatega. Anthropic ootab nende tehnikate kiiret levikut laiemas ohukeskkonnas, kutsudes üles sügavamale koostööle, parematele kaitsemeetmetele ja laiemale tööstuse osalemisele ohujagamisel, et vastupidada tekkivatele AI-toega ründemudelitele.

KKK ❓

• Mida avastas Anthropic oma uurimisest?
  Anthropic tuvastas ja katkestas ulatusliku küberspionaaži kampaania, mis kasutas AI-d enamuse ründeoperatsioonide automatiseerimiseks.
• Kellele omistati rünnak?
  Ettevõte omistas operatsiooni Hiina riiklikult toetatud rühmale GTG-1002.
• Kuidas kasutati AI-d sissetungides?
  Ründajad kasutasid Claude Code’i, et iseseisvalt teostada luuretegevust, ekspluateerimist, külgliikumist ja andmete eraldamist.
• Miks on raport tähtis küberturvalisuse meeskondadele?
  Anthropic ütleb, et juhtum näitab, et autonoomsed AI-toega ründed on nüüd teostatavad skaalal ja vajavad uusi kaitse strateegiaid.