»Beli klobuki« so s pomočjo programa »Claude« podjetja Anthropic v 72 urah vdrli v sistem OpenAI

Veriga, povezava za povezavo

Ranljiva knjižnica »libheif« znotraj programske opreme za forume Discourse je omogočila oddaljeno izvajanje kode (RCE) na samem forumu. Od tam je ekipa izkoristila pomanjkljivost v postopku enkratnega prijavljanja (SSO) podjetja OpenAI, prevzela nadzor nad računom ChatGPT enega od zaposlenih in dosegla okolje Codex, povezano z organizacijo OpenAI na GitHubu.

To je odprlo monorepo openai/openai, od koder so raziskovalci (povezani z varnostnim startupom Hacktron AI) odprli neškodljivo zahtevo za vključitev (pull request), da bi dokazali, da so znotraj sistema, pri čemer pa niso šli tako daleč, da bi pregledovali občutljivo izvorno kodo.

Dogodek se je zgodil konec julija, ekipa pa je 25. julija o dogajanju poročala prek programa Bugcrowd podjetja OpenAI, ranljivost pa je bila odpravljena še isti dan; Discourse je 28. julija objavil obvestilo z oceno resnosti 8,8 po sistemu CVSS (Common Vulnerability Scoring System), celotna zadeva pa je postala javna šele 17. septembra, ko je o njej poročal Wall Street Journal.

Potrebna je bila le sprememba modela

Zanimivo ni to, da je imel OpenAI napako, saj se s tem občasno srečuje vsako podjetje za programsko opremo. Zanimivo je, kaj je zapolnilo vrzel med odkritjem napake in njenim izkoriščanjem.

Ekipa je najprej poskusila z »Claude Opus 4.8«, a ugotovila, da za to nalogo ni zanesljiv. Nato so prešli na »Claude Opus 5«, ki je bil izdan 24. julija, in v nekaj urah ustvarili delujoč izkoriščevalni program za ARM64, ki so ga nato prilagodili za okolja x86-64 in jemalloc. Razvoj izkoriščanja poškodbe pomnilnika je specialistično delo, za katerega so v preteklosti usposobljeni strokovnjaki potrebovali tedne, v tem primeru pa se je celotna veriga dogodkov odvila v manj kot treh dneh.

Posledice za kriptovalute

V svetu kriptovalut se takšna digitalna usposobljenost lahko kaže kot denar in ne le kot preprost »pull request«. Glede številk je podjetje Chainalysis ta teden poročalo, da napadalci po vsem svetu objavljajo navodila za zlonamerno programsko opremo na javnih verigah blokov za 440 % pogosteje kot pred enim letom, pri čemer se je število dnevnih zlonamernih zapisov v verigi povečalo z 2,06 na 11,1.

Podjetje je ta skok povezalo s sredino leta 2025, ko so bili uvedeni odprti kitajski modeli brez pomembnih zaščitnih mehanizmov proti pisanju zlonamerne kode, in to tehniko poimenovalo »blockchain dead drops«, tj. navodila za nadzor in upravljanje, shranjena v glavni knjigi, ki jih nihče ne more zasegati ali odstraniti iz omrežja. Do drugega četrtletja leta 2026 so operaterji, povezani z državo, iz Severne Koreje in Irana predstavljali približno dve tretjini novih dejavnosti in približno polovico celotne aktivnosti.

Raziskovalci, ki so spremljali severnokorejsko skupino Kimsuky, so odkrili lokalne platforme velikih jezikovnih modelov (LLM), vključno z Ollama, GPT4All in Msty, nameščene na infrastrukturi skupine skupaj z umetno inteligenco ustvarjenimi phishingovskimi vabami, usmerjenimi v cilje na področju virtualnih sredstev in finančnih naložb. Blockaid je naštel 212 izkoriščanj v verigi v vrednosti 1,1 milijarde dolarjev, saj so se napadi z umetno inteligenco in na denarnice pospešili, Defillama pa je april 2026 zabeležil kot mesec z največjim številom hekov v zgodovini kriptovalut, in sicer s 30 incidenti.

Tisti, ki se branijo pred temi napadi, čutijo vse večji pritisk, saj je Coinbase nedavno opozoril, da bi se lahko število poročil o napakah v bližnji prihodnosti potrojilo, saj umetna inteligenca preplavlja programe za razkritje z neuporabnimi podatki – kar je neprijetna posledica dejstva, da je nagrada v višini 6.500 dolarjev dovolj za odkritje tristopenjske verige v velikem laboratoriju.

Kljub temu razvoj izkoriščanj postaja pomembna storitev in če sodimo po številkah, se bo njegova razširjenost le še povečevala.