»White Hats« brugte Anthropics Claude til at bryde ind i OpenAI på 72 timer

Kæden, led for led

Et sårbart 'libheif'-bibliotek inde i Discourse, forumsoftwaren, muliggjorde fjernkodeudførelse (RCE) på selve forummet. Derfra udnyttede teamet en fejl i OpenAI's single sign-on (SSO)-flow, overtog en medarbejders ChatGPT-konto og nåede frem til Codex-miljøet, der var forbundet med OpenAI's GitHub-organisation.

Dette åbnede monorepoet openai/openai, hvorfra forskerne (tilknyttet sikkerhedsstartupen Hacktron AI) indsendte en harmløs pull-anmodning for at bevise, at de var kommet ind, og undlod at undersøge følsom kildekode.

Arbejdet fandt sted i slutningen af juli, hvor teamet rapporterede udviklingen via OpenAI’s Bugcrowd-program den 25. juli, og sårbarheden blev rettet samme dag; Discourse offentliggjorde sin sikkerhedsmeddelelse den 28. juli med en alvorlighedsvurdering på 8,8 ifølge Common Vulnerability Scoring System (CVSS), og hele sagen blev først offentliggjort den 17. september, da Wall Street Journal bragte nyheden.

En modelændring var alt, hvad der var nødvendigt

Det interessante er ikke, at OpenAI havde en fejl, for alle softwarevirksomheder støder på dem fra tid til anden. Det er det, der udgjorde forskellen mellem at finde en fejl og at udnytte den til ondsindede formål.

Teamet prøvede først Claude Opus 4.8, men fandt det upålideligt til opgaven. De skiftede derefter til Claude Opus 5, der blev udgivet den 24. juli, og fremstillede en fungerende ARM64-exploit inden for få timer, hvorefter de tilpassede den til x86-64- og jemalloc-miljøer. Udvikling af exploits baseret på hukommelseskorruption er specialiseret arbejde, der historisk set har taget dygtige mennesker uger at udføre, men i dette tilfælde udspillede hele forløbet sig på mindre end tre dage.

Konsekvenser for kryptovaluta

Kryptovaluta er det område, hvor sådan digital ekspertise kan omsættes til penge i stedet for blot at være en simpel pull-anmodning. Tallene viser, at Chainalysis i denne uge rapporterede, at angribere over hele verden offentliggør instruktioner til malware på offentlige blockchains 440 % oftere end for et år siden, hvor de daglige on-chain-skrivninger med ondsindet indhold er steget fra 2,06 til 11,1.

Firmaet knyttede stigningen til midten af 2025, da åbne kinesiske modeller blev lanceret uden meningsfulde sikkerhedsforanstaltninger mod indskrivning af ondsindet kode, og kaldte teknikken for »blockchain dead drops«, dvs. kommando- og kontrolinstruktioner, der er placeret på en blockchain, som ingen kan beslaglægge eller tage offline. I andet kvartal af 2026 stod statsrelaterede aktører fra Nordkorea og Iran for cirka to tredjedele af den nye aktivitet og omkring halvdelen af den samlede aktivitet.

Forskere, der sporede Nordkoreas Kimsuky, fandt lokale platforme for store sprogmodeller (LLM), herunder Ollama, GPT4All og Msty, installeret på gruppens infrastruktur sammen med AI-genererede phishing-lokkemidler rettet mod virtuelle aktiver og finansielle investeringsmål. Blockaid registrerede 212 onchain-udnyttelser til en værdi af 1,1 milliarder dollar, i takt med at AI- og wallet-angrebene tog fart, og Defillama noterede april 2026 som den mest hackede måned i kryptovalutaens historie med 30 hændelser.

De, der forsvarer sig mod disse angreb, mærker presset i stadig højere grad, idet Coinbase for nylig advarede om, at antallet af fejlrapporter kunne tredobles i den nærmeste fremtid, da AI oversvømmer afsløringsprogrammer med støj – hvilket er den ubehagelige konsekvens af, at en dusør på 6.500 dollar er nok til at afsløre en tretrins-kæde i et stort laboratorium.

Uanset hvad er udvikling af exploits ved at blive en vigtig standardtjeneste, og hvis man skal dømme ud fra tallene, vil udbredelsen kun fortsætte med at stige.