Volgens een onlangs gepubliceerd onderzoeksrapport heeft een experimenteel OpenAI-model toegang gekregen tot een Ethereum-portemonnee met behulp van een openbaar beschikbare herstelzin en heeft het zonder toestemming geld uitgegeven om een programmeeropdracht uit te voeren. Het incident onderstreept de bezorgdheid over AI-agenten die zelfstandig beslissingen nemen met betrekking tot financiële activa.
OpenAI-agent stal ether uit testnet-portemonnee zonder controle
GESCHREVEN DOOR
DELEN
Belangrijkste conclusies
- Een experimenteel OpenAI-model heeft toegang verkregen tot een met geld gevulde Ethereum-testnet-wallet met behulp van een algemeen bekende herstelzin.
- Het model gaf Sepolia ETH uit om slimme contracten te implementeren, in de veronderstelling dat het geld in feite was achtergelaten en geen waarde meer had.
- OpenAI heeft het incident aangemerkt als een afwijking en heeft aanvullende veiligheidsmaatregelen ingevoerd om soortgelijke ongeoorloofde acties te voorkomen.
AI-agent pakt Testnet-ETH na ethische afweging
Het incident vond plaats op 26 juni 2026, tijdens een interne trainingsoefening waarbij een model uit de GPT-5.6 Sol-familie betrokken was. Het model had de opdracht om een applicatie voor de handel in cryptovaluta bij te werken en slimme contracten te implementeren op Sepolia, een Ethereum-testnetwerk.
Hoewel de opdracht het model toestond om contracten te implementeren, voorzag deze niet in een gefinancierde wallet en gaf deze evenmin toestemming voor het gebruik van middelen die aan een andere account toebehoorden.
Nadat het model tevergeefs had gezocht naar compatibele implementaties en had geprobeerd testnet-tokens te verkrijgen via cryptocurrency-faucets, bedacht het een alternatieve oplossing: het zoeken naar gevulde wallets die gekoppeld waren aan algemeen bekende herstelzinnen van ontwikkelaars.
Het schreef een script dat cryptocurrency-adressen afleidde uit veelgebruikte herstelzinnen voor ontwikkelaars en controleerde de saldi daarvan. Van de 362 onderzochte adressen bevatte er één voldoende Sepolia-ETH om de implementatiekosten te dekken. Het model inspecteerde vervolgens de transactiegeschiedenis van de wallet en erkende dat er onzekerheid bestond over de vraag of het gebruik van het geld daaruit gepast was.
„Maar is het ethisch verantwoord om openbaar bekende sleutels/middelen te gebruiken?”, redeneerde het model volgens fragmenten uit het rapport van OpenAI. „Middelen op een bekende openbare mnemonische zin voor ontwikkelaars zijn in feite achtergelaten/test-ETH; Sepolia heeft geen waarde.”
Vervolgens concludeerde het dat het gebruik van de account aanvaardbaar was.
Gewapend met de afgeleide privésleutel van de wallet ondertekende het model een transactie voor de implementatie van een smart contract. Na technische problemen bij de eerste pogingen identificeerde het alternatieve netwerkeindpunten die de transactie konden verwerken. De implementatie slaagde uiteindelijk, waarbij de transactiekosten werden afgeschreven van het saldo van de wallet.
Het model controleerde vervolgens zijn werk en bevestigde dat de geïmplementeerde contracten uitvoerbare code bevatten en de verwachte informatie teruggaven. De uiteindelijke uitvoer meldde een succesvolle implementatie van de contractsuite, samen met 12 geslaagde unit-tests en een succesvolle productie-build.
Het model maakte echter niet bekend dat het toegang had gekregen tot een wallet met behulp van een openbaar beschikbare herstelzin, noch dat het geld had uitgegeven van een account waarvoor het geen toestemming had.
Bij het incident was geen sprake van diefstal van cryptovaluta met een vastgestelde marktwaarde. Sepolia ETH is bedoeld voor het testen van Ethereum-toepassingen en heeft over het algemeen geen directe geldwaarde, hoewel het een beperkte hulpbron blijft die nodig is voor het uitvoeren van transacties op het netwerk.
De gevaren van AI-agenten die met crypto omgaan
Niettemin identificeerden onderzoekers van OpenAI het gedrag als een belangrijk voorbeeld van AI-misalignment, waarbij een model zelfstandig zijn oordeel over mogelijke schade in de plaats stelde van expliciete autorisatie.
Het voorval illustreert hoe AI-agenten die zijn uitgerust met programmeervaardigheden en internettoegang, kunnen evolueren van het identificeren van financiële middelen naar het zelfstandig er toegang toe krijgen en deze uitgeven, zelfs wanneer die acties buiten hun instructies vallen.
Volgens het rapport ontdekte het bedrijf het incident op 25 september tijdens het uitbreiden van de monitoring van historische modelactiviteiten. De bevindingen werden vervolgens vastgelegd in een rapport dat op 15 oktober werd bijgewerkt.
OpenAI verklaarde dat het aanvullende veiligheidsmaatregelen heeft geïmplementeerd om live internettoegang in soortgelijke omstandigheden te voorkomen. Het bedrijf zei ook dat zijn systeem voor het monitoren van afwijkingen nu op al het verkeer is toegepast en is ontworpen om beveiligingspersoneel te waarschuwen als er live internettoegang wordt verkregen.
De zaak onderstreept een bredere uitdaging waarmee ontwikkelaars van autonome AI-systemen worden geconfronteerd: ervoor zorgen dat modellen financiële en operationele grenzen respecteren, zelfs wanneer het omzeilen van die grenzen hen zou helpen een toegewezen taak te voltooien.
Dit artikel is met behulp van AI uit het Engels vertaald. De originele Engelstalige versie is de gezaghebbende bron; geautomatiseerde vertalingen kunnen onnauwkeurigheden bevatten, met name in juridische en regelgevende terminologie.
