OpenAI breidt zijn inspanningen op het gebied van bedrijfs-AI uit met een overeenkomst met Promptfoo Security Startup

OpenAI pakt kwetsbaarheden in AI-agents aan met de aankoop van startup Promptfoo

De deal, die door zowel OpenAI als Promptfoo is aangekondigd, zal de geautomatiseerde beveiligingstest- en evaluatietechnologie van Promptfoo integreren in OpenAI Frontier, een platform dat is ontworpen om bedrijven te helpen bij het inzetten van AI-agents, vaak omschreven als "AI-collega's". De financiële voorwaarden zijn niet bekendgemaakt en de overname is nog onderworpen aan de gebruikelijke voorwaarden.

Promptfoo, opgericht in 2024 door Ian Webster en Michael D'Angelo, heeft onder ontwikkelaars een reputatie opgebouwd met tools die grote taalmodellen en agentsystemen aan stresstests onderwerpen. De software richt zich op het identificeren van kwetsbaarheden zoals prompt-injectieaanvallen, jailbreak-pogingen, datalekken en misbruik van externe tools – problemen die aan het licht kunnen komen wanneer AI-systemen verbinding maken met echte gegevens en applicaties.

Zodra de deal is afgerond, zal het ongeveer 23-koppige team van Promptfoo zich aansluiten bij OpenAI. De bedrijven hebben aangegeven dat de open-source tools van Promptfoo onderhouden en ondersteund zullen blijven worden, wat betekent dat bestaande ontwikkelaars en organisaties die het platform gebruiken geen verstoring zullen ondervinden.

De technologie van Promptfoo wordt veel gebruikt om vijandige aanvallen op AI-systemen te simuleren. Het platform omvat geautomatiseerde red-teaming, codescanning, kwetsbaarheidsdetectie en hersteltools die rechtstreeks kunnen worden geïntegreerd in ontwikkelingspijplijnen zoals Github, Gitlab en Jenkins.

Het bedrijf claimt een groeiende ontwikkelaarsgemeenschap, met in totaal meer dan 350.000 ontwikkelaars en meer dan 130.000 actieve maandelijkse gebruikers. Promptfoo meldt ook dat 127 Fortune 500-bedrijven – waaronder retailers, telecomproviders en zorgbedrijven – vertrouwen op zijn tools voor het testen en evalueren van AI.

OpenAI lanceerde Frontier op 5 februari 2026 en positioneerde het als een bedrijfssysteem voor het beheer van grote implementaties van AI-agenten die toegang hebben tot bedrijfsgegevens, taken kunnen uitvoeren en kunnen communiceren met interne tools. Het platform biedt identiteitscontroles, governancekaders en operationele monitoring die zijn ontworpen voor gereguleerde sectoren.

Srinivas Narayanan, CTO van B2B-toepassingen bij OpenAI, zei dat de overname zal bijdragen aan het versterken van de ingebouwde evaluatie- en beveiligingsmogelijkheden van Frontier.

"Promptfoo brengt diepgaande technische expertise mee op het gebied van het evalueren, beveiligen en testen van AI-systemen op bedrijfsniveau", aldus Narayanan in een verklaring. "We zijn verheugd om deze mogelijkheden rechtstreeks in Frontier te kunnen integreren."

Ian Webster, CEO van Promptfoo, zei dat de integratie met OpenAI de inspanningen om steeds complexere AI-implementaties te beveiligen, zou kunnen versnellen. Naarmate agents toegang krijgen tot bedrijfsgegevens en operationele systemen, wordt het veel moeilijker om hun gedrag te valideren.

"Naarmate AI-agenten meer verbonden raken met echte gegevens en systemen, wordt het beveiligen en valideren ervan uitdagender en belangrijker dan ooit", aldus Webster. "Door ons aan te sluiten bij OpenAI kunnen we dit werk versnellen."

Deze stap weerspiegelt een bredere verschuiving in de kunstmatige-intelligentiesector, waarbij bedrijven overstappen van experimentele chatbots naar autonome softwareagenten die echte bedrijfsworkflows kunnen uitvoeren. De overname van Promptfoo door OpenAI volgt op de recente aanwerving van Peter Steinberger, de maker van Openclaw.

Die verschuiving gaat gepaard met een toenemende bezorgdheid over veiligheidsrisico's, van datalekken tot agents die onbedoelde acties uitvoeren binnen bedrijfssystemen. Analisten zeggen dat geautomatiseerde red-teaming- en evaluatietools essentiële infrastructuur worden voor AI-implementaties in bedrijven.

Promptfoo had ongeveer 23 miljoen dollar aan durfkapitaal opgehaald, waaronder startkapitaal van Andreessen Horowitz en een serie A-financiering van 18,4 miljoen dollar onder leiding van Insight Partners in 2025. Investeerders hebben het bedrijf omschreven als een toonaangevende speler op het gebied van AI-applicatiebeveiliging.

Voor OpenAI voegt de overname een beveiligingslaag toe aan Frontier op een moment dat de acceptatie van AI-agenten door bedrijven in een stroomversnelling komt – en dat bedrijven die deze agenten inzetten minder verrassingen en meer bescherming willen.

FAQ 🔎

• Wat is Promptfoo?
  Promptfoo is een AI-beveiligingsplatform dat grote taalmodellen en AI-agenten test op kwetsbaarheden zoals prompt-injectieaanvallen, datalekken en jailbreak-exploits.
• Waarom neemt OpenAI Promptfoo over?
  OpenAI is van plan om de beveiligingstests en red-teaming-tools van Promptfoo te integreren in zijn Frontier-bedrijfsplatform om de implementatie van AI-agenten veiliger en gemakkelijker te beheren te maken.
• Blijft Promptfoo open source?
  Ja, OpenAI heeft aangegeven dat de open source-tools van Promptfoo zullen worden onderhouden en ondersteund voor ontwikkelaars en bestaande gebruikers.
• Wat is OpenAI Frontier?
  Frontier is het bedrijfsplatform van OpenAI voor het bouwen, implementeren en beheren van AI-agenten die verbinding kunnen maken met bedrijfssystemen en geautomatiseerde workflows kunnen uitvoeren.