OpenAI utökar satsningen på AI för företag genom avtal med säkerhetsstartupen Promptfoo

OpenAI riktar in sig på sårbarheter i AI-agenter genom förvärvet av startup-företaget Promptfoo

Affären, som tillkännagivits av både OpenAI och Promptfoo, kommer att föra in Promptfoos automatiserade säkerhetstestnings- och utvärderingsteknik i OpenAI Frontier, en plattform som är utformad för att hjälpa företag att distribuera flottor av AI-agenter, ofta beskrivna som ”AI-kollegor”. De finansiella villkoren har inte offentliggjorts och förvärvet är fortfarande föremål för sedvanliga slutvillkor.

Promptfoo grundades 2024 av Ian Webster och Michael D'Angelo och har byggt upp ett rykte bland utvecklare för verktyg som stresstestar stora språkmodeller och agentsystem. Deras programvara fokuserar på att identifiera sårbarheter som promptinjektionsattacker, jailbreak-försök, dataläckor och missbruk av externa verktyg – problem som kan uppstå när AI-system ansluter till verkliga data och applikationer.

När affären är klar kommer Promptfoos team på cirka 23 personer att ansluta sig till OpenAI. Företagen uppger att Promptfoos open source-verktyg kommer att fortsätta att underhållas och stödjas, vilket innebär att befintliga utvecklare och organisationer som använder plattformen inte bör märka någon störning.

Promptfoos teknik används i stor utsträckning för att simulera fientliga attacker mot AI-system. Plattformen omfattar automatiserade red-teaming-, kodskannings-, sårbarhetsdetekterings- och korrigeringsverktyg som integreras direkt i utvecklingspipelines som Github, Gitlab och Jenkins.

Företaget uppger att det används av en växande utvecklingsgemenskap, med totalt över 350 000 utvecklare och mer än 130 000 aktiva användare per månad. Promptfoo rapporterar också att 127 Fortune 500-företag – däribland detaljhandlare, telekomleverantörer och hälso- och sjukvårdsföretag – använder dess verktyg för AI-testning och utvärdering.

OpenAI lanserade Frontier den 5 februari 2026 och positionerade det som ett företagssystem för hantering av stora distributioner av AI-agenter som kan komma åt företagsdata, utföra uppgifter och interagera med interna verktyg. Plattformen erbjuder identitetskontroller, styrningsramverk och operativ övervakning utformade för reglerade branscher.

Srinivas Narayanan, OpenAI:s CTO för B2B-applikationer, sa att förvärvet kommer att bidra till att stärka Frontiers inbyggda utvärderings- och säkerhetsfunktioner.

"Promptfoo tillför djup teknisk expertis inom utvärdering, säkring och testning av AI-system i företagsstorlek", sa Narayanan i ett uttalande. "Vi är glada över att kunna integrera dessa funktioner direkt i Frontier."

Promptfoos VD Ian Webster sa att integrationen med OpenAI kan påskynda arbetet med att säkra allt mer komplexa AI-implementeringar. När agenter får tillgång till företagsdata och operativa system blir det mycket svårare att validera hur de beter sig.

"I takt med att AI-agenter blir mer kopplade till verkliga data och system blir det svårare och viktigare än någonsin att säkra och validera dem", säger Webster. "Genom att gå med i OpenAI kan vi påskynda detta arbete."

Flytten speglar en bredare förändring inom artificiell intelligensbranschen, där företag går från experimentella chatbots till autonoma programvaruagenter som kan utföra verkliga affärsarbetsflöden. OpenAI:s förvärv av Promptfoo följer på det nyligen genomförda förvärvet av Peter Steinberger, skaparen av Openclaw.

Med denna förändring följer en ökad oro över säkerhetsrisker, från dataläckage till agenter som utför oönskade åtgärder inom företagsystem. Analytiker säger att automatiserade red-teaming- och utvärderingsverktyg blir en viktig infrastruktur för AI-implementeringar i företag.

Promptfoo hade samlat in cirka 23 miljoner dollar i riskkapital, inklusive startkapital från Andreessen Horowitz och en serie A-finansiering på 18,4 miljoner dollar ledd av Insight Partners 2025. Investerare har beskrivit företaget som en kategoridefinierande aktör inom AI-applikationssäkerhet.

För OpenAI innebär förvärvet ett extra säkerhetsskikt för Frontier i en tid då företagens användning av AI-agenter ökar – och när företag som använder dessa agenter vill ha färre överraskningar och fler skyddsåtgärder.

FAQ 🔎

• Vad är Promptfoo?
  Promptfoo är en AI-säkerhetsplattform som testar stora språkmodeller och AI-agenter för sårbarheter såsom prompt injection-attacker, dataläckor och jailbreak-exploits.
• Varför förvärvar OpenAI Promptfoo?
  OpenAI planerar att integrera Promptfoos säkerhetstestnings- och red-teaming-verktyg i sin Frontier-plattform för företag för att göra implementeringen av AI-agenter säkrare och enklare att hantera.
• Kommer Promptfoo att förbli öppen källkod?
  Ja, OpenAI har sagt att Promptfoos verktyg med öppen källkod kommer att fortsätta att underhållas och stödjas för utvecklare och befintliga användare.
• Vad är OpenAI Frontier?
  Frontier är OpenAI:s företagsplattform för att bygga, distribuera och hantera flottor av AI-agenter som kan ansluta till företagssystem och utföra automatiserade arbetsflöden.