OpenAI udvider sin indsats inden for AI til virksomheder med aftale med sikkerhedsstartup Promptfoo

OpenAI går efter sårbarheder i AI-agenter med købet af startup-virksomheden Promptfoo

Aftalen, der er annonceret af både OpenAI og Promptfoo, vil integrere Promptfoos automatiserede sikkerhedstest- og evalueringsteknologi i OpenAI Frontier, en platform designet til at hjælpe virksomheder med at implementere flåder af AI-agenter, der ofte beskrives som "AI-kolleger". De finansielle vilkår er ikke offentliggjort, og overtagelsen er fortsat underlagt de sædvanlige betingelser for afslutning.

Promptfoo blev grundlagt i 2024 af Ian Webster og Michael D'Angelo og har opbygget et godt ry blandt udviklere for sine værktøjer, der stresstester store sprogmodeller og agentsystemer. Dets software fokuserer på at identificere sårbarheder såsom prompt injection-angreb, jailbreak-forsøg, datalækager og misbrug af eksterne værktøjer – problemer, der kan opstå, når AI-systemer forbinder sig til data og applikationer i den virkelige verden.

Når handlen er afsluttet, vil Promptfoos team på cirka 23 personer blive en del af OpenAI. Virksomhederne har oplyst, at Promptfoos open source-værktøjer fortsat vil blive vedligeholdt og supporteret, hvilket betyder, at eksisterende udviklere og organisationer, der bruger platformen, ikke bør opleve nogen forstyrrelser.

Promptfoos teknologi bruges i vid udstrækning til at simulere fjendtlige angreb mod AI-systemer. Dens platform omfatter automatiseret red-teaming, kodescanning, sårbarhedsdetektering og afhjælpningsværktøjer, der integreres direkte i udviklingspipelines såsom Github, Gitlab og Jenkins.

Virksomheden hævder at være blevet taget i brug af et voksende udviklerfællesskab, der omfatter mere end 350.000 udviklere og mere end 130.000 aktive månedlige brugere. Promptfoo rapporterer også, at 127 Fortune 500-virksomheder – herunder detailhandlere, telekommunikationsudbydere og sundhedsvirksomheder – benytter virksomhedens værktøjer til AI-test og -evaluering.

OpenAI lancerede Frontier den 5. februar 2026 og positionerede det som et virksomhedssystem til styring af store implementeringer af AI-agenter, der kan få adgang til virksomhedsdata, udføre opgaver og interagere med interne værktøjer. Platformen tilbyder identitetskontrol, styringsrammer og operationel overvågning designet til regulerede brancher.

Srinivas Narayanan, OpenAI's CTO for B2B-applikationer, sagde, at overtagelsen vil bidrage til at styrke Frontiers indbyggede evaluerings- og sikkerhedsfunktioner.

"Promptfoo bidrager med dyb teknisk ekspertise inden for evaluering, sikring og test af AI-systemer i virksomhedsskala," sagde Narayanan i en erklæring. "Vi er glade for at kunne bringe disse funktioner direkte ind i Frontier."

Promptfoos CEO Ian Webster sagde, at integrationen med OpenAI kan fremskynde bestræbelserne på at sikre stadig mere komplekse AI-implementeringer. I takt med at agenter får adgang til virksomhedsdata og operationelle systemer, bliver det langt mere udfordrende at validere, hvordan de opfører sig.

"Efterhånden som AI-agenter bliver mere forbundet med reelle data og systemer, bliver det mere udfordrende og vigtigt end nogensinde at sikre og validere dem," sagde Webster. "Ved at blive en del af OpenAI kan vi fremskynde dette arbejde."

Dette skridt afspejler en bredere ændring i kunstig intelligens-branchen, hvor virksomheder går fra eksperimentelle chatbots til autonome softwareagenter, der er i stand til at udføre reelle forretningsworkflows. OpenAI's opkøb af Promptfoo følger det nylige opkøb af Peter Steinberger, skaberen af Openclaw.

Med denne ændring følger en øget bekymring over sikkerhedsrisici, fra datalækage til agenter, der udfører utilsigtede handlinger inden for virksomhedssystemer. Analytikere siger, at automatiserede red-teaming- og evalueringsværktøjer er ved at blive en essentiel infrastruktur for AI-implementeringer i virksomheder.

Promptfoo havde rejst omkring 23 millioner dollars i venturekapital, herunder startkapital fra Andreessen Horowitz og en serie A-finansiering på 18,4 millioner dollars ledet af Insight Partners i 2025. Investorer har beskrevet virksomheden som en kategori-definerende aktør inden for AI-applikationssikkerhed.

For OpenAI tilføjer overtagelsen et sikkerhedslag til Frontier på et tidspunkt, hvor virksomhedernes anvendelse af AI-agenter er i rivende udvikling – og hvor virksomheder, der implementerer disse agenter, ønsker færre overraskelser og flere sikkerhedsforanstaltninger.

FAQ 🔎

• Hvad er Promptfoo?
  Promptfoo er en AI-sikkerhedsplatform, der tester store sprogmodeller og AI-agenter for sårbarheder såsom prompt injection-angreb, datalækager og jailbreak-exploits.
• Hvorfor køber OpenAI Promptfoo?
  OpenAI planlægger at integrere Promptfoos sikkerhedstest- og red-teaming-værktøjer i sin Frontier-virksomhedsplatform for at gøre implementeringen af AI-agenter sikrere og nemmere at administrere.
• Vil Promptfoo forblive open source?
  Ja, OpenAI har udtalt, at Promptfoos open source-værktøjer fortsat vil blive vedligeholdt og supporteret for udviklere og eksisterende brugere.
• Hvad er OpenAI Frontier?
  Frontier er OpenAI's virksomhedsplatform til opbygning, implementering og administration af flåder af AI-agenter, der kan oprette forbindelse til virksomhedssystemer og udføre automatiserede arbejdsgange.