OpenAI erweitert sein Engagement im Bereich Unternehmens-KI durch einen Vertrag mit dem Sicherheits-Startup Promptfoo

OpenAI bekämpft Schwachstellen von KI-Agenten mit dem Kauf des Start-ups Promptfoo

Die von OpenAI und Promptfoo bekannt gegebene Transaktion wird die automatisierte Sicherheitstest- und Bewertungstechnologie von Promptfoo in OpenAI Frontier integrieren, eine Plattform, die Unternehmen bei der Bereitstellung von KI-Agentenflotten unterstützt, die oft als „KI-Kollegen” bezeichnet werden. Finanzielle Details wurden nicht bekannt gegeben, und die Übernahme unterliegt weiterhin den üblichen Abschlussbedingungen.

Promptfoo wurde 2024 von Ian Webster und Michael D'Angelo gegründet und hat sich unter Entwicklern einen Namen für Tools gemacht, die große Sprachmodelle und Agentensysteme Stresstests unterziehen. Die Software konzentriert sich auf die Identifizierung von Schwachstellen wie Prompt-Injection-Angriffen, Jailbreak-Versuchen, Datenlecks und Missbrauch externer Tools – Probleme, die auftreten können, wenn KI-Systeme mit realen Daten und Anwendungen verbunden werden.

Nach Abschluss der Transaktion wird das rund 23-köpfige Team von Promptfoo zu OpenAI wechseln. Die Unternehmen gaben bekannt, dass die Open-Source-Tools von Promptfoo weiterhin gepflegt und unterstützt werden, sodass für bestehende Entwickler und Organisationen, die die Plattform nutzen, keine Unterbrechungen zu erwarten sind.

Die Technologie von Promptfoo wird häufig zur Simulation von Angriffen auf KI-Systeme eingesetzt. Die Plattform umfasst automatisierte Red-Teaming-, Code-Scanning-, Schwachstellenerkennungs- und Behebungs-Tools, die sich direkt in Entwicklungspipelines wie Github, Gitlab und Jenkins integrieren lassen.

Das Unternehmen gibt an, dass seine Tools von einer wachsenden Entwickler-Community genutzt werden, darunter insgesamt mehr als 350.000 Entwickler und mehr als 130.000 aktive monatliche Nutzer. Promptfoo berichtet außerdem, dass 127 Fortune-500-Unternehmen – darunter Einzelhändler, Telekommunikationsanbieter und Gesundheitsunternehmen – seine Tools für KI-Tests und -Bewertungen einsetzen.

OpenAI hat Frontier am 5. Februar 2026 auf den Markt gebracht und positioniert es als Unternehmenssystem für die Verwaltung großer Bereitstellungen von KI-Agenten, die auf Unternehmensdaten zugreifen, Aufgaben ausführen und mit internen Tools interagieren können. Die Plattform bietet Identitätskontrollen, Governance-Frameworks und Betriebsüberwachung, die für regulierte Branchen entwickelt wurden.

Srinivas Narayanan, CTO für B2B-Anwendungen bei OpenAI, sagte, die Übernahme werde dazu beitragen, die integrierten Bewertungs- und Sicherheitsfunktionen von Frontier zu stärken.

„Promptfoo bringt fundiertes technisches Know-how in der Bewertung, Sicherung und Prüfung von KI-Systemen im Unternehmensmaßstab mit“, sagte Narayanan in einer Erklärung. „Wir freuen uns, diese Funktionen direkt in Frontier zu integrieren.“

Ian Webster, CEO von Promptfoo, sagte, die Integration mit OpenAI könne die Bemühungen zur Sicherung immer komplexerer KI-Implementierungen beschleunigen. Da Agenten Zugriff auf Unternehmensdaten und Betriebssysteme erhalten, wird die Überprüfung ihres Verhaltens zu einer weitaus größeren Herausforderung.

„Da KI-Agenten immer stärker mit realen Daten und Systemen verbunden sind, ist ihre Sicherung und Validierung schwieriger und wichtiger denn je“, sagte Webster. „Durch den Beitritt zu OpenAI können wir diese Arbeit beschleunigen.“

Dieser Schritt spiegelt einen allgemeinen Wandel in der KI-Branche wider, da Unternehmen von experimentellen Chatbots zu autonomen Software-Agenten übergehen, die in der Lage sind, echte Geschäftsabläufe auszuführen. Die Übernahme von Promptfoo durch OpenAI folgt auf die kürzliche Einstellung von Peter Steinberger, dem Entwickler von Openclaw.

Mit dieser Veränderung geht eine erhöhte Besorgnis über Sicherheitsrisiken einher, von Datenlecks bis hin zu Agenten, die unbeabsichtigte Aktionen innerhalb von Unternehmenssystemen ausführen. Analysten sagen, dass automatisierte Red-Teaming- und Bewertungstools zu einer unverzichtbaren Infrastruktur für den Einsatz von KI in Unternehmen werden.

Promptfoo hatte rund 23 Millionen US-Dollar an Risikokapital eingeworben, darunter Startkapital von Andreessen Horowitz und eine Serie-A-Finanzierung in Höhe von 18,4 Millionen US-Dollar unter der Leitung von Insight Partners im Jahr 2025. Investoren haben das Unternehmen als einen wegweisenden Akteur im Bereich der KI-Anwendungssicherheit beschrieben.

Für OpenAI bedeutet die Übernahme eine zusätzliche Sicherheitsebene für Frontier zu einem Zeitpunkt, an dem die Einführung von KI-Agenten in Unternehmen zunimmt – und an dem Unternehmen, die diese Agenten einsetzen, weniger Überraschungen und mehr Schutzmaßnahmen wünschen.

FAQ 🔎

• Was ist Promptfoo? Promptfoo ist eine KI-Sicherheitsplattform, die große Sprachmodelle und KI-Agenten auf Schwachstellen wie Prompt-Injection-Angriffe, Datenlecks und Jailbreak-Exploits testet.
• Warum übernimmt OpenAI Promptfoo? OpenAI plant, die Sicherheitstest- und Red-Teaming-Tools von Promptfoo in seine Unternehmensplattform Frontier zu integrieren, um die Bereitstellung von KI-Agenten sicherer und einfacher zu verwalten zu machen.
• Bleibt Promptfoo Open Source? Ja, OpenAI hat erklärt, dass die Open-Source-Tools von Promptfoo weiterhin für Entwickler und bestehende Nutzer gepflegt und unterstützt werden.
• Was ist OpenAI Frontier? Frontier ist die Unternehmensplattform von OpenAI zum Erstellen, Bereitstellen und Verwalten von Flotten von KI-Agenten, die sich mit Unternehmenssystemen verbinden und automatisierte Workflows ausführen können.