OpenAI rozšiřuje své podnikání v oblasti podnikové umělé inteligence díky dohodě se startupem Promptfoo Security

OpenAI se zaměřuje na zranitelnosti agentů AI prostřednictvím akvizice startupu Promptfoo

Dohoda, kterou oznámily společnosti OpenAI i Promptfoo, přinese automatizovanou technologii testování a hodnocení bezpečnosti společnosti Promptfoo do platformy OpenAI Frontier, která je navržena tak, aby pomáhala podnikům nasazovat flotily agentů AI, často popisovaných jako „kolegové AI“. Finanční podmínky nebyly zveřejněny a akvizice podléhá obvyklým podmínkám uzavření.

Společnost Promptfoo, založená v roce 2024 Ianem Websterem a Michaelem D'Angelom, si mezi vývojáři vybudovala reputaci díky nástrojům, které provádějí zátěžové testy velkých jazykových modelů a agentních systémů. Její software se zaměřuje na identifikaci zranitelností, jako jsou útoky typu prompt injection, pokusy o jailbreak, úniky dat a zneužití externích nástrojů – problémy, které se mohou objevit, když se systémy AI připojí k reálným datům a aplikacím.

Po uzavření dohody se tým Promptfoo čítající přibližně 23 osob připojí k OpenAI. Společnosti uvedly, že open-source nástroje Promptfoo budou i nadále udržovány a podporovány, což znamená, že stávající vývojáři a organizace využívající tuto platformu by neměli zaznamenat žádné narušení.

Technologie Promptfoo je široce používána k simulaci nepřátelských útoků na systémy AI. Její platforma zahrnuje automatizované red-teaming, skenování kódu, detekci zranitelností a nástroje pro nápravu, které se integrují přímo do vývojových pipeline, jako jsou Github, Gitlab a Jenkins.

Společnost tvrdí, že její nástroje využívá rostoucí komunita vývojářů, která čítá více než 350 000 vývojářů a více než 130 000 aktivních uživatelů měsíčně. Promptfoo také uvádí, že 127 společností z žebříčku Fortune 500 – včetně maloobchodníků, telekomunikačních poskytovatelů a zdravotnických firem – využívá její nástroje pro testování a hodnocení AI.

OpenAI spustila Frontier 5. února 2026 a positionovala jej jako podnikový systém pro správu velkých nasazení agentů AI, kteří mohou přistupovat k firemním datům, provádět úkoly a interagovat s interními nástroji. Platforma poskytuje kontrolu identit, rámce správy a provozní monitorování určené pro regulovaná odvětví.

Srinivas Narayanan, technický ředitel OpenAI pro B2B aplikace, uvedl, že akvizice pomůže posílit vestavěné hodnotící a bezpečnostní funkce Frontier.

„Promptfoo přináší hluboké technické znalosti v oblasti hodnocení, zabezpečení a testování systémů AI v podnikovém měřítku,“ uvedl Narayanan v prohlášení. „Jsme nadšeni, že můžeme tyto funkce přímo začlenit do Frontier.“

Generální ředitel Promptfoo Ian Webster uvedl, že integrace s OpenAI by mohla urychlit snahy o zabezpečení stále složitějších implementací AI. Jak agenti získávají přístup k podnikovým datům a operačním systémům, ověřování jejich chování se stává mnohem náročnějším.

„Vzhledem k tomu, že agenti AI jsou stále více propojeni s reálnými daty a systémy, je jejich zabezpečení a ověřování náročnější a důležitější než kdykoli předtím,“ uvedl Webster. „Připojení k OpenAI nám umožňuje tuto práci urychlit.“

Tento krok odráží širší posun v odvětví umělé inteligence, kdy se společnosti přesouvají od experimentálních chatbotů k autonomním softwarovým agentům schopným provádět skutečné obchodní pracovní postupy. Akvizice Promptfoo společností OpenAI navazuje na nedávné přijetí Petera Steinbergera, tvůrce Openclaw.

S tímto posunem přichází zvýšená obava o bezpečnostní rizika, od úniku dat až po agenty provádějící neúmyslné akce uvnitř podnikových systémů. Analytici tvrdí, že automatizované red-teamingové a evaluační nástroje se stávají nezbytnou infrastrukturou pro nasazení AI v podnicích.

Společnost Promptfoo získala přibližně 23 milionů dolarů v rizikovém financování, včetně počáteční podpory od Andreessen Horowitz a 18,4 milionů dolarů v sérii A vedené Insight Partners v roce 2025. Investoři popsali společnost jako hráče, který definuje kategorii v oblasti bezpečnosti aplikací AI.

Pro OpenAI tato akvizice přidává bezpečnostní vrstvu k Frontier v době, kdy se zrychluje přijímání AI agentů podniky – a kdy společnosti, které tyto agenty nasazují, chtějí méně překvapení a více ochranných opatření.

Často kladené otázky 🔎

• Co je Promptfoo?
  Promptfoo je bezpečnostní platforma AI, která testuje velké jazykové modely a AI agenty na zranitelnosti, jako jsou útoky typu prompt injection, úniky dat a jailbreak exploity.
• Proč OpenAI získává Promptfoo?
  OpenAI plánuje integrovat bezpečnostní testování a red-teamingové nástroje Promptfoo do své podnikové platformy Frontier, aby bylo nasazení agentů AI bezpečnější a snáze spravovatelné.
• Zůstane Promptfoo open source?
  Ano, OpenAI uvedlo, že open source nástroje Promptfoo budou i nadále udržovány a podporovány pro vývojáře a stávající uživatele.
• Co je OpenAI Frontier?
  Frontier je podniková platforma OpenAI pro vytváření, nasazování a správu flotil AI agentů, které se mohou připojit k systémům společnosti a provádět automatizované pracovní postupy.