OpenAI rozširuje svoje aktivity v oblasti podnikovej umelej inteligencie prostredníctvom dohody so startupom Promptfoo Security

OpenAI sa zameriava na zraniteľnosti agentov umelej inteligencie prostredníctvom akvizície startupu Promptfoo

Dohoda, ktorú oznámili spoločnosti OpenAI aj Promptfoo, prinesie automatizovanú technológiu testovania a hodnotenia bezpečnosti Promptfoo do OpenAI Frontier, platformy navrhnutej na pomoc podnikom pri nasadzovaní flotíl agentov umelej inteligencie, často označovaných ako „kolegovia umelej inteligencie“. Finančné podmienky neboli zverejnené a akvizícia podlieha obvyklým podmienkam uzavretia.

Spoločnosť Promptfoo, ktorú v roku 2024 založili Ian Webster a Michael D'Angelo, si medzi vývojármi vybudovala reputáciu vďaka nástrojom, ktoré testujú veľké jazykové modely a agentové systémy. Jej softvér sa zameriava na identifikáciu zraniteľností, ako sú útoky typu prompt injection, pokusy o jailbreak, úniky dát a zneužitie externých nástrojov – problémy, ktoré sa môžu objaviť, keď sa systémy umelej inteligencie pripájajú k reálnym dátam a aplikáciám.

Po uzavretí dohody sa približne 23-členný tím Promptfoo pripojí k OpenAI. Spoločnosti uviedli, že open-source nástroje Promptfoo budú naďalej udržiavané a podporované, čo znamená, že existujúci vývojári a organizácie používajúce platformu by nemali zaznamenať žiadne narušenie.

Technológia Promptfoo sa široko používa na simuláciu útokov proti systémom umelej inteligencie. Jej platforma zahŕňa automatizované red-teaming, skenovanie kódu, detekciu zraniteľností a nástroje na ich odstraňovanie, ktoré sa integrujú priamo do vývojových pipeline, ako sú Github, Gitlab a Jenkins.

Spoločnosť tvrdí, že jej nástroje využívajú rastúca komunita vývojárov, ktorá zahŕňa viac ako 350 000 vývojárov a viac ako 130 000 aktívnych mesačných používateľov. Promptfoo tiež uvádza, že 127 spoločností z rebríčka Fortune 500 – vrátane maloobchodníkov, telekomunikačných poskytovateľov a zdravotníckych firiem – využíva jej nástroje na testovanie a hodnotenie umelej inteligencie.

OpenAI spustila Frontier 5. februára 2026 a umiestnila ho ako podnikový systém na správu veľkých nasadení agentov umelej inteligencie, ktorí majú prístup k firemným dátam, vykonávajú úlohy a komunikujú s internými nástrojmi. Platforma poskytuje kontrolu identity, rámce správy a prevádzkové monitorovanie určené pre regulované odvetvia.

Srinivas Narayanan, technický riaditeľ OpenAI pre B2B aplikácie, povedal, že akvizícia pomôže posilniť vstavané hodnotiace a bezpečnostné schopnosti Frontier.

„Promptfoo prináša hlboké technické znalosti v oblasti hodnotenia, zabezpečenia a testovania systémov umelej inteligencie v podnikovom meradle,“ uviedol Narayanan vo vyhlásení. „Sme nadšení, že môžeme tieto schopnosti priamo integrovať do Frontier.“

Generálny riaditeľ Promptfoo Ian Webster uviedol, že integrácia s OpenAI by mohla urýchliť snahy o zabezpečenie čoraz komplexnejších implementácií umelej inteligencie. Ako agenti získavajú prístup k podnikovým dátam a operačným systémom, overovanie ich správania sa stáva oveľa náročnejším.

„Keďže agenti umelej inteligencie sú čoraz viac prepojení s reálnymi údajmi a systémami, ich zabezpečenie a overovanie je náročnejšie a dôležitejšie ako kedykoľvek predtým,“ uviedol Webster. „Pripojenie sa k OpenAI nám umožňuje urýchliť túto prácu.“

Tento krok odráža širšiu zmenu v odvetví umelej inteligencie, keďže spoločnosti prechádzajú od experimentálnych chatbotov k autonómnym softvérovým agentom schopným vykonávať reálne pracovné postupy. Akvizícia Promptfoo spoločnosťou OpenAI nasleduje po nedávnom prijatí Petera Steinbergera, tvorcu Openclaw.

S touto zmenou prichádza zvýšené znepokojenie nad bezpečnostnými rizikami, od úniku údajov až po agentov, ktorí vykonávajú neúmyselné akcie vo vnútri podnikových systémov. Analytici tvrdia, že automatizované nástroje red-teaming a hodnotenia sa stávajú nevyhnutnou infraštruktúrou pre nasadenie umelej inteligencie v podnikoch.

Spoločnosť Promptfoo získala približne 23 miliónov dolárov v podobe rizikového kapitálu, vrátane počiatočnej podpory od Andreessen Horowitz a 18,4 miliónov dolárov v sérii A pod vedením Insight Partners v roku 2025. Investori opísali spoločnosť ako hráča, ktorý definuje kategóriu v oblasti bezpečnosti aplikácií umelej inteligencie.

Pre OpenAI táto akvizícia pridáva bezpečnostnú vrstvu do Frontier v čase, keď sa zrýchľuje zavádzanie agentov umelej inteligencie do podnikov – a keď spoločnosti, ktoré týchto agentov nasadzujú, chcú menej prekvapení a viac bezpečnostných opatrení.

FAQ 🔎

• Čo je Promptfoo?
  Promptfoo je platforma umelej inteligencie v oblasti bezpečnosti, ktorá testuje veľké jazykové modely a agentov umelej inteligencie na zraniteľnosti, ako sú útoky typu prompt injection, úniky dát a exploitov typu jailbreak.
• Prečo OpenAI získava Promptfoo?
  OpenAI plánuje integrovať bezpečnostné testovacie a red-teamingové nástroje Promptfoo do svojej podnikovej platformy Frontier, aby bolo nasadzovanie agentov umelej inteligencie bezpečnejšie a ľahšie spravovateľné.
• Zostane Promptfoo open source?
  Áno, OpenAI uviedlo, že open source nástroje Promptfoo budú naďalej udržiavané a podporované pre vývojárov a existujúcich používateľov.
• Čo je OpenAI Frontier?
  Frontier je podniková platforma OpenAI na vytváranie, nasadzovanie a správu flotíl agentov umelej inteligencie, ktoré sa môžu pripojiť k systémom spoločnosti a vykonávať automatizované pracovné postupy.