OpenAI širi svojo dejavnost na področju umetne inteligence za podjetja s sklenitvijo pogodbe z varnostnim startupom Promptfoo

OpenAI se z nakupom startupa Promptfoo osredotoča na ranljivosti AI agentov

Sporazum, ki sta ga objavila OpenAI in Promptfoo, bo avtomatizirano tehnologijo Promptfoo za testiranje in ocenjevanje varnosti vključil v OpenAI Frontier, platformo, ki je zasnovana za pomoč podjetjem pri uvajanju flote AI agentov, ki se pogosto opisujejo kot »AI sodelavci«. Finančni pogoji niso bili razkriti, prevzem pa je še vedno predmet običajnih pogojev za sklenitev.

Promptfoo, ki sta ga leta 2024 ustanovila Ian Webster in Michael D'Angelo, si je med razvijalci pridobil sloves zaradi orodij, ki izvajajo stresne teste velikih jezikovnih modelov in sistemov agentov. Njegova programska oprema se osredotoča na odkrivanje ranljivosti, kot so napadi s hitrim vbrizgavanjem, poskusi jailbreak-a, uhajanje podatkov in zloraba zunanjih orodij – težave, ki se lahko pojavijo, ko se AI sistemi povežejo z dejanskimi podatki in aplikacijami.

Ko bo posel sklenjen, se bo približno 23-članska ekipa Promptfoo pridružila OpenAI. Podjetji sta povedali, da bodo odprtokodna orodja Promptfoo še naprej vzdrževana in podprta, kar pomeni, da obstoječi razvijalci in organizacije, ki uporabljajo platformo, ne bi smeli opaziti nobenih motenj.

Tehnologija Promptfoo se pogosto uporablja za simulacijo sovražnih napadov na AI sisteme. Njena platforma vključuje avtomatizirano red-teaming, skeniranje kode, odkrivanje ranljivosti in orodja za odpravljanje napak, ki se neposredno integrirajo v razvojne procese, kot so Github, Gitlab in Jenkins.

Podjetje trdi, da je njegova tehnologija sprejeta v rastoči razvijalski skupnosti, ki vključuje več kot 350.000 razvijalcev in več kot 130.000 aktivnih mesečnih uporabnikov. Promptfoo poroča tudi, da 127 podjetij iz seznama Fortune 500 – vključno s trgovci na drobno, telekomunikacijskimi ponudniki in zdravstvenimi podjetji – uporablja njegova orodja za testiranje in ocenjevanje umetne inteligence.

OpenAI je Frontier lansiral 5. februarja 2026 in ga pozicioniral kot podjetniški sistem za upravljanje velikih razporeditev AI agentov, ki lahko dostopajo do podatkov podjetja, opravljajo naloge in komunicirajo z notranjimi orodji. Platforma zagotavlja nadzor identitete, okvire upravljanja in operativno spremljanje, zasnovane za regulirane industrije.

Srinivas Narayanan, tehnološki direktor OpenAI za B2B aplikacije, je dejal, da bo prevzem pomagal okrepiti vgrajene zmogljivosti Frontier za ocenjevanje in varnost.

„Promptfoo prinaša poglobljeno inženirsko znanje na področju ocenjevanja, varovanja in testiranja sistemov umetne inteligence na ravni podjetja,“ je v izjavi dejal Narayanan. „Veseli nas, da bomo te zmogljivosti neposredno vključili v Frontier.“

Izvršni direktor Promptfoo Ian Webster je dejal, da bi integracija z OpenAI lahko pospešila prizadevanja za zaščito vse bolj kompleksnih AI-implementacij. Ko agenti pridobijo dostop do podatkov podjetja in operativnih sistemov, postane preverjanje njihovega delovanja veliko bolj zahtevno.

„Ker so agenti umetne inteligence vedno bolj povezani z dejanskimi podatki in sistemi, je njihovo varovanje in preverjanje težje in pomembnejše kot kdaj koli prej,“ je dejal Webster. „Pridružitev OpenAI nam omogoča pospešitev tega dela.“

Ta poteza odraža širši premik v industriji umetne inteligence, saj se podjetja premikajo od eksperimentalnih klepetalnih robotov k avtonomnim programskim agentom, ki so sposobni izvajati resnične poslovne delovne tokove. OpenAI je Promptfoo prevzel po nedavnem prevzemu Petra Steinbergerja, ustvarjalca Openclaw.

S tem premikom se povečuje zaskrbljenost glede varnostnih tveganj, od uhajanja podatkov do agentov, ki izvajajo nenamerne ukrepe znotraj korporativnih sistemov. Analitiki pravijo, da avtomatizirana orodja za rdeče ekipe in ocenjevanje postajajo bistvena infrastruktura za uvajanje umetne inteligence v podjetjih.

Promptfoo je zbral približno 23 milijonov dolarjev tveganega kapitala, vključno s semenskim kapitalom Andreessena Horowitza in 18,4 milijona dolarjev serije A, ki jo je vodil Insight Partners leta 2025. Vlagatelji so podjetje opisali kot vodilnega akterja na področju varnosti aplikacij umetne inteligence.

Za OpenAI ta prevzem pomeni dodatno varnostno plast za Frontier v trenutku, ko se uvajanje umetne inteligence v podjetjih pospešuje – in ko podjetja, ki te agente uvajajo, želijo manj presenečenj in več zaščitnih ukrepov.

Pogosta vprašanja 🔎

• Kaj je Promptfoo?
  Promptfoo je varnostna platforma umetne inteligence, ki preizkuša velike jezikovne modele in agente umetne inteligence za ranljivosti, kot so napadi s hitrim vbrizgavanjem, uhajanje podatkov in izkoriščanje varnostnih lukenj.
• Zakaj OpenAI prevzema Promptfoo?
  OpenAI namerava varnostna testiranja in orodja red-teaming Promptfoo integrirati v svojo podjetniško platformo Frontier, da bo uvajanje AI agentov varnejše in lažje za upravljanje.
• Bo Promptfoo ostal odprtokodni?
  Da, OpenAI je povedal, da bodo odprtokodna orodja Promptfoo še naprej vzdrževana in podpirana za razvijalce in obstoječe uporabnike.
• Kaj je OpenAI Frontier?
  Frontier je OpenAI-jeva platforma za podjetja za gradnjo, uvajanje in upravljanje flot AI-agentov, ki se lahko povežejo s sistemi podjetja in izvajajo avtomatizirane delovne tokove.