OpenAI proširuje poticaj za poslovnu umjetnu inteligenciju dogovorom sa sigurnosnim startupom Promptfoo

OpenAI cilja ranjivosti AI agenata kupnjom startupa Promptfoo

Dogovor, koji su objavili i OpenAI i Promptfoo, donijet će Promptfooovu tehnologiju automatiziranog sigurnosnog testiranja i evaluacije u OpenAI Frontier, platformu osmišljenu kako bi pomogla tvrtkama u implementaciji flota AI agenata, često opisanih kao “AI suradnici.” Financijski uvjeti nisu objavljeni, a preuzimanje i dalje podliježe uobičajenim uvjetima zaključenja.

Osnovan 2024. godine od Iana Webstera i Michaela D’Angela, Promptfoo je među developerima izgradio reputaciju zahvaljujući alatima koji stres-testiraju velike jezične modele i agentne sustave. Njegov softver usredotočen je na otkrivanje ranjivosti poput napada ubrizgavanjem prompta, pokušaja jailbreaka, curenja podataka i zlouporabe vanjskih alata — problema koji mogu isplivati kada se AI sustavi povežu sa stvarnim podacima i aplikacijama.

Nakon zaključenja dogovora, otprilike 23-člani tim Promptfooa pridružit će se OpenAI-ju. Tvrtke su navele da će se Promptfooovi open-source alati nastaviti održavati i podržavati, što znači da postojeći developeri i organizacije koje koriste platformu ne bi trebali vidjeti prekide.

Promptfooova tehnologija naširoko se koristi za simuliranje protivničkih napada na AI sustave. Njegova platforma uključuje automatizirani red-teaming, skeniranje koda, otkrivanje ranjivosti i alate za sanaciju koji se izravno integriraju u razvojne tokove poput Githuba, Gitlaba i Jenkinsa.

Tvrtka tvrdi da je prihvaćena među rastućom developerskom zajednicom, uključujući više od 350.000 developera ukupno i više od 130.000 aktivnih mjesečnih korisnika. Promptfoo također navodi da se 127 tvrtki s popisa Fortune 500 — uključujući maloprodajne lance, telekomunikacijske pružatelje usluga i zdravstvene tvrtke — oslanja na njegove alate za testiranje i evaluaciju AI-ja.

OpenAI je lansirao Frontier 5. veljače 2026., pozicionirajući ga kao poslovni sustav za upravljanje velikim implementacijama AI agenata koji mogu pristupati podacima tvrtke, obavljati zadatke i komunicirati s internim alatima. Platforma pruža kontrole identiteta, okvire upravljanja i operativni nadzor osmišljene za regulirane industrije.

Srinivas Narayanan, OpenAI-jev CTO za B2B aplikacije, rekao je da će preuzimanje pomoći ojačati Frontierove ugrađene mogućnosti evaluacije i sigurnosti.

“Promptfoo donosi duboku inženjersku stručnost u evaluaciji, osiguravanju i testiranju AI sustava na poslovnoj razini,” rekao je Narayanan u priopćenju. “Uzbuđeni smo što ove mogućnosti donosimo izravno u Frontier.”

Promptfooov CEO Ian Webster rekao je da bi integracija s OpenAI-jem mogla ubrzati napore na osiguravanju sve složenijih AI implementacija. Kako agenti dobivaju pristup poslovnim podacima i operativnim sustavima, provjeravanje njihova ponašanja postaje znatno izazovnije.

“Kako AI agenti postaju sve povezaniji sa stvarnim podacima i sustavima, njihovo osiguravanje i validacija izazovniji su i važniji nego ikad,” rekao je Webster. “Pridruživanje OpenAI-ju omogućuje nam da ubrzamo ovaj rad.”

Ovaj potez odražava širi pomak u industriji umjetne inteligencije dok se tvrtke udaljavaju od eksperimentalnih chatbotova prema autonomnim softverskim agentima sposobnima izvršavati stvarne poslovne radne tokove. OpenAI-jeva akvizicija Promptfooa slijedi nedavno acqui-hire zapošljavanje Petera Steinbergera, kreatora Openclawa.

S tim pomakom dolazi i povećana zabrinutost zbog sigurnosnih rizika, od curenja podataka do agenata koji poduzimaju nenamjerne radnje unutar korporativnih sustava. Analitičari kažu da automatizirani alati za red-teaming i evaluaciju postaju ključna infrastruktura za poslovne implementacije AI-ja.

Promptfoo je prikupio otprilike 23 milijuna dolara rizičnog kapitala, uključujući seed ulaganje Andreessen Horowitza i Seriju A od 18,4 milijuna dolara koju je 2025. predvodio Insight Partners. Investitori su tvrtku opisali kao igrača koji definira kategoriju u sigurnosti AI aplikacija.

Za OpenAI, akvizicija dodaje sigurnosni sloj Frontieru u trenutku kada se poslovno usvajanje AI agenata ubrzava — i kada tvrtke koje implementiraju te agente žele manje iznenađenja i više zaštitnih ograda.

FAQ 🔎

• Što je Promptfoo?
  Promptfoo je platforma za AI sigurnost koja testira velike jezične modele i AI agente na ranjivosti poput napada ubrizgavanjem prompta, curenja podataka i jailbreak exploita.
• Zašto OpenAI preuzima Promptfoo?
  OpenAI planira integrirati Promptfooove alate za sigurnosno testiranje i red-teaming u svoju poslovnu platformu Frontier kako bi implementacije AI agenata bile sigurnije i lakše za upravljanje.
• Hoće li Promptfoo ostati open source?
  Da, OpenAI je rekao da će se Promptfooovi open-source alati nastaviti održavati i podržavati za developere i postojeće korisnike.
• Što je OpenAI Frontier?
  Frontier je OpenAI-jeva poslovna platforma za izgradnju, implementaciju i upravljanje flotama AI agenata koji se mogu povezati sa sustavima tvrtke i izvršavati automatizirane radne tokove.