OpenAI laiendab ettevõtte AI-alast tegevust Promptfoo turvalisuse idufirma tehinguga

OpenAI võtab Promptfoo startupi ostuga sihikule AI-agendi haavatavused

OpenAI ja Promptfoo poolt teatavaks tehtud tehinguga lisatakse Promptfoo automatiseeritud turvalisuse testimise ja hindamise tehnoloogia OpenAI Frontierisse, platvormi, mis on loodud aitama ettevõtetel kasutusele võtta AI-agentide, mida sageli nimetatakse „AI-kaastöötajateks”, armeed. Finantstingimusi ei avalikustatud ja omandamine sõltub endiselt tavapärastest tehingu lõpetamise tingimustest.

2024. aastal Ian Webster ja Michael D’Angelo poolt asutatud Promptfoo on saavutanud arendajate seas maine tööriistade poolest, mis stressitestivad suuri keelemudeleid ja agendisüsteeme. Selle tarkvara keskendub selliste haavatavuste tuvastamisele nagu kiirete süstide rünnakud, jailbreak-katseid, andmelekked ja väliste tööriistade väärkasutus – probleemid, mis võivad esile kerkida, kui AI-süsteemid ühenduvad reaalmaailma andmete ja rakendustega.

Kui tehing on lõpetatud, liitub umbes 23-liikmeline Promptfoo meeskond OpenAI-ga. Ettevõtted teatasid, et Promptfoo avatud lähtekoodiga tööriistu jätkatakse hooldamist ja toetamist, mis tähendab, et platvormi kasutavad arendajad ja organisatsioonid ei peaks märkama mingeid häireid.

Promptfoo tehnoloogiat kasutatakse laialdaselt AI-süsteemide vastu suunatud vaenulike rünnakute simuleerimiseks. Selle platvorm hõlmab automatiseeritud red-teamingut, koodi skaneerimist, haavatavuste tuvastamist ja parandusvahendeid, mis integreeruvad otse arendusprotsessidesse, nagu Github, Gitlab ja Jenkins.

Ettevõte väidab, et seda kasutab üha kasvav arendajate kogukond, kuhu kuulub kokku üle 350 000 arendaja ja üle 130 000 aktiivse igakuise kasutaja. Promptfoo teatas ka, et 127 Fortune 500 ettevõtet, sealhulgas jaemüüjad, telekommunikatsiooniteenuste pakkujad ja tervishoiuettevõtted, kasutavad selle tööriistu AI testimiseks ja hindamiseks.

OpenAI käivitas Frontier 5. veebruaril 2026, positsioneerides selle ettevõtte süsteemina, mis haldab suuri AI-agentide rakendusi, mis saavad juurdepääsu ettevõtte andmetele, täidavad ülesandeid ja suhtlevad sisemiste tööriistadega. Platvorm pakub identiteedikontrolli, juhtimisraamistikke ja operatiivset järelevalvet, mis on mõeldud reguleeritud tööstusharudele.

OpenAI B2B-rakenduste tehnoloogiajuht Srinivas Narayanan ütles, et omandamine aitab tugevdada Frontieri sisseehitatud hindamis- ja turbevõimalusi.

„Promptfoo toob kaasa sügava inseneriteadmiste kogemuse AI-süsteemide hindamisel, turvalisuse tagamisel ja testimisel ettevõtte tasandil,” ütles Narayanan avalduses. „Meil on hea meel tuua need võimekused otse Frontierisse.”

Promptfoo tegevjuht Ian Webster ütles, et integreerimine OpenAI-ga võib kiirendada jõupingutusi üha keerulisemate AI-rakenduste turvalisuse tagamiseks. Kuna agendid saavad juurdepääsu ettevõtte andmetele ja operatsioonisüsteemidele, muutub nende käitumise valideerimine palju keerulisemaks.

„Kuna AI-agendid on üha enam seotud reaalse andmete ja süsteemidega, on nende turvalisuse tagamine ja kontrollimine keerulisem ja olulisem kui kunagi varem,” ütles Webster. „OpenAI-ga ühinemine võimaldab meil seda tööd kiirendada.”

See samm peegeldab laiemat muutust tehisintellekti tööstuses, kus ettevõtted liiguvad eksperimentaalsetest chatbotitest autonoomsete tarkvaraagentide poole, mis suudavad täita reaalseid äriprotsesse. OpenAI Promptfoo omandamine järgneb hiljutisele Openclaw looja Peter Steinbergeri omandamisele.

Selle muutusega kaasneb suurenenud mure turvariskide pärast, alates andmete lekkest kuni agentide soovimatute tegevusteni ettevõtte süsteemides. Analüütikud ütlevad, et automatiseeritud red-teaming ja hindamisvahendid on muutumas ettevõtete AI rakenduste jaoks oluliseks infrastruktuuriks.

Promptfoo oli kogunud ligikaudu 23 miljonit dollarit riskikapitali, sealhulgas Andreessen Horowitz'i algkapitali ja 18,4 miljonit dollarit Insight Partnersi juhitud A-seeria rahastamisvoorust 2025. aastal. Investorid on kirjeldanud ettevõtet kui tehisintellekti rakenduste turvalisuse valdkonna määratlevat tegijat.

OpenAI jaoks lisab omandamine Frontierile turvalisuse kihi hetkel, mil ettevõtete AI-agentide kasutuselevõtt kiireneb – ja mil neid agente kasutusele võtvad ettevõtted soovivad vähem üllatusi ja rohkem kaitsemeetmeid.

KKK 🔎

• Mis on Promptfoo?
  Promptfoo on AI-turvalisuse platvorm, mis testib suuri keelemudeleid ja AI-agenteid selliste haavatavuste suhtes nagu kiirete süstide rünnakud, andmelekked ja jailbreak-eksploidid.
• Miks OpenAI omandab Promptfoo?
  OpenAI kavatseb integreerida Promptfoo turvatestimise ja red-teaming-tööriistad oma Frontier ettevõtteplatvormi, et muuta AI-agentide kasutuselevõtt turvalisemaks ja hõlpsamini hallatavaks.
• Kas Promptfoo jääb avatud lähtekoodiga?
  Jah, OpenAI teatas, et Promptfoo avatud lähtekoodiga tööriistu jätkatakse arendajate ja olemasolevate kasutajate jaoks hooldamise ja toetamisega.
• Mis on OpenAI Frontier?
  Frontier on OpenAI ettevõtte platvorm, mille abil saab luua, kasutusele võtta ja hallata AI-agentide parki, mis suudab ühenduda ettevõtte süsteemidega ja täita automatiseeritud töövooge.