OpenAI laajentaa yritysten tekoälyn käyttöä Promptfoo-turvallisuusalan startup-yrityksen kanssa tehdyn sopimuksen avulla

OpenAI kohdistuu tekoälyagenttien haavoittuvuuksiin ostamalla Promptfoo-startupin

OpenAI:n ja Promptfoon julkistaman kaupan myötä Promptfoon automatisoitu tietoturvatestaus- ja arviointiteknologia tuodaan OpenAI Frontier -alustalle, joka on suunniteltu auttamaan yrityksiä ottamaan käyttöön tekoälyagenttien joukkoja, joita usein kuvataan ”tekoälytyötovereiksi”. Kaupan taloudellisia ehtoja ei ole julkistettu, ja hankinta on edelleen tavanomaisten kaupan loppuunsaattamisen ehtojen alainen.

Ian Websterin ja Michael D'Angelon vuonna 2024 perustama Promptfoo on saavuttanut kehittäjien keskuudessa maineen työkaluilla, jotka stressitestää suuria kielimalleja ja agenttijärjestelmiä. Sen ohjelmisto keskittyy tunnistamaan haavoittuvuuksia, kuten prompt injection -hyökkäyksiä, jailbreak-yrityksiä, tietovuotoja ja ulkoisten työkalujen väärinkäyttöä – ongelmia, jotka voivat ilmetä, kun AI-järjestelmät yhdistyvät reaalimaailman dataan ja sovelluksiin.

Kaupan toteutuessa noin 23 hengen Promptfoo-tiimi liittyy OpenAI:hin. Yhtiöt ilmoittivat, että Promptfoon avoimen lähdekoodin työkaluja ylläpidetään ja tuetaan edelleen, joten nykyiset kehittäjät ja organisaatiot, jotka käyttävät alustaa, eivät tule kohtaamaan häiriöitä.

Promptfoon teknologiaa käytetään laajasti tekoälyjärjestelmiä vastaan suunnattujen hyökkäysten simuloimiseen. Sen alusta sisältää automatisoidun red-teamingin, koodin skannauksen, haavoittuvuuksien havaitsemisen ja korjaustyökalut, jotka integroituvat suoraan kehitysputkiin, kuten Github, Gitlab ja Jenkins.

Yritys väittää, että sen alustalla on kasvava kehittäjäyhteisö, johon kuuluu yli 350 000 kehittäjää ja yli 130 000 aktiivista kuukausittaista käyttäjää. Promptfoo raportoi myös, että 127 Fortune 500 -yritystä – mukaan lukien vähittäiskauppiaat, teleoperaattorit ja terveydenhuoltoalan yritykset – luottaa sen työkaluihin tekoälyn testaamisessa ja arvioinnissa.

OpenAI lanseerasi Frontierin 5. helmikuuta 2026 ja asetti sen yritysjärjestelmäksi, jolla hallitaan suuria tekoälyagenttien käyttöönottoja, jotka voivat käyttää yrityksen tietoja, suorittaa tehtäviä ja olla vuorovaikutuksessa sisäisten työkalujen kanssa. Alusta tarjoaa identiteetin hallintaa, hallintokehyksiä ja operatiivista seurantaa, jotka on suunniteltu säännellyille toimialoille.

OpenAI:n B2B-sovellusten teknologiajohtaja Srinivas Narayanan sanoi, että yrityskauppa auttaa vahvistamaan Frontierin sisäänrakennettuja arviointi- ja turvallisuusominaisuuksia.

"Promptfoo tuo mukanaan syvällisen teknisen osaamisen AI-järjestelmien arvioinnissa, turvaamisessa ja testaamisessa yritystasolla", Narayanan sanoi lausunnossaan. "Olemme innoissamme voidessamme tuoda nämä ominaisuudet suoraan Frontierin käyttöön."

Promptfoon toimitusjohtaja Ian Webster sanoi, että integrointi OpenAI:hin voi nopeuttaa pyrkimyksiä turvata yhä monimutkaisemmat tekoälyratkaisut. Kun agentit saavat pääsyn yritystietoihin ja operatiivisiin järjestelmiin, niiden käyttäytymisen validointi muuttuu paljon haastavammaksi.

"Kun tekoälyagentit ovat yhä enemmän yhteydessä todellisiin tietoihin ja järjestelmiin, niiden turvaaminen ja validointi on haastavampaa ja tärkeämpää kuin koskaan", Webster sanoi. "Liittyminen OpenAI:hin antaa meille mahdollisuuden nopeuttaa tätä työtä."

Muutos heijastaa laajempaa muutosta tekoälyalalla, kun yritykset siirtyvät kokeellisista chatboteista kohti autonomisia ohjelmistoagentteja, jotka pystyvät suorittamaan todellisia liiketoimintaprosesseja. OpenAI:n Promptfoo-yritysosto seuraa Openclaw'n luojan Peter Steinbergerin äskettäistä rekrytointia.

Tämän muutoksen myötä turvallisuusriskit, kuten tietovuodot ja agenttien tahattomat toimet yritysjärjestelmissä, ovat herättäneet entistä enemmän huolta. Analyytikot sanovat, että automatisoidut red teaming- ja arviointityökalut ovat tulossa välttämättömäksi infrastruktuuriksi yritysten tekoälyn käyttöönotossa.

Promptfoo oli kerännyt noin 23 miljoonaa dollaria riskisijoitusrahoitusta, mukaan lukien Andreessen Horowitzin siemenrahoitus ja Insight Partnersin johtama 18,4 miljoonan dollarin sarja A -rahoitus vuonna 2025. Sijoittajat ovat kuvailleet yritystä tekoälysovellusten turvallisuuden alalla kategoriaa määritteleväksi toimijaksi.

OpenAI:lle yrityskauppa lisää Frontierin turvallisuutta hetkellä, jolloin yritysten tekoälyagenttien käyttöönotto kiihtyy – ja kun agentteja käyttöönottavat yritykset haluavat vähemmän yllätyksiä ja enemmän suojatoimia.

UKK 🔎

• Mikä on Promptfoo?
  Promptfoo on tekoälyturvallisuusalusta, joka testaa suuria kielimalleja ja tekoälyagentteja haavoittuvuuksien, kuten prompt injection -hyökkäysten, tietovuotojen ja jailbreak-hyökkäysten varalta.
• Miksi OpenAI ostaa Promptfoon?
  OpenAI aikoo integroida Promptfoon turvallisuustestaus- ja red teaming -työkalut Frontier-yritysalustaansa, jotta tekoälyagenttien käyttöönotto olisi turvallisempaa ja helpommin hallittavaa.
• Pysyykö Promptfoo avoimen lähdekoodin ohjelmistona?
  Kyllä, OpenAI on ilmoittanut, että Promptfoon avoimen lähdekoodin työkaluja ylläpidetään ja tuetaan edelleen kehittäjille ja nykyisille käyttäjille.
• Mikä on OpenAI Frontier?
  Frontier on OpenAI:n yritysalusta, jolla voidaan rakentaa, ottaa käyttöön ja hallita tekoälyagenttien joukkoja, jotka voivat muodostaa yhteyden yrityksen järjestelmiin ja suorittaa automatisoituja työnkulkuja.