Az OpenAI a Promptfoo biztonsági startupmal kötött megállapodással bővíti vállalati AI-kezdeményezését

Az OpenAI a Promptfoo startup felvásárlásával az AI-ügynökök sebezhetőségét célozza meg

Az OpenAI és a Promptfoo által bejelentett megállapodás eredményeként a Promptfoo automatizált biztonsági tesztelési és értékelési technológiája bekerül az OpenAI Frontier platformba, amelynek célja, hogy segítse a vállalkozásokat az AI-ügynökök, az úgynevezett „AI-munkatársak” flottájának bevezetésében. A pénzügyi feltételeket nem hozták nyilvánosságra, és a felvásárlás továbbra is a szokásos zárási feltételekhez kötött.

A Promptfoo-t 2024-ben Ian Webster és Michael D’Angelo alapította, és a fejlesztők körében olyan eszközökkel szerzett magának hírnevet, amelyek nagy nyelvi modelleket és ügynökrendszereket tesztelnek. Szoftverei olyan sebezhetőségek azonosítására összpontosítanak, mint a prompt injection támadások, a jailbreak kísérletek, az adat szivárgások és a külső eszközök visszaélései – olyan problémák, amelyek akkor merülhetnek fel, amikor az AI-rendszerek valós adatokhoz és alkalmazásokhoz kapcsolódnak.

A tranzakció lezárását követően a mintegy 23 fős Promptfoo csapat csatlakozik az OpenAI-hez. A vállalatok közölték, hogy a Promptfoo nyílt forráskódú eszközeit továbbra is karbantartják és támogatják, így a platformot használó fejlesztők és szervezetek nem tapasztalnak zavarokat.

A Promptfoo technológiáját széles körben használják az AI-rendszerek elleni ellenséges támadások szimulálására. Platformja automatizált red-teaming, kódvizsgálat, sebezhetőség-felismerés és javító eszközöket tartalmaz, amelyek közvetlenül integrálhatók olyan fejlesztési folyamatokba, mint a Github, a Gitlab és a Jenkins.

A vállalat állítása szerint egyre növekvő fejlesztői közösség használja a platformot, amely összesen több mint 350 000 fejlesztőt és több mint 130 000 aktív havi felhasználót számlál. A Promptfoo arról is beszámol, hogy 127 Fortune 500-as vállalat – köztük kiskereskedők, távközlési szolgáltatók és egészségügyi cégek – támaszkodik az AI tesztelésére és értékelésére szolgáló eszközeire.

Az OpenAI 2026. február 5-én indította el a Frontiert, amelynek pozicionálása szerint ez egy vállalati rendszer az AI-ügynökök nagy léptékű telepítésének kezelésére, amelyek hozzáférhetnek a vállalati adatokhoz, feladatokat végezhetnek és belső eszközökkel kommunikálhatnak. A platform identitás-ellenőrzést, irányítási keretrendszereket és működési felügyeletet biztosít a szabályozott iparágak számára.

Srinivas Narayanan, az OpenAI B2B alkalmazásokért felelős technológiai igazgatója szerint az akvizíció hozzájárul a Frontier beépített értékelési és biztonsági képességeinek erősítéséhez.

„A Promptfoo mélyreható mérnöki szakértelemmel rendelkezik az AI-rendszerek vállalati szintű értékelése, biztonságossá tétele és tesztelése terén” – mondta Narayanan egy nyilatkozatában. „Örömmel tölt el minket, hogy ezeket a képességeket közvetlenül beépíthetjük a Frontierbe.”

Ian Webster, a Promptfoo vezérigazgatója szerint az OpenAI-val való integráció felgyorsíthatja az egyre összetettebb AI-bevezetések biztonságának biztosítását. Ahogy az ügynökök hozzáférést kapnak a vállalati adatokhoz és operatív rendszerekhez, viselkedésük ellenőrzése egyre nehezebbé válik.

„Ahogy az AI-ügynökök egyre inkább kapcsolódnak a valós adatokhoz és rendszerekhez, azok biztonságossá tétele és ellenőrzése minden eddiginél nagyobb kihívást jelent és fontosabbá válik” – mondta Webster. „Az OpenAI-hoz való csatlakozás lehetővé teszi számunkra, hogy felgyorsítsuk ezt a munkát.”

Ez a lépés az mesterséges intelligencia iparágában bekövetkező szélesebb körű változást tükrözi, mivel a vállalatok a kísérleti chatbotoktól az autonóm szoftverügynökök felé mozdulnak el, amelyek képesek valódi üzleti munkafolyamatokat végrehajtani. Az OpenAI Promptfoo felvásárlása Peter Steinberger, az Openclaw alkotójának nemrégiben történt felvásárlását követi.

Ezzel a változással együtt fokozódnak a biztonsági kockázatokkal kapcsolatos aggodalmak, az adat szivárgástól kezdve az ügynökök nem szándékos cselekedeteiig a vállalati rendszereken belül. Az elemzők szerint az automatizált red-teaming és értékelő eszközök egyre inkább elengedhetetlen infrastruktúrává válnak a vállalati AI-bevezetésekhez.

A Promptfoo körülbelül 23 millió dollár kockázati tőkét gyűjtött, beleértve az Andreessen Horowitz által nyújtott kezdőtőkét és az Insight Partners által 2025-ben vezetett 18,4 millió dolláros A sorozatú finanszírozást. A befektetők a vállalatot az AI-alkalmazások biztonságának kategóriát meghatározó szereplőjeként írták le.

Az OpenAI számára az akvizíció egy biztonsági réteget ad a Frontierhez egy olyan pillanatban, amikor a vállalatok egyre gyorsabban vezetik be az AI-ügynököket, és amikor az ezeket az ügynököket bevezető vállalatok kevesebb meglepetést és több biztonsági korlátot akarnak.

GYIK 🔎

• Mi az a Promptfoo?
  A Promptfoo egy AI-biztonsági platform, amely nagy nyelvi modelleket és AI-ügynököket tesztel olyan sebezhetőségek szempontjából, mint a prompt injection támadások, az adat szivárgás és a jailbreak exploitok.
• Miért vásárolja meg az OpenAI a Promptfoo-t?
  Az OpenAI azt tervezi, hogy a Promptfoo biztonsági tesztelő és red-teaming eszközeit integrálja Frontier vállalati platformjába, hogy az AI-ügynökök telepítése biztonságosabbá és könnyebben kezelhetővé váljon.
• A Promptfoo továbbra is nyílt forráskódú marad?
  Igen, az OpenAI szerint a Promptfoo nyílt forráskódú eszközeit továbbra is karbantartják és támogatják a fejlesztők és a meglévő felhasználók számára.
• Mi az OpenAI Frontier?
  A Frontier az OpenAI vállalati platformja, amelynek segítségével olyan AI-ügynökök flottáját lehet létrehozni, telepíteni és kezelni, amelyek csatlakozni tudnak a vállalati rendszerekhez és automatizált munkafolyamatokat tudnak végrehajtani.