OpenAI rozszerza działania w zakresie sztucznej inteligencji dla przedsiębiorstw dzięki umowie z startupem Promptfoo Security

OpenAI zajmuje się lukami w zabezpieczeniach agentów AI poprzez zakup startupu Promptfoo

Transakcja, ogłoszona zarówno przez OpenAI, jak i Promptfoo, spowoduje włączenie technologii automatycznego testowania i oceny bezpieczeństwa Promptfoo do OpenAI Frontier, platformy zaprojektowanej, aby pomóc firmom we wdrażaniu flot agentów AI, często opisywanych jako „współpracownicy AI”. Warunki finansowe nie zostały ujawnione, a przejęcie pozostaje przedmiotem zwyczajowych warunków zamknięcia.

Założona w 2024 roku przez Iana Webstera i Michaela D'Angelo firma Promptfoo zyskała wśród programistów renomę dzięki narzędziom do testowania dużych modeli językowych i systemów agentów. Jej oprogramowanie koncentruje się na identyfikowaniu słabych punktów, takich jak ataki typu prompt injection, próby jailbreak, wycieki danych i niewłaściwe wykorzystanie narzędzi zewnętrznych — problemów, które mogą pojawić się, gdy systemy AI łączą się z rzeczywistymi danymi i aplikacjami.

Po sfinalizowaniu transakcji około 23-osobowy zespół Promptfoo dołączy do OpenAI. Firmy poinformowały, że narzędzia open source Promptfoo będą nadal utrzymywane i wspierane, co oznacza, że obecni programiści i organizacje korzystające z platformy nie powinni odczuwać żadnych zakłóceń.

Technologia Promptfoo jest szeroko stosowana do symulacji ataków na systemy AI. Platforma obejmuje zautomatyzowane narzędzia do testów penetracyjnych, skanowania kodu, wykrywania luk w zabezpieczeniach i ich usuwania, które integrują się bezpośrednio z procesami programistycznymi, takimi jak Github, Gitlab i Jenkins.

Firma twierdzi, że jej rozwiązania są stosowane przez rosnącą społeczność programistów, obejmującą łącznie ponad 350 000 programistów i ponad 130 000 aktywnych użytkowników miesięcznie. Promptfoo informuje również, że 127 firm z listy Fortune 500 — w tym sprzedawcy detaliczni, dostawcy usług telekomunikacyjnych i firmy z branży opieki zdrowotnej — korzysta z jej narzędzi do testowania i oceny sztucznej inteligencji.

OpenAI uruchomiło Frontier 5 lutego 2026 r., pozycjonując go jako system dla przedsiębiorstw do zarządzania dużymi wdrożeniami agentów AI, którzy mogą uzyskać dostęp do danych firmy, wykonywać zadania i współpracować z narzędziami wewnętrznymi. Platforma zapewnia kontrolę tożsamości, ramy zarządzania i monitorowanie operacyjne przeznaczone dla branż podlegających regulacjom.

Srinivas Narayanan, dyrektor ds. technologii aplikacji B2B w OpenAI, powiedział, że przejęcie pomoże wzmocnić wbudowane funkcje oceny i bezpieczeństwa Frontier.

„Promptfoo wnosi głęboką wiedzę inżynieryjną w zakresie oceny, zabezpieczania i testowania systemów AI na skalę przedsiębiorstwa” – powiedział Narayanan w oświadczeniu. „Cieszymy się, że możemy wprowadzić te możliwości bezpośrednio do Frontier”.

Dyrektor generalny Promptfoo, Ian Webster, powiedział, że integracja z OpenAI może przyspieszyć działania mające na celu zabezpieczenie coraz bardziej złożonych wdrożeń sztucznej inteligencji. W miarę jak agenci uzyskują dostęp do danych przedsiębiorstwa i systemów operacyjnych, weryfikacja ich zachowania staje się znacznie trudniejsza.

„W miarę jak agenci AI stają się coraz bardziej powiązani z rzeczywistymi danymi i systemami, ich zabezpieczenie i weryfikacja stają się trudniejsze i ważniejsze niż kiedykolwiek” – powiedział Webster. „Dołączenie do OpenAI pozwala nam przyspieszyć te prace”.

Posunięcie to odzwierciedla szerszą zmianę w branży sztucznej inteligencji, ponieważ firmy przechodzą od eksperymentalnych chatbotów do autonomicznych agentów oprogramowania zdolnych do wykonywania rzeczywistych procesów biznesowych. Przejęcie Promptfoo przez OpenAI następuje po niedawnym zatrudnieniu Petera Steinbergera, twórcy Openclaw.

Wraz z tą zmianą pojawia się zwiększona obawa o zagrożenia bezpieczeństwa, od wycieku danych po podejmowanie przez agentów niezamierzonych działań w systemach korporacyjnych. Analitycy twierdzą, że zautomatyzowane narzędzia do tworzenia czerwonych zespołów i oceny stają się niezbędną infrastrukturą dla wdrożeń sztucznej inteligencji w przedsiębiorstwach.

Promptfoo pozyskało około 23 milionów dolarów finansowania venture capital, w tym wsparcie początkowe od Andreessen Horowitz oraz 18,4 miliona dolarów w ramach serii A, prowadzonej przez Insight Partners w 2025 roku. Inwestorzy opisują firmę jako gracza definiującego kategorię bezpieczeństwa aplikacji AI.

Dla OpenAI przejęcie to stanowi dodatkową warstwę bezpieczeństwa dla Frontier w momencie, gdy przedsiębiorstwa coraz częściej wdrażają agentów AI, a firmy korzystające z tych agentów chcą mniej niespodzianek i więcej zabezpieczeń.

FAQ 🔎

• Czym jest Promptfoo?
  Promptfoo to platforma bezpieczeństwa AI, która testuje duże modele językowe i agentów AI pod kątem podatności, takich jak ataki typu prompt injection, wycieki danych i exploity jailbreak.
• Dlaczego OpenAI przejmuje Promptfoo?
  OpenAI planuje zintegrować narzędzia Promptfoo do testowania bezpieczeństwa i red teamingu ze swoją platformą Frontier dla przedsiębiorstw, aby wdrożenia agentów AI były bezpieczniejsze i łatwiejsze w zarządzaniu.
• Czy Promptfoo pozostanie oprogramowaniem open source?
  Tak, OpenAI oświadczyło, że narzędzia open source Promptfoo będą nadal utrzymywane i obsługiwane dla programistów i obecnych użytkowników.
• Czym jest OpenAI Frontier?
  Frontier to platforma dla przedsiębiorstw OpenAI służąca do tworzenia, wdrażania i zarządzania flotami agentów AI, które mogą łączyć się z systemami firmowymi i wykonywać zautomatyzowane przepływy pracy.