OpenAI, Promptfoo Güvenlik Girişimi Anlaşmasıyla Kurumsal Yapay Zeka Girişimini Genişletiyor

OpenAI, Promptfoo Startup Satın Alımıyla AI Ajanlarının Güvenlik Açıklarını Hedefliyor

OpenAI ve Promptfoo tarafından duyurulan anlaşma, Promptfoo'nun otomatik güvenlik testi ve değerlendirme teknolojisini, genellikle "AI iş arkadaşları" olarak tanımlanan AI ajan filolarını işletmelerin kullanmasına yardımcı olmak için tasarlanmış bir platform olan OpenAI Frontier'a getirecek. Finansal şartlar açıklanmadı ve satın alma, geleneksel kapanış koşullarına tabi olmaya devam ediyor.

2024 yılında Ian Webster ve Michael D'Angelo tarafından kurulan Promptfoo, büyük dil modellerini ve ajan sistemlerini stres testine tabi tutan araçlarıyla geliştiriciler arasında ün kazandı. Yazılımı, AI sistemleri gerçek dünya verilerine ve uygulamalarına bağlandığında ortaya çıkabilecek sorunlar olan prompt enjeksiyon saldırıları, jailbreak girişimleri, veri sızıntıları ve harici araçların kötüye kullanımı gibi güvenlik açıklarını tespit etmeye odaklanıyor.

Anlaşma tamamlandığında, yaklaşık 23 kişilik Promptfoo ekibi OpenAI'ye katılacak. Şirketler, Promptfoo'nun açık kaynaklı araçlarının bakım ve desteğinin devam edeceğini, yani platformu kullanan mevcut geliştiriciler ve kuruluşların herhangi bir kesinti yaşamayacağını belirtti.

Promptfoo'nun teknolojisi, AI sistemlerine yönelik düşmanca saldırıları simüle etmek için yaygın olarak kullanılmaktadır. Platformu, Github, Gitlab ve Jenkins gibi geliştirme süreçlerine doğrudan entegre olan otomatik kırmızı takım, kod tarama, güvenlik açığı tespiti ve düzeltme araçlarını içermektedir.

Şirket, toplamda 350.000'den fazla geliştirici ve aylık 130.000'den fazla aktif kullanıcı dahil olmak üzere, büyüyen bir geliştirici topluluğu tarafından benimsendiğini iddia ediyor. Promptfoo ayrıca, perakendeciler, telekom sağlayıcıları ve sağlık şirketleri dahil olmak üzere 127 Fortune 500 şirketinin AI testi ve değerlendirmesi için araçlarına güvendiğini bildiriyor.

OpenAI, Frontier'ı 5 Şubat 2026'da piyasaya sürdü ve onu şirket verilerine erişebilen, görevleri yerine getirebilen ve iç araçlarla etkileşime girebilen AI ajanlarının büyük ölçekli dağıtımlarını yönetmek için bir kurumsal sistem olarak konumlandırdı. Platform, düzenlemeye tabi sektörler için tasarlanmış kimlik kontrolleri, yönetişim çerçeveleri ve operasyonel izleme sağlar.

OpenAI'nin B2B uygulamaları CTO'su Srinivas Narayanan, bu satın almanın Frontier'ın yerleşik değerlendirme ve güvenlik yeteneklerini güçlendirmeye yardımcı olacağını söyledi.

Narayanan yaptığı açıklamada, "Promptfoo, kurumsal ölçekte AI sistemlerini değerlendirme, güvenliğini sağlama ve test etme konusunda derin mühendislik uzmanlığı getiriyor. Bu yetenekleri doğrudan Frontier'a kazandırmaktan heyecan duyuyoruz" dedi.

Promptfoo CEO'su Ian Webster, OpenAI ile entegrasyonun giderek karmaşıklaşan AI dağıtımlarını güvence altına alma çabalarını hızlandırabileceğini söyledi. Ajanlar kurumsal verilere ve operasyonel sistemlere erişim kazandıkça, davranışlarını doğrulamak çok daha zor hale geliyor.

Webster, "AI ajanları gerçek verilere ve sistemlere daha fazla bağlandıkça, bunların güvenliğini sağlamak ve doğrulamak her zamankinden daha zor ve önemli hale geliyor" dedi. "OpenAI'ye katılmak, bu çalışmayı hızlandırmamızı sağlıyor."

Bu hamle, şirketlerin deneysel sohbet robotlarından gerçek iş akışlarını yürütebilen otonom yazılım ajanlarına geçmesiyle yapay zeka endüstrisinde yaşanan daha geniş bir değişimi yansıtıyor. OpenAI'nin Promptfoo'yu satın alması, Openclaw'ın yaratıcısı Peter Steinberger'in yakın zamanda satın alınmasının ardından geldi.

Bu değişimle birlikte, veri sızıntısından kurumsal sistemler içinde istenmeyen eylemler gerçekleştiren ajanlara kadar güvenlik risklerine ilişkin endişeler artıyor. Analistler, otomatikleştirilmiş kırmızı takım ve değerlendirme araçlarının kurumsal yapay zeka uygulamaları için vazgeçilmez bir altyapı haline geldiğini söylüyor.

Promptfoo, Andreessen Horowitz'in tohum yatırımı ve 2025 yılında Insight Partners'ın liderliğindeki 18,4 milyon dolarlık Seri A yatırımı da dahil olmak üzere, yaklaşık 23 milyon dolarlık risk sermayesi fonu toplamıştı. Yatırımcılar, şirketi yapay zeka uygulama güvenliğinde kategoriyi tanımlayan bir oyuncu olarak tanımladı.

OpenAI için bu satın alma, kurumsal AI ajanlarının benimsenmesinin hızlandığı ve bu ajanları kullanan şirketlerin daha az sürpriz ve daha fazla koruma önlemi istediği bir dönemde Frontier'a bir güvenlik katmanı ekliyor.

SSS 🔎

• Promptfoo nedir?
  Promptfoo, büyük dil modellerini ve AI ajanlarını prompt enjeksiyon saldırıları, veri sızıntıları ve jailbreak istismarları gibi güvenlik açıklarına karşı test eden bir AI güvenlik platformudur.
• OpenAI neden Promptfoo'yu satın alıyor?
  OpenAI, AI ajanlarının dağıtımını daha güvenli ve yönetimi daha kolay hale getirmek için Promptfoo'nun güvenlik testi ve kırmızı takım araçlarını Frontier kurumsal platformuna entegre etmeyi planlıyor.
• Promptfoo açık kaynak olarak kalacak mı?
  Evet, OpenAI, Promptfoo'nun açık kaynak araçlarının geliştiriciler ve mevcut kullanıcılar için bakımının ve desteğinin devam edeceğini söyledi.
• OpenAI Frontier nedir?
  Frontier, şirket sistemlerine bağlanabilen ve otomatik iş akışları gerçekleştirebilen AI ajan filolarını oluşturmak, dağıtmak ve yönetmek için OpenAI'nin kurumsal platformudur.