OpenAI memperluas upaya pengembangan kecerdasan buatan (AI) untuk perusahaan dengan kesepakatan bersama startup keamanan Promptfoo.

OpenAI Menargetkan Kelemahan Agen AI Melalui Akuisisi Startup Promptfoo

Kesepakatan ini, yang diumumkan oleh OpenAI dan Promptfoo, akan membawa teknologi pengujian dan evaluasi keamanan otomatis Promptfoo ke dalam OpenAI Frontier, platform yang dirancang untuk membantu bisnis mengimplementasikan armada agen AI, sering disebut sebagai "rekan kerja AI." Rincian keuangan tidak diungkapkan, dan akuisisi ini masih tunduk pada kondisi penutupan standar.

Didirikan pada 2024 oleh Ian Webster dan Michael D’Angelo, Promptfoo membangun reputasi di kalangan pengembang untuk alat yang menguji ketahanan model bahasa besar dan sistem agen. Perangkat lunaknya berfokus pada identifikasi kerentanan seperti serangan injeksi prompt, upaya jailbreak, kebocoran data, dan penyalahgunaan alat eksternal — masalah yang dapat muncul saat sistem AI terhubung ke data dan aplikasi dunia nyata.

Setelah kesepakatan ditutup, tim Promptfoo yang berjumlah sekitar 23 orang akan bergabung dengan OpenAI. Kedua perusahaan menyatakan bahwa alat open-source Promptfoo akan terus dipelihara dan didukung, artinya pengembang dan organisasi yang menggunakan platform tersebut tidak akan mengalami gangguan.

Teknologi Promptfoo secara luas digunakan untuk mensimulasikan serangan adversarial terhadap sistem AI. Platformnya mencakup alat-alat otomatis untuk red-teaming, pemindaian kode, deteksi kerentanan, dan perbaikan yang terintegrasi langsung ke dalam alur kerja pengembangan seperti Github, Gitlab, dan Jenkins.

Perusahaan mengklaim adopsi yang luas di kalangan komunitas pengembang, termasuk lebih dari 350.000 pengembang secara keseluruhan dan lebih dari 130.000 pengguna aktif bulanan. Promptfoo juga melaporkan bahwa 127 perusahaan Fortune 500 — termasuk retailer, penyedia telekomunikasi, dan perusahaan kesehatan — mengandalkan alatnya untuk pengujian dan evaluasi AI.

OpenAI meluncurkan Frontier pada 5 Februari 2026, menempatkannya sebagai sistem perusahaan untuk mengelola deployment besar agen AI yang dapat mengakses data perusahaan, melakukan tugas, dan berinteraksi dengan alat internal. Platform ini menyediakan kontrol identitas, kerangka kerja tata kelola, dan pemantauan operasional yang dirancang untuk industri yang diatur.

Srinivas Narayanan, CTO OpenAI untuk aplikasi B2B, mengatakan akuisisi ini akan membantu memperkuat kemampuan evaluasi dan keamanan bawaan Frontier.

“Promptfoo memiliki keahlian teknik mendalam dalam mengevaluasi, mengamankan, dan menguji sistem AI pada skala perusahaan,” kata Narayanan dalam pernyataan resmi. “Kami sangat antusias untuk membawa kemampuan ini langsung ke Frontier.”

CEO Promptfoo, Ian Webster, mengatakan integrasi dengan OpenAI dapat mempercepat upaya untuk mengamankan implementasi AI yang semakin kompleks. Seiring agen AI mendapatkan akses ke data dan sistem operasional perusahaan, memvalidasi perilaku mereka menjadi jauh lebih menantang.

“Seiring agen AI semakin terhubung dengan data dan sistem nyata, mengamankan dan memvalidasi mereka menjadi lebih menantang dan penting dari sebelumnya,” kata Webster. “Bergabung dengan OpenAI memungkinkan kami mempercepat pekerjaan ini.”

Langkah ini mencerminkan pergeseran yang lebih luas di industri kecerdasan buatan, di mana perusahaan beralih dari chatbot eksperimental menuju agen perangkat lunak otonom yang mampu menjalankan alur kerja bisnis nyata. Akuisisi Promptfoo oleh OpenAI mengikuti akuisisi Peter Steinberger, pencipta Openclaw, yang baru-baru ini dilakukan.

Pergeseran ini membawa kekhawatiran yang meningkat tentang risiko keamanan, mulai dari kebocoran data hingga agen yang melakukan tindakan yang tidak diinginkan di dalam sistem korporat. Analis mengatakan alat otomatis untuk pengujian red-teaming dan evaluasi menjadi infrastruktur esensial untuk implementasi AI korporat.

Promptfoo telah mengumpulkan sekitar $23 juta dana ventura, termasuk pendanaan awal dari Andreessen Horowitz dan putaran Series A senilai $18,4 juta yang dipimpin oleh Insight Partners pada tahun 2025. Investor menggambarkan perusahaan ini sebagai pemain yang mendefinisikan kategori dalam keamanan aplikasi AI.

Bagi OpenAI, akuisisi ini menambahkan lapisan keamanan pada Frontier pada saat adopsi agen AI oleh perusahaan semakin cepat — dan saat perusahaan yang mengimplementasikan agen tersebut menginginkan lebih sedikit kejutan dan lebih banyak batasan.

FAQ 🔎

• Apa itu Promptfoo?
  Promptfoo adalah platform keamanan AI yang menguji model bahasa besar dan agen AI untuk kerentanan seperti serangan injeksi prompt, kebocoran data, dan eksploitasi jailbreak.
• Mengapa OpenAI mengakuisisi Promptfoo?
  OpenAI berencana mengintegrasikan alat pengujian keamanan dan red-teaming Promptfoo ke dalam platform Frontier enterprise-nya untuk membuat deployment agen AI lebih aman dan mudah dikelola.
• Apakah Promptfoo akan tetap open source?
  Ya, OpenAI menyatakan bahwa alat open source Promptfoo akan terus dipelihara dan didukung untuk pengembang dan pengguna existing.
• Apa itu OpenAI Frontier?
  Frontier adalah platform enterprise OpenAI untuk membangun, mengimplementasikan, dan mengelola armada agen AI yang dapat terhubung ke sistem perusahaan dan menjalankan alur kerja otomatis.