OpenAI Memperluaskan Dorongan AI Perusahaan dengan Perjanjian Startup Keselamatan Promptfoo

OpenAI Menyasarkan Kerentanan Ejen AI Dengan Pembelian Syarikat Pemula Promptfoo

Perjanjian deal itu, yang diumumkan oleh OpenAI dan Promptfoo, akan membawa teknologi ujian keselamatan automatik dan penilaian Promptfoo ke dalam OpenAI Frontier, sebuah platform yang direka untuk membantu perniagaan melancarkan armada ejen AI, yang sering digambarkan sebagai “rakan sekerja AI.” Terma kewangan tidak didedahkan, dan pengambilalihan ini masih tertakluk kepada syarat penutupan lazim.

Diasaskan pada 2024 oleh Ian Webster dan Michael D’Angelo, Promptfoo membina reputasi dalam kalangan pembangun melalui alat yang menguji ketahanan model bahasa besar dan sistem ejen. Perisiannya memfokuskan kepada mengenal pasti kerentanan seperti serangan suntikan prompt, percubaan jailbreak, kebocoran data dan penyalahgunaan alat luaran — isu yang boleh timbul apabila sistem AI disambungkan kepada data dan aplikasi dunia sebenar.

Setelah perjanjian dimuktamadkan, pasukan Promptfoo yang berjumlah kira-kira 23 orang akan menyertai OpenAI. Syarikat-syarikat itu berkata alat sumber terbuka Promptfoo akan terus diselenggara dan disokong, bermakna pembangun dan organisasi sedia ada yang menggunakan platform tersebut tidak seharusnya mengalami sebarang gangguan.

Teknologi Promptfoo digunakan secara meluas untuk mensimulasikan serangan adversarial terhadap sistem AI. Platformnya merangkumi red-teaming automatik, pengimbasan kod, pengesanan kerentanan dan alat pemulihan yang diintegrasikan secara terus ke dalam saluran paip pembangunan seperti Github, Gitlab dan Jenkins.

Syarikat itu mendakwa penerimaan dalam komuniti pembangun yang kian berkembang, termasuk lebih daripada 350,000 pembangun secara keseluruhan dan lebih daripada 130,000 pengguna aktif bulanan. Promptfoo turut melaporkan bahawa 127 syarikat Fortune 500 — termasuk peruncit, penyedia telekom dan firma penjagaan kesihatan — bergantung pada alatnya untuk ujian dan penilaian AI.

OpenAI melancarkan Frontier pada 5 Feb. 2026, meletakkannya sebagai sistem perusahaan untuk mengurus pelaksanaan berskala besar ejen AI yang boleh mengakses data syarikat, melaksanakan tugas, dan berinteraksi dengan alat dalaman. Platform ini menyediakan kawalan identiti, rangka kerja tadbir urus dan pemantauan operasi yang direka untuk industri yang dikawal selia.

Srinivas Narayanan, CTO OpenAI bagi aplikasi B2B, berkata pengambilalihan itu akan membantu mengukuhkan keupayaan penilaian dan keselamatan terbina dalam Frontier.

“Promptfoo membawa kepakaran kejuruteraan mendalam dalam menilai, mengamankan, dan menguji sistem AI pada skala perusahaan,” kata Narayanan dalam satu kenyataan. “Kami teruja untuk membawa keupayaan ini terus ke dalam Frontier.”

Ketua Pegawai Eksekutif Promptfoo, Ian Webster, berkata integrasi dengan OpenAI boleh mempercepat usaha untuk mengamankan pelaksanaan AI yang semakin kompleks. Apabila ejen memperoleh akses kepada data perusahaan dan sistem operasi, mengesahkan bagaimana ia berkelakuan menjadi jauh lebih mencabar.

“Apabila ejen AI menjadi lebih terhubung kepada data dan sistem sebenar, mengamankan dan mengesahkannya lebih mencabar dan lebih penting berbanding sebelum ini,” kata Webster. “Menyertai OpenAI membolehkan kami mempercepat kerja ini.”

Langkah ini mencerminkan perubahan yang lebih luas dalam industri kecerdasan buatan apabila syarikat beralih daripada chatbot eksperimen kepada ejen perisian autonomi yang mampu melaksanakan aliran kerja perniagaan sebenar. Pengambilalihan Promptfoo oleh OpenAI menyusuli acqui-hire Peter Steinberger, pencipta Openclaw, baru-baru ini.

Seiring perubahan itu, kebimbangan terhadap risiko keselamatan meningkat, daripada kebocoran data hinggalah ejen mengambil tindakan yang tidak diniatkan di dalam sistem korporat. Penganalisis berkata alat red-teaming automatik dan penilaian semakin menjadi infrastruktur penting bagi pelaksanaan AI perusahaan.

Promptfoo telah mengumpul kira-kira $23 juta dalam pembiayaan modal teroka, termasuk pembiayaan benih daripada Andreessen Horowitz dan Siri A bernilai $18.4 juta yang diketuai oleh Insight Partners pada 2025. Pelabur telah menggambarkan syarikat itu sebagai pemain yang mentakrifkan kategori dalam keselamatan aplikasi AI.

Bagi OpenAI, pengambilalihan ini menambah satu lapisan keselamatan kepada Frontier pada ketika penerimaan perusahaan terhadap ejen AI semakin dipercepat — dan apabila syarikat yang melancarkan ejen tersebut mahukan lebih sedikit kejutan dan lebih banyak penghadang keselamatan.

Soalan Lazim 🔎

• Apakah itu Promptfoo?
  Promptfoo ialah platform keselamatan AI yang menguji model bahasa besar dan ejen AI untuk kerentanan seperti serangan suntikan prompt, kebocoran data, dan eksploit jailbreak.
• Mengapa OpenAI memperoleh Promptfoo?
  OpenAI merancang untuk mengintegrasikan alat ujian keselamatan dan red-teaming Promptfoo ke dalam platform perusahaan Frontier untuk menjadikan pelaksanaan ejen AI lebih selamat dan lebih mudah diurus.
• Adakah Promptfoo akan kekal sumber terbuka?
  Ya, OpenAI berkata alat sumber terbuka Promptfoo akan terus diselenggara dan disokong untuk pembangun dan pengguna sedia ada.
• Apakah itu OpenAI Frontier?
  Frontier ialah platform perusahaan OpenAI untuk membina, melancarkan, dan mengurus armada ejen AI yang boleh disambungkan kepada sistem syarikat dan melaksanakan aliran kerja automatik.