اوپنایآی این هفته اعلام کرد که قصد دارد استارتاپ امنیت هوش مصنوعی Promptfoo را خریداری کند و ابزارهای آزمون و ردتیمینگ این شرکت مستقر در سنمتئوِ کالیفرنیا را در پلتفرم عاملهای سازمانی خود، Frontier، ادغام کند.
اوپنایآی با معامله با استارتاپ امنیتی Promptfoo تلاش خود برای گسترش هوش مصنوعی سازمانی را افزایش میدهد
نویسنده
اشتراک
اوپنایآی با خرید استارتاپ Promptfoo آسیبپذیریهای عاملهای هوش مصنوعی را هدف میگیرد
این توافق که توسط اوپنایآی و Promptfoo اعلام شد، فناوری آزمون و ارزیابی امنیتی خودکار Promptfoo را به OpenAI Frontier میآورد؛ پلتفرمی که برای کمک به کسبوکارها در استقرار ناوگانی از عاملهای هوش مصنوعی طراحی شده و اغلب از آنها بهعنوان «همکاران هوش مصنوعی» یاد میشود. شرایط مالی اعلام نشد و این خرید همچنان منوط به شرایط معمول نهاییسازی است.
Promptfoo که در سال ۲۰۲۴ توسط ایان وبستر و مایکل دِآنجلو تأسیس شد، در میان توسعهدهندگان بهخاطر ابزارهایی که مدلهای زبانی بزرگ و سامانههای عامل را تحت فشار قرار میدهند و استرستست میکنند، شهرت پیدا کرد. نرمافزار آن بر شناسایی آسیبپذیریهایی مانند حملات تزریق پرامپت، تلاشهای جیلبریک، نشت داده و سوءاستفاده از ابزارهای خارجی تمرکز دارد — مسائلی که میتوانند زمانی بروز کنند که سامانههای هوش مصنوعی به دادهها و برنامههای دنیای واقعی متصل میشوند.
پس از نهاییشدن توافق، تیم حدوداً ۲۳ نفره Promptfoo به اوپنایآی ملحق خواهد شد. شرکتها گفتند ابزارهای متنباز Promptfoo همچنان نگهداری و پشتیبانی خواهند شد؛ بنابراین توسعهدهندگان و سازمانهای فعلیِ استفادهکننده از این پلتفرم نباید با اختلالی مواجه شوند.
فناوری Promptfoo بهطور گسترده برای شبیهسازی حملات خصمانه علیه سامانههای هوش مصنوعی استفاده میشود. پلتفرم آن شامل ردتیمینگ خودکار، اسکن کد، شناسایی آسیبپذیری و ابزارهای اصلاح است که مستقیماً در پایپلاینهای توسعه مانند Github، Gitlab و Jenkins ادغام میشوند.
این شرکت مدعی پذیرش در میان جامعهای رو به رشد از توسعهدهندگان است، از جمله بیش از ۳۵۰ هزار توسعهدهنده در مجموع و بیش از ۱۳۰ هزار کاربر فعال ماهانه. Promptfoo همچنین گزارش میدهد که ۱۲۷ شرکت از فهرست Fortune 500 — از جمله خردهفروشان، ارائهدهندگان مخابرات و شرکتهای حوزه سلامت — برای آزمون و ارزیابی هوش مصنوعی به ابزارهای آن متکی هستند.
اوپنایآی Frontier را در ۵ فوریه ۲۰۲۶ راهاندازی کرد و آن را بهعنوان یک سامانه سازمانی برای مدیریت استقرارهای بزرگ عاملهای هوش مصنوعی معرفی کرد؛ عاملهایی که میتوانند به دادههای شرکت دسترسی داشته باشند، وظایف را انجام دهند و با ابزارهای داخلی تعامل کنند. این پلتفرم کنترلهای هویتی، چارچوبهای حاکمیتی و پایش عملیاتی را ارائه میدهد که برای صنایع تحت مقررات طراحی شدهاند.
سرینیواس نارایانان، مدیر ارشد فناوری اوپنایآی در حوزه برنامههای B2B، گفت این خرید به تقویت قابلیتهای ارزیابی و امنیتِ تعبیهشده Frontier کمک خواهد کرد.
نارایانان در بیانیهای گفت: «Promptfoo تخصص مهندسی عمیقی در ارزیابی، ایمنسازی و آزمون سامانههای هوش مصنوعی در مقیاس سازمانی به همراه میآورد. مشتاقیم این قابلیتها را مستقیماً به Frontier بیاوریم.»
ایان وبستر، مدیرعامل Promptfoo، گفت ادغام با اوپنایآی میتواند تلاشها برای ایمنسازی استقرارهای هرچه پیچیدهتر هوش مصنوعی را شتاب دهد. با دسترسی یافتن عاملها به دادههای سازمانی و سامانههای عملیاتی، اعتبارسنجی نحوه رفتار آنها بهمراتب دشوارتر میشود.
وبستر گفت: «هرچه عاملهای هوش مصنوعی بیشتر به دادهها و سامانههای واقعی متصل میشوند، ایمنسازی و اعتبارسنجی آنها چالشبرانگیزتر و از هر زمان مهمتر میشود. پیوستن به اوپنایآی به ما اجازه میدهد این کار را سریعتر پیش ببریم.»
این اقدام نشاندهنده یک تغییر گستردهتر در صنعت هوش مصنوعی است؛ جایی که شرکتها از چتباتهای آزمایشی به سوی عاملهای نرمافزاری خودمختار حرکت میکنند که قادر به اجرای گردشکارهای واقعی کسبوکار هستند. خرید Promptfoo توسط اوپنایآی پس از acqui-hire اخیر پیتر اشتاینبرگر، خالق Openclaw، انجام میشود.
همراه با این تغییر، نگرانی درباره ریسکهای امنیتی افزایش مییابد؛ از نشت داده تا اقدامهای ناخواسته عاملها درون سامانههای شرکتی. تحلیلگران میگویند ابزارهای ردتیمینگ و ارزیابی خودکار در حال تبدیل شدن به زیرساختی ضروری برای استقرارهای سازمانی هوش مصنوعی هستند.
Promptfoo حدود ۲۳ میلیون دلار سرمایه خطرپذیر جذب کرده بود، از جمله سرمایه اولیه از Andreessen Horowitz و یک دور سری A به ارزش ۱۸.۴ میلیون دلار به رهبری Insight Partners در سال ۲۰۲۵. سرمایهگذاران از این شرکت بهعنوان بازیگری تعریفکنندهِ دستهبندی در امنیت برنامههای هوش مصنوعی یاد کردهاند.
برای اوپنایآی، این خرید در زمانی یک لایه امنیتی به Frontier اضافه میکند که پذیرش سازمانی عاملهای هوش مصنوعی شتاب میگیرد — و زمانی که شرکتهای مستقرکننده این عاملها غافلگیری کمتر و گاردریلهای بیشتری میخواهند.
سؤالات متداول 🔎
- Promptfoo چیست؟
Promptfoo یک پلتفرم امنیت هوش مصنوعی است که مدلهای زبانی بزرگ و عاملهای هوش مصنوعی را از نظر آسیبپذیریهایی مانند حملات تزریق پرامپت، نشت داده و سوءاستفادههای جیلبریک آزمون میکند. - چرا اوپنایآی Promptfoo را خریداری میکند؟
اوپنایآی قصد دارد ابزارهای آزمون امنیتی و ردتیمینگ Promptfoo را در پلتفرم سازمانی Frontier ادغام کند تا استقرار عاملهای هوش مصنوعی ایمنتر و مدیریت آنها آسانتر شود. - آیا Promptfoo متنباز باقی میماند؟
بله، اوپنایآی گفت ابزارهای متنباز Promptfoo همچنان برای توسعهدهندگان و کاربران فعلی نگهداری و پشتیبانی خواهند شد. - OpenAI Frontier چیست؟
Frontier پلتفرم سازمانی اوپنایآی برای ساخت، استقرار و مدیریت ناوگانهایی از عاملهای هوش مصنوعی است که میتوانند به سامانههای شرکت متصل شوند و گردشکارهای خودکار را انجام دهند.
