OpenAI étend son offensive dans le domaine de l'IA d'entreprise grâce à un accord avec la start-up Promptfoo Security

OpenAI cible les vulnérabilités des agents IA avec l'acquisition de la start-up Promptfoo

L'accord, annoncé par OpenAI et Promptfoo, permettra d'intégrer la technologie de test et d'évaluation automatisés de la sécurité de Promptfoo à OpenAI Frontier, une plateforme conçue pour aider les entreprises à déployer des flottes d'agents IA, souvent décrits comme des « collègues IA ». Les conditions financières n'ont pas été divulguées et l'acquisition reste soumise aux conditions de clôture habituelles.

Fondée en 2024 par Ian Webster et Michael D'Angelo, Promptfoo s'est forgé une réputation auprès des développeurs pour ses outils qui testent la résistance des grands modèles linguistiques et des systèmes d'agents. Son logiciel se concentre sur l'identification des vulnérabilités telles que les attaques par injection de prompt, les tentatives de jailbreak, les fuites de données et l'utilisation abusive d'outils externes, des problèmes qui peuvent apparaître lorsque les systèmes d'IA se connectent à des données et des applications du monde réel.

Une fois la transaction finalisée, l'équipe de Promptfoo, composée d'environ 23 personnes, rejoindra OpenAI. Les deux sociétés ont déclaré que les outils open source de Promptfoo continueraient d'être maintenus et pris en charge, ce qui signifie que les développeurs et les organisations existants qui utilisent la plateforme ne devraient subir aucune perturbation.

La technologie de Promptfoo est largement utilisée pour simuler des attaques adversaires contre les systèmes d'IA. Sa plateforme comprend des outils automatisés de red teaming, d'analyse de code, de détection des vulnérabilités et de correction qui s'intègrent directement dans les pipelines de développement tels que Github, Gitlab et Jenkins.

La société affirme que sa plateforme est adoptée par une communauté de développeurs en pleine expansion, qui compte plus de 350 000 développeurs au total et plus de 130 000 utilisateurs actifs par mois. Promptfoo indique également que 127 entreprises du classement Fortune 500, notamment des détaillants, des opérateurs de télécommunications et des sociétés de soins de santé, utilisent ses outils pour tester et évaluer l'IA.

OpenAI a lancé Frontier le 5 février 2026, le positionnant comme un système d'entreprise pour la gestion de déploiements à grande échelle d'agents IA capables d'accéder aux données de l'entreprise, d'effectuer des tâches et d'interagir avec des outils internes. La plateforme fournit des contrôles d'identité, des cadres de gouvernance et une surveillance opérationnelle conçus pour les secteurs réglementés.

Srinivas Narayanan, directeur technique des applications B2B chez OpenAI, a déclaré que cette acquisition contribuera à renforcer les capacités d'évaluation et de sécurité intégrées de Frontier.

« Promptfoo apporte une expertise technique approfondie dans l'évaluation, la sécurisation et le test de systèmes d'IA à l'échelle de l'entreprise », a déclaré M. Narayanan dans un communiqué. « Nous sommes ravis d'intégrer ces capacités directement dans Frontier. »

Ian Webster, PDG de Promptfoo, a déclaré que l'intégration avec OpenAI pourrait accélérer les efforts visant à sécuriser des déploiements d'IA de plus en plus complexes. À mesure que les agents ont accès aux données et aux systèmes opérationnels des entreprises, il devient beaucoup plus difficile de valider leur comportement.

« À mesure que les agents IA sont de plus en plus connectés aux données et aux systèmes réels, leur sécurisation et leur validation deviennent plus difficiles et plus importantes que jamais », a déclaré M. Webster. « Rejoindre OpenAI nous permet d'accélérer ce travail. »

Cette décision reflète une évolution plus large dans le secteur de l'intelligence artificielle, les entreprises passant des chatbots expérimentaux à des agents logiciels autonomes capables d'exécuter de véritables flux de travail. L'acquisition de Promptfoo par OpenAI fait suite à la récente embauche de Peter Steinberger, le créateur d'Openclaw.

Cette évolution s'accompagne d'une préoccupation accrue concernant les risques de sécurité, allant de la fuite de données à la prise de mesures involontaires par des agents au sein des systèmes d'entreprise. Selon les analystes, les outils automatisés de red teaming et d'évaluation deviennent des infrastructures essentielles pour les déploiements d'IA en entreprise.

Promptfoo avait levé environ 23 millions de dollars de fonds de capital-risque, dont un financement initial d'Andreessen Horowitz et une série A de 18,4 millions de dollars menée par Insight Partners en 2025. Les investisseurs ont décrit l'entreprise comme un acteur de référence dans le domaine de la sécurité des applications d'IA.

Pour OpenAI, cette acquisition ajoute une couche de sécurité à Frontier à un moment où l'adoption des agents IA par les entreprises s'accélère et où les entreprises qui déploient ces agents souhaitent moins de surprises et plus de garde-fous.

FAQ 🔎

• Qu'est-ce que Promptfoo ? Promptfoo est une plateforme de sécurité IA qui teste les modèles linguistiques de grande taille et les agents IA afin de détecter les vulnérabilités telles que les attaques par injection de prompt, les fuites de données et les exploits de jailbreak.
• Pourquoi OpenAI acquiert-il Promptfoo ? OpenAI prévoit d'intégrer les outils de test de sécurité et de red teaming de Promptfoo à sa plateforme d'entreprise Frontier afin de rendre le déploiement des agents IA plus sûr et plus facile à gérer.
• Promptfoo restera-t-il open source ? Oui, OpenAI a déclaré que les outils open source de Promptfoo continueront d'être maintenus et pris en charge pour les développeurs et les utilisateurs existants.
• Qu'est-ce que OpenAI Frontier ? Frontier est la plateforme d'entreprise d'OpenAI permettant de créer, déployer et gérer des flottes d'agents IA capables de se connecter aux systèmes de l'entreprise et d'exécuter des workflows automatisés.