OpenAI espande la sua spinta verso l'IA aziendale con un accordo con la startup di sicurezza Promptfoo

OpenAI punta alle vulnerabilità degli agenti AI con l'acquisto della startup Promptfoo

L'accordo, annunciato sia da OpenAI che da Promptfoo, porterà la tecnologia di test e valutazione automatizzata della sicurezza di Promptfoo in OpenAI Frontier, una piattaforma progettata per aiutare le aziende a implementare flotte di agenti AI, spesso descritti come "colleghi AI". I termini finanziari non sono stati resi noti e l'acquisizione rimane soggetta alle consuete condizioni di chiusura.

Fondata nel 2024 da Ian Webster e Michael D'Angelo, Promptfoo si è costruita una reputazione tra gli sviluppatori per i suoi strumenti che sottopongono a stress test modelli linguistici di grandi dimensioni e sistemi di agenti. Il suo software si concentra sull'identificazione di vulnerabilità quali attacchi di prompt injection, tentativi di jailbreak, fughe di dati e uso improprio di strumenti esterni, problemi che possono emergere quando i sistemi di IA si connettono a dati e applicazioni del mondo reale.

Una volta conclusa la transazione, il team di Promptfoo, composto da circa 23 persone, entrerà a far parte di OpenAI. Le aziende hanno affermato che gli strumenti open source di Promptfoo continueranno a essere mantenuti e supportati, il che significa che gli sviluppatori e le organizzazioni che utilizzano la piattaforma non dovrebbero subire alcuna interruzione.

La tecnologia di Promptfoo è ampiamente utilizzata per simulare attacchi avversari contro i sistemi di IA. La sua piattaforma include strumenti automatizzati di red teaming, scansione del codice, rilevamento delle vulnerabilità e correzione che si integrano direttamente nelle pipeline di sviluppo come Github, Gitlab e Jenkins.

L'azienda dichiara di essere stata adottata da una comunità di sviluppatori in crescita, che comprende oltre 350.000 sviluppatori in totale e più di 130.000 utenti attivi al mese. Promptfoo riferisce inoltre che 127 aziende Fortune 500, tra cui rivenditori, fornitori di telecomunicazioni e aziende sanitarie, si affidano ai suoi strumenti per i test e la valutazione dell'IA.

OpenAI ha lanciato Frontier il 5 febbraio 2026, posizionandolo come un sistema aziendale per la gestione di grandi implementazioni di agenti di intelligenza artificiale in grado di accedere ai dati aziendali, eseguire attività e interagire con strumenti interni. La piattaforma fornisce controlli di identità, framework di governance e monitoraggio operativo progettati per i settori regolamentati.

Srinivas Narayanan, CTO delle applicazioni B2B di OpenAI, ha affermato che l'acquisizione contribuirà a rafforzare le capacità di valutazione e sicurezza integrate di Frontier.

"Promptfoo apporta una profonda competenza ingegneristica nella valutazione, nella protezione e nel collaudo di sistemi di IA su scala aziendale", ha dichiarato Narayanan in un comunicato. "Siamo entusiasti di integrare queste funzionalità direttamente in Frontier".

Ian Webster, CEO di Promptfoo, ha affermato che l'integrazione con OpenAI potrebbe accelerare gli sforzi per garantire la sicurezza di implementazioni di IA sempre più complesse. Man mano che gli agenti ottengono l'accesso ai dati aziendali e ai sistemi operativi, la convalida del loro comportamento diventa molto più difficile.

"Man mano che gli agenti di IA diventano più connessi ai dati e ai sistemi reali, proteggerli e convalidarli diventa più difficile e importante che mai", ha affermato Webster. "Entrare a far parte di OpenAI ci consente di accelerare questo lavoro".

Questa mossa riflette un cambiamento più ampio nel settore dell'intelligenza artificiale, con le aziende che passano dai chatbot sperimentali ad agenti software autonomi in grado di eseguire flussi di lavoro aziendali reali. L'acquisizione di Promptfoo da parte di OpenAI segue la recente acquisizione di Peter Steinberger, il creatore di Openclaw.

Questo cambiamento porta con sé una maggiore preoccupazione per i rischi di sicurezza, dalla fuga di dati agli agenti che compiono azioni non intenzionali all'interno dei sistemi aziendali. Gli analisti affermano che gli strumenti automatizzati di red teaming e valutazione stanno diventando infrastrutture essenziali per le implementazioni di IA aziendali.

Promptfoo aveva raccolto circa 23 milioni di dollari in finanziamenti di venture capital, compreso il sostegno iniziale di Andreessen Horowitz e una serie A da 18,4 milioni di dollari guidata da Insight Partners nel 2025. Gli investitori hanno descritto l'azienda come un attore di riferimento nel settore della sicurezza delle applicazioni di IA.

Secondo OpenAI, l'acquisizione aggiunge un livello di sicurezza a Frontier in un momento in cui l'adozione di agenti di IA da parte delle aziende sta accelerando e in cui le aziende che implementano tali agenti desiderano meno sorprese e più protezioni.

FAQ 🔎

• Che cos'è Promptfoo? Promptfoo è una piattaforma di sicurezza AI che testa modelli linguistici di grandi dimensioni e agenti AI per individuare vulnerabilità quali attacchi di tipo prompt injection, fughe di dati ed exploit di jailbreak.
• Perché OpenAI sta acquisendo Promptfoo? OpenAI intende integrare gli strumenti di test di sicurezza e di red teaming di Promptfoo nella sua piattaforma aziendale Frontier per rendere l'implementazione degli agenti di IA più sicura e facile da gestire.
• Promptfoo rimarrà open source? Sì, OpenAI ha affermato che gli strumenti open source di Promptfoo continueranno a essere mantenuti e supportati per gli sviluppatori e gli utenti esistenti.
• Cos'è OpenAI Frontier? Frontier è la piattaforma aziendale di OpenAI per la creazione, l'implementazione e la gestione di flotte di agenti AI in grado di connettersi ai sistemi aziendali ed eseguire flussi di lavoro automatizzati.