OpenAI通过收购Promptfoo来保障其AI代理的安全

OpenAI在周一对外宣布已完成对Promptfoo的收购，这家2024年成立的AI安全初创企业，其核心业务是保障大型语言模型免遭各类在线攻击。

OpenAI在一篇博客文章中称，交易完成后，Promptfoo的技术会被整合进OpenAI的企业AI代理平台Frontier。

独立AI代理的开发可执行数字任务，这使人们对提高生产力满怀期待。不过，这也给不法分子创造了新的可乘之机，他们或许会访问敏感数据或操控自动化系统。该交易凸显了OpenAI在证明其技术能安全应用于关键业务操作方面所做的努力。

Promptfoo由Ian Webster与Michael D’Angelo联合创立，专注于研发可供企业测试大型语言模型安全隐患的工具，涵盖开源接口及相关库。据该公司透露，其产品已被超过四分之一的财富500强企业采用。

根据Pitchbook的数据，Promptfoo自成立至今仅筹集到2300万美元，在2025年7月完成最新一轮融资后，其估值已达8600万美元。对于这笔交易的具体金额，OpenAI并未进行披露。

OpenAI的文章指出，Promptfoo的技术可让其代理平台开展自动化红队测试，对代理工作流程的安全性进行评估，同时监控活动的风险与合规要求。该公司还提到，计划持续拓展Promptfoo的开源产品。