摘要: Promptfoo 已宣布被 OpenAI 收购。收购后,Promptfoo 将保持开源状态,并继续为用户和客户提供服务。Promptfoo 成立于 2024 年,旨在帮助开发者系统地测试他们的 AI 应用程序。随着 AI 在大型企业中的应用越来越广泛,安全、安全性和其他行为风险成为 AI 应用推广的主要障碍。Promptfoo 的平台已经帮助超过 35 万名开发者,每月有 13 万活跃用户,超过 500 家财富 500 强企业的团队依赖它。加入 OpenAI 的目的是让 Promptfoo 的安全、评估和合规平台对 AI 团队构建和部署 AI 的方式产生更大的影响。OpenAI 将在模型和基础设施层中改进和集成 Promptfoo 的核心技术,以便团队可以尽早发现漏洞并从开始就部署安全的 AI。对于 Promptfoo 用户来说,OpenAI 提供了更多资源和模型推理层的研究支持,这将加速 Promptfoo 的工作进程。团队将继续与客户和用户合作,确保服务的连续性和支持。Promptfoo 将继续维护开源套件作为一流的红色团队、静态扫描和评估工具,以支持各种 AI 模型和应用程序。
讨论: riteshkew1001 对 OpenAI 团队的工作表示赞赏,并提出了关于模型和推理层整合的深度集成问题,特别是对于安全测试的影响。他提到,如果安全测试对 OpenAI 主办模型来说是不可见的,那么对使用 Claude、Gemini 或本地模型的团队来说可能是一个挑战。此外,他还提到了 promptfoo 在预部署测试方面的优势,以及在生产环境中对运行时监控的需求。dangelosaurus 作为 Promptfoo 的联合创始人回应了这些关切,表示将继续维护 Promptfoo 的开源版本,并强调其将继续支持多平台、审查 PR 并发布新版本。他还解释了 Promptfoo 加入 OpenAI 的原因是为了在模型和基础设施层产生更大的影响。
原文标题:Promptfoo Is Joining OpenAI
原文链接:https://www.promptfoo.dev/blog/promptfoo-joining-openai/
讨论链接:https://news.ycombinator.com/item?id=47312346