OpenAI покупает Promptfoo: стартап, который ломает ИИ-приложения
OpenAI объявила о покупке Promptfoo — платформы для тестирования безопасности ИИ-систем, которой пользуются более 25% компаний из Fortune 500.
Инструменты стартапа будут интегрированы в OpenAI Frontier — корпоративную платформу для создания и управления ИИ-агентами, запущенную месяц назад.Promptfoo специализируется на red-teaming и пентесте ИИ-приложений: автоматически ищет уязвимости вроде инъекций промптов, джейлбрейков, утечек данных и злоупотреблений инструментами.
habr.com