runawayllm бизнес связь стартап google runawayllm

OpenAI покупает Promptfoo: стартап, который ломает ИИ-приложения

OpenAI объявила о покупке Promptfoo — платформы для тестирования безопасности ИИ-систем, которой пользуются более 25% компаний из Fortune 500.

Инструменты стартапа будут интегрированы в OpenAI Frontier — корпоративную платформу для создания и управления ИИ-агентами, запущенную месяц назад.Promptfoo специализируется на red-teaming и пентесте ИИ-приложений: автоматически ищет уязвимости вроде инъекций промптов, джейлбрейков, утечек данных и злоупотреблений инструментами.

DMCA