OpenAI покупает стартап Promptfoo для защиты AI-агентов
habr.comOpenAI покупает стартап Promptfoo, который занимается безопасностью языковых моделей и AI-агентов. Компания разработала инструмент, позволяющий проверять LLM на уязвимости, вредоносные сценарии и ошибки в поведении моделей.
Такой аудит помогает компаниям понимать, как их системы реагируют на сложные или потенциально опасные запросы.Promptfoo появился в 2024 году и за короткое время успел привлечь около 23 миллионов долларов инвестиций.
