OpenAI выпускает открытые safeguard-модели для гибкой настройки классификации контента
habr.comOpenAI передаёт больше инструментов контроля безопасности непосредственно в руки разработчиков ИИ, запуская исследовательскую версию своих новых «защитных»(safeguard) моделей.Новое семейство моделей с открытыми весами gpt-oss-safeguard разработано специально для гибкой настройки и адаптации систем классификации контента под конкретные задачи и требования пользователей.В линейку входят две модели — gpt-oss-safeguard-120b и более компактная gpt-oss-safeguard-20b.
Обе модели представляют собой дообученные версии существующего семейства gpt-oss и будут доступны под разрешительной лицензией Apache 2.0.
