OpenAI внедрит систему контроля для остановки рисковых ИИ‑задач за 35 секунд
habr.comOpenAI внедрила централизованную систему управления под названием Control Room, предназначенную для остановки потенциально рискованных процессов, связанных с использованием моделей ИИ в рамках исследовательской инфраструктуры.
Система позволяет прекратить генерацию ответов моделью в течение 35 секунд после принятия решения о вмешательстве. Система объединяет различные исследовательские задачи — включая обучение агентных моделей, их оценку и обработку данных — с центральным сервисом, который контролирует возможность дальнейшей генерации контента.В отличие от традиционных систем мониторинга, которые в основном лишь фиксируют подозрительное поведение, Control Room способна активно блокировать получение моделью новых данных или ответов в ходе выполнения исследовательской задачи.
