OpenAI привлечет независимых исследователей, чтобы проверить, пытается ли ИИ обходить механизмы безопасности
OpenAI начала пилотную программу, в рамках которой специалисты по безопасности четырех независимых компаний будут работать внутри организации.
Они будут исследовать, могут ли модели искусственного интеллекта обходить установленные ограничения и скрывать нежелательное поведение.В программу войдут исследователи Apollo Research, Goodfire, METR и Transluce.
gagadget.com