происшествия общество OpenAI

OpenAI привлечет независимых исследователей, чтобы проверить, пытается ли ИИ обходить механизмы безопасности

OpenAI начала пилотную программу, в рамках которой специалисты по безопасности четырех независимых компаний будут работать внутри организации.

Они будут исследовать, могут ли модели искусственного интеллекта обходить установленные ограничения и скрывать нежелательное поведение.В программу войдут исследователи Apollo Research, Goodfire, METR и Transluce.

DMCA