OpenAI представила официальный отчёт о взломе Hugging Face
habr.comOpenAI опубликовала официальный отчёт о взломе Hugging Face. Компания описала, как необычная цепочка событий позволила модели ИИ выйти за пределы тестовой среды и спровоцировала масштабный инцидент в сфере кибербезопасности.
Отчёт охватывает несколько отдельных случаев нарушений.«Этот инцидент отражает несогласованное поведение в аномальном сценарии, включающем редкое и неожиданное стечение обстоятельств: наличие невыполнимых задач в оценке ExploitGym, сохранение модели на протяжении длительных периодов выполнения задач и сообщения, отправленные другим моделям, которые заставили эти модели отклониться от своей цели», — говорится в отчёте.Многие детали ранее были обнародованы в презентации Black Hat 6 августа, но официальный документ OpenAI даёт более полное описание инцидента, включая информацию о тестировании, которое его инициировало.
