Утечка «Soul doc»: пользователь извлёк из Claude 4.5 Opus тренировочный документ
habr.comВ длинном посте на LessWrong один из пользователей утверждает, что сумел извлечь из Opus внутренний тренировочный документ, в котором прописаны личность модели и её этические ориентиры.По словам Ричарда Вайса, ему удалось восстановить обширный текст, скрытый в недрах Claude 4.5 Opus, — подробное руководство, где описаны характер модели, её этика и самовосприятие.
Этик Anthropic Аманда Аскелл подтвердила на X, что документ подлинный и действительно использовался во время обучения.Первым делом Вайсу бросилось в глаза странное поведение модели: Claude начал галлюцинировать обрывки некоего soul_overview.
