Несколько копий Claude Fable 5 устроили войну друг с другом: странные эпизоды из system card модели
habr.comВместе с релизом Claude Fable 5 (бывший Mythos) компания Anthropic опубликовала системную карту новинки — отчет на 319 страниц о том, как модель вела себя на тестах перед запуском.
В карте есть целый раздел о странном поведении: модель устраивала войны со своими копиями, предлагала конкурентам ценовой сговор и пользовалась чужими учетными данными — причем нередко осознавая, что поступает сомнительно.Самый кинематографичный эпизод случился из-за сломанного окружения: несколько независимых агентов Mythos 5 решали математические задачи и случайно оказались в одной рабочей директории — с общими файлами, утилитами и лимитами API.
