Anthropic нашла у Claude «внутренний голос»: скрытое рабочее пространство модели
Сотрудники Anthropic опубликовали исследование, в котором утверждают, что в больших языковых моделях, в частности в Claude, спонтанно сформировалась внутренняя структура, аналогичная «глобальному рабочему пространству» в мозге человека.
Эту структуру назвали J-space — по имени математического метода (Jacobian lens), с помощью которого её обнаружили.Авторы провели серию экспериментов и выяснили, что J-space обладает рядом уникальных свойств:Доступность для отчёта.
habr.com