Anthropic научилась читать мысли Claude, которые ИИ не говорит вслух
habr.comИсследователи Anthropic обнаружили внутри Claude небольшой набор нейронных паттернов, который они назвали J-space. Каждый паттерн связан с конкретным словом, но его активация не означает, что модель это слово произносит: слово просто "у нее на уме".
Никто это пространство не проектировал — оно возникло само в процессе обучения. И в отличие от привычной "цепочки рассуждений", которую модель пишет текстом, J-space работает молча, внутри нейронных активаций.Чтение J-space через инструмент J-lens показывает то, чего нет ни во входном тексте, ни в ответе.
