Секретная комната Claude: ученые нашли, где ИИ «думает» перед тем, как выдать ответ
Мы привыкли воспринимать большие языковые модели как очень продвинутый «Т9» — статистическую машину, которая просто угадывает следующее слово.
Однако свежее исследование внутренних процессов Claude от компании Anthropic доказывает, что внутри нейросетей формируются значительно более сложные структуры.
gagadget.com