594 млрд параметров, 68 часов предобучения и девять дней RL: как создавали Inkling 2 Small
habr.com5 ноября 2026 года Thinking Machines Lab представила Inkling 2 Small, мультимодальную языковую модель с 594 млрд параметров, из которых при обработке одного токена активируются около 17 млрд.
В анонсе особенно выделялась скорость предобучения: 8,4 трлн токенов всего за 68 часов на оборудовании NVIDIA GB300 NVL72 с использованием четырехбитного формата NVFP4.Цифра выглядит необычно даже на фоне современных MoE-моделей.
