Компания xAI выложила на Huggingface открытые веса Grok 2 с инструкцией по запуску. Grok 2 основан на MoE-архитектуре с 8 локальными экспертами и максимальной длиной контекста в 131 072 токенов (ROPE-масштабирование).
Для запуска авторы рекомендуют SGLang: чекпойнт весит около 500 ГБ (42 файла) и рассчитан на 8 GPU с памятью > 40 ГБ на карту.
Ria24.today - агрегатор самых свежих новостей ведущих новостных сайтов со всего мира. 300+ информационных ресурсов на одном сайте, экономьте своё время.
Самые свежие новости на главной странице, чтобы вы всегда были в курсе, и владели информацией, полученной из разных источников, порой, с диаметральными политическими взглядами.
Актуальные новости 24 часа в сутки, 7 дней в неделю!
©2025. Все права защищены.
habr.com