Xiaomi разгоняет ИИ: режим UltraSpeed выдает более 1000 токенов в секунду
gagadget.comПока большинство разработчиков искусственного интеллекта соревнуются в количестве параметров, Xiaomi решила, что пора подумать о скорости.
В семействе больших языковых моделей MiMo официально представлен режим UltraSpeed для версии MiMo-V2.5-Pro. Это не просто очередное обновление софта, а попытка доказать, что даже монструозные модели с 1 триллионом параметров могут работать без задержек, которые обычно раздражают пользователей.Новый режим UltraSpeed позволяет MiMo-V2.5-Pro преодолевать психологический барьер в 1000 токенов в секунду.
