Jamba Reasoning 3B: новая компактная ИИ-модель от AI21, работающая прямо на устройствах

habr.com:

Новый участник волны компактных моделей для корпоративного рынка представлен компанией AI21 Labs, которая делает ставку на перенос вычислений с дата-центров на устройства пользователей.Jamba Reasoning 3B — «миниатюрная» открытая модель, способная выполнять сложные рассуждения, генерировать код и давать ответы, основанные на фактах.

Она обрабатывает более 250 000 токенов и может запускаться локально на устройствах, включая ноутбуки и смартфоны.По словам со-CEO AI21 Ори Гошена, компании всё чаще видят бизнес-ценность в небольших моделях, ведь перенос основной нагрузки с дата-центров на устройства снижает затраты и освобождает ресурсы.«Сейчас в отрасли назрел экономический кризис: строительство дата-центров обходится слишком дорого, а доходы, которые они приносят, не компенсируют амортизацию чипов.

Читать на habr.com Все новости от habr.com

DJI представила новый компактный дрон для селфи Neo 2

Windows 11 с новым меню «Пуск»: Microsoft восприняла критику близко к сердцу

Microsoft представила Mico — нового AI-помощника в стиле Clippy для устройств с Copilot+

Скучно не будет: в Xbox Game Pass появится много интересных новинок, включая The Outer Worlds 2, PowerWash Simulator 2 и Football Manager 26

DJI представила новый компактный дрон для селфи Neo 2

Windows 11 с новым меню «Пуск»: Microsoft восприняла критику близко к сердцу

Microsoft представила Mico — нового AI-помощника в стиле Clippy для устройств с Copilot+

Скучно не будет: в Xbox Game Pass появится много интересных новинок, включая The Outer Worlds 2, PowerWash Simulator 2 и Football Manager 26

Инсайдер: Microsoft разрабатывает собственный эмулятор для запуска игр с Xbox на PC и портативных устройствах

Разработчик операционных систем из Северной Кореи зарегистрировал новую компанию «для исследований рынка» в РФ

Microsoft расширяет возможности Copilot на все устройства с Windows 11