FacebookResearch представил мощную языковую модель для смартфонов
Исследователи из FacebookResearch (Meta*) показали MobileLLM-Pro — новую компактную языковую модель, которая работает прямо на мобильных устройствах и при этом почти не уступает настольным LLM.
Модель весит около 1 миллиарда параметров, но способна выполнять сложные задачи: рассуждения, генерацию кода, ответы на вопросы, анализ текста и даже работу с длинным контекстом — до 128 тысяч токенов.
habr.com