️Google выпустила ультракомпактную модель Gemma 3 270M
В линейке Gemma 3 появилась новая версия — Gemma 3 270M, рассчитанная на выполнение локальных задач прямо на устройствах. Несмотря на небольшой размер (270 млн параметров), модель демонстрирует уверенно е следование инструкциям и хорошо подходит для дообучения под узкие домены. Основные особенности: Структура: около 170 млн параметров выделено под эмбеддинги (поддержка до 256k токенов), остальное — трансформерные блоки.Производительность и автономность: в режиме INT4 на смартфоне Pixel 9 Pro обработка ~25 диалогов потребляет менее 1% заряда.Доступность: предлагается как в предобученном варианте, так и с инструкционной настройкой.Оптимизация: есть чекпоинты для INT4, позволяющие снизить ресурсоёмкость без серьёзной потери качества.Применение: классификация и анализ текста, извлечение сущностей, маршрутизация запросов, структурирование данных, проверка на соответствие требованиям, офлайн-генерация контента. 🔗 HF - клик 🔗 А так же в Ai Studio ✔️ Все полезные нейронки тут (umaai.site) 👾 Друг Опенсурса (тг)
habr.com