Google представила Gemma 3n — мультимодальный ИИ, который пойдет на смартфоне и ноутбуке
В компании рекламируют Gemma 3n как первую компактную модель, которая достигла рейтинга 1300 на LMArena:Модель доступна в двух базовых версиях E2B и E4B на 5 и 8 млрд «сырых» параметров и 2 и 4 миллиарда эффективных параметров, которые размещаются в памяти устройства.
Экономию видеопамяти обеспечивает прием Per-Layer Embeddings («встраивания по слоям»): половина весов остаётся на CPU, а в VRAM загружается лишь «ядро» трансформера.
habr.com