Google представила открытую модель эмбеддингов для локальных AI-приложений
habr.comGoogle объявила о запуске EmbeddingGemma, новой модели эмбеддингов, предназначенной для работы прямо на устройствах без подключения к интернету.
Модель имеет 308 миллионов параметров, поддерживает более 100 языков и демонстрирует лучшие показатели среди всех открытых моделей размером до 500 млн параметров по тесту MTEB.После квантования модель потребляет менее 200 МБ оперативной памяти, а генерация эмбеддингов занимает около 20 миллисекунд на устройствах с EdgeTPU, что делает её удобной для локальных и мобильных AI-приложений.Особенностью EmbeddingGemma является технология Matryoshka Representation Learning, которая позволяет использовать разные размеры векторов — от 768 до 128 — в зависимости от задач и ресурсов устройства.
