Google выпустила открытую модель EmbeddingGemma 2

Google выпустила открытую модель EmbeddingGemma 2 на архитектуре Gemma 4. Она переводит данные в числовые векторы для поиска и сопоставления и рассчитана на работу прямо на устройстве. В модели 740 млн параметров, лицензия Apache 2.0 разрешает коммерческое использование. Первая версия работала только с текстом и, по данным компании, набрала более 20 млн загрузок.

Главное отличие новой версии — единое пространство векторов для текста, кода, изображений, видео и аудио, которые обрабатывает одна модель. Это позволяет найти видеоролик по голосовой заметке или нужный фрагмент в многочасовой аудиозаписи по текстовому запросу. Модель построена на той же технологии, что и Gemini Embedding, и умеет искать полностью без подключения к сети.

Для работы только с текстом достаточно 270 млн параметров, а блоки для изображений на 170 млн и для звука на 300 млн подключаются по необходимости. Векторы можно сократить с 768 до 128 измерений, что экономит до 6 раз места в хранилище. На Google Pixel 11 Pro со сжатием весов для текстовой части нужно около 191 МБ памяти, полной модели — около 567 МБ.

Окно контекста выросло в 4 раза, до 8 тыс. токенов. В него помещаются до 5,5 минуты аудио, 29 изображений или 58 кадров видео. Результат на тесте поиска по коду вырос с 68,76 до 78,68 балла. Ранее Google выпустила открытые модели Gemma 4, и вместе с ними новая модель образует локальную систему поиска с ответами.

Для создания сайтов и приложений модель даёт возможность встроить поиск по фото, видео и звуку без отправки данных на внешний сервер. В связке с искусственным интеллектом Gemma 4 отвечает на вопрос, а EmbeddingGemma 2 находит для неё нужные материалы. Веса уже доступны на Hugging Face и Kaggle, но качество на собственных данных стоит проверить до внедрения.