Google випустила EmbeddingGemma 2: мультимодальна модель 740M параметрів для на-пристрою

TL;DR

• •Мультимодальна модель EmbeddingGemma 2 з 740M параметрів
• •Перетворює текст, зображення, відео та аудіо у 768-мірний вектор
• •Оптимізована для на-пристрою з 8K контекстом та підтримкою 100+ мов
• •Використовує Matryoshka Representation Learning для 6-разового зменшення розміру векторів
• •Доступна на Hugging Face: huggingface.co/google/embeddinggemma-2

Як це змінить ваш ринок?

Маркетингові та медіа-компанії зможуть зберігати та обробляти мультимодальні ембединги локально, зменшуючи затрати на хмарне сховище та покращуючи швидкість доступу до даних без передачі конфіденційної інформації третім сторонам.

Визначення:

Matryoshka Representation Learning — техніка, що дозволяє створювати векторні представлення різної розмірності з однієї моделі, де менші вектори є підмножинними більших, що економить сховище без значної втрати якості.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Для на-пристрою: працює на будь-якому сучасному смартфоні або ноутбуці з 4GB RAM
• •Для серверного використання: достатньо 2GB GPU або CPU з 8GB RAM
• •Без потреби в IT-команді для базового впровадження
• •Час на інтеграцію: 1-2 години для розробника з базовими навыками Python

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.

| EmbeddingGemma 2 | безкоштовно | на-пристрій/сервер | 4GB RAM, Hugging Face | відкриті ваги, мультимодальність, Matryoshka | OpenAI text-embedding-3-small | $0.02/1M токенів | хмара (API) | інтернет-з'єднання | proprietarty, текст-only, стабільний API | BGE-M3 | безкоштовно | на-пристрій/сервер | 2GB RAM, Hugging Face | відкриті ваги, багатомовність, але текст-only