Perplexity випустила мультимовдальний ретриєвер pplx-embed-v2-late-0.6b

TL;DR

• •Perplexity випустила pplx-embed-v2-late-0.6b — мультимовдальний ретриєвер для тексту та зображень
• •Модель має 340M параметрів та генерує 128-мірні вектори
• •Ділить простір векторів з більшою моделлю Perplexity на 9B параметрів
• •Доступна безкоштовно на Hugging Face за посиланням huggingface.co/perplexity-ai/pplx-embed-v2-late-0.6b
• •Призначена для пошуку схожості між текстом та зображенням у векторному просторі

Як це змінить ваш ринок?

Маркетингові агентства та медіакомпанії зможуть зменшити залежність від платних API для мультимовдального пошуку, таких як Google Vision або Clarifai, використовуючи відкриту модель Perplexity. Це знімає блокер постійних витрат на кожен запит та дозволяє контролювати дані всередині власних систем. Для компаній, які обробляють тисячі зображень та текстових описів щодня, це може означати зниження операційних витрат на 30-50% у порівнянні з комерційними сервісами.

Визначення:

ColBERT — це архітектура ретриєвера, яка використовує взаємодію на рівні токенів між запитом та документом для більш точного ранжування у завданнях пошуку, особливо ефективна для мультимовдальних сценаріїв.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження. ❌ "Підходить для компаній будь-якого розміру". ✅ "7B: MacBook 16GB, без IT-команди, 15 хв. 27B: GPU $2,000+ або хмара ~$0.5/год, IT-спеціаліст, 1-2 дні.")

• •pplx-embed-v2-late-0.6b: потребує GPU з 8GB+ пам'яті для комфортного робочого навантаження, можливо запустити на середньому сервері або робочій станції, без потреби у великій IT-команді, час на інтеграцію — 4-8 годин для розробника з досвідом у векторних базах даних
• •Для масштабу понад 10M запитів/міс — потрібен інженер даних або спеціаліст із ML-оптимізацією

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця. ОБОВ'ЯЗКОВО конкретні ціни. ❌ "Потужна модель" — нуль інформації. ✅ "$15/1M токенів" або "безкоштовно" або "ціна не розкрита".)

| Критерій | pplx-embed-v2-late-0.6b | Google Vertex AI Multimodal Embeddings | CLIP (open-source) | | Ціна | Безкоштовно | $0.002 за 1M запитів | Безкоштовно | | Де працює | Hugging Face, локально, будь-яка хмара | Google Cloud | Локально, будь-яка хмара | | Мін. вимоги | GPU 8GB+ | Інтернет-з'єднання, обліковий запис GCP | GPU 6GB+ | | Ключова різниця | Ділить простір векторів з 9B моделлю Perplexity | Інтегрований з Google Cloud AI-пакетом | Підтримує лише тексто-зображення, без можливості масштабувати до більших моделей |