NVIDIA випустила мультимодальну модель Nemotron 3.5 Super VL

TL;DR

• •Модель Nemotron 3.5 Super VL має 120 млрд загальних і 12 млрд активних параметрів
• •Підтримує текст, зображення та відео до двох минут довжини
• •Використовує архітектуру MoE з 512 експертами у шарі та гібрид Mamba-2/трансформера
• •Стиснута версія Bolt 74B-A9B квантована до 2 біт і поміщається в 24 ГБ VRAM
• •Для повної версії потрібно чотири H100 або два GB200 GPU

---

Як це змінить ваш ринок?

Для більшості українських компаній до 200 людей ця модель не змінить ринок через недоступність апаратних вимог. Проте вона сигналізує про тенденцію до мультимодальних моделей з оптимізацією для довгих відеовходів, що може зменшити залежність від окремих OCR та відеоаналітичних інструментів у довгостроковій перспективі.

Визначення:

MoE (Mixture of Experts) — архітектура нейронної мережі, де різні підмережі (експерти) спеціалізуються на різних типах даних, а маршрутизатор вибирає активні експерти для кожного токену, зменшуючи обчислювані витрати.

Для кого це і за яких умов

Super VL: чотири GPU H100 (~$30 000+) або два GB200, IT-спеціаліст для налаштування, 1-2 тижні на інтеграцію. Bolt 74B-A9B: один GPU з 24 ГБ VRAM (наприклад, RTX 4090), можливо локально на потужній робочій станції, 1-3 дні для тестування.

Альтернативи

---