Qwen3.8-Flash-Next-oQ2.5e-mtp: Нова квантована модель на 180 мільярдів параметрів

TL;DR

• •Модель Qwen3.8-Flash-Next-oQ2.5e-mtp має 180 мільярдів параметрів.
• •Використовує квантування oQ2.5e зі змішаною точністю (3.684 біт/вага).
• •Архітектура включає 125B MoE основу, 51B n-грам вбудовування та 4B MTP модуль.
• •Оновлення моделі відбулося 12 жовтня 2026 року.
• •Модель доступна на Hugging Face.

Як це змінить ваш ринок?

Цей реліз демонструє подальший прогрес у створенні великих мовних моделей, які є більш ефективними з точки зору використання пам'яті та обчислювальних ресурсів завдяки квантуванню. Для компаній, що розробляють власні ШІ-рішення, це може означати можливість розгортання потужніших моделей на менш дорогих апаратних платформах у майбутньому. Однак, для більшості українських компаній до 200 людей, які покладаються на готові API, це поки що не має прямого впливу.

Визначення: Квантування моделі — це процес зменшення точності числових значень, що використовуються для представлення ваг та активацій нейронної мережі, з метою зменшення її розміру та прискорення висновків, часто з мінімальною втратою продуктивності.

Для кого це і за яких умов

Ця модель призначена для дослідницьких команд, великих технологічних компаній та розробників, які мають значні обчислювальні ресурси та досвід роботи з великими мовними моделями. Для розгортання моделі на 180 мільярдів параметрів, навіть квантованої, потрібна потужна GPU-інфраструктура (наприклад, кілька високопродуктивних GPU з великим обсягом пам'яті) або доступ до хмарних сервісів з відповідними ресурсами. Впровадження вимагатиме команди ML-інженерів та часу на інтеграцію та тестування, що робить її неактуальною для малих та середніх бізнесів без власного R&D відділу.

Альтернативи