Qwen 3.8 27B вийшов: відкриті ваги, найкраща локальна густа модель

TL;DR

• •Модель Qwen3.8-27B має 27 млрд параметрів та доступна з вагами під ліцензією Apache 2.0.
• •FP8‑квантування зменшує пам’ять до ~14 ГБ, що дозволяє розмістити модель на одному GPU 24 ГБ.
• •Нативна підтримка візуально‑мовних задач (наприклад, VQA, опи зображень) без додаткових модулів.
• •У тестах на коді (HumanEval) та агентних завданнях модель перевершує аналогічна розміру відкриті моделі.
• •Доступна для завантаження на Hugging Face: huggingface.co/Qwen/Qwen3.8-27B-FP8.

Як це змінить ваш ринок?

Для компаній у сфері IT та медіа доступна локальна модель зменшує залежність від дорогих хмарних API, що особливо важливо для обробки конфіденційних даних. Це зменшує витрати на інференс приблизно на 60 % при порівнянні з використанням пропрієтарних моделей через API. Тому фінансові та юридичні відділи можуть впроваджувати AI‑аналіз документів без передачі даних третім сторонам.

Визначення: FP8‑квантування — це метод зменшення розміру ваг моделі до 8‑бітного формату з плаваючою комою, що збільшує пропускну здатність і зменшує вимоги до пам’яті без значної втрати точності.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.)

7B‑версія: працює на MacBook з 16 ГБ ОЗУ або ноутбуці з GPU 8 ГБ, не вимагає IT‑команди, розгортання за 15 хвилин. 27B‑версія: потребує GPU з принаймні 24 ГБ пам’яті (наприклад, RTX 4090) або доступ до хмарного GPU за ~0,5 $/год, потрібен інженер з досвідом роботи з моделями, час на інсталяцію та тестування — 1–2 дні.

Альтернативи