Qwen 3.8 27B вийшов: відкриті ваги, найкраща локальна густа модель
Qwen випустила відкриту вагою модель Qwen3.8-27B з FP8-квантуванням та нативною підтримкою візуально-мовних задач. Ця модель демонструє сильні результати у бенчмарках кодування та агентських задач.
🚀 Доступна локально. Для компаній, які потребують конфіденційності та мають GPU ≥24 ГБ, ця модель зменшує витрати на API.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Модель Qwen3.8-27B має 27 млрд параметрів та доступна з вагами під ліцензією Apache 2.0.
- •FP8‑квантування зменшує пам’ять до ~14 ГБ, що дозволяє розмістити модель на одному GPU 24 ГБ.
- •Нативна підтримка візуально‑мовних задач (наприклад, VQA, опи зображень) без додаткових модулів.
- •У тестах на коді (HumanEval) та агентних завданнях модель перевершує аналогічна розміру відкриті моделі.
- •Доступна для завантаження на Hugging Face: huggingface.co/Qwen/Qwen3.8-27B-FP8.
Як це змінить ваш ринок?
Для компаній у сфері IT та медіа доступна локальна модель зменшує залежність від дорогих хмарних API, що особливо важливо для обробки конфіденційних даних. Це зменшує витрати на інференс приблизно на 60 % при порівнянні з використанням пропрієтарних моделей через API. Тому фінансові та юридичні відділи можуть впроваджувати AI‑аналіз документів без передачі даних третім сторонам.
Визначення: FP8‑квантування — це метод зменшення розміру ваг моделі до 8‑бітного формату з плаваючою комою, що збільшує пропускну здатність і зменшує вимоги до пам’яті без значної втрати точності.
Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.)
7B‑версія: працює на MacBook з 16 ГБ ОЗУ або ноутбуці з GPU 8 ГБ, не вимагає IT‑команди, розгортання за 15 хвилин. 27B‑версія: потребує GPU з принаймні 24 ГБ пам’яті (наприклад, RTX 4090) або доступ до хмарного GPU за ~0,5 $/год, потрібен інженер з досвідом роботи з моделями, час на інсталяцію та тестування — 1–2 дні.
Альтернативи
| Продукт | Ціна | Де працює | Мін. вимоги | Ключова різниця |
|---|---|---|---|---|
| Qwen 3.8-27B | безкоштовно (ваги открыті) | Локально, хмара | GPU 24 ГБ або MacBook 32 ГБ для 7B | FP8‑квантування, нативна візуально‑мовна підтримка |
| Llama 3 8B | безкоштовно (Meta лицензія) | Локально, хмара | GPU 12 ГБ або CPU з 32 ГБ RAM | Відсутня нативна візуально‑мовна підтримка, потребує доп. модулів |
| Mistral 7B | безкоштовно | Локально, хмара | GPU 10 ГБ або CPU з 24 ГБ RAM | Нижча точність у коді, без FP8 |
| GPT-4o API | $15 за 1M токенів | Хмара (OpenAI) | Інтернет, обліковий запис | Пропрієтарна модель, потребує передачі даних третім сторонам |
💬 Часті запитання
Як FP8‑квантування впливає на точність моделі?
FP8‑зменшення розміру ваг до 8 біт з плаваючою комою призводить до втрати точності менше 1 % наbenchmark‑ах, таких як MMLU та HumanEval, що робить її практично невизначеною для більшості бізнес‑завдань.
Чи потрібна спеціалізована інфраструктура для запуску 27B‑версії?
Так, для комфортного інференсу потрібен GPU з принаймні 24 ГБ пам’яті (наприклад, RTX 4090) або еквівалентна хмарна інстанція; альтернативно можна використовувати квантовані версії нижчого розміру для CPU.
Чи можна комерційно використовувати модель Qwen 3.8-27B?
Так, ліцензія Apache 2.0 дозволяє безкоштовно модифікувати, поширювати та використовувати модель у комерційних продуктах без виплати роялті або обмежень.
Як модель порівнюється з proprietaries API за вартістю інференсу?
При середньому навантаженні 1M токенів/день локальний запуск 27B на власному GPU коштує приблизно $0,30/день за електроенергію, тоді як аналогічний обсяг через OpenAI API коштує约 $15, що забезпечує економію більше 98 %
Підтекст
Випуск Qwen 3.8-27B сигналізує про зростаючу конкуренцію серед відкритих моделей, де китайські лабораторії стремяться замінити залежність від пропрієтарних API. Це також відображає стратегію Alibaba зменшити бар’єри входження для корпоративних клієнтів, пропонуючи потужну модель без ліцензійних платежів. Для бізнесу це означає можливість контролювати дані всередині власних інфраструктур.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
Shir-man Trending — оригіналAI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me