Qwen3.8-27B працює на Neural Engine iPhone 18 зі швидкістю 15–70 токенів/сек

TL;DR

• •Qwen 3.8-27B запущено на iPhone 18 Neural Engine
• •Швидкість: 15–70 токенів/сек при контексті 24K
• •Ефективність: 1.5 біт на вагу через змішану квантизацію
• •Джерело: пост у X (Twitter) від @anemll
• •Дані не розкриті про точність при повному навантаженні

Як це змінить ваш ринок?

Банки та юридичні фірми зможуть тестувати локальну обробку конфіденційних документів на iPhone без передачі даних у хмару — це знімає психологічний блокер у сферах з суворими вимогами до приватності.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Потрібен iPhone 18 (флагман 2026 року)
• •Без IT-команди — достатньо встановити сумісний інференс-додаток
• •Масштаб: ANY — працює для однієї особи
• •Час на впровадження: 10–15 хв (завантажити модель та налаштувати додаток)

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 |

| Ціна | безкоштовно (з iPhone 18) | $0.002/1K токенів (API) | безкоштовно (локально на ноутбуці) | | Де працює | iPhone 18 Neural Engine | хмара (AWS/GCP) | MacBook z GPU 16GB+ | | Мін. вимоги | iPhone 18 | інтернет + обліковий запис | ноутбук з 16GB RAM | | Ключова різниця | повна приватність, офлайн-робота | найвища точність, скейlabільність | баланс приватності та продуктивності |