DeepSeek v4.1 flash працює зі швидкістю 23 секунди на токен на Mac Mini M1 2020 року з 16 ГБ ОЗУ
Модель DeepSeek V4.1 flash запускається локально на Mac Mini M1 з 16 ГБ ОЗУ 2020 року. Вона обробляє один токен за 23 секунди завдяки FP4/FP8 вагам та потоковому завантаженню з SSD.
🔬 Цікаво, але не для вас. Це технічний демо-ефект на старій апаратні — для реального бізнесу таке споживання енергії та часу не практично.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Модель: DeepSeek V4.1 flash
- •Апаратне забезпечення: Mac Mini M1, 16 ГБ ОЗУ (2020)
- •Швидкість: 23 секунди на токен, 108 секунд TTFT
- •Техніка: ваги FP4/FP8, MLX-запускник, потокове завантаження з SSD
- •Джерело: пост у X (Twitter) від @thefp4brain
Як це змінить ваш ринок?
Це не zmінить ринок для бізнесу. Такі результати важливі для дослідників, що працюють над стисненням моделей та edge-обчисленнями, але не пропонують практичного шляху до локального AI для компаній через ekstremalно низьку продуктивність.
Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.
- •Для дослідників: ноутбук або Mac з 16 ГБ ОЗУ, навички роботи з MLX та терміналом, 1-2 години на налаштування
- •Для бізнесу: не призначено — продуктивність недостатньо висока для будь-яких реальних задач
Альтернативи
| | Ollama з Llama 3 8B | LM Studio з Phi-3-mini | DeepSeek V4.1 flash (цей тест) | Ціна | безкоштовно | безкоштовно | безкоштовно (опенсорс) | Де працює | Mac, Windows, Linux | Mac, Windows, Linux | Mac (MLX), Linux ( експериментально ) | Мін. вимоги | 8 ГБ ОЗУ | 4 ГБ ОЗУ | 16 ГБ ОЗУ + M1/M2 чип | Ключова різниця | 0.5-1 сек/токен | 0.3-0.6 сек/токен | 23 сек/токен — лише для досліду стиснення
💬 Часті запитання
Чи можна використовувати це для реальної роботи?
Ні. Швидкість 23 секунди на токен робить його непрактичним для чатів, генерації контенту або автоматизації.
Чи потрібна спеціальна підтримка для запуску?
Так. Потрібен кастомний MLX-запускник та знання терміналу — це не готовий продукт, а експериментальний скрипт.
Чи це означає, що великі моделі можуть працювати на старих ноутбуках?
Теoretically так, але з такими компромісами у швидкості, що це не заміна хмарним або GPU-розв’язкам для бізнесу. Length: 1120 chars
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
AI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me