Привіт!
Розробник Андрей представив open‑source інференс движок TurboFieldfare для Gemma 4 26B‑A4B 4‑bit. Движок працює на будь‑якому MacBook з M‑процесором, споживаючи 2 ГБ ОЗУ та забезпечуючи 4‑35 токен/сек.
ВердиктПозитивнаImpact 5/10
🚀 Швидкий локальний движок. Для розробників та малого бізнесу, хто хоче запускати Gemma на MacBook без додаткового GPU.
Ключові тези
- TurboFieldfare — це open‑source движок інференсу (ліцензія Apache 2.0) для Gemma 4 26B‑A4B 4‑bit.
- Запускається на будь‑якому MacBook з M‑процесором, споживаючи лише 2 ГБ ОЗУ при розмірі моделі 14 ГБ.
- Швидкість: 4‑5 токен/сек на M1 Air, до 31‑35 токен/сек на M5 MacBook Pro.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундТакий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
GemmainferenceengineMetalMacBookopen‑sourceLLMTurboFieldfare
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiupskill.live