Ornith-1.5-35B-A3B-OptiQ-4bit-REAP-19B
Опубліковано нову оптимізовану версію моделі Ornith-1.5-35B для Apple Silicon. Модель зменшена до 12.8 ГБ шляхом прибирання 50% експертів MoE через REAP, залишивши 18,8 млрд параметрів та 8 активних експертів на токен.
🔬 Цікаво, але не для вас. Це демо-проєкт для ентузіастів, не бізнес-продукт — компанія на 10-50 людей його не впровадить. Спостерігати теж рано.
Ключові тези
- Модель скорочена з 35 млрд до 18,8 млрд параметрів за допомогою техніки REAP
- Оптимізована для фреймворку MLX, що дозволяє локальний запуск на Apple Silicon
- Зберігає 8 активних експертів на токен для ефективної інференції
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секунд🔒 Підтекст (Insider)
Автор не назвав жодного бізнес-використання, а лише технічні деталі скорочення моделі. Це сигнал для дослідників, а не для керівників, які шукають готові рішення з підтримкою.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiupskill.live