AI News
ДІЇ НЕМАНейтральнаImpact 5/10BetaВід 10 людей🏭 Виробництво і Промисловість

Ornith-1.5-35B-A3B-OptiQ-4bit-REAP-19B

Редакція AI NewsДжерело: Shir-man Daily TopОпубліковано Оновлено
Shir-man Daily Top•2 місяці тому•1 перегляд•

Опубліковано нову оптимізовану версію моделі Ornith-1.5-35B для Apple Silicon. Модель зменшена до 12.8 ГБ шляхом прибирання 50% експертів MoE через REAP, залишивши 18,8 млрд параметрів та 8 активних експертів на токен.

ВердиктНейтральнаImpact 5/10

🔬 Цікаво, але не для вас. Це демо-проєкт для ентузіастів, не бізнес-продукт — компанія на 10-50 людей його не впровадить. Спостерігати теж рано.

Ключові тези

  • Модель скорочена з 35 млрд до 18,8 млрд параметрів за допомогою техніки REAP
  • Оптимізована для фреймворку MLX, що дозволяє локальний запуск на Apple Silicon
  • Зберігає 8 активних експертів на токен для ефективної інференції

🎯 Чи підходить це вашому бізнесу?

Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.

Заповнити профіль · 30 секунд

Підтекст

Автор не назвав жодного бізнес-використання, а лише технічні деталі скорочення моделі. Це сигнал для дослідників, а не для керівників, які шукають готові рішення з підтримкою.

Такий розбір щоранку о 08:00

Персональний AI-дайджест для вашої галузі — щодня у Telegram

Підписатися безкоштовно
LLMMoEpruningREAPMLXAppleSilicon

AI Advisory Board

Навчіть вашу команду будувати такі AI-автоматизації

За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.

Дізнатись більше → aiadvisoryboard.me