Нова квантована модель LFM2.5-24B-A2B-APEX-I-MiniPlus-V2.1-GGUF
На Hugging Face з'явилася нова квантована версія моделі LFM2.5-24B-A2B-APEX-I-MiniPlus-V2.1-GGUF. Це модель з 24 мільярдами параметрів, з яких активні лише 2 мільярди, вікном контексту 128К та розміром файлу 9,64 ГБ.
🔬 Технічний реліз для ентузіастів. Для компаній на 10-50 людей тут нема дії: це репозиторій, а не готовий продукт з підтримкою.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •
Модель має 24 мільярди загальних параметрів, з яких активні лише 2 мільярди.
- •
Вікно контексту становить 128К токенів.
- •
Розмір файлу квантованої версії — 9,64 ГБ.
- •
Джерело: репозиторій на Hugging Face.
- •
Статус зрілості: експериментальний.
Як це змінить ваш ринок?
Це технічний реліз для розробників, а не готовий продукт для бізнесу. Для компаній на 10-50 людей це не змінює нічого, оскільки немає готового інтерфейсу або підтримки.
Визначення: Mixture-of-Experts (MoE) — архітектура моделі, де для кожного запиту активуються лише частини параметрів, що зменшує обчислювальні витрати.
Для кого це і за яких умов
Для компаній з власною IT-командою та досвідом роботи з GPU. Мін. обладнання: пристрій з достатньою кількістю пам'яті для завантаження 9,64 ГБ. Час на впровадження: кілька днів роботи інженера.
Альтернативи
| Продукт 1 | Продукт 2 | Продукт 3 | |
|---|---|---|---|
| Ціна | дані не розкриті | дані не розкриті | дані не розкриті |
| Де працює | локально | локально | локально |
| Мін. вимоги | GPU / RAM | GPU / RAM | GPU / RAM |
| Ключова різниця | без даних | без даних | без даних |
💬 Часті запитання
Чи підходить це для малого бізнесу?
Ні, без власної інженерної команди це не реалізувати.
Який розмір моделі?
9,64 ГБ.
Чи є підтримка?
Дані не розкриті, це репозиторій для ентузіастів.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
AI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me