Thinking Machines випустила модель Inkling 2 Small
Компанія Thinking Machines випустила модель Inkling 2 Small з 594 млрд параметрів, яка при обробці токена залучає лише 17 млрд. Це дозволяє отримати якість великих моделей при менших витратах на обчислення.
🚀 Сильний претендент на середній сегмент. Для компаній до 200 людей це варіант самостійного хостингу, якщо інженерна команда готова брати на себе обслуговування ваг під Apache 2.0.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Модель має 594 млрд загальних параметрів, але активує лише 17 млрд на токен.
- •Підтримує роботу із зображеннями і регульовану глибину розсудів.
- •Повні ваги опублікують на наступному тижні під ліцензією Apache 2.0.
- •У DesignArena модель заняла третє місце закритими моделями.
- •Для роботи потрібні серйозні обчислювальні ресурси, дані не розкриті.
Як це змінить ваш ринок?
Відкриті ваги під ліцензією Apache 2.0 дозволяють компаніям уникати залежності від закритих API великих провайдерів. Для бізнесів до 200 людей це актуально лише якщо є власні інженерні ресурси для розгортання та обслуговування.
Визначення: Mixture-of-Experts — архітектура, де при обробці кожного токена залучається лише частина параметрів моделі, що зменшує обчислювальні витрати.
Для кого це і за яких умов
Потрібна команда інженерів з досвідом роботи з великими моделями та доступ до потужних GPU або хмари. Самостійне розгортання не підходить для компаній без IT-відділу. Мін. масштаб — середній бізнес з бюджетом на інфраструктуру.
Альтернативи
| Продукт 1 | Продукт 2 | Продукт 3 | |
|---|---|---|---|
| Ціна | ціна не оголошена | ціна не оголошена | ціна не оголошена |
| Де працює | самостійний хост | закритий API | закритий API |
| Мін. вимоги | GPU/хмара, інженерна команда | підписка | підписка |
| Ключова різниця | відкриті ваги Apache 2.0 | простота інтеграції | простота інтеграції |
💬 Часті запитання
Чи підходить модель для малого бізнесу?
Ні, без власної інженерної команди та потужної інфраструктури розгортання буде нереальним.
Яка ліцензія?
Apache 2.0, що дозволяє комерційне використання та модифікацію.
Коли будуть доступні ваги?
На наступному тижні, за даними статті.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
Вайб-кодинг — оригіналAI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me