Thinking Machines опублікувала ваги Inkling 2 Small
Thinking Machines опублікувала ваги моделі Inkling 2 Small з 594 млрд параметрів і 17 млрд активних. Для запуску потрібні дві B300 або чотири H200, що робить її доступною лише для великих інфраструктур.
🔬 Дослідний реліз, а не продукт. Для компаній до 200 людей тут нема дії: модель вимагає власного кластера GPU, а не готової інтеграції.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Модель має 594 млрд параметрів, з яких 17 млрд активних
- •Pretrenування тривало 68 годин на 12 трильйонах токенів
- •Для роботи потрібні дві B300 або чотири H200 GPU
- •Конкурентоспроможна з китайськими моделями за останні 2-3 місяці
- •Ваги опубліковано, але ціни та ліцензія не розкриті
Як це змінить ваш ринок?
Випуск ваг Inkling 2 Small підкреслює прискорення розробки MoE-моделей. Для компаній без власного кластеру GPU це не змінює нічого, але сигналізує про зменшення відступу між новими гравцями та лідерами ринку.
Для кого це і за яких умов
Тільки для компаній з власною ML-командою і бюджетом на кластер з кількох тисяч GPU. Для бізнесу на 10-50 людей це нічого не змінює: немає готового інтерфейсу, підтримки або доступного тарифу.
Альтернативи
| Продукт 1 | Продукт 2 | Продукт 3 | |
|---|---|---|---|
| Ціна | дані не розкриті | дані не розкриті | дані не розкриті |
| Де працює | власний кластер | власний кластер | власний кластер |
| Мін. вимоги | 2x B300 або 4x H200 | 2x B300 або 4x H200 | 2x B300 або 4x H200 |
| Ключова різниця | 594B параметри | дані не розкриті | дані не розкриті |
💬 Часті запитання
Чи можу я запустити це у своєму офісі?
Ні, без кластера з двома B300 або чотирма H200 модель не запустити. Для компанії на 10-50 людей це нереально.
Чи є готовий API або інтерфейс?
Дані не розкриті. Опубліковано лише ваги, що вимагає власної інтеграції.
Чи краще це за китайські моделі?
Автори заявляють про конкурентоспроможність з моделями за останні 2-3 місяці, але незалежних бенчмарків у статті немає.
Підтекст
Випуск ваг сигналізує про зростання конкурентного тиску на ринку MoE-моделей. Thinking Machines демонструє швидке навчання, але модель все ще потребує спеціалізованої інфраструктури.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
эйай ньюз — оригіналAI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me