Нова мультимодальна модель Inkling-2-Small з 594 млрд параметрів
Випущено модель Inkling-2-Small з 594 млрд параметрів, яка підтримує текст і зображення з контекстом 1 млн токенів. Для роботи потрібно 500-800 ГБ відеопам'яті, що робить її недоступною для більшості бізнесів.
🔬 Дослідження без комерційного застосування. Модель для компаній з власним GPU-кластером і бюджетом на інфраструктуру, а не для стандартного бізнесу на 10-50 людей.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
• Модель має 594 млрд параметрів
• Підтримує введення тексту та зображень
• Контекстне вікно становить 1 млн токенів
• Потребує 500-800 ГБ відеопам'яті для форматів NVFP4/MXFP8
• Доступна на Hugging Face від Thinking Machines
Як це змінить ваш ринок?
Це реліз дослідницької моделі, а не комерційного продукту. Для компаній на 10-50 людей це не змінює нічого, бо немає можливості забезпечити необхідну апаратну базу.
Визначення: MoE (Mixture of Experts) — архітектура моделі, де різні частини мережі активуються для різних типів завдань, що дозволяє ефективніше використовувати обчислювальні ресурси.
Для кого це і за яких умов
Для компаній з власним GPU-кластером і великим бюджетом на інфраструктуру. Мін. вимоги: 500-800 ГБ відеопам'яті. Потрібна IT-команда для обслуговування. Час на впровадження: не придатно для стандартного бізнесу.
Альтернативи
| Продукт 1 | Продукт 2 | Продукт 3 | |
|---|---|---|---|
| Ціна | дані не розкриті | дані не розкриті | дані не розкриті |
| Де працює | Hugging Face | Hugging Face | Hugging Face |
| Мін. вимоги | 500-800 ГБ VRAM | 500-800 ГБ VRAM | 500-800 ГБ VRAM |
| Ключова різниця | 594B параметри | 594B параметри | 594B параметри |
💬 Часті запитання
Чи може стандартна компанія використовувати цю модель?
Ні, через вимоги до 500-800 ГБ відеопам'яті це нереально для більшості бізнесів.
Де можна знайти модель?
На платформі Hugging Face за посиланням у статті.
Чи є модель безкоштною?
Ціна не оголошена.
Підтекст
Реліз моделі з таким вимогою до пам'яті сигналізує про напрямок розвитку великих MoE-моделей, але для більшості читачів це просто технічна новинка без безпосереднього впливу на операції.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
Shir-man Trending — оригіналAI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me