AI News
ДІЇ НЕМАНейтральнаImpact 4/10BetaВід 10 людей📊 Маркетинг і Реклама

NVIDIA випустила модель Dory 1.0 4B у форматі CMF для локального запуску

Редакція AI NewsДжерело: Shir-man Daily TopОпубліковано Оновлено
Shir-man Daily Top•8 днів тому•1 перегляд•

NVIDIA випустила модель Dory 1.0 4B у форматі CMF для движка cortiq на Rust. Модель видає 201 токен на секунду на RTX 3090 з контекстом 64k токенів.

ВердиктНейтральнаImpact 4/10

🔬 Експериментальний інструмент. Для компаній на 10-50 людей без IT-команди це не робочий продукт, а демо для ентузіастів.

🎯 Чи підходить це вашому бізнесу?

Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.

Заповнити профіль · 30 секунд
Детальний розбір ↓

TL;DR

• Модель Dory 1.0 4B має розмір 4 мільярдів параметрів. • Формат CMF працює з движком cortiq на мові Rust. • Швидкість генерації — 201 токен на секунду на карті RTX 3090. • Розмір контексту — 64 000 токенів. • Витрата пам'яті KV — 0,64 ГБ при 4 000 токенах.


Як це змінить ваш ринок?

Це експериментальний реліз, а не комерційний продукт. Для бізнесу на 10-50 людей це не змінює нічого, оскільки немає готового інсталятора, підтримки та ціни.


Визначення: CMF — формат упаковки моделі для швидкого запуску на конкретному движку.


Для кого це і за яких умов

Для розробників і ентузіастів з власним обладнанням. Потрібна GPU RTX 3090 або аналог, навички роботи з Rust і командним рядком. Мін. масштаб — будь-який, але без IT-спеціаліста впровадження неможливе. Час на розгортання — дані не розкриті.


Альтернативи

Продукт 1Продукт 2Продукт 3
Цінадані не розкритідані не розкритідані не розкриті
Де працюєлокальнолокальнохмара
Мін. вимогиGPUGPUбраузер
Ключова різницяформат CMFдані не розкритідані не розкриті

💬 Часті запитання

Чи можна використовувати це в продакшені?

Ні, це експериментальний реліз без підтримки та гарантій стабільності.

Чи потрібна потужна GPU?

Так, для комфортної роботи потрібна карта типу RTX 3090.

Де взяти модель?

На Hugging Face за посиланням із статті.

Чи є українська мова?

Дані не розкриті.

Такий розбір щоранку о 08:00

Персональний AI-дайджест для вашої галузі — щодня у Telegram

Підписатися безкоштовно
NemotronDory1.0NVIDIACMFcortiqRTX3090localLLM

AI Advisory Board

Навчіть вашу команду будувати такі AI-автоматизації

За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.

Дізнатись більше → aiadvisoryboard.me