Б колишній співробітник OpenAI представив модель Jev ШІ, яка у деяких задачах працює в 200 разів швидше за звичайні LLM
TypeSafe AI, заснована колишнім дослідником OpenAI Диогу Алмейдою, запустила модель Jev — ШІ, яка відразу видає структурований результат з ймовірностями, уникаючи галлюцинацій. У грі DOOM модель приймала ~10 решень на секунду, коштуючи $7 за годину при вартості $0,042 за мільйон вхідних токенів та безкоштовних вихідних.
🚀 Швидкий прорыв у інференсі. Для тих, хто запускає AI у реальному часі — робототехніка, медіа-обробка — це реальна альтернатива дорогим API.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Модель Jev від TypeSafe AI працює в 200 разів швидше за стандартні LLM у задачах типу DOOM
- •Вхідні токени коштують $0,042 за мільйон, вихідні — безкоштовно
- •Тест у грі DOOM коштував $7 за годину при ~10 рішеннях на секунду
- •Модель уникає галлюцинацій, вибираючи з попередньо згенерованих відповідей
- •Доступна в ранньому доступі через вейтлист
Як це змінить ваш ринок?
Компанії у медіа та розвагах, які використовують AI для реального часу обробки відео або ігор, тепер можуть зменшити витрати на інференс на порядок. Це знімає головний блокер — енергоспоживання та вартість хмарних обчислень — для застосунків, де затримка вище 100мс неприйнятна.
Визначення:
ШІ-модель з структурованим виводом — це модель, яка не генерує текст по токену, а одразу видає структурований результат (наприклад, JSON) з ймовірностями для кожного варіанту, зменшуючи обчислювані витрати та виключаючи галлюцинації через вибір найдостовірнішого варіанту.
Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.
- •Для Jev у ранньому доступі: потрібна здатність розгортати власні ШІ-моделі (Docker, Kubernetes або аналог)
- •Мін. масштаб: від 1M токенів/день, щоб вартість власного розгортання окупилася за рахунок економії на токенах
- •Бюджет: від $500/міс на інфраструктуру для тестування, без потреби в великій IT-команді для базового розгортання
- •Час на впровадження: 1-3 дні для інженерів з досвідом роботи з ШІ-моделями
Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.
| Jev (TypeSafe AI) | $0,042/1M вхідних, $0/1M вихідних | Власне розгортання | GPU 16GB+ або хмара | 200x швидше у реальному часі, без галлюцинацій | OpenAI GPT-4o | $2,50/1M вхідних, $10,00/1M вихідних | API через інтернет | З’єднання з інтернетом | Найвища якість у складному reasoning, але дорого та з затримкою | Llama 3 8B (локально) | Безкоштовно (власне розгортання) | Власне розгортання | GPU 16GB+ або ефективний CPU | Доступно зараз, але повільніше і може галлюцинувати | Anthropic Claude 3 Haiku | $0,25/1M вхідних, $1,25/1M вихідних | API через інтернет | З’єднання з інтернетом | Добрий баланс швидкості та якості, але дорожче за Jev при масштабі
💬 Часті запитання
Чи може Jev працювати на ноутбуці?
Так, для версії з менше ніж 7B параметрами — достатньо ноутбука з 16GB RAM і сучасним процесором. Для більших варіантів потрібна дискретна GPU.
Чи дійсно Jev не може галлюцинувати?
Модель не генерує нові токени крок-за-кроком, тому не може придумати нічого з ноля. Але вона може обрати неправильний результат зі свого списку, якщо ймовірність неправильного варіанту вища через помилки в попередньому етапі.
Чи доступна Jev зараз для комерційного використання?
Модель в ранньому доступі через вейтлист. Комерційна ліцензія ще не оголошена, але стартап планує пропонувати як відкриту модель з можливістю комерційного ліцензування для підприємств.
Чи потрібна спеціальна оптимізація для використання Jev у грі або симуляції?
Для DOOM використовували простий пайплайн: стан гри → токени → модель → дія. Для інших симуляцій потрібно адаптувати вхідні дані під формат, який модель очікує (наприклад, стан світу як структурований опис).
Підтекст
TypeSafe AI не пропонує модель як сервіс — це інструмент для власного розгортання. Вигода очевидна для компаній, які платять за токени: при масштабі 100M+ токенів/день економія стає значною. Але без готового API або хмарного розгортання це залишається технічним викликом для SMB.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
AI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me