Тестування Jev для компакції контексту чату у Claude Code
Автор протестував Jev — інструмент, який використовує числовий бал для компакції контексту чату в Claude Code. Він виявив, що Jev працює швидше та дешевше за традиційну суммаризацію LLM, де 1M токенів коштує близько $0.04.
🔬 Цікаво, але не для продакшену. Jev демонструє новий підхід до компакції, але через мале контекстне вікно (64к) та залежність лише від викликів інструментів — не результатів — його використання обмежене експериментами. Для тих, хто тестує оптимізацію токенів у чат-агентах.
Що це означає для вас
Спробуйте Jev для компакції контексту у вашому Claude Code-агенті, якщо ви використовуєте багато інструментів
Перший крокОтримайте доступ до Jev через їх сайт і запустіть плагін fast-jev-compaction у Claude Code на одному тестовому чаті (20 хв)
З новини: безкоштовні $5 на місяць для API-викликівІнструмент: Jev
Пропустіть, якщо: якщо ваші чати редко перевищують 50к токенів або ви не використовуєте інструменти типу grep, читання файлів
Перевірте, чи витрачає ваш агент надто на компакцію — може, Jev скоротить рахунок за токени
Отримати карту AI-можливостей →🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Jev використовує числовий бал замість тексту для компакції контексту чату
- •Компактація 1M токенів коштує близько $0.04 за допомогою Jev
- •На сайті Jev доступно безкоштовних $5 на місяць для API-викликів
- •Jev має обмежене контекстне вікно — 64к токенів
- •Автор тестував Jev у Claude Code через плагін fast-jev-compaction
Як це змінить ваш ринок?
Для розробників AI-агентів, які часто стикаються з лімітами контексту через надмірне використання інструментів, Jev пропонує альтернативу дорогим та повільним LLM-суммаризаціям. Це може зменшити витрати на токени в середньому на 90%+ у сценаріях з багатьма викликами інструментів, особливо у фінансовому аналізі або кодогенерації, де логи та файлові операції доминирують у чаті.
Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.
- •Потрібний доступ до Claude Code та можливість встановити плагін fast-jev-compaction
- •Jev API: безкоштовно $5/міс, далі за використанням (конкретні тарифи не розкриті)
- •Мін. масштаб: корисно для агентів, які обробляють понад 50к токенів/сесію з інструментами
- •Час на впровадження: 15-30 хв для встановлення та тестування на одному чаті
- •Не потрібна IT-команда — може зробити окремий розробник
Альтернативи
| Показник | Jev | Стандартна LLM-компактація (Claude) | Ручна фільтрація |
|---|---|---|---|
| Ціна за 1M токенів | ~$0.04 | ~$0.30-0.60 (залежить від моделі) | Безкоштовно, але працєвогодини |
| Швидкість | Паралельна, числова | Послідовна, тексова | Залежить від людини |
| Точність | Висока для викликів інструментів | Висока, але може втрачати нюанси | Залежить від досвіду |
| Обмеження контексту | 64к токенів | Залежить від моделі (Claude 3: 200к) | Не обмежений |
| Ключова різниця | Оцінює важливість викликів, не тексту | Сумаризує весь текст чату | Людина вирішує, що залишити |
💬 Часті запитання
Чи зберігає Jev результати викликів інструментів?
Ні, Jev аналізує лише самі виклики (наприклад, що був викликано `grep` або `read_file`), але не їх результати. Це означає, що важливий вивід може бути видалений, якщо сам виклик отримав низький бал важливості.
Чи потрібна реєстрація для отримання безкоштовних $5?
Так, потрібно зайти на сайт Jev і створити обліковий запис, після чого monthly quota в $5 буде автоматично додана. Ця квота достатня для тестування на декілька десятків тисяч токенів.
Чи працює Jev з іншими агентами, окрім Claude Code?
У статті не згадується інтеграція з іншими агентами. Jev представлений як інструмент, який працює через специфічний плагін для Claude Code, тому використання з іншими системами потребує додаткової розробки або адаптації.
Чи можна використовувати Jev для довгих сесій понад 150к токенів?
Так, але з обмеженням: через власне контекстне вікно Jev в 64к токенів, чат потрібно розбивати на сегменти. Це додає логістичну складність і може вимагати ручного керування контекстом між сегментами.
Чи є у Jev відкритий код або це закритий сервіс?
У статті не згадується, чи є Jev опенсорсним. Згадка про безкоштовну квоту та API свідчить, що це, ймовірно, закритий сервіс з реєстрацією, а не саморозгортуваний інструмент.
Підтекст
Автор чесно зазначає, що не може оцінити якомога краща чи гірша ця компакція за стандартну, бо Jev не бачить результатів інструментів — лише їх виклики. Це фундаментальна обмеження: скорочення може видалити важливий контекст, якщо інструмент виконав корисну дію, але його виклик отримав низький бал важливості.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
Tips AI | IT & AI — оригіналAI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me