Як Uber управляє економікою ШІ
Uber розповів, як використовує ШІ на всіх етапах SDLC, зменшивши витрати на сесію в 7 разів з лютого за рахунок оптимізації токенів, вибору моделей та внутрішніх інструментів. Це показує, як великі компанії досягають ефективності ШІ через постійне бенчмаркування та кастомну інфраструктуру.
📊 Тренд оптимізації ШІ через токен-економіку — для тих, хто масштабно використовує LLM і має дані для бенчмаркування.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Uber зменшив витрати на ШІ на сесію в 7 разів з лютого 2026
- •Оптимізація через ціну токену, кроки в сесії, запити на крок та токени на запит
- •Дефолтна модель змінюється щотижня за внутрішніми бенчмарками
- •Власний графовий движок скоротив пошук контексту з 20 хвилин до 40 секунд
- •Всі MCP тули за єдиним гейтвеєм для економії токенів та контролю доступу
Як це змінить ваш ринок?
Компанії в логістиці та транспорті, які масштабно використовують LLM для маршрутизації або підтримки, тепер мають еталон для зниження витрат через токен-економіку. Це знімає блокер високих эксплуатаційних витрат на ШІ, робить його доступнішим для операцій у масштабі.
Визначення:
Токен-економіка — оптимізація витрат на ШІ шляхом зменшення кількості оброблених токенів через вибір моделей, довжину контексту та архітектуру запитів.
Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.
- •Потрібна команда ML-інженерів для створення бенчмарків та кастомних інструментів
- •Мінімальний масштаб: 1000+ сесій на день для відчутної економії
- •Бюджет: інвестиції у внутрішню інфраструктуру (гейтвей, графовий движок, дэшборд)
- •Час на впровадження: 3-6 місяців для базової системи моніторингу токенів
Альтернативи
| Продукт | Ціна | Де працює | Мін. вимоги | Ключова різниця |
|---|---|---|---|---|
| Uber Internal AI Platform | власна розробка | Uber logistics | ML-команда, GPU-кластер | Повний контроль над токен-економікою та латентністю |
| OpenAI API | $0.15/1M токенів (GPT-4o) | хмара | інтернет-з’єднання | Простота використання, але без контролю над токенами у запиті |
| Anthropic API | $8/1M токенів (Claude 3.5 Sonnet) | хмара | інтернет-з’єднання | Вища якість reasoning, але вища вартість без оптимізації |
| AWS Bedrock | змінна за моделлю | AWS хмара | AWS-акаунт | Доступ до багатьох моделей, але без інтегрованого токен-менеджменту |
🔒 Підтекст (Insider)
Uber не просто використовує ШІ — будуть власну інфраструктуру для контролю витрат, що недоступно більшості компаній. Це сигнал, що ефективність ШІ залежить не тільки від моделей, а від кастомних інструментів та процесу.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiupskill.live