Gimlet Labs притягнула $300 млн у раунді Series B для створення мультикремнієвого хмарового інференсу для ШІ

TL;DR

• •Gimlet Labs залучила $300 млн у серії B від Andreessen Horowitz
• •Розробляє хмару для ШІ-обробки на heterogeneous (різноманітному) залізі
• •Мультикремнієва архітектура має прискорити вивід моделей ШІ
• •Технологія ще не запущена, немає клієнтів або публічних бенчмарків
• •Основний фокус — ефективність обробки, а не максимальна потужність

Як це змінить ваш ринок?

Банки та фінансові інститути, які потребують ШІ-обробки даних всередині своєї інфраструктури через регуляторні обмеження, можуть отримати доступ до ефективнішого виводу без залежності від одного постачальника чіпів. Це знімає блокер привязки до NVIDIA або AWS у сценариях, де важлива суверенність даних.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Поки що: технологія не доступна для зовнішнього використання
• •Потребує: доступ до хмари Gimlet (не публічно)
• •Мін. масштаб: компанії з потребою в ШІ-обробки >1000 годин/міс
• •Час на впровадження: не застосовно (продукт не випущено)

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.

| Gimlet Labs (план) | дані не розкриті | хмара Gimlet | дані не розкриті | оптимізація через heterogeneous залізо | AWS Inferentia2 | ~$0.0023/секунду | AWS | потребує AWS-акаунт | спеціалізований чіп для виводу, закрита екосистема | Google TPU v5e | ~$0.0026/секунду | Google Cloud | потребує GCP-акаунт | тензорний процесор, орієнтований на навчання та вивід | NVIDIA T4 | ~$0.0005/секунду | будь-яка хмара з GPU | потребує GPU-экземпляр | універсальний GPU, широкіше застосування, менша ефективність для чистого виводu