Alibaba створює ШІ-мозок з півмільйона чипів

TL;DR

• •Alibaba представила прискорювач Zhenwu V900, у тричі потужніший за попередню версію
• •Підтримує кластери до 500 000 чипів для тренування великих ШІ-моделей
• •Планується масштабування моделей Qwen до 5–10 трлн параметрів
• •Розроблено як альтернатива Nvidia в контексті обмежень на постачання
• •Дані про ціну, доступність та терміни комерційного запуску не розкриті

Як це змінить ваш ринок?

Для фінансових інститутів та технологічних компаній, які залежать від ШІ-обчислень, це сигнал про зростання конкуренції на ринку ШІ-ацелераторів. Якщо Alibaba пропонує доступну хмару на власних чіпах, це може знизити вартість тренування моделей та зменшити залежність від одного постачальника — особливо важливо в умовах геополітичної нестабільності.

Визначення: ШІ-ацелератор — спеціалізований чіп, оптимізований для швидкого виконання операцій нейромереж, таких як матричні множення та тензорні обчислення.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Зміст доступний лише для компаній з доступом до Alibaba Cloud та бюджетом від $100K+/рік на ШІ-обчислення
• •Потребує команди ШІ-інженерів та DevOps-спеціалістів для інтеграції
• •Мін. масштаб: тренування моделей від 1B параметрів (менше — не ефективно)
• •Час на впровадження: 1–3 місяці (налаштування кластера, оптимізація робочих навантажень)

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 |

| Ціна | дані не розкриті | ~$0.5/год за GPU A100 в хмарі | $1–2/год за H100 в хмарі | | Де працює | Alibaba Cloud | AWS, Azure, GCP | AWS, Azure, GCP | | Мін. вимоги | доступ до Alibaba Cloud | GPU-екземпляр у хмарі | GPU-екземпляр у хмарі | | Ключова різниця | потенційна незалежність від Nvidia | екосистема, підтримка, зрілість | найвища доступна потужність |