Генеральний директор Nvidia Дженсен Хуанг привітав OpenAI з випуском Astra, навченої на відеокартах Blackwell

TL;DR

• •Модель Astra навчена на понад 100 000 відеокарт Nvidia Blackwell серії
• •Датацентр Stargate вже має ~200 000 GPU, очікується 400 000 до 1 листопада
• •Це може дати OpenAI у чотири рази більше обчислювальних ресурсів, ніж використовувалось для Astra
• •Проект Stargate описаний як «закритий», що обмежує публічні дані про його повний масштаб
• •Nvidia та OpenAI демонструють глибоку інтеграцію на рівні обладнання та інфраструктури

Як це змінить ваш ринок?

Для компаній, що залежать від OpenAI API, це сигнал про можливе підвищення доступності та зменшення вартості через економію масштабу. Однак концентрація обчислювальних ресурсів у декількох гігантів збільшує ризик залежності та зменшує разнообразие на ринку AI-послуг.

Визначення: Stargate — закритий інфраструктурний проєкт OpenAI та його партнерів, спрямований на створення суперкомп’ютерів для навчання найпотужніших AI-моделей.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Компанії з доступом до OpenAI API: жодного додаткового обладнання не потрібно, зміни відчутні через покращення моделей
• •Розробники власних LLM: потрібна доступність до тисяч GPU або хмарних ресурсів (наприклад, AWS, Azure, або спеціалізованих провайдерів типу CoreWeave)
• •Стартапи та SMB: безпосередньо не впливає, але може зменшити вартості API через збільшення конкурентоспроможності OpenAI

Альтернативи

| | Продукт 1 | Продукт 2 | Продукт 3 | | Ціна | $0.006/1K токенів (GPT-4o) | $0.0005/1K токенів (Llama 3 8B) | дані не розкриті (Astra) | | Де працює | OpenAI API | локально / хмара | закрита інфраструктура OpenAI | | Мін. вимоги | інтернет-з’єднання | GPU 16GB+ або CPU | доступ до API OpenAI | | Ключова різниця | найпопулярніша комерційна модель | опенсорс, контроль над даними | потенційно вища продуктивність через ексклюзивну інфраструктуру |