Шість GPU в одному слоті x16: R9700 та RTX 3090 через PCIe-коммутатор
Користувач підключив шість GPU (4x R9700, 2x RTX 3090) до одного слота x16 за допомогою комутатора Broadcom PEX88096. Це дозволяє досягти швидкості 4,700 токенів на секунду на промпті в 32k токенів за допомогою ROCm і CUDA.
🔬 Експериментальне демо. Це не готовий продукт для впровадження, а технічний експеримент для ентузіастів з власним обладнанням.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •
У статті описано підключення шести GPU до одного слота x16 через комутатор Broadcom PEX88096.
- •
Використано змішане обладнання: чотири карти R9700 та дві RTX 3090.
- •
Отримана продуктивність: 4,700 токенів на секунду на промпті в 32k токенів.
- •
Застосовано програмний стек ROCm і CUDA одночасно.
- •
Це експериментальне демо, а не комерційний продукт з підтримкою.
Як це змінить ваш ринок?
Ця новина не змінює ринок для компаній на 10-50 людей. Це технічний експеримент, який демонструє можливості апаратного з'єднання, але не пропонує готового бізнес-рішення.
Визначення: PCIe-коммутатор — пристрій, який дозволяє підключити кілька пристроїв до одного слота материнської плати.
Для кого це і за яких умов
Це актуально лише для технічних ентузіастів або компаній з власною інженерною командою, які готові самостійно збирати та конфігурувати нестандартні сервери для інференсу LLM. Для звичайного бізнесу це не є варіантом.
Альтернативи
| Продукт 1 | Продукт 2 | Продукт 3 | |
|---|---|---|---|
| Ціна | дані не розкриті | дані не розкриті | дані не розкриті |
| Де працює | самостійна збірка | хмарні GPU | готові сервери |
| Мін. вимоги | власне обладнання | підписка | бюджет на закупівлю |
| Ключова різниця | експеримент | готовий сервіс | комерційне рішення |
💬 Часті запитання
Чи можна використовувати це в бізнесі?
Ні, це демо-проєкт без підтримки та готового деплою.
Яка продуктивність?
4,700 токенів на секунду на промпті в 32k токенів.
Які карти використовували?
4x R9700 та 2x RTX 3090.
Чи є це продукт?
Ні, це технічний експеримент.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
AI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me