AI News
ДІЇ НЕМАНейтральнаImpact 3/10BetaВід 200 людей🏭 Виробництво і Промисловість

Шість GPU в одному слоті x16: R9700 та RTX 3090 через PCIe-коммутатор

Редакція AI NewsДжерело: Shir-man Daily TopОпубліковано Оновлено
Shir-man Daily Top•11 днів тому•2 перегляди•

Користувач підключив шість GPU (4x R9700, 2x RTX 3090) до одного слота x16 за допомогою комутатора Broadcom PEX88096. Це дозволяє досягти швидкості 4,700 токенів на секунду на промпті в 32k токенів за допомогою ROCm і CUDA.

ВердиктНейтральнаImpact 3/10

🔬 Експериментальне демо. Це не готовий продукт для впровадження, а технічний експеримент для ентузіастів з власним обладнанням.

🎯 Чи підходить це вашому бізнесу?

Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.

Заповнити профіль · 30 секунд
Детальний розбір ↓

TL;DR

  • •

    У статті описано підключення шести GPU до одного слота x16 через комутатор Broadcom PEX88096.

  • •

    Використано змішане обладнання: чотири карти R9700 та дві RTX 3090.

  • •

    Отримана продуктивність: 4,700 токенів на секунду на промпті в 32k токенів.

  • •

    Застосовано програмний стек ROCm і CUDA одночасно.

  • •

    Це експериментальне демо, а не комерційний продукт з підтримкою.


Як це змінить ваш ринок?

Ця новина не змінює ринок для компаній на 10-50 людей. Це технічний експеримент, який демонструє можливості апаратного з'єднання, але не пропонує готового бізнес-рішення.

Визначення: PCIe-коммутатор — пристрій, який дозволяє підключити кілька пристроїв до одного слота материнської плати.


Для кого це і за яких умов

Це актуально лише для технічних ентузіастів або компаній з власною інженерною командою, які готові самостійно збирати та конфігурувати нестандартні сервери для інференсу LLM. Для звичайного бізнесу це не є варіантом.


Альтернативи

Продукт 1Продукт 2Продукт 3
Цінадані не розкритідані не розкритідані не розкриті
Де працюєсамостійна збіркахмарні GPUготові сервери
Мін. вимогивласне обладнанняпідпискабюджет на закупівлю
Ключова різницяекспериментготовий сервіскомерційне рішення

💬 Часті запитання

Чи можна використовувати це в бізнесі?

Ні, це демо-проєкт без підтримки та готового деплою.

Яка продуктивність?

4,700 токенів на секунду на промпті в 32k токенів.

Які карти використовували?

4x R9700 та 2x RTX 3090.

Чи є це продукт?

Ні, це технічний експеримент.

Такий розбір щоранку о 08:00

Персональний AI-дайджест для вашої галузі — щодня у Telegram

Підписатися безкоштовно
GPUPCIeBroadcomPEX88096ROCmCUDALLMinference

AI Advisory Board

Навчіть вашу команду будувати такі AI-автоматизації

За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.

Дізнатись більше → aiadvisoryboard.me