Сравнение · Та же карта, другая топология

H100 SXM5 или H100 PCIe?

Обе выделенные, обе помесячные, обе открываются без проверки личности. Их разделяют память, пропускная способность и $4,592 в месяц — а что из этого важно, полностью зависит от того, что вы собираетесь запускать.

$6,061/moH100 SXM5, одна карта
$1,469/moH100 PCIe, одна карта
80 vs 80 GBпамять на карту
1.7×разрыв в пропускной способности

Коротко

Какая и когда

Выбрать H100 SXM5: когда важна пропускная способность. Те же 80 GB, но на 68% больше пропускной способности памяти — именно она определяет скорость генерации — за $4,592/мес дороже.
Выбрать H100 PCIe: когда H100 SXM5 не даёт вам ничего нужного. Та же память, сопоставимая пропускная способность, дешевле на $4,592/мес.
Neither, if: ваша модель не помещается на одну карту ни той, ни другой. Шардинг требует синхронизации на каждом слое — см. руководство по интерконнекту перед покупкой узла с несколькими GPU.

Бок о бок

H100 SXM5 в сравнении с H100 PCIe
	H100 SXM5	H100 PCIe	Разница
Архитектура	Hopper	Hopper	Одно поколение
Память на карту	80 GB HBM3	80 GB HBM3	Идентично
Пропускная способность памятиПрогнозирует скорость генерации	3,350 GB/s	2,000 GB/s	1.68× в пользу H100 SXM5
Форм-фактор	SXM на плате HGX	Карта расширения PCIe	NVLink против PCIe между картами
Конфигурации узла	4×, 8×	1×, 2×, 4×, 8×	До 640 GB в одном узле
От, в месяц	$6,061	$1,469	$4,592/мес разницы

Цена при каждой конфигурации узла

Ежемесячная цена обеих карт при каждой доступной конфигурации узла
Узел	H100 SXM5	H100 PCIe	Всего VRAM
1 × GPU	не предлагается	$1,469/mo	80 GB	H100 PCIe
2 × GPU	не предлагается	$2,892/mo	160 GB	H100 PCIe
4 × GPU	$6,061/mo	$5,564/mo	320 GB / 320 GB	H100 SXM5 H100 PCIe
8 × GPU	$11,509/mo	$10,568/mo	640 GB / 640 GB	H100 SXM5 H100 PCIe

Что вмещает каждая на одной карте

При контексте 8k — лучшая точность, которая помещается в память. Именно эта разница определяет покупку, а не таблица характеристик.

Только H100 SXM5

Ничего. Любую модель, которую H100 SXM5 вмещает на одной карте, вмещает и H100 PCIe — разница между ними в скорости, а не в возможностях.

Только H100 PCIe

Ничего. H100 SXM5 вмещает всё то же, что и H100 PCIe.

Одна и та же модель на обеих: Llama 3.3 70B. На H100 SXM5 — примерно 43 токенов/с при 4-bit (AWQ, GPTQ); на H100 PCIe — примерно 26. Один поток, намеренно консервативно: при непрерывном батчинге суммарная скорость в разы выше на обеих картах. Полезное число — это соотношение, а не абсолютное значение.

Стоимость за GB и за TB/s

Два коэффициента, которые срезают путь через таблицу характеристик. Первый показывает, сколько стоит память; второй — сколько стоит скорость.

Стоимость гигабайта VRAM и терабайта в секунду пропускной способности
Карта	$/GB VRAM, в месяц	$/TB в секунду, в месяц	Лучше подходит для
H100 SXM5	$75.76	$1,809	Ни то, ни другое
H100 PCIe	$18.36	$735	Оба коэффициента

Эти коэффициенты ранжируют карты, но не выбирают за вас. Карта, которая дешевле за гигабайт, бесполезна, если гигабайт у неё слишком мало, чтобы вообще вместить вашу модель — объём памяти это порог, а не плавная шкала. Используйте их, чтобы выбрать между двумя картами, которые обе подходят.

H100 SXM5 против H100 PCIe, коротко

Стоит ли H100 SXM5 доплаты по сравнению с H100 PCIe?

Она стоит на $4,592 дороже в месяц — на 313% — за 68% больше пропускной способности памяти. На одной карте обе вмещают один и тот же набор моделей, поэтому разница — в скорости, а не в возможностях.

Какая быстрее для инференса LLM?

Скорость генерации ограничена пропускной способностью памяти, потому что каждый токен требует повторного чтения активных весов. У H100 SXM5 — 3,350 GB/s против 2,000 GB/s, поэтому H100 SXM5 опережает примерно на 68% на модели, которую вмещают обе карты.

Предлагаются ли обе в виде узлов с несколькими GPU?

H100 SXM5: 4×, 8×. H100 PCIe: 1×, 2×, 4×, 8×. Карты SXM устанавливаются на плату HGX по четыре или восемь — никогда по две, никогда по десять — и соединяются через NVLink, а не PCIe.

Можно ли арендовать любую из них без проверки личности?

Да, обе, на одинаковых условиях. Ни документа, ни селфи, ни номера телефона, ни регистрации компании — при любом уровне расходов. Оплата в криптовалюте, у каждого инвойса свой адрес, а root-доступ появляется через менее 5 минут после первого подтверждения.

Другие сравнения

Обе уже установлены в стойки и готовы — во всех 6 дата-центрах.

Какую бы вы ни выбрали, она помесячная, оплачивается в криптовалюте, открывается без проверки личности и предоставляется через менее 5 минут.

Открыть конфигуратор Читать руководства