H200 SXM5 или H100 SXM5?
Обе выделенные, обе помесячные, обе открываются без проверки личности. Их разделяют память, пропускная способность и $2,344 в месяц — а что из этого важно, полностью зависит от того, что вы собираетесь запускать.
- $8,405/moH200 SXM5, одна карта
- $6,061/moH100 SXM5, одна карта
- 141 vs 80 GBпамять на карту
- 1.4×разрыв в пропускной способности
Коротко
Какая и когда
- Выбрать H200 SXM5
- когда вашей модели нужно больше 80 GB на одной карте. Это порог, а не предпочтение — ниже него доплата $2,344/мес не даёт ничего.
- Выбрать H100 SXM5
- когда 80 GB вмещает вашу модель. Это экономит $2,344/мес, а неиспользуемая память — это память, за которую вы всё равно заплатили.
- Neither, if
- ваша модель не помещается на одну карту ни той, ни другой. Шардинг требует синхронизации на каждом слое — см. руководство по интерконнекту перед покупкой узла с несколькими GPU.
Бок о бок
| H200 SXM5 | H100 SXM5 | Разница | |
|---|---|---|---|
| Архитектура | Hopper | Hopper | Одно поколение |
| Память на карту | 141 GB HBM3e | 80 GB HBM3 | 61 GB в пользу H200 SXM5 |
| Пропускная способность памяти | 4,800 GB/s | 3,350 GB/s | 1.43× в пользу H200 SXM5 |
| Форм-фактор | SXM на плате HGX | SXM на плате HGX | Одинаково |
| Конфигурации узла | 4×, 8× | 4×, 8× | До 1128 GB в одном узле |
| От, в месяц | $8,405 | $6,061 | $2,344/мес разницы |
Цена при каждой конфигурации узла
| Узел | H200 SXM5 | H100 SXM5 | Всего VRAM | |
|---|---|---|---|---|
| 4 × GPU | $8,405/mo | $6,061/mo | 564 GB / 320 GB | H200 SXM5 H100 SXM5 |
| 8 × GPU | $15,945/mo | $11,509/mo | 1128 GB / 640 GB | H200 SXM5 H100 SXM5 |
Что вмещает каждая на одной карте
При контексте 8k — лучшая точность, которая помещается в память. Именно эта разница определяет покупку, а не таблица характеристик.
Только H200 SXM5
- Qwen 3 235B-A22B (MoE) — 4-bit (AWQ, GPTQ), ~35 ток/с
- Mixtral 8×22B (MoE) — 4-bit (AWQ, GPTQ), ~20 ток/с
Только H100 SXM5
Ничего. H200 SXM5 вмещает всё то же, что и H100 SXM5.
Стоимость за GB и за TB/s
Два коэффициента, которые срезают путь через таблицу характеристик. Первый показывает, сколько стоит память; второй — сколько стоит скорость.
| Карта | $/GB VRAM, в месяц | $/TB в секунду, в месяц | Лучше подходит для |
|---|---|---|---|
| H200 SXM5 | $59.61 | $1,751 | Оба коэффициента |
| H100 SXM5 | $75.76 | $1,809 | Ни то, ни другое |
Эти коэффициенты ранжируют карты, но не выбирают за вас. Карта, которая дешевле за гигабайт, бесполезна, если гигабайт у неё слишком мало, чтобы вообще вместить вашу модель — объём памяти это порог, а не плавная шкала. Используйте их, чтобы выбрать между двумя картами, которые обе подходят.
H200 SXM5 против H100 SXM5, коротко
Стоит ли H200 SXM5 доплаты по сравнению с H100 SXM5?
Какая быстрее для инференса LLM?
Предлагаются ли обе в виде узлов с несколькими GPU?
Можно ли арендовать любую из них без проверки личности?
Другие сравнения
Обе уже установлены в стойки и готовы — во всех 6 дата-центрах.
Какую бы вы ни выбрали, она помесячная, оплачивается в криптовалюте, открывается без проверки личности и предоставляется через менее 5 минут.