H100 SXM5 или B200 SXM6?
Обе выделенные, обе помесячные, обе открываются без проверки личности. Их разделяют память, пропускная способность и $5,729 в месяц — а что из этого важно, полностью зависит от того, что вы собираетесь запускать.
- $6,061/moH100 SXM5, одна карта
- $11,790/moB200 SXM6, одна карта
- 80 vs 180 GBпамять на карту
- 2.4×разрыв в пропускной способности
Коротко
Какая и когда
- Выбрать H100 SXM5
- когда 80 GB вмещает вашу модель. Это экономит $5,729/мес, а неиспользуемая память — это память, за которую вы всё равно заплатили.
- Выбрать B200 SXM6
- когда вашей модели нужно больше 80 GB на одной карте. Это порог, а не предпочтение — ниже него доплата $5,729/мес не даёт ничего.
- Neither, if
- ваша модель не помещается на одну карту ни той, ни другой. Шардинг требует синхронизации на каждом слое — см. руководство по интерконнекту перед покупкой узла с несколькими GPU.
Бок о бок
| H100 SXM5 | B200 SXM6 | Разница | |
|---|---|---|---|
| Архитектура | Hopper | Blackwell | Hopper старше |
| Память на карту | 80 GB HBM3 | 180 GB HBM3e | 100 GB в пользу B200 SXM6 |
| Пропускная способность памяти | 3,350 GB/s | 8,000 GB/s | 2.39× в пользу B200 SXM6 |
| Форм-фактор | SXM на плате HGX | SXM на плате HGX | Одинаково |
| Конфигурации узла | 4×, 8× | 4×, 8× | До 1440 GB в одном узле |
| От, в месяц | $6,061 | $11,790 | $5,729/мес разницы |
Цена при каждой конфигурации узла
| Узел | H100 SXM5 | B200 SXM6 | Всего VRAM | |
|---|---|---|---|---|
| 4 × GPU | $6,061/mo | $11,790/mo | 320 GB / 720 GB | H100 SXM5 B200 SXM6 |
| 8 × GPU | $11,509/mo | $22,351/mo | 640 GB / 1440 GB | H100 SXM5 B200 SXM6 |
Что вмещает каждая на одной карте
При контексте 8k — лучшая точность, которая помещается в память. Именно эта разница определяет покупку, а не таблица характеристик.
Только H100 SXM5
Ничего. Любую модель, которую H100 SXM5 вмещает на одной карте, вмещает и B200 SXM6 — разница между ними в скорости, а не в возможностях.
Только B200 SXM6
- Qwen 3 235B-A22B (MoE) — 4-bit (AWQ, GPTQ), ~59 ток/с
- Mixtral 8×22B (MoE) — FP8, ~17 ток/с
Стоимость за GB и за TB/s
Два коэффициента, которые срезают путь через таблицу характеристик. Первый показывает, сколько стоит память; второй — сколько стоит скорость.
| Карта | $/GB VRAM, в месяц | $/TB в секунду, в месяц | Лучше подходит для |
|---|---|---|---|
| H100 SXM5 | $75.76 | $1,809 | Ни то, ни другое |
| B200 SXM6 | $65.50 | $1,474 | Оба коэффициента |
Эти коэффициенты ранжируют карты, но не выбирают за вас. Карта, которая дешевле за гигабайт, бесполезна, если гигабайт у неё слишком мало, чтобы вообще вместить вашу модель — объём памяти это порог, а не плавная шкала. Используйте их, чтобы выбрать между двумя картами, которые обе подходят.
H100 SXM5 против B200 SXM6, коротко
Стоит ли H100 SXM5 доплаты по сравнению с B200 SXM6?
Какая быстрее для инференса LLM?
Предлагаются ли обе в виде узлов с несколькими GPU?
Можно ли арендовать любую из них без проверки личности?
Другие сравнения
Обе уже установлены в стойки и готовы — во всех 6 дата-центрах.
Какую бы вы ни выбрали, она помесячная, оплачивается в криптовалюте, открывается без проверки личности и предоставляется через менее 5 минут.