B200 SXM6 или H200 SXM5?
Обе выделенные, обе помесячные, обе открываются без проверки личности. Их разделяют память, пропускная способность и $3,385 в месяц — а что из этого важно, полностью зависит от того, что вы собираетесь запускать.
- $11,790/moB200 SXM6, одна карта
- $8,405/moH200 SXM5, одна карта
- 180 vs 141 GBпамять на карту
- 1.7×разрыв в пропускной способности
Коротко
Какая и когда
- Выбрать B200 SXM6
- когда вашей модели нужно больше 141 GB на одной карте. Это порог, а не предпочтение — ниже него доплата $3,385/мес не даёт ничего.
- Выбрать H200 SXM5
- когда 141 GB вмещает вашу модель. Это экономит $3,385/мес, а неиспользуемая память — это память, за которую вы всё равно заплатили.
- Neither, if
- ваша модель не помещается на одну карту ни той, ни другой. Шардинг требует синхронизации на каждом слое — см. руководство по интерконнекту перед покупкой узла с несколькими GPU.
Бок о бок
| B200 SXM6 | H200 SXM5 | Разница | |
|---|---|---|---|
| Архитектура | Blackwell | Hopper | Blackwell новее |
| Память на карту | 180 GB HBM3e | 141 GB HBM3e | 39 GB в пользу B200 SXM6 |
| Пропускная способность памяти | 8,000 GB/s | 4,800 GB/s | 1.67× в пользу B200 SXM6 |
| Форм-фактор | SXM на плате HGX | SXM на плате HGX | Одинаково |
| Конфигурации узла | 4×, 8× | 4×, 8× | До 1440 GB в одном узле |
| От, в месяц | $11,790 | $8,405 | $3,385/мес разницы |
Цена при каждой конфигурации узла
| Узел | B200 SXM6 | H200 SXM5 | Всего VRAM | |
|---|---|---|---|---|
| 4 × GPU | $11,790/mo | $8,405/mo | 720 GB / 564 GB | B200 SXM6 H200 SXM5 |
| 8 × GPU | $22,351/mo | $15,945/mo | 1440 GB / 1128 GB | B200 SXM6 H200 SXM5 |
Что вмещает каждая на одной карте
При контексте 8k — лучшая точность, которая помещается в память. Именно эта разница определяет покупку, а не таблица характеристик.
Только B200 SXM6
Ничего. Любую модель, которую B200 SXM6 вмещает на одной карте, вмещает и H200 SXM5 — разница между ними в скорости, а не в возможностях.
Только H200 SXM5
Ничего. B200 SXM6 вмещает всё то же, что и H200 SXM5.
Стоимость за GB и за TB/s
Два коэффициента, которые срезают путь через таблицу характеристик. Первый показывает, сколько стоит память; второй — сколько стоит скорость.
| Карта | $/GB VRAM, в месяц | $/TB в секунду, в месяц | Лучше подходит для |
|---|---|---|---|
| B200 SXM6 | $65.50 | $1,474 | Пропускная способность |
| H200 SXM5 | $59.61 | $1,751 | Память |
Эти коэффициенты ранжируют карты, но не выбирают за вас. Карта, которая дешевле за гигабайт, бесполезна, если гигабайт у неё слишком мало, чтобы вообще вместить вашу модель — объём памяти это порог, а не плавная шкала. Используйте их, чтобы выбрать между двумя картами, которые обе подходят.
B200 SXM6 против H200 SXM5, коротко
Стоит ли B200 SXM6 доплаты по сравнению с H200 SXM5?
Какая быстрее для инференса LLM?
Предлагаются ли обе в виде узлов с несколькими GPU?
Можно ли арендовать любую из них без проверки личности?
Другие сравнения
Обе уже установлены в стойки и готовы — во всех 6 дата-центрах.
Какую бы вы ни выбрали, она помесячная, оплачивается в криптовалюте, открывается без проверки личности и предоставляется через менее 5 минут.