H200 SXM5 o H100 SXM5?
Entrambe sono dedicate, entrambe sono mensili, entrambe si attivano senza verifica d’identità. Ciò che le separa è la memoria, la larghezza di banda e $2,344 al mese — e quale di questi fattori conta dipende interamente da cosa intende eseguire.
- $8,405/moH200 SXM5, una scheda
- $6,061/moH100 SXM5, una scheda
- 141 vs 80 GBmemoria per scheda
- 1.4×differenza di larghezza di banda
La risposta breve
Quale delle due, e quando
- Scegli la H200 SXM5
- quando il suo modello richiede più di 80 GB su una singola scheda. È una soglia, non una preferenza — al di sotto, il costo extra di $2,344/mese non le compra nulla.
- Scegli la H100 SXM5
- quando 80 GB contengono il suo modello. Risparmia $2,344/mese, e la memoria che non usa è memoria che ha pagato comunque.
- Neither, if
- il suo modello non ci sta su una singola scheda di nessuna delle due. Lo sharding comporta un costo di sincronizzazione a ogni layer — consulti la guida sull’interconnessione prima di acquistare un nodo multi-GPU.
Fianco a fianco
| H200 SXM5 | H100 SXM5 | Differenza | |
|---|---|---|---|
| Architettura | Hopper | Hopper | Stessa generazione |
| Memoria per scheda | 141 GB HBM3e | 80 GB HBM3 | 61 GB a favore della H200 SXM5 |
| Larghezza di banda della memoria | 4,800 GB/s | 3,350 GB/s | 1.43× a favore della H200 SXM5 |
| Fattore di forma | SXM su una board HGX | SXM su una board HGX | Uguale |
| Dimensioni del nodo | 4×, 8× | 4×, 8× | Fino a 1128 GB in un nodo |
| A partire da, al mese | $8,405 | $6,061 | $2,344/mese di differenza |
Prezzo per ogni dimensione di nodo
| Nodo | H200 SXM5 | H100 SXM5 | VRAM totale | |
|---|---|---|---|---|
| 4 × GPU | $8,405/mo | $6,061/mo | 564 GB / 320 GB | H200 SXM5 H100 SXM5 |
| 8 × GPU | $15,945/mo | $11,509/mo | 1128 GB / 640 GB | H200 SXM5 H100 SXM5 |
Cosa contiene ciascuna su una singola scheda
A un contesto di 8k, la miglior precisione che ci sta. È questa la differenza che decide un acquisto — non la scheda tecnica.
Solo la H200 SXM5
- Qwen 3 235B-A22B (MoE) — 4-bit (AWQ, GPTQ), ~35 tok/s
- Mixtral 8×22B (MoE) — 4-bit (AWQ, GPTQ), ~20 tok/s
Solo la H100 SXM5
Niente. La H200 SXM5 contiene tutto ciò che contiene la H100 SXM5.
Costo per GB e per TB/s
Due rapporti che vanno dritti al punto oltre la scheda tecnica. Il primo indica quanto costa la memoria; il secondo quanto costa la velocità.
| Scheda | $/GB di VRAM, al mese | $/TB al secondo, al mese | Migliore per |
|---|---|---|---|
| H200 SXM5 | $59.61 | $1,751 | Entrambi i rapporti |
| H100 SXM5 | $75.76 | $1,809 | Nessuno dei due |
Questi rapporti classificano le schede; non scelgono al posto suo. Una scheda più economica per gigabyte non serve a nulla se ha troppo pochi gigabyte per contenere il suo modello — la capacità è una soglia, non una pendenza. Li usi per sciogliere un pareggio tra due schede che ci stanno entrambe.
H200 SXM5 contro H100 SXM5, in breve
Vale la pena spendere di più per la H200 SXM5 rispetto alla H100 SXM5?
Quale delle due è più veloce per l’inferenza LLM?
Sono entrambe disponibili come nodi multi-GPU?
Posso noleggiare entrambe senza verifica d’identità?
Altri confronti
Entrambe sono montate in rack e pronte, in tutti i 6 data center.
Qualunque scelga, è mensile, pagato in cripto, attivato senza verifica d’identità e consegnato in in meno di 5 minuti.