H200 SXM5 oder H100 SXM5?
Beide sind dediziert, beide monatlich, beide ohne Identitätsprüfung nutzbar. Was sie unterscheidet, sind Speicher, Bandbreite und $2,344 im Monat — und was davon zählt, hängt ganz davon ab, was Sie betreiben wollen.
- $8,405/moH200 SXM5, eine Karte
- $6,061/moH100 SXM5, eine Karte
- 141 vs 80 GBSpeicher pro Karte
- 1.4×Bandbreitenunterschied
Die kurze Antwort
Welche, und wann
- Die H200 SXM5 wählen
- wenn Ihr Modell mehr als 80 GB auf einer einzelnen Karte braucht. Das ist eine Schwelle, keine Vorliebe — darunter bringen die zusätzlichen $2,344/Monat nichts.
- Die H100 SXM5 wählen
- wenn 80 GB Ihr Modell fassen. Das spart $2,344/Monat, und Speicher, den Sie nicht nutzen, ist Speicher, den Sie bezahlt haben.
- Neither, if
- Ihr Modell auf keiner einzelnen Karte von beiden passt. Sharding kostet Synchronisation auf jeder Schicht — siehe den Interconnect-Leitfaden bevor Sie einen Multi-GPU-Knoten kaufen.
Nebeneinander
| H200 SXM5 | H100 SXM5 | Unterschied | |
|---|---|---|---|
| Architektur | Hopper | Hopper | Gleiche Generation |
| GPU-Speicher pro Karte | 141 GB HBM3e | 80 GB HBM3 | 61 GB zugunsten der H200 SXM5 |
| Speicherbandbreite | 4,800 GB/s | 3,350 GB/s | 1.43× zugunsten der H200 SXM5 |
| Formfaktor | SXM auf einem HGX-Board | SXM auf einem HGX-Board | Gleich |
| Knotengrößen | 4×, 8× | 4×, 8× | Bis zu 1128 GB in einem Knoten |
| Ab, pro Monat | $8,405 | $6,061 | $2,344/Monat Unterschied |
Preis bei jeder Knotengröße
| Knoten | H200 SXM5 | H100 SXM5 | VRAM gesamt | |
|---|---|---|---|---|
| 4 × GPU | $8,405/mo | $6,061/mo | 564 GB / 320 GB | H200 SXM5 H100 SXM5 |
| 8 × GPU | $15,945/mo | $11,509/mo | 1128 GB / 640 GB | H200 SXM5 H100 SXM5 |
Was jede auf einer einzelnen Karte fasst
Bei 8k Kontext die beste Präzision, die passt. Das ist der Unterschied, der einen Kauf entscheidet — nicht das Datenblatt.
Nur die H200 SXM5
- Qwen 3 235B-A22B (MoE) — 4-bit (AWQ, GPTQ), ~35 Tok/s
- Mixtral 8×22B (MoE) — 4-bit (AWQ, GPTQ), ~20 Tok/s
Nur die H100 SXM5
Nichts. Die H200 SXM5 fasst alles, was auch die H100 SXM5 fasst.
Kosten pro GB und pro TB/s
Zwei Verhältnisse, die das Datenblatt auf den Punkt bringen. Das erste sagt Ihnen, was Speicher kostet; das zweite, was Geschwindigkeit kostet.
| Karte | $/GB VRAM, pro Monat | $/TB pro Sekunde, pro Monat | Besser bei |
|---|---|---|---|
| H200 SXM5 | $59.61 | $1,751 | Beide Verhältnisse |
| H100 SXM5 | $75.76 | $1,809 | Keines von beidem |
Diese Verhältnisse ordnen Karten, sie wählen keine aus. Eine Karte, die pro Gigabyte günstiger ist, ist wertlos, wenn sie zu wenig Gigabyte hat, um Ihr Modell überhaupt zu fassen — Kapazität ist eine Schwelle, keine Steigung. Nutzen Sie sie, um zwischen zwei passenden Karten zu entscheiden.
H200 SXM5 gegenüber H100 SXM5, kurz gesagt
Ist die H200 SXM5 den Aufpreis gegenüber der H100 SXM5 wert?
Welche ist schneller für LLM-Inferenz?
Gibt es beide als Multi-GPU-Knoten?
Kann ich beide ohne Identitätsprüfung mieten?
Weitere Vergleiche
Beide sind eingebaut und einsatzbereit, in allen 6 Rechenzentren.
Für welche Sie sich auch entscheiden: monatlich, in Krypto bezahlt, ohne Identitätsprüfung eröffnet und in unter 5 Minuten geliefert.