H100 SXM5 oder A100 SXM4?
Beide sind dediziert, beide monatlich, beide ohne Identitätsprüfung nutzbar. Was sie unterscheidet, sind Speicher, Bandbreite und $1,666 im Monat — und was davon zählt, hängt ganz davon ab, was Sie betreiben wollen.
- $6,061/moH100 SXM5, eine Karte
- $4,395/moA100 SXM4, eine Karte
- 80 vs 80 GBSpeicher pro Karte
- 1.6×Bandbreitenunterschied
Die kurze Antwort
Welche, und wann
- Die H100 SXM5 wählen
- wenn Durchsatz zählt. Gleiche 80 GB, aber 64% mehr Speicherbandbreite — das bestimmt die Generierungsgeschwindigkeit — für $1,666/Monat mehr.
- Die A100 SXM4 wählen
- wenn die H100 SXM5 Ihnen nichts bietet, das Sie brauchen. Gleicher Speicher, vergleichbare Bandbreite, $1,666/Monat günstiger.
- Neither, if
- Ihr Modell auf keiner einzelnen Karte von beiden passt. Sharding kostet Synchronisation auf jeder Schicht — siehe den Interconnect-Leitfaden bevor Sie einen Multi-GPU-Knoten kaufen.
Nebeneinander
| H100 SXM5 | A100 SXM4 | Unterschied | |
|---|---|---|---|
| Architektur | Hopper | Ampere | Hopper ist eine andere Generation |
| GPU-Speicher pro Karte | 80 GB HBM3 | 80 GB HBM2e | Identisch |
| Speicherbandbreite | 3,350 GB/s | 2,039 GB/s | 1.64× zugunsten der H100 SXM5 |
| Formfaktor | SXM auf einem HGX-Board | SXM auf einem HGX-Board | Gleich |
| Knotengrößen | 4×, 8× | 4×, 8× | Bis zu 640 GB in einem Knoten |
| Ab, pro Monat | $6,061 | $4,395 | $1,666/Monat Unterschied |
Preis bei jeder Knotengröße
| Knoten | H100 SXM5 | A100 SXM4 | VRAM gesamt | |
|---|---|---|---|---|
| 4 × GPU | $6,061/mo | $4,395/mo | 320 GB / 320 GB | H100 SXM5 A100 SXM4 |
| 8 × GPU | $11,509/mo | $8,355/mo | 640 GB / 640 GB | H100 SXM5 A100 SXM4 |
Was jede auf einer einzelnen Karte fasst
Bei 8k Kontext die beste Präzision, die passt. Das ist der Unterschied, der einen Kauf entscheidet — nicht das Datenblatt.
Nur die H100 SXM5
Nichts. Jedes Modell, das die H100 SXM5 auf einer Karte fasst, fasst auch die A100 SXM4 — der Unterschied zwischen ihnen liegt in der Geschwindigkeit, nicht in der Kapazität.
Nur die A100 SXM4
Nichts. Die H100 SXM5 fasst alles, was auch die A100 SXM4 fasst.
Kosten pro GB und pro TB/s
Zwei Verhältnisse, die das Datenblatt auf den Punkt bringen. Das erste sagt Ihnen, was Speicher kostet; das zweite, was Geschwindigkeit kostet.
| Karte | $/GB VRAM, pro Monat | $/TB pro Sekunde, pro Monat | Besser bei |
|---|---|---|---|
| H100 SXM5 | $75.76 | $1,809 | Bandbreite |
| A100 SXM4 | $54.94 | $2,155 | Speicher |
Diese Verhältnisse ordnen Karten, sie wählen keine aus. Eine Karte, die pro Gigabyte günstiger ist, ist wertlos, wenn sie zu wenig Gigabyte hat, um Ihr Modell überhaupt zu fassen — Kapazität ist eine Schwelle, keine Steigung. Nutzen Sie sie, um zwischen zwei passenden Karten zu entscheiden.
H100 SXM5 gegenüber A100 SXM4, kurz gesagt
Ist die H100 SXM5 den Aufpreis gegenüber der A100 SXM4 wert?
Welche ist schneller für LLM-Inferenz?
Gibt es beide als Multi-GPU-Knoten?
Kann ich beide ohne Identitätsprüfung mieten?
Weitere Vergleiche
Beide sind eingebaut und einsatzbereit, in allen 6 Rechenzentren.
Für welche Sie sich auch entscheiden: monatlich, in Krypto bezahlt, ohne Identitätsprüfung eröffnet und in unter 5 Minuten geliefert.