H100 SXM5 ou A100 SXM4 ?
Les deux sont dédiées, les deux sont mensuelles, les deux s’ouvrent sans vérification d’identité. Ce qui les sépare, c’est la mémoire, la bande passante et $1,666 par mois — et lequel de ces facteurs compte dépend entièrement de ce que vous comptez faire tourner.
- $6,061/moH100 SXM5, une carte
- $4,395/moA100 SXM4, une carte
- 80 vs 80 GBmémoire par carte
- 1.6×écart de bande passante
En bref
Lequel, et quand
- Choisissez le H100 SXM5
- quand le débit compte. Même 80 GB, mais 64 % de bande passante mémoire en plus — ce qui détermine la vitesse de génération — pour $1,666/mois de plus.
- Choisissez le A100 SXM4
- quand le H100 SXM5 ne vous apporte rien dont vous ayez besoin. Même mémoire, bande passante comparable, $1,666/mois moins cher.
- Neither, if
- votre modèle ne tient sur une seule carte, ni de l’un ni de l’autre. La répartition entre cartes coûte de la synchronisation à chaque couche — voir le guide sur l’interconnexion avant d’acheter un nœud multi-GPU.
Côte à côte
| H100 SXM5 | A100 SXM4 | Différence | |
|---|---|---|---|
| Architecture | Hopper | Ampere | Hopper est d’une génération différente |
| Mémoire par carte | 80 GB HBM3 | 80 GB HBM2e | Identique |
| Bande passante mémoire | 3,350 GB/s | 2,039 GB/s | 1.64× en faveur du H100 SXM5 |
| Facteur de forme | SXM sur une carte HGX | SXM sur une carte HGX | Aucune différence |
| Tailles de nœud | 4×, 8× | 4×, 8× | Jusqu’à 640 GB dans un seul nœud |
| À partir de, par mois | $6,061 | $4,395 | $1,666/mois d’écart |
Prix à chaque taille de nœud
| Nœud | H100 SXM5 | A100 SXM4 | VRAM totale | |
|---|---|---|---|---|
| 4 × GPU | $6,061/mo | $4,395/mo | 320 GB / 320 GB | H100 SXM5 A100 SXM4 |
| 8 × GPU | $11,509/mo | $8,355/mo | 640 GB / 640 GB | H100 SXM5 A100 SXM4 |
Ce que chacun contient sur une seule carte
À un contexte de 8k, la meilleure précision qui tient. C’est cette différence qui décide un achat — pas la fiche technique.
Seul le H100 SXM5
Rien. Chaque modèle que le H100 SXM5 tient sur une carte, le A100 SXM4 le tient aussi — la différence entre eux est la vitesse, pas la capacité.
Seul le A100 SXM4
Rien. Le H100 SXM5 tient tout ce que tient le A100 SXM4.
Coût par GB et par TB/s
Deux ratios qui simplifient la fiche technique. Le premier indique ce que coûte la mémoire ; le second, ce que coûte la vitesse.
| Carte | $/GB de VRAM, par mois | $/TB par seconde, par mois | Meilleur pour |
|---|---|---|---|
| H100 SXM5 | $75.76 | $1,809 | Bande passante |
| A100 SXM4 | $54.94 | $2,155 | Mémoire |
Ces ratios classent les cartes ; ils n’en choisissent pas une. Une carte moins chère par gigaoctet ne vaut rien si elle n’a pas assez de gigaoctets pour tenir votre modèle — la capacité est un seuil, pas une pente. Utilisez-les pour départager deux cartes qui tiennent toutes les deux.
H100 SXM5 contre A100 SXM4, en bref
Le H100 SXM5 vaut-il le surcoût par rapport au A100 SXM4 ?
Lequel est le plus rapide pour l’inférence LLM ?
Les deux existent-elles en nœuds multi-GPU ?
Puis-je louer l’une ou l’autre sans vérification d’identité ?
Autres comparaisons
Les deux sont installées en baie et prêtes, dans l’ensemble des 6 centres de données.
Quel que soit votre choix, c’est mensuel, payé en crypto, ouvert sans vérification d’identité et livré en moins de 5 minutes.