H100 SXM5 ou H100 PCIe ?
Les deux sont dédiées, les deux sont mensuelles, les deux s’ouvrent sans vérification d’identité. Ce qui les sépare, c’est la mémoire, la bande passante et $4,592 par mois — et lequel de ces facteurs compte dépend entièrement de ce que vous comptez faire tourner.
- $6,061/moH100 SXM5, une carte
- $1,469/moH100 PCIe, une carte
- 80 vs 80 GBmémoire par carte
- 1.7×écart de bande passante
En bref
Lequel, et quand
- Choisissez le H100 SXM5
- quand le débit compte. Même 80 GB, mais 68 % de bande passante mémoire en plus — ce qui détermine la vitesse de génération — pour $4,592/mois de plus.
- Choisissez le H100 PCIe
- quand le H100 SXM5 ne vous apporte rien dont vous ayez besoin. Même mémoire, bande passante comparable, $4,592/mois moins cher.
- Neither, if
- votre modèle ne tient sur une seule carte, ni de l’un ni de l’autre. La répartition entre cartes coûte de la synchronisation à chaque couche — voir le guide sur l’interconnexion avant d’acheter un nœud multi-GPU.
Côte à côte
| H100 SXM5 | H100 PCIe | Différence | |
|---|---|---|---|
| Architecture | Hopper | Hopper | Même génération |
| Mémoire par carte | 80 GB HBM3 | 80 GB HBM3 | Identique |
| Bande passante mémoire | 3,350 GB/s | 2,000 GB/s | 1.68× en faveur du H100 SXM5 |
| Facteur de forme | SXM sur une carte HGX | Carte d’extension PCIe | NVLink contre PCIe entre les cartes |
| Tailles de nœud | 4×, 8× | 1×, 2×, 4×, 8× | Jusqu’à 640 GB dans un seul nœud |
| À partir de, par mois | $6,061 | $1,469 | $4,592/mois d’écart |
Prix à chaque taille de nœud
| Nœud | H100 SXM5 | H100 PCIe | VRAM totale | |
|---|---|---|---|---|
| 1 × GPU | $1,469/mo | 80 GB | H100 PCIe | |
| 2 × GPU | $2,892/mo | 160 GB | H100 PCIe | |
| 4 × GPU | $6,061/mo | $5,564/mo | 320 GB / 320 GB | H100 SXM5 H100 PCIe |
| 8 × GPU | $11,509/mo | $10,568/mo | 640 GB / 640 GB | H100 SXM5 H100 PCIe |
Ce que chacun contient sur une seule carte
À un contexte de 8k, la meilleure précision qui tient. C’est cette différence qui décide un achat — pas la fiche technique.
Seul le H100 SXM5
Rien. Chaque modèle que le H100 SXM5 tient sur une carte, le H100 PCIe le tient aussi — la différence entre eux est la vitesse, pas la capacité.
Seul le H100 PCIe
Rien. Le H100 SXM5 tient tout ce que tient le H100 PCIe.
Coût par GB et par TB/s
Deux ratios qui simplifient la fiche technique. Le premier indique ce que coûte la mémoire ; le second, ce que coûte la vitesse.
| Carte | $/GB de VRAM, par mois | $/TB par seconde, par mois | Meilleur pour |
|---|---|---|---|
| H100 SXM5 | $75.76 | $1,809 | Aucun des deux |
| H100 PCIe | $18.36 | $735 | Les deux ratios |
Ces ratios classent les cartes ; ils n’en choisissent pas une. Une carte moins chère par gigaoctet ne vaut rien si elle n’a pas assez de gigaoctets pour tenir votre modèle — la capacité est un seuil, pas une pente. Utilisez-les pour départager deux cartes qui tiennent toutes les deux.
H100 SXM5 contre H100 PCIe, en bref
Le H100 SXM5 vaut-il le surcoût par rapport au H100 PCIe ?
Lequel est le plus rapide pour l’inférence LLM ?
Les deux existent-elles en nœuds multi-GPU ?
Puis-je louer l’une ou l’autre sans vérification d’identité ?
Autres comparaisons
Les deux sont installées en baie et prêtes, dans l’ensemble des 6 centres de données.
Quel que soit votre choix, c’est mensuel, payé en crypto, ouvert sans vérification d’identité et livré en moins de 5 minutes.