RTX 4090 ou A100 PCIe ?
Les deux sont dédiées, les deux sont mensuelles, les deux s’ouvrent sans vérification d’identité. Ce qui les sépare, c’est la mémoire, la bande passante et $199 par mois — et lequel de ces facteurs compte dépend entièrement de ce que vous comptez faire tourner.
- $193/moRTX 4090, une carte
- $392/moA100 PCIe, une carte
- 24 vs 40 GBmémoire par carte
- 1.5×écart de bande passante
En bref
Lequel, et quand
- Choisissez le RTX 4090
- quand 24 GB suffit à contenir votre modèle. Vous économisez $199/mois, et la mémoire que vous n’utilisez pas reste de la mémoire que vous avez payée.
- Choisissez le A100 PCIe
- quand votre modèle a besoin de plus de 24 GB sur une seule carte. C’est un seuil, pas une préférence — en dessous, les $199/mois supplémentaires ne vous apportent rien.
- Neither, if
- votre modèle ne tient sur une seule carte, ni de l’un ni de l’autre. La répartition entre cartes coûte de la synchronisation à chaque couche — voir le guide sur l’interconnexion avant d’acheter un nœud multi-GPU.
Côte à côte
| RTX 4090 | A100 PCIe | Différence | |
|---|---|---|---|
| Architecture | Ada Lovelace | Ampere | Ada Lovelace est d’une génération différente |
| Mémoire par carte | 24 GB GDDR6X | 40 GB HBM2 | 16 GB en faveur du A100 PCIe |
| Bande passante mémoire | 1,008 GB/s | 1,555 GB/s | 1.54× en faveur du A100 PCIe |
| Facteur de forme | Carte d’extension PCIe | Carte d’extension PCIe | Aucune différence |
| Tailles de nœud | 1×, 2×, 4×, 8× | 1×, 2×, 4×, 8× | Jusqu’à 320 GB dans un seul nœud |
| À partir de, par mois | $193 | $392 | $199/mois d’écart |
Prix à chaque taille de nœud
| Nœud | RTX 4090 | A100 PCIe | VRAM totale | |
|---|---|---|---|---|
| 1 × GPU | $193/mo | $392/mo | 24 GB / 40 GB | RTX 4090 A100 PCIe |
| 2 × GPU | $416/mo | $802/mo | 48 GB / 80 GB | RTX 4090 A100 PCIe |
| 4 × GPU | $814/mo | $1,556/mo | 96 GB / 160 GB | RTX 4090 A100 PCIe |
| 8 × GPU | $1,579/mo | $2,983/mo | 192 GB / 320 GB | RTX 4090 A100 PCIe |
Ce que chacun contient sur une seule carte
À un contexte de 8k, la meilleure précision qui tient. C’est cette différence qui décide un achat — pas la fiche technique.
Seul le RTX 4090
Rien. Chaque modèle que le RTX 4090 tient sur une carte, le A100 PCIe le tient aussi — la différence entre eux est la vitesse, pas la capacité.
Seul le A100 PCIe
Rien. Le RTX 4090 tient tout ce que tient le A100 PCIe.
Coût par GB et par TB/s
Deux ratios qui simplifient la fiche technique. Le premier indique ce que coûte la mémoire ; le second, ce que coûte la vitesse.
| Carte | $/GB de VRAM, par mois | $/TB par seconde, par mois | Meilleur pour |
|---|---|---|---|
| RTX 4090 | $8.04 | $191 | Les deux ratios |
| A100 PCIe | $9.80 | $252 | Aucun des deux |
Ces ratios classent les cartes ; ils n’en choisissent pas une. Une carte moins chère par gigaoctet ne vaut rien si elle n’a pas assez de gigaoctets pour tenir votre modèle — la capacité est un seuil, pas une pente. Utilisez-les pour départager deux cartes qui tiennent toutes les deux.
RTX 4090 contre A100 PCIe, en bref
Le RTX 4090 vaut-il le surcoût par rapport au A100 PCIe ?
Lequel est le plus rapide pour l’inférence LLM ?
Les deux existent-elles en nœuds multi-GPU ?
Puis-je louer l’une ou l’autre sans vérification d’identité ?
Autres comparaisons
Les deux sont installées en baie et prêtes, dans l’ensemble des 6 centres de données.
Quel que soit votre choix, c’est mensuel, payé en crypto, ouvert sans vérification d’identité et livré en moins de 5 minutes.