L40S ou RTX A6000 ?
Les deux sont dédiées, les deux sont mensuelles, les deux s’ouvrent sans vérification d’identité. Ce qui les sépare, c’est la mémoire, la bande passante et $428 par mois — et lequel de ces facteurs compte dépend entièrement de ce que vous comptez faire tourner.
- $714/moL40S, une carte
- $286/moRTX A6000, une carte
- 48 vs 48 GBmémoire par carte
- 1.1×écart de bande passante
En bref
Lequel, et quand
- Choisissez le L40S
- quand le débit compte. Même 48 GB, mais 13 % de bande passante mémoire en plus — ce qui détermine la vitesse de génération — pour $428/mois de plus.
- Choisissez le RTX A6000
- quand le L40S ne vous apporte rien dont vous ayez besoin. Même mémoire, bande passante comparable, $428/mois moins cher.
- Neither, if
- votre modèle ne tient sur une seule carte, ni de l’un ni de l’autre. La répartition entre cartes coûte de la synchronisation à chaque couche — voir le guide sur l’interconnexion avant d’acheter un nœud multi-GPU.
Côte à côte
| L40S | RTX A6000 | Différence | |
|---|---|---|---|
| Architecture | Ada Lovelace | Ampere | Ada Lovelace est d’une génération différente |
| Mémoire par carte | 48 GB GDDR6 ECC | 48 GB GDDR6 ECC | Identique |
| Bande passante mémoire | 864 GB/s | 768 GB/s | 1.13× en faveur du L40S |
| Facteur de forme | Carte d’extension PCIe | Carte d’extension PCIe | Aucune différence |
| Tailles de nœud | 1×, 2×, 4×, 8× | 1×, 2×, 4×, 8× | Jusqu’à 384 GB dans un seul nœud |
| À partir de, par mois | $714 | $286 | $428/mois d’écart |
Prix à chaque taille de nœud
| Nœud | L40S | RTX A6000 | VRAM totale | |
|---|---|---|---|---|
| 1 × GPU | $714/mo | $286/mo | 48 GB / 48 GB | L40S RTX A6000 |
| 2 × GPU | $1,427/mo | $597/mo | 96 GB / 96 GB | L40S RTX A6000 |
| 4 × GPU | $2,754/mo | $1,163/mo | 192 GB / 192 GB | L40S RTX A6000 |
| 8 × GPU | $5,251/mo | $2,239/mo | 384 GB / 384 GB | L40S RTX A6000 |
Ce que chacun contient sur une seule carte
À un contexte de 8k, la meilleure précision qui tient. C’est cette différence qui décide un achat — pas la fiche technique.
Seul le L40S
Rien. Chaque modèle que le L40S tient sur une carte, le RTX A6000 le tient aussi — la différence entre eux est la vitesse, pas la capacité.
Seul le RTX A6000
Rien. Le L40S tient tout ce que tient le RTX A6000.
Coût par GB et par TB/s
Deux ratios qui simplifient la fiche technique. Le premier indique ce que coûte la mémoire ; le second, ce que coûte la vitesse.
| Carte | $/GB de VRAM, par mois | $/TB par seconde, par mois | Meilleur pour |
|---|---|---|---|
| L40S | $14.88 | $714 | Aucun des deux |
| RTX A6000 | $5.96 | $286 | Les deux ratios |
Ces ratios classent les cartes ; ils n’en choisissent pas une. Une carte moins chère par gigaoctet ne vaut rien si elle n’a pas assez de gigaoctets pour tenir votre modèle — la capacité est un seuil, pas une pente. Utilisez-les pour départager deux cartes qui tiennent toutes les deux.
L40S contre RTX A6000, en bref
Le L40S vaut-il le surcoût par rapport au RTX A6000 ?
Lequel est le plus rapide pour l’inférence LLM ?
Les deux existent-elles en nœuds multi-GPU ?
Puis-je louer l’une ou l’autre sans vérification d’identité ?
Autres comparaisons
Les deux sont installées en baie et prêtes, dans l’ensemble des 6 centres de données.
Quel que soit votre choix, c’est mensuel, payé en crypto, ouvert sans vérification d’identité et livré en moins de 5 minutes.