A100 PCIe ou L40S ?
Les deux sont dédiées, les deux sont mensuelles, les deux s’ouvrent sans vérification d’identité. Ce qui les sépare, c’est la mémoire, la bande passante et $377 par mois — et lequel de ces facteurs compte dépend entièrement de ce que vous comptez faire tourner.
- $1,091/moA100 PCIe, une carte
- $714/moL40S, une carte
- 80 vs 48 GBmémoire par carte
- 2.2×écart de bande passante
En bref
Lequel, et quand
- Choisissez le A100 PCIe
- quand votre modèle a besoin de plus de 48 GB sur une seule carte. C’est un seuil, pas une préférence — en dessous, les $377/mois supplémentaires ne vous apportent rien.
- Choisissez le L40S
- quand 48 GB suffit à contenir votre modèle. Vous économisez $377/mois, et la mémoire que vous n’utilisez pas reste de la mémoire que vous avez payée.
- Neither, if
- votre modèle ne tient sur une seule carte, ni de l’un ni de l’autre. La répartition entre cartes coûte de la synchronisation à chaque couche — voir le guide sur l’interconnexion avant d’acheter un nœud multi-GPU.
Côte à côte
| A100 PCIe | L40S | Différence | |
|---|---|---|---|
| Architecture | Ampere | Ada Lovelace | Ampere est d’une génération différente |
| Mémoire par carte | 80 GB HBM2e | 48 GB GDDR6 ECC | 32 GB en faveur du A100 PCIe |
| Bande passante mémoire | 1,935 GB/s | 864 GB/s | 2.24× en faveur du A100 PCIe |
| Facteur de forme | Carte d’extension PCIe | Carte d’extension PCIe | Aucune différence |
| Tailles de nœud | 1×, 2×, 4×, 8× | 1×, 2×, 4×, 8× | Jusqu’à 640 GB dans un seul nœud |
| À partir de, par mois | $1,091 | $714 | $377/mois d’écart |
Prix à chaque taille de nœud
| Nœud | A100 PCIe | L40S | VRAM totale | |
|---|---|---|---|---|
| 1 × GPU | $1,091/mo | $714/mo | 80 GB / 48 GB | A100 PCIe L40S |
| 2 × GPU | $2,159/mo | $1,427/mo | 160 GB / 96 GB | A100 PCIe L40S |
| 4 × GPU | $4,157/mo | $2,754/mo | 320 GB / 192 GB | A100 PCIe L40S |
| 8 × GPU | $7,906/mo | $5,251/mo | 640 GB / 384 GB | A100 PCIe L40S |
Ce que chacun contient sur une seule carte
À un contexte de 8k, la meilleure précision qui tient. C’est cette différence qui décide un achat — pas la fiche technique.
Seul le A100 PCIe
Rien. Chaque modèle que le A100 PCIe tient sur une carte, le L40S le tient aussi — la différence entre eux est la vitesse, pas la capacité.
Seul le L40S
Rien. Le A100 PCIe tient tout ce que tient le L40S.
Coût par GB et par TB/s
Deux ratios qui simplifient la fiche technique. Le premier indique ce que coûte la mémoire ; le second, ce que coûte la vitesse.
| Carte | $/GB de VRAM, par mois | $/TB par seconde, par mois | Meilleur pour |
|---|---|---|---|
| A100 PCIe | $13.64 | $564 | Les deux ratios |
| L40S | $14.88 | $714 | Aucun des deux |
Ces ratios classent les cartes ; ils n’en choisissent pas une. Une carte moins chère par gigaoctet ne vaut rien si elle n’a pas assez de gigaoctets pour tenir votre modèle — la capacité est un seuil, pas une pente. Utilisez-les pour départager deux cartes qui tiennent toutes les deux.
A100 PCIe contre L40S, en bref
Le A100 PCIe vaut-il le surcoût par rapport au L40S ?
Lequel est le plus rapide pour l’inférence LLM ?
Les deux existent-elles en nœuds multi-GPU ?
Puis-je louer l’une ou l’autre sans vérification d’identité ?
Autres comparaisons
Les deux sont installées en baie et prêtes, dans l’ensemble des 6 centres de données.
Quel que soit votre choix, c’est mensuel, payé en crypto, ouvert sans vérification d’identité et livré en moins de 5 minutes.