A100 PCIe 80 GB ou A100 PCIe 40 GB ?
Les deux sont dédiées, les deux sont mensuelles, les deux s’ouvrent sans vérification d’identité. Ce qui les sépare, c’est la mémoire, la bande passante et $699 par mois — et lequel de ces facteurs compte dépend entièrement de ce que vous comptez faire tourner.
- $1,091/moA100 PCIe 80 GB, une carte
- $392/moA100 PCIe 40 GB, une carte
- 80 vs 40 GBmémoire par carte
- 1.2×écart de bande passante
En bref
Lequel, et quand
- Choisissez le A100 PCIe 80 GB
- quand votre modèle a besoin de plus de 40 GB sur une seule carte. C’est un seuil, pas une préférence — en dessous, les $699/mois supplémentaires ne vous apportent rien.
- Choisissez le A100 PCIe 40 GB
- quand 40 GB suffit à contenir votre modèle. Vous économisez $699/mois, et la mémoire que vous n’utilisez pas reste de la mémoire que vous avez payée.
- Neither, if
- votre modèle ne tient sur une seule carte, ni de l’un ni de l’autre. La répartition entre cartes coûte de la synchronisation à chaque couche — voir le guide sur l’interconnexion avant d’acheter un nœud multi-GPU.
Côte à côte
| A100 PCIe 80 GB | A100 PCIe 40 GB | Différence | |
|---|---|---|---|
| Architecture | Ampere | Ampere | Même génération |
| Mémoire par carte | 80 GB HBM2e | 40 GB HBM2 | 40 GB en faveur du A100 PCIe 80 GB |
| Bande passante mémoire | 1,935 GB/s | 1,555 GB/s | 1.24× en faveur du A100 PCIe 80 GB |
| Facteur de forme | Carte d’extension PCIe | Carte d’extension PCIe | Aucune différence |
| Tailles de nœud | 1×, 2×, 4×, 8× | 1×, 2×, 4×, 8× | Jusqu’à 640 GB dans un seul nœud |
| À partir de, par mois | $1,091 | $392 | $699/mois d’écart |
Prix à chaque taille de nœud
| Nœud | A100 PCIe 80 GB | A100 PCIe 40 GB | VRAM totale | |
|---|---|---|---|---|
| 1 × GPU | $1,091/mo | $392/mo | 80 GB / 40 GB | A100 PCIe 80 GB A100 PCIe 40 GB |
| 2 × GPU | $2,159/mo | $802/mo | 160 GB / 80 GB | A100 PCIe 80 GB A100 PCIe 40 GB |
| 4 × GPU | $4,157/mo | $1,556/mo | 320 GB / 160 GB | A100 PCIe 80 GB A100 PCIe 40 GB |
| 8 × GPU | $7,906/mo | $2,983/mo | 640 GB / 320 GB | A100 PCIe 80 GB A100 PCIe 40 GB |
Ce que chacun contient sur une seule carte
À un contexte de 8k, la meilleure précision qui tient. C’est cette différence qui décide un achat — pas la fiche technique.
Seul le A100 PCIe 80 GB
- Llama 3.3 70B — 4-bit (AWQ, GPTQ), ~25 tok/s
Seul le A100 PCIe 40 GB
Rien. Le A100 PCIe 80 GB tient tout ce que tient le A100 PCIe 40 GB.
Coût par GB et par TB/s
Deux ratios qui simplifient la fiche technique. Le premier indique ce que coûte la mémoire ; le second, ce que coûte la vitesse.
| Carte | $/GB de VRAM, par mois | $/TB par seconde, par mois | Meilleur pour |
|---|---|---|---|
| A100 PCIe 80 GB | $13.64 | $564 | Aucun des deux |
| A100 PCIe 40 GB | $9.80 | $252 | Les deux ratios |
Ces ratios classent les cartes ; ils n’en choisissent pas une. Une carte moins chère par gigaoctet ne vaut rien si elle n’a pas assez de gigaoctets pour tenir votre modèle — la capacité est un seuil, pas une pente. Utilisez-les pour départager deux cartes qui tiennent toutes les deux.
A100 PCIe 80 GB contre A100 PCIe 40 GB, en bref
Le A100 PCIe 80 GB vaut-il le surcoût par rapport au A100 PCIe 40 GB ?
Lequel est le plus rapide pour l’inférence LLM ?
Les deux existent-elles en nœuds multi-GPU ?
Puis-je louer l’une ou l’autre sans vérification d’identité ?
Autres comparaisons
Les deux sont installées en baie et prêtes, dans l’ensemble des 6 centres de données.
Quel que soit votre choix, c’est mensuel, payé en crypto, ouvert sans vérification d’identité et livré en moins de 5 minutes.