A100 PCIe ou L40S?
Ambas são dedicadas, ambas são mensais, ambas abrem sem verificação de identidade. O que as separa é memória, largura de banda e $377 por mês — e qual delas importa depende inteiramente do que você pretende executar.
- $1,091/moA100 PCIe, uma placa
- $714/moL40S, uma placa
- 80 vs 48 GBmemória por placa
- 2.2×diferença de largura de banda
A resposta curta
Qual delas, e quando
- Escolher a A100 PCIe
- quando seu modelo precisa de mais de 48 GB em uma única placa. Isso é um limiar, não uma preferência — abaixo dele, o $377/mês extra não compra nada.
- Escolher a L40S
- quando 48 GB comporta seu modelo. Você economiza $377/mês, e memória que você não usa é memória que você pagou.
- Neither, if
- seu modelo não cabe em uma única placa de nenhuma das duas. O sharding custa sincronização em cada camada — veja o guia de interconexão antes de comprar um nó multi-GPU.
Lado a lado
| A100 PCIe | L40S | Diferença | |
|---|---|---|---|
| Arquitetura | Ampere | Ada Lovelace | Ampere é de uma geração diferente |
| Memória por placa | 80 GB HBM2e | 48 GB GDDR6 ECC | 32 GB a favor da A100 PCIe |
| Largura de banda de memória | 1,935 GB/s | 864 GB/s | 2.24× a favor da A100 PCIe |
| Fator de forma | Placa de expansão PCIe | Placa de expansão PCIe | Igual |
| Tamanhos de nó | 1×, 2×, 4×, 8× | 1×, 2×, 4×, 8× | Até 640 GB em um nó |
| A partir de, por mês | $1,091 | $714 | $377/mês de diferença |
Preço em cada tamanho de nó
| Nó | A100 PCIe | L40S | VRAM total | |
|---|---|---|---|---|
| 1 × GPU | $1,091/mo | $714/mo | 80 GB / 48 GB | A100 PCIe L40S |
| 2 × GPU | $2,159/mo | $1,427/mo | 160 GB / 96 GB | A100 PCIe L40S |
| 4 × GPU | $4,157/mo | $2,754/mo | 320 GB / 192 GB | A100 PCIe L40S |
| 8 × GPU | $7,906/mo | $5,251/mo | 640 GB / 384 GB | A100 PCIe L40S |
O que cada uma comporta em uma única placa
Em contexto de 8k, a melhor precisão que couber. Essa é a diferença que decide uma compra — não a ficha técnica.
Somente a A100 PCIe
Nada. Todo modelo que a A100 PCIe comporta em uma placa, a L40S também comporta — a diferença entre elas é velocidade, não capacidade.
Somente a L40S
Nada. A A100 PCIe comporta tudo o que a L40S comporta.
Custo por GB e por TB/s
Duas proporções que vão direto ao ponto na ficha técnica. A primeira diz quanto custa a memória; a segunda, quanto custa a velocidade.
| Placa | $/GB de VRAM, por mês | $/TB por segundo, por mês | Melhor em |
|---|---|---|---|
| A100 PCIe | $13.64 | $564 | As duas proporções |
| L40S | $14.88 | $714 | Nenhuma das duas |
Essas proporções classificam as placas; elas não escolhem uma. Uma placa mais barata por gigabyte não vale nada se tiver gigabytes de menos para sequer comportar seu modelo — capacidade é um limiar, não uma inclinação. Use-as para desempatar entre duas placas que cabem igualmente.
A100 PCIe contra L40S, em resumo
A A100 PCIe vale o dinheiro extra em relação à L40S?
Qual é mais rápida para inferência de LLM?
Ambos vêm como nós multi-GPU?
Posso alugar qualquer uma delas sem verificação de identidade?
Outras comparações
Ambas estão instaladas em rack e prontas, em todos os 6 centros de dados.
Qualquer uma que você escolha é mensal, paga em cripto, aberta sem verificação de identidade e entregue em em menos de 5 minutos.