H100 SXM5 ou A100 SXM4?
Ambas são dedicadas, ambas são mensais, ambas abrem sem verificação de identidade. O que as separa é memória, largura de banda e $1,666 por mês — e qual delas importa depende inteiramente do que você pretende executar.
- $6,061/moH100 SXM5, uma placa
- $4,395/moA100 SXM4, uma placa
- 80 vs 80 GBmemória por placa
- 1.6×diferença de largura de banda
A resposta curta
Qual delas, e quando
- Escolher a H100 SXM5
- quando o throughput importa. Mesmos 80 GB, mas 64% mais largura de banda de memória — o que define a velocidade de geração — por $1,666/mês a mais.
- Escolher a A100 SXM4
- quando a H100 SXM5 não oferece nada que você precise. Mesma memória, largura de banda comparável, $1,666/mês mais barata.
- Neither, if
- seu modelo não cabe em uma única placa de nenhuma das duas. O sharding custa sincronização em cada camada — veja o guia de interconexão antes de comprar um nó multi-GPU.
Lado a lado
| H100 SXM5 | A100 SXM4 | Diferença | |
|---|---|---|---|
| Arquitetura | Hopper | Ampere | Hopper é de uma geração diferente |
| Memória por placa | 80 GB HBM3 | 80 GB HBM2e | Idêntica |
| Largura de banda de memória | 3,350 GB/s | 2,039 GB/s | 1.64× a favor da H100 SXM5 |
| Fator de forma | SXM em uma placa HGX | SXM em uma placa HGX | Igual |
| Tamanhos de nó | 4×, 8× | 4×, 8× | Até 640 GB em um nó |
| A partir de, por mês | $6,061 | $4,395 | $1,666/mês de diferença |
Preço em cada tamanho de nó
| Nó | H100 SXM5 | A100 SXM4 | VRAM total | |
|---|---|---|---|---|
| 4 × GPU | $6,061/mo | $4,395/mo | 320 GB / 320 GB | H100 SXM5 A100 SXM4 |
| 8 × GPU | $11,509/mo | $8,355/mo | 640 GB / 640 GB | H100 SXM5 A100 SXM4 |
O que cada uma comporta em uma única placa
Em contexto de 8k, a melhor precisão que couber. Essa é a diferença que decide uma compra — não a ficha técnica.
Somente a H100 SXM5
Nada. Todo modelo que a H100 SXM5 comporta em uma placa, a A100 SXM4 também comporta — a diferença entre elas é velocidade, não capacidade.
Somente a A100 SXM4
Nada. A H100 SXM5 comporta tudo o que a A100 SXM4 comporta.
Custo por GB e por TB/s
Duas proporções que vão direto ao ponto na ficha técnica. A primeira diz quanto custa a memória; a segunda, quanto custa a velocidade.
| Placa | $/GB de VRAM, por mês | $/TB por segundo, por mês | Melhor em |
|---|---|---|---|
| H100 SXM5 | $75.76 | $1,809 | Largura de banda |
| A100 SXM4 | $54.94 | $2,155 | Memória |
Essas proporções classificam as placas; elas não escolhem uma. Uma placa mais barata por gigabyte não vale nada se tiver gigabytes de menos para sequer comportar seu modelo — capacidade é um limiar, não uma inclinação. Use-as para desempatar entre duas placas que cabem igualmente.
H100 SXM5 contra A100 SXM4, em resumo
A H100 SXM5 vale o dinheiro extra em relação à A100 SXM4?
Qual é mais rápida para inferência de LLM?
Ambos vêm como nós multi-GPU?
Posso alugar qualquer uma delas sem verificação de identidade?
Outras comparações
Ambas estão instaladas em rack e prontas, em todos os 6 centros de dados.
Qualquer uma que você escolha é mensal, paga em cripto, aberta sem verificação de identidade e entregue em em menos de 5 minutos.