Todos os 6 centros de dados operacionais

Pago em cripto · Sem verificação de identidade · Acesso root em em menos de 5 minutos

Comparação · As duas placas PCIe de 80 GB

H100 PCIe ou A100 PCIe?

Ambas são dedicadas, ambas são mensais, ambas abrem sem verificação de identidade. O que as separa é memória, largura de banda e $378 por mês — e qual delas importa depende inteiramente do que você pretende executar.

  • $1,469/moH100 PCIe, uma placa
  • $1,091/moA100 PCIe, uma placa
  • 80 vs 80 GBmemória por placa
  • 1.0×diferença de largura de banda

A resposta curta

Qual delas, e quando

Escolher a H100 PCIe
quando você quer a geração mais nova pela mesma capacidade — espere pouca diferença na prática.
Escolher a A100 PCIe
quando a H100 PCIe não oferece nada que você precise. Mesma memória, largura de banda comparável, $378/mês mais barata.
Neither, if
seu modelo não cabe em uma única placa de nenhuma das duas. O sharding custa sincronização em cada camada — veja o guia de interconexão antes de comprar um nó multi-GPU.

Lado a lado

H100 PCIe comparada com A100 PCIe
H100 PCIe A100 PCIe Diferença
ArquiteturaHopperAmpere Hopper é de uma geração diferente
Memória por placa 80 GB HBM3 80 GB HBM2e Idêntica
Largura de banda de memóriaPrevê a velocidade de geração 2,000 GB/s 1,935 GB/s 1.03× a favor da H100 PCIe
Fator de forma Placa de expansão PCIe Placa de expansão PCIe Igual
Tamanhos de nó 1×, 2×, 4×, 8× 1×, 2×, 4×, 8× Até 640 GB em um nó
A partir de, por mês $1,469 $1,091 $378/mês de diferença

Preço em cada tamanho de nó

Preço mensal de ambas as placas em cada tamanho de nó disponível
H100 PCIeA100 PCIeVRAM total
1 × GPU $1,469/mo $1,091/mo 80 GB / 80 GB H100 PCIe A100 PCIe
2 × GPU $2,892/mo $2,159/mo 160 GB / 160 GB H100 PCIe A100 PCIe
4 × GPU $5,564/mo $4,157/mo 320 GB / 320 GB H100 PCIe A100 PCIe
8 × GPU $10,568/mo $7,906/mo 640 GB / 640 GB H100 PCIe A100 PCIe

O que cada uma comporta em uma única placa

Em contexto de 8k, a melhor precisão que couber. Essa é a diferença que decide uma compra — não a ficha técnica.

Somente a H100 PCIe

Nada. Todo modelo que a H100 PCIe comporta em uma placa, a A100 PCIe também comporta — a diferença entre elas é velocidade, não capacidade.

Somente a A100 PCIe

Nada. A H100 PCIe comporta tudo o que a A100 PCIe comporta.

O mesmo modelo em ambas: Llama 3.3 70B. Na H100 PCIe, aproximadamente 26 tokens por segundo a 4-bit (AWQ, GPTQ); na A100 PCIe, aproximadamente 25. Fluxo único e deliberadamente conservador — com processamento contínuo por lotes, o agregado é várias vezes maior em ambas. Trate a proporção como o número útil, não o valor absoluto.

Custo por GB e por TB/s

Duas proporções que vão direto ao ponto na ficha técnica. A primeira diz quanto custa a memória; a segunda, quanto custa a velocidade.

Custo por gigabyte de VRAM e por terabyte por segundo de largura de banda
Placa$/GB de VRAM, por mês$/TB por segundo, por mêsMelhor em
H100 PCIe $18.36 $735 Nenhuma das duas
A100 PCIe $13.64 $564 As duas proporções

Essas proporções classificam as placas; elas não escolhem uma. Uma placa mais barata por gigabyte não vale nada se tiver gigabytes de menos para sequer comportar seu modelo — capacidade é um limiar, não uma inclinação. Use-as para desempatar entre duas placas que cabem igualmente.

H100 PCIe contra A100 PCIe, em resumo

A H100 PCIe vale o dinheiro extra em relação à A100 PCIe?
Ela custa $378 a mais por mês — 35% — por 3% mais largura de banda de memória. Ambas comportam o mesmo conjunto de modelos em uma única placa, então a diferença é de velocidade, não de capacidade.
Qual é mais rápida para inferência de LLM?
A velocidade de geração é limitada pela largura de banda de memória, porque cada token exige reler os pesos ativos. A H100 PCIe tem 2,000 GB/s contra 1,935 GB/s, então a H100 PCIe lidera em cerca de 3% em um modelo que ambas comportam.
Ambos vêm como nós multi-GPU?
H100 PCIe: 1×, 2×, 4×, 8×. A100 PCIe: 1×, 2×, 4×, 8×. Ambas são placas PCIe, conectadas ponto a ponto pelo barramento, e não por NVLink.
Posso alugar qualquer uma delas sem verificação de identidade?
Sim, ambas, nos mesmos termos. Nenhum documento, nenhuma selfie, nenhum número de telefone e nenhum registro de empresa, seja qual for o valor gasto. O pagamento é em criptomoeda, cada fatura recebe seu próprio endereço, e o acesso root chega em menos de 5 minutos após a primeira confirmação.

Outras comparações

Ambas estão instaladas em rack e prontas, em todos os 6 centros de dados.

Qualquer uma que você escolha é mensal, paga em cripto, aberta sem verificação de identidade e entregue em em menos de 5 minutos.

Entrar

Console, faturas e acesso fora de banda.

Ainda não tem uma conta?

Não existe cadastro separado. Sua conta é criada enquanto você faz seu primeiro pedido — você escolhe o e-mail e a senha na etapa de pagamento, e o console já está aberto quando a máquina estiver pronta.

Configurar um servidor

Language