¿H100 SXM5 o H100 PCIe?
Ambas son dedicadas, ambas son mensuales, ambas se activan sin verificación de identidad. Lo que las separa es la memoria, el ancho de banda y $4,592 al mes; y cuál de ellos importa depende por completo de lo que vaya a ejecutar.
- $6,061/moH100 SXM5, una tarjeta
- $1,469/moH100 PCIe, una tarjeta
- 80 vs 80 GBmemoria por tarjeta
- 1.7×diferencia de ancho de banda
La respuesta corta
Cuál, y cuándo
- Elegir la H100 SXM5
- cuando el rendimiento importa. Los mismos 80 GB, pero un 68 % más de ancho de banda de memoria —que es lo que determina la velocidad de generación— por $4,592/mes más.
- Elegir la H100 PCIe
- cuando la H100 SXM5 no le ofrece nada que necesite. Misma memoria, ancho de banda comparable, $4,592/mes más barata.
- Neither, if
- su modelo no cabe en una sola tarjeta de ninguna de las dos. El sharding tiene un coste de sincronización en cada capa: consulte la guía de interconexión antes de comprar un nodo multi-GPU.
Lado a lado
| H100 SXM5 | H100 PCIe | Diferencia | |
|---|---|---|---|
| Arquitectura | Hopper | Hopper | Misma generación |
| Memoria por tarjeta | 80 GB HBM3 | 80 GB HBM3 | Idéntica |
| Ancho de banda de memoria | 3,350 GB/s | 2,000 GB/s | 1.68× a favor de la H100 SXM5 |
| Factor de forma | SXM en una placa HGX | Tarjeta de expansión PCIe | NVLink frente a PCIe entre tarjetas |
| Tamaños de nodo | 4×, 8× | 1×, 2×, 4×, 8× | Hasta 640 GB en un nodo |
| Desde, al mes | $6,061 | $1,469 | $4,592/mes de diferencia |
Precio en cada tamaño de nodo
| Nodo | H100 SXM5 | H100 PCIe | VRAM total | |
|---|---|---|---|---|
| 1 × GPU | $1,469/mo | 80 GB | H100 PCIe | |
| 2 × GPU | $2,892/mo | 160 GB | H100 PCIe | |
| 4 × GPU | $6,061/mo | $5,564/mo | 320 GB / 320 GB | H100 SXM5 H100 PCIe |
| 8 × GPU | $11,509/mo | $10,568/mo | 640 GB / 640 GB | H100 SXM5 H100 PCIe |
Qué aloja cada una en una sola tarjeta
Con un contexto de 8k, la mejor precisión que cabe. Esa es la diferencia que decide una compra, no la ficha técnica.
Solo la H100 SXM5
Nada. Todos los modelos que la H100 SXM5 aloja en una tarjeta, la H100 PCIe también los aloja: la diferencia entre ambas está en la velocidad, no en la capacidad.
Solo la H100 PCIe
Nada. La H100 SXM5 aloja todo lo que aloja la H100 PCIe.
Coste por GB y por TB/s
Dos ratios que van directas al grano de la ficha técnica. La primera indica lo que cuesta la memoria; la segunda, lo que cuesta la velocidad.
| Tarjeta | $/GB de VRAM, al mes | $/TB por segundo, al mes | Mejor en |
|---|---|---|---|
| H100 SXM5 | $75.76 | $1,809 | Ninguna |
| H100 PCIe | $18.36 | $735 | Ambas ratios |
Estas ratios clasifican las tarjetas; no eligen ninguna. Una tarjeta más barata por gigabyte no vale nada si tiene muy pocos gigabytes para alojar su modelo: la capacidad es un umbral, no una pendiente. Úselas para desempatar entre dos tarjetas que quepan ambas.
H100 SXM5 frente a H100 PCIe, en resumen
¿Merece la pena el gasto extra de la H100 SXM5 frente a la H100 PCIe?
¿Cuál es más rápida para la inferencia de LLM?
¿Existen ambas como nodos multi-GPU?
¿Puedo alquilar cualquiera de las dos sin verificación de identidad?
Otras comparativas
Ambas están instaladas en rack y listas, en los 6 centros de datos.
Elija la que elija, es mensual, se paga en cripto, se activa sin verificación de identidad y se entrega en en menos de 5 minutos.