¿B200 SXM6 o H200 SXM5?
Ambas son dedicadas, ambas son mensuales, ambas se activan sin verificación de identidad. Lo que las separa es la memoria, el ancho de banda y $3,385 al mes; y cuál de ellos importa depende por completo de lo que vaya a ejecutar.
- $11,790/moB200 SXM6, una tarjeta
- $8,405/moH200 SXM5, una tarjeta
- 180 vs 141 GBmemoria por tarjeta
- 1.7×diferencia de ancho de banda
La respuesta corta
Cuál, y cuándo
- Elegir la B200 SXM6
- cuando su modelo necesite más de 141 GB en una sola tarjeta. Eso es un umbral, no una preferencia: por debajo de él, los $3,385/mes de más no le compran nada.
- Elegir la H200 SXM5
- cuando 141 GB aloja su modelo. Ahorra $3,385/mes, y la memoria que no usa es memoria que ha pagado.
- Neither, if
- su modelo no cabe en una sola tarjeta de ninguna de las dos. El sharding tiene un coste de sincronización en cada capa: consulte la guía de interconexión antes de comprar un nodo multi-GPU.
Lado a lado
| B200 SXM6 | H200 SXM5 | Diferencia | |
|---|---|---|---|
| Arquitectura | Blackwell | Hopper | Blackwell es más reciente |
| Memoria por tarjeta | 180 GB HBM3e | 141 GB HBM3e | 39 GB a favor de la B200 SXM6 |
| Ancho de banda de memoria | 8,000 GB/s | 4,800 GB/s | 1.67× a favor de la B200 SXM6 |
| Factor de forma | SXM en una placa HGX | SXM en una placa HGX | Igual |
| Tamaños de nodo | 4×, 8× | 4×, 8× | Hasta 1440 GB en un nodo |
| Desde, al mes | $11,790 | $8,405 | $3,385/mes de diferencia |
Precio en cada tamaño de nodo
| Nodo | B200 SXM6 | H200 SXM5 | VRAM total | |
|---|---|---|---|---|
| 4 × GPU | $11,790/mo | $8,405/mo | 720 GB / 564 GB | B200 SXM6 H200 SXM5 |
| 8 × GPU | $22,351/mo | $15,945/mo | 1440 GB / 1128 GB | B200 SXM6 H200 SXM5 |
Qué aloja cada una en una sola tarjeta
Con un contexto de 8k, la mejor precisión que cabe. Esa es la diferencia que decide una compra, no la ficha técnica.
Solo la B200 SXM6
Nada. Todos los modelos que la B200 SXM6 aloja en una tarjeta, la H200 SXM5 también los aloja: la diferencia entre ambas está en la velocidad, no en la capacidad.
Solo la H200 SXM5
Nada. La B200 SXM6 aloja todo lo que aloja la H200 SXM5.
Coste por GB y por TB/s
Dos ratios que van directas al grano de la ficha técnica. La primera indica lo que cuesta la memoria; la segunda, lo que cuesta la velocidad.
| Tarjeta | $/GB de VRAM, al mes | $/TB por segundo, al mes | Mejor en |
|---|---|---|---|
| B200 SXM6 | $65.50 | $1,474 | Ancho de banda |
| H200 SXM5 | $59.61 | $1,751 | Memoria |
Estas ratios clasifican las tarjetas; no eligen ninguna. Una tarjeta más barata por gigabyte no vale nada si tiene muy pocos gigabytes para alojar su modelo: la capacidad es un umbral, no una pendiente. Úselas para desempatar entre dos tarjetas que quepan ambas.
B200 SXM6 frente a H200 SXM5, en resumen
¿Merece la pena el gasto extra de la B200 SXM6 frente a la H200 SXM5?
¿Cuál es más rápida para la inferencia de LLM?
¿Existen ambas como nodos multi-GPU?
¿Puedo alquilar cualquiera de las dos sin verificación de identidad?
Otras comparativas
Ambas están instaladas en rack y listas, en los 6 centros de datos.
Elija la que elija, es mensual, se paga en cripto, se activa sin verificación de identidad y se entrega en en menos de 5 minutos.