비교 · Blackwell로 올릴 만합니까?
H100 SXM5 또는 B200 SXM6?
둘 다 전용이고, 둘 다 월 단위이며, 둘 다 신원 확인 없이 개통됩니다. 두 카드를 가르는 것은 메모리, 대역폭, 그리고 월 $5,729의 차이입니다 — 그중 무엇이 중요한지는 무엇을 돌릴 것인지에 전적으로 달려 있습니다.
- $6,061/moH100 SXM5, 카드 1장
- $11,790/moB200 SXM6, 카드 1장
- 80 vs 180 GB카드당 메모리
- 2.4×대역폭 격차
짧은 답
어느 쪽을 언제 선택할지
- H100 SXM5 선택
- 80 GB로 모델이 들어갈 때. 월 $5,729 절감이며, 쓰지 않는 메모리도 돈을 낸 메모리입니다.
- B200 SXM6 선택
- 모델이 카드 1장에서 80 GB를 넘게 필요로 할 때. 이는 선호가 아니라 문턱값입니다 — 그 아래에서는 월 $5,729 추가 지출로 얻는 것이 없습니다.
- Neither, if
- 두 카드 모두 카드 1장에는 모델이 들어가지 않는 경우입니다. 샤딩은 레이어마다 동기화 비용을 치릅니다 — 다음을 참조하십시오: 인터커넥트 가이드 멀티 GPU 노드를 구매하기 전에.
나란히 비교
| H100 SXM5 | B200 SXM6 | 차이 | |
|---|---|---|---|
| 아키텍처 | Hopper | Blackwell | Hopper 쪽이 더 구형 |
| 카드당 메모리 | 80 GB HBM3 | 180 GB HBM3e | B200 SXM6 카드가 100 GB 더 많음 |
| 메모리 대역폭 | 3,350 GB/s | 8,000 GB/s | B200 SXM6 카드가 2.39배 우위 |
| 폼팩터 | HGX 보드의 SXM | HGX 보드의 SXM | 같음 |
| 노드 크기 | 4×, 8× | 4×, 8× | 노드 1개에 최대 1440 GB |
| 월 최저 요금 | $6,061 | $11,790 | 월 $5,729 차이 |
노드 크기별 가격
| 노드 | H100 SXM5 | B200 SXM6 | 총 VRAM | |
|---|---|---|---|---|
| 4 × GPU | $6,061/mo | $11,790/mo | 320 GB / 720 GB | H100 SXM5 B200 SXM6 |
| 8 × GPU | $11,509/mo | $22,351/mo | 640 GB / 1440 GB | H100 SXM5 B200 SXM6 |
각 카드가 카드 1장에 담는 모델
8k 컨텍스트에서 들어가는 것 중 가장 높은 정밀도입니다. 구매를 결정하는 것은 이 차이입니다 — 사양표가 아닙니다.
H100 SXM5만 담는 모델
없습니다. H100 SXM5 카드가 카드 1장에 담는 모든 모델은 B200 SXM6 카드도 담습니다 — 두 카드의 차이는 담을 수 있는지가 아니라 속도입니다.
B200 SXM6만 담는 모델
- Qwen 3 235B-A22B (MoE) — 4-bit (AWQ, GPTQ), 약 59 tok/s
- Mixtral 8×22B (MoE) — FP8, 약 17 tok/s
두 카드에 같은 모델을 올렸을 때: Llama 3.3 70B.
H100 SXM5 카드에서는 4-bit (AWQ, GPTQ) 기준 초당 약 43 토큰, B200 SXM6 카드에서는 약 26 토큰입니다. 단일 스트림 기준이며 의도적으로 보수적으로 잡았습니다 — 연속 배칭을 쓰면 두 카드 모두 총 처리량이 몇 배 높아집니다. 절대값이 아니라 비율을 유용한 수치로 보십시오.
GB당 비용과 TB/s당 비용
사양표를 꿰뚫는 두 가지 지표입니다. 첫째는 메모리의 값을, 둘째는 속도의 값을 알려 줍니다.
| 카드 | $/VRAM GB, 월 단위 | $/초당 TB, 월 단위 | 우위 항목 |
|---|---|---|---|
| H100 SXM5 | $75.76 | $1,809 | 둘 다 아님 |
| B200 SXM6 | $65.50 | $1,474 | 두 지표 모두 |
이 지표는 카드의 순위를 매길 뿐, 카드를 골라 주지는 않습니다. GB당 더 저렴한 카드라도 모델을 담을 GB 자체가 부족하면 아무 소용이 없습니다 — 용량은 완만한 곡선이 아니라 문턱값입니다. 두 카드 모두 모델이 들어갈 때 우열을 가리는 용도로 쓰십시오.
H100 SXM5 대 B200 SXM6, 요약
B200 SXM6 대비 H100 SXM5에 돈을 더 쓸 만합니까?
오히려 월 $5,729 더 저렴합니다. B200 SXM6 카드가 더 비싼 것은 메모리나 대역폭 때문입니다. 그만한 값어치가 있는지는 모델이 H100 SXM5 카드에 들어가는지에 달려 있습니다.
LLM 추론에는 어느 쪽이 더 빠릅니까?
생성 속도는 메모리 대역폭이 좌우합니다. 토큰마다 활성 가중치를 다시 읽어야 하기 때문입니다. H100 SXM5 카드의 대역폭은 3,350 GB/s, 비교 대상은 8,000 GB/s입니다. 따라서 두 카드가 모두 담는 모델에서는 B200 SXM6 카드가 약 58% 앞섭니다.
두 카드 모두 멀티 GPU 노드로 제공됩니까?
H100 SXM5: 4×, 8×. B200 SXM6: 4×, 8×. SXM 카드는 4장 또는 8장짜리 HGX 보드에 장착됩니다 — 2장이나 10장 구성은 없습니다 — 그리고 PCIe가 아니라 NVLink로 연결됩니다.
두 카드 모두 신원 확인 없이 임대할 수 있습니까?
예, 두 카드 모두 같은 조건입니다. 금액과 무관하게 서류도, 셀카도, 전화번호도, 사업자 등록도 요구하지 않습니다. 결제는 암호화폐로 하고, 청구서마다 고유 입금 주소가 발급되며, 첫 승인 후 5분 미만 안에 root 권한이 전달됩니다.