对比 · Blackwell 对阵 Hopper,位居顶端
B200 SXM6 还是 H200 SXM5?
两者都是独享服务器,都按月计费,开通都无需身份核验。区别在于显存、带宽,以及每月 $3,385 的价差——而这些差异是否重要,完全取决于您打算运行什么。
- $11,790/moB200 SXM6,单卡
- $8,405/moH200 SXM5,单卡
- 180 vs 141 GB每卡显存
- 1.7×带宽差距
简短的答案
该选哪一款,以及何时选
- 选择 B200 SXM6
- 当您的模型在单卡上需要超过 141 GB 时。这是一道门槛,而非个人偏好——低于这个门槛,多花的每月 $3,385 什么也买不到。
- 选择 H200 SXM5
- 当 141 GB 就能容纳您的模型时。这样每月能省下 $3,385,而用不上的显存,也是您掏钱买的显存。
- Neither, if
- 您的模型在任何一款单卡上都装不下。拆分会在每一层都产生同步开销——请参阅 互联指南 购买多 GPU 节点之前。
并排对比
| B200 SXM6 | H200 SXM5 | 差异 | |
|---|---|---|---|
| 架构 | Blackwell | Hopper | Blackwell 更新 |
| 单卡显存 | 180 GB HBM3e | 141 GB HBM3e | 多出 39 GB,优势归 B200 SXM6 |
| 显存带宽 | 8,000 GB/s | 4,800 GB/s | 1.67×,优势归 B200 SXM6 |
| 封装形式 | HGX 主板上的 SXM | HGX 主板上的 SXM | 相同 |
| 节点规格 | 4×, 8× | 4×, 8× | 单节点最高可达 1440 GB |
| 起价,每月 | $11,790 | $8,405 | 相差 $3,385/月 |
每种节点规格的价格
| 节点 | B200 SXM6 | H200 SXM5 | 总显存 | |
|---|---|---|---|---|
| 4 × GPU | $11,790/mo | $8,405/mo | 720 GB / 564 GB | B200 SXM6 H200 SXM5 |
| 8 × GPU | $22,351/mo | $15,945/mo | 1440 GB / 1128 GB | B200 SXM6 H200 SXM5 |
各自在单卡上能容纳什么
在 8k 上下文下,选用能放得下的最佳精度。真正决定购买与否的是这一差异——而非规格表。
仅 B200 SXM6
没有。B200 SXM6 能在单卡容纳的每一款模型,H200 SXM5 也同样能容纳——两者的差异在于速度,而非能力。
仅 H200 SXM5
没有。B200 SXM6 能容纳 H200 SXM5 所能容纳的一切。
两者上运行同一模型:Llama 3.3 70B。
在 B200 SXM6 上,约为每秒 26 个 token(BF16 / FP16 时);
在 H200 SXM5 上,约为 31。
此数据为单流保守估算——在连续批处理下,两者的总吞吐量都会高出数倍。请把比值而非绝对值当作有参考意义的数字。
每 GB 与每 TB/s 的成本
两项比率,帮您看穿规格表背后的真相:第一项告诉您显存的价格,第二项告诉您速度的价格。
| 显卡 | $/GB 显存,每月 | $/TB 每秒,每月 | 更擅长 |
|---|---|---|---|
| B200 SXM6 | $65.50 | $1,474 | 带宽 |
| H200 SXM5 | $59.61 | $1,751 | 显存 |
这些比率用于给显卡排序,而不是替您做选择。如果一款显卡每 GB 更便宜,但显存总量根本不足以容纳您的模型,那这种便宜毫无意义——容量是一道门槛,而非一条渐变的曲线。请用这些比率,在两款都能装下您模型的显卡之间做取舍。
B200 SXM6 对比 H200 SXM5,简而言之
B200 SXM6 比 H200 SXM5 贵出的部分,值得吗?
每月贵 $3,385——即 40%——换来 多 39 GB 显存,以及67% 的显存带宽提升。两者在单卡上可容纳的模型集合相同,因此差异在于速度,而非能力。
在 LLM 推理方面,哪一款更快?
生成速度受限于显存带宽,因为每生成一个 token 都需要重新读取一次激活权重。B200 SXM6 的带宽为 8,000 GB/s,而对方为 4,800 GB/s,因此在双方都能容纳的模型上,B200 SXM6 的速度大约领先 67%。
两者都提供多 GPU 节点吗?
B200 SXM6: 4×, 8×. H200 SXM5: 4×, 8×. SXM 显卡搭载在四卡或八卡的 HGX 主板上——不会是两卡或十卡——并通过 NVLink 而非 PCIe 互联。
这两款我都能在无需身份核验的情况下租用吗?
是的,两款都一样,条件完全相同。无论消费金额多少,都无需证件、无需自拍照、无需电话号码,也无需公司注册信息。付款以加密货币结算,每张账单都有专属地址,首次确认到账后 5 分钟以内 内即可获得 root 权限。