比較・頂点に立つBlackwellとHopperの対決
B200 SXM6かH200 SXM5か？
どちらも専有で、どちらも月額制、どちらも本人確認なしで利用開始できます。両者を分けるのはメモリ、帯域幅、そして月額$3,385の差であり、どれが重要かは何を実行するか次第です。
- $11,790/moB200 SXM6、1枚
- $8,405/moH200 SXM5、1枚
- 180 vs 141 GB1カードあたりのメモリ
- 1.7×帯域幅の差
簡潔な答え
どちらを、いつ選ぶか
- B200 SXM6を選ぶ
- モデルが1枚のカードで141GBを超えるメモリを必要とする場合。これは好みの問題ではなくしきい値であり、それを下回るなら、追加の月額$3,385には何の意味もありません。
- H200 SXM5を選ぶ
- 141GBでモデルが収まる場合。月額$3,385節約でき、使わないメモリは払っただけ無駄になります。
- Neither, if
- どちらのカード1枚にもモデルが収まらない場合。シャーディングには各レイヤーで同期コストが発生します。詳しくは インターコネクトガイド マルチGPUノードを購入する前に。
並べて比較
| B200 SXM6 | H200 SXM5 | 差 | |
|---|---|---|---|
| アーキテクチャ | Blackwell | Hopper | Blackwellの方が新しい |
| カードあたりのメモリ | 180GBHBM3e | 141GBHBM3e | 39GB分、B200 SXM6が有利 |
| メモリ帯域幅 | 8,000 GB/s | 4,800 GB/s | 1.67倍、B200 SXM6が有利 |
| フォームファクター | HGXボード上のSXM | HGXボード上のSXM | 同じ |
| ノードサイズ | 4×, 8× | 4×, 8× | 1ノードで最大1440GB |
| 月額（〜から） | $11,790 | $8,405 | 月額$3,385の差 |
全ノードサイズの価格
| ノード | B200 SXM6 | H200 SXM5 | 総VRAM容量 | |
|---|---|---|---|---|
| 4 × GPU | $11,790/mo | $8,405/mo | 720 GB / 564 GB | B200 SXM6 H200 SXM5 |
| 8 × GPU | $22,351/mo | $15,945/mo | 1440 GB / 1128 GB | B200 SXM6 H200 SXM5 |
それぞれが1枚のカードで保持できる量
8kコンテキストにおいて、収まる範囲で最も高い精度を使用します。購入を決めるのはこの違いであり、スペック表ではありません。
B200 SXM6のみ
ありません。B200 SXM6が1枚のカードで保持できるモデルは、H200 SXM5もすべて保持できます。両者の違いは能力ではなく速度です。
H200 SXM5のみ
ありません。B200 SXM6はH200 SXM5が保持できるものをすべて保持できます。
両方で同じモデル:Llama 3.3 70B。
B200 SXM6ではBF16 / FP16においておよそ26トークン/秒、
H200 SXM5ではおよそ31です。
いずれもシングルストリームでの、意図的に控えめな数値です。連続バッチ処理を用いれば、両者とも合計スループットは数倍に達します。参考にすべきは絶対値ではなく、この比率です。
GBあたり、TB/秒あたりのコスト
スペック表を読み解く2つの比率です。1つ目はメモリの単価を、2つ目は速度の単価を示します。
| カード | $/GB(VRAM)、月額 | $/TB/秒、月額 | 得意な点 |
|---|---|---|---|
| B200 SXM6 | $65.50 | $1,474 | 帯域幅 |
| H200 SXM5 | $59.61 | $1,751 | メモリ |
これらの比率はカードの順位付けに使うものであり、選択そのものを決めるものではありません。1GBあたりの単価が安くても、モデルを保持するのに十分な容量がなければ意味がありません。容量は連続的な指標ではなく、満たすか満たさないかのしきい値です。両方とも要件を満たすカード同士で迷ったときに、これらの比率を使って判断してください。
B200 SXM6対H200 SXM5、要約
B200 SXM6はH200 SXM5より高い分の価値がありますか？
月額$3,385高くなります(40%)。それにより、メモリ帯域幅がメモリ39GB増、かつ67%増加します。どちらも1枚のカードで保持できるモデルの範囲は同じであり、違いは能力ではなく速度です。
LLM推論はどちらが高速ですか？
生成速度はメモリ帯域幅によって制限されます。各トークンの生成のたびに、有効な重みを読み直す必要があるためです。B200 SXM6は8,000GB/s、対する4,800GB/sであるため、両者が保持できるモデルにおいてB200 SXM6がおよそ67%上回ります。
どちらもマルチGPUノードとして提供されますか？
B200 SXM6: 4×, 8×. H200 SXM5: 4×, 8×. SXMカードはHGXボード上に4基または8基で搭載され（2基や10基になることはありません）、PCIeではなくNVLinkで接続されます。
どちらも本人確認なしで借りられますか？
はい、どちらも同じ条件です。身分証明書も自撮り写真も電話番号も法人登記も不要で、支払い額の多寡は関係ありません。支払いは暗号資産で行い、請求書ごとに個別のアドレスが発行され、rootアクセスは最初の承認から5分未満後に利用可能になります。
他の比較
どちらもラックに搭載済みで、6か所すべてのデータセンターで待機しています。
どちらを選んでも、月額制・暗号資産払い・本人確認不要で、5分未満で提供されます。