比較・80GB PCIeカード2種

# H100 PCIeかA100 PCIeか？

どちらも専有で、どちらも月額制、どちらも本人確認なしで利用開始できます。両者を分けるのはメモリ、帯域幅、そして月額$378の差であり、どれが重要かは何を実行するか次第です。

- $1,469/mo H100 PCIe、1枚
- $1,091/mo A100 PCIe、1枚
- 80 vs 80 GB 1カードあたりのメモリ
- 1.0× 帯域幅の差

## 簡潔な答え

どちらを、いつ選ぶか

- **H100 PCIeを選ぶ:** 同じ能力でより新しい世代を求める場合。実際の差はほとんどないと考えてください。
- **A100 PCIeを選ぶ:** H100 PCIeが必要なものを何も提供しない場合。メモリは同じ、帯域幅もほぼ同等で、月額$378安くなります。
- **Neither, if:** どちらのカード1枚にもモデルが収まらない場合。シャーディングには各レイヤーで同期コストが発生します。詳しくは [インターコネクトガイド](https://gpuserver.io/ja/guides/nvlink-vs-pcie) マルチGPUノードを購入する前に。

## 並べて比較

**H100 PCIeとA100 PCIeの比較**

|  | [H100 PCIe](https://gpuserver.io/ja/gpu/h100-pcie) | [A100 PCIe](https://gpuserver.io/ja/gpu/a100-80gb) | 差 |
|---|---|---|---|
| アーキテクチャ | Hopper | Ampere | Hopperは異なる世代です |
| カードあたりのメモリ | 80GBHBM3 | 80GBHBM2e | 同一 |
| メモリ帯域幅 生成速度を予測 | 2,000 GB/s | 1,935 GB/s | 1.03倍、H100 PCIeが有利 |
| フォームファクター | PCIeアドインカード | PCIeアドインカード | 同じ |
| ノードサイズ | 1×, 2×, 4×, 8× | 1×, 2×, 4×, 8× | 1ノードで最大640GB |
| 月額（〜から） | $1,469 | $1,091 | 月額$378の差 |

## 全ノードサイズの価格

**各ノードサイズにおける両カードの月額料金**

| ノード | H100 PCIe | A100 PCIe | 総VRAM容量 |  |
|---|---|---|---|---|
| 1 × GPU | $1,469/mo | $1,091/mo | 80 GB / 80 GB | [H100 PCIe](https://gpuserver.io/ja/configure?c=h100-pcie-x1) [A100 PCIe](https://gpuserver.io/ja/configure?c=a100-80-x1) |
| 2 × GPU | $2,892/mo | $2,159/mo | 160 GB / 160 GB | [H100 PCIe](https://gpuserver.io/ja/configure?c=h100-pcie-x2) [A100 PCIe](https://gpuserver.io/ja/configure?c=a100-80-x2) |
| 4 × GPU | $5,564/mo | $4,157/mo | 320 GB / 320 GB | [H100 PCIe](https://gpuserver.io/ja/configure?c=h100-pcie-x4) [A100 PCIe](https://gpuserver.io/ja/configure?c=a100-80-x4) |
| 8 × GPU | $10,568/mo | $7,906/mo | 640 GB / 640 GB | [H100 PCIe](https://gpuserver.io/ja/configure?c=h100-pcie-x8) [A100 PCIe](https://gpuserver.io/ja/configure?c=a100-80-x8) |

## それぞれが1枚のカードで保持できる量

8kコンテキストにおいて、収まる範囲で最も高い精度を使用します。購入を決めるのはこの違いであり、スペック表ではありません。

### H100 PCIeのみ

ありません。H100 PCIeが1枚のカードで保持できるモデルは、A100 PCIeもすべて保持できます。両者の違いは能力ではなく速度です。

### A100 PCIeのみ

ありません。H100 PCIeはA100 PCIeが保持できるものをすべて保持できます。

**両方で同じモデル:Llama 3.3 70B。** H100 PCIeでは4-bit (AWQ, GPTQ)においておよそ26トークン/秒、 A100 PCIeではおよそ25です。 いずれもシングルストリームでの、意図的に控えめな数値です。連続バッチ処理を用いれば、両者とも合計スループットは数倍に達します。参考にすべきは絶対値ではなく、この*比率*です。

## GBあたり、TB/秒あたりのコスト

スペック表を読み解く2つの比率です。1つ目はメモリの単価を、2つ目は速度の単価を示します。

**VRAM 1ギガバイトあたり、および帯域幅1テラバイト/秒あたりのコスト**

| カード | $/GB(VRAM)、月額 | $/TB/秒、月額 | 得意な点 |
|---|---|---|---|
| [H100 PCIe](https://gpuserver.io/ja/gpu/h100-pcie) | $18.36 | $735 | どちらでもない |
| [A100 PCIe](https://gpuserver.io/ja/gpu/a100-80gb) | $13.64 | $564 | 両方の比率 |

これらの比率はカードの順位付けに使うものであり、選択そのものを決めるものではありません。1GBあたりの単価が安くても、モデルを保持するのに十分な容量がなければ意味がありません。容量は連続的な指標ではなく、満たすか満たさないかのしきい値です。両方とも要件を満たすカード同士で迷ったときに、これらの比率を使って判断してください。

## H100 PCIe対A100 PCIe、要約

H100 PCIeはA100 PCIeより高い分の価値がありますか？

月額$378高くなります(35%)。それにより、メモリ帯域幅が3%増加します。どちらも1枚のカードで保持できるモデルの範囲は同じであり、違いは能力ではなく速度です。

LLM推論はどちらが高速ですか？

生成速度はメモリ帯域幅によって制限されます。各トークンの生成のたびに、有効な重みを読み直す必要があるためです。H100 PCIeは2,000GB/s、対する1,935GB/sであるため、両者が保持できるモデルにおいてH100 PCIeがおよそ3%上回ります。

どちらもマルチGPUノードとして提供されますか？

H100 PCIe: 1×, 2×, 4×, 8×. A100 PCIe: 1×, 2×, 4×, 8×. どちらもPCIeカードであり、NVLinkではなくバス経由のピアツーピア接続で結ばれています。

どちらも本人確認なしで借りられますか？

はい、どちらも同じ条件です。身分証明書も自撮り写真も電話番号も法人登記も不要で、支払い額の多寡は関係ありません。支払いは暗号資産で行い、請求書ごとに個別のアドレスが発行され、rootアクセスは最初の承認から5分未満後に利用可能になります。

## 他の比較

- [H100 SXM5 vs H100 PCIe  同じカード、異なるファブリック 比較](https://gpuserver.io/ja/compare/h100-sxm5-vs-h100-pcie)
- [A100 PCIe vs A100 PCIe  同じGPUでメモリは2倍 比較](https://gpuserver.io/ja/compare/a100-80gb-vs-a100-40gb)
- [A100 PCIe vs L40S  同じ価格帯のHBMとGDDR 比較](https://gpuserver.io/ja/compare/a100-80gb-vs-l40s)

## どちらもラックに搭載済みで、6か所すべてのデータセンターで待機しています。

どちらを選んでも、月額制・暗号資産払い・本人確認不要で、5分未満で提供されます。

[コンフィギュレーターを開く](https://gpuserver.io/ja/configure) [ガイドを読む](https://gpuserver.io/ja/guides)

---

出典: https://gpuserver.io/ja/compare/h100-pcie-vs-a100-80gb/。このファイルはウェブサイトと同じデータから生成されています。ここに記載された数値がページの内容と異なる場合、ページの内容が正となり、このファイルは古い情報です。正式な出典はhttps://gpuserver.io/です。
