サイジングガイド・9分で読了

# 画像・動画モデル向けのカード選び。

画像モデルには記憶すべき会話がなく、言語モデルとはまったく異なるルールでサイジングされます。そして、それを収められる最も安いカードが、実際に借りたいカードであることはほとんどありません。

簡潔な答え

- **フル精度で:** SDXL 1.0 **8.0 GB** · Stable Diffusion 3.5 Large **18.4 GB** · FLUX.1 dev **27.6 GB** · Wan 2.1 video 14B **32.2 GB**—実行時マージンを含む
- **厄介な一行:** カタログ内のすべての24 GBカードは、BF16ではFLUX.1 devにわずかに届きません。FP8ならその半分で済み、すべてのカードで基準をクリアします
- **収まる最安のマシン:** [NVIDIA L4](https://gpuserver.io/ja/gpu/nvidia-l4)は月額$125、FP8ではFLUX.1 dev
- **2枚目のカードで得られるもの:** 1時間あたりの画像枚数は2倍になりますが、1枚あたりの秒数は1秒も縮まりません

## 各モデルが必要とするもの

まず、他のすべてを決定づける違いから見ていきましょう。言語モデルは、コンテキストのトークンが増えるたびに大きくなる[key/valueキャッシュ](https://gpuserver.io/ja/guides/vram-sizing)を抱えており、これが同じ70Bモデルでも、保持する会話の量次第で40 GBにも140 GBにもなり得る理由です。一方、拡散モデルにはキャッシュが一切ありません。プロンプトを読み込み、決まったステップ数だけ潜在表現をデノイズし、そして忘れます。したがって重みがほぼメモリ問題のすべてであり、プロンプトが長くなっても答えは変わりません。

**各画像・動画モデルが必要とするメモリ（精度別）**

| モデル | パラメータ | BF16 / FP16 | FP8 | 4-bit (AWQ, GPTQ) |
|---|---|---|---|---|
| SDXL 1.0 静止画 | 3.5 B | 8.0 GB | 4.0 GB | 2.0 GB |
| Stable Diffusion 3.5 Large 静止画 | 8 B | 18.4 GB | 9.2 GB | 4.6 GB |
| FLUX.1 dev 静止画 | 12 B | 27.6 GB | 13.8 GB | 6.9 GB |
| Wan 2.1 video 14B 動画、フレームのまとまりとして生成 | 14 B | 32.2 GB | 16.1 GB | 8.0 GB |

重みに、アクティベーション、CUDAコンテキスト、アロケーターの断片化のための実行時マージン15%を加えたものです—これは[コンフィギュレーター](https://gpuserver.io/ja/configure)が適用しているのと同じマージンなので、そちらと突き合わせて確認できます。コンテキストの列がないのは、そこに入れるものが何もないからです。

あの表の中で立ち止まる価値があるのは2行だけです。まさにそこで購入の判断を誤るからです。

**FLUX.1 devはBF16で27.6 GBを必要とします。**これは私たちが貸し出しているどの24 GBカードも超えており、しかも納得のいく差ではありません。画像生成で最もよくある驚きがこれです。「ネット上のどこでも4090で動く」と言われているモデルは、実は量子化されて動いているのに、誰もそう言わないのです。

**Wan 2.1 video 14BはBF16で32.2 GBを必要とします。**32 GBカードには、1ギガバイトに満たないわずかな差で届きません。私たちのマージンは意図的に控えめに設定されており、テキストエンコーダーをカードの外に置けば通常はその差を取り戻せます—とはいえ、端数の誤差を前提に購入計画を立てるべきではないので、正直なところを言えば、動画には40 GB以上が必要です。

## 各カードが収められるもの

私たちが貸し出すすべての単体カードマシンと、2つの負荷の高いモデルそれぞれについて各マシンが対応できる最良の精度です。帯域幅の列は次の章のためのものなので、その章を読んでから確認してください。

**単体カードのノードと、それぞれが対応する精度**

| ノード | カードメモリ | 帯域幅 | FLUX.1 dev | Wan 2.1 video 14B | 月額 |
|---|---|---|---|---|---|
| [NVIDIA L4](https://gpuserver.io/ja/gpu/nvidia-l4) Ada Lovelace · PCIe 5.0 | 24 GB | 300 GB/sドル当たり2.4 GB/s | FP8 | FP8 | $125/月 |
| [NVIDIA RTX 4090](https://gpuserver.io/ja/gpu/rtx-4090) Ada Lovelace · PCIe 5.0 | 24 GB | 1,008 GB/sドル当たり5.2 GB/s | FP8 | FP8 | $193/月 |
| [NVIDIA RTX A6000](https://gpuserver.io/ja/gpu/rtx-a6000) Ampere · PCIe 5.0 | 48 GB | 768 GB/sドル当たり2.7 GB/s | BF16 / FP16 | BF16 / FP16 | $286/月 |
| [NVIDIA RTX 5090](https://gpuserver.io/ja/gpu/rtx-5090) Blackwell · PCIe 5.0 | 32 GB | 1,792 GB/sドル当たり5.3 GB/s | BF16 / FP16 | FP8 | $335/月 |
| [NVIDIA A100 PCIe](https://gpuserver.io/ja/gpu/a100-40gb) Ampere · PCIe 5.0 | 40 GB | 1,555 GB/sドル当たり4.0 GB/s | BF16 / FP16 | BF16 / FP16 | $392/月 |
| [NVIDIA L40S](https://gpuserver.io/ja/gpu/l40s) Ada Lovelace · PCIe 5.0 | 48 GB | 864 GB/sドル当たり1.2 GB/s | BF16 / FP16 | BF16 / FP16 | $714/月 |
| [NVIDIA A100 PCIe](https://gpuserver.io/ja/gpu/a100-80gb) Ampere · PCIe 5.0 | 80 GB | 1,935 GB/sドル当たり1.8 GB/s | BF16 / FP16 | BF16 / FP16 | $1,091/月 |
| [NVIDIA H100 PCIe](https://gpuserver.io/ja/gpu/h100-pcie) Hopper · PCIe 5.0 | 80 GB | 2,000 GB/sドル当たり1.4 GB/s | BF16 / FP16 | BF16 / FP16 | $1,469/月 |

緑は基準となる重み、琥珀色は量子化されたものです。拡散モデルの量子化は、言語モデルの場合のようなただ乗りではありません。同じプロンプトとシードでも、目に見えて異なる画像になり、たいていは少し柔らかい仕上がりになります。FP8であれば十分に見合う取引ですが、4 ビットでは判断が分かれるところです。

価格列の下から読んでいくと、答えは単刀直入です。[NVIDIA L4](https://gpuserver.io/ja/gpu/nvidia-l4)は月額$125で、FLUX.1 devを収められる最安のマシンです—ただしFP8でのことです。フルBF16で収められる最安は[NVIDIA RTX A6000](https://gpuserver.io/ja/gpu/rtx-a6000)で、$286です。 動画はフル精度で同じそのカードでそのまま始められる。

## 誰もが読み違える列

ここが、画像処理をこのサイトの他のすべてから分ける部分であり、あの表の中で最も安いカードが罠になっている理由です。

言語モデルが1つのトークンを生成するとき、活性化されているすべての重みをメモリから一度読み出し、それぞれについてわずかな演算を行い、1つのトークンを書き出します。次のトークンでも、その次でも、これを繰り返します。カードはその人生の大半をメモリバス待ちに費やしており、だからこそ私たちの言語モデル向けスループット推定は本質的に帯域幅を重みの読み出し量で割ったものになり、[推論のガイド](https://gpuserver.io/ja/guides/serve-llama-70b)で帯域幅の列が重要になるのです。

拡散モデルのステップはそのようにはなりません。同じ重みが潜在テンソルに20〜50回にわたって適用され、各パスはフェッチされたバイトあたり大量の演算を行います。重みはずっと常駐したままで、実際の処理は小さなテンソルに対する畳み込みとアテンションです。これによって制約が逆転します。画像モデルの律速はメモリバスではなく、テンソルのスループットです。ここから三つの帰結が導かれ、判断を誤ればそのすべてがコストにつながります。

### 「収まる」は「速い」ではない

上の表のエントリーカードは、月額$125でFLUX.1 devをFP8で収めますが、これはピクセルを押し出すためではなく、小さなモデルを密に処理するために作られた低消費電力のパーツです。メモリは最初のフィルターであって、最後のフィルターではありません。

### 2枚目のカードを追加しても待ち時間は半分にならない

ComfyUIやdiffusersのパイプラインは、vLLMがトランスフォーマーを分割するようには、1つのデノイジングループを複数のGPUに分割しません。2枚のカードは2つのワーカーとして動作し、1時間あたりの画像枚数は2倍になりますが、1枚あたりの秒数は変わりません。[ここではNVLinkは何ももたらしません](https://gpuserver.io/ja/guides/nvlink-vs-pcie)。

### データセンター向けカードが自動的に正解になるわけではない

言語モデルの推論では、その仕事を決定づける数値においてHBMカードが優位に立ちます。画像処理で求めているのはテンソルのスループットとメモリであり、グラフィックス向けに設計されたカードは、私たちの価格表での位置づけが示す以上に、ドルあたりでその両方を多く提供します。

ドル当たりの帯域幅は—大まかなものですが—検討しているカードの階級を示す代理指標であり、私たちのカタログでは[NVIDIA RTX 5090](https://gpuserver.io/ja/gpu/rtx-5090)と[NVIDIA RTX 4090](https://gpuserver.io/ja/gpu/rtx-4090)が大差で1位と2位を占めています。これは偶然でも、お得だからと勧めているわけではありません。これらはまさにこの種の計算のために設計されたパーツであり、市場がトレーニングクラスタではなくゲーミング向けに価格を付けているために、価格表では下位に位置しているだけです。

**1分あたりの画像枚数という列がない理由。** 言語モデルについてトークン毎秒の推定値を公開しているのは、その根拠となる計算式に妥当性があり、包み隠さずお見せできるからです。拡散モデルについては、私たちが自信を持って示せる同等の数値がありません。1枚あたりの秒数は、カードが関与するより前の時点で、サンプラー、ステップ数、解像度、モデルをコンパイルしたかどうかによって5倍も変動します。この表のために数字をでっち上げれば、それはページの中で最も引用されやすく、最も真実から遠いものになるでしょう。1か月借りて、自分のパイプラインで測ってください。その答えはどんなベンチマークよりも価値があります。

## 解像度、バッチ、動画

重みは固定です。動くのはワーキングセットであり、それはパラメータではなくピクセル数に応じて動きます。潜在表現そのものは無視できるほど小さく—カードを埋めているのは、その解像度でネットワークを通過するアクティベーションです。

メモリが実際に何に使われるか

```
latent_elements = (H / 8) * (W / 8) * C * batch
# C = 4 latent channels on SDXL, 16 on SD 3.5 and FLUX.

# 1024x1024, batch 1, SDXL:
128 * 128 * 4 * 1     = 65,536 elements   = 128 KB in FP16

# 2048x2048, batch 4, SDXL:
256 * 256 * 4 * 4     = 1,048,576         = 2 MB in FP16

# The latent is never the problem. The activations that pass through the
# network at that resolution are, and they scale by the SAME factor:
# doubling the edge quadruples the pixel count, and roughly quadruples
# the working set. Batch multiplies it linearly on top.
```

実際に出会う順番で並べた、三つの実践的な帰結です。

1. **ピーク時のメモリ使用量は、サンプリングループではなく、たいていVAEデコードで発生します。**デコードは潜在表現を一度のパスでフル解像度に展開します。それまで1分近く問題なく進んでいたジョブの最後の最後で、まさにこの瞬間にメモリ不足エラーが起きるのです。タイル分割デコードならこれを解消できますが、多少の時間がかかります。
2. **大きなカードを活かす方法がバッチ処理です。**モデルが20 GBの余裕を残すなら、その余裕を使って一度に4枚の画像を生成する方が、1枚の画像に余白を残すよりもはるかに有効です—重みはバッチ全体に対して一度だけ読み込まれるため、これは拡散パイプラインが帯域幅律速のジョブのように振る舞う唯一の場面です。
3. **動画が加えるのは割合ではなく、次元そのものです。**Wan 2.1 video 14Bはフレームのまとまりを一括で生成するため、高さと幅がすでに乗算しているワーキングセットに、フレーム数がさらに乗算されます。140億パラメータの動画モデルが120億パラメータの画像モデルよりもはるかに大きなカードを必要とする理由であり、上の重みの表がどの行よりもこれを過小評価している理由でもあります。

**実用的な目安。** 最初の表の数値を基準にし、そこに加えて、1メガピクセルの画像を1枚生成するためにカードのおよそ3分の1を空けておいてください。バッチ処理を行うつもりなら、バッチ数を削るのではなく、メモリの階級を上げてください—月額契約では上位階級のコストは決まったドル額で済みますが、バッチ数が1のままでは、毎日毎時間スループットという形で代償を払い続けることになります。

## ComfyUIを立ち上げる

ComfyUIは、マシンが納品される前に書き込んでおけるイメージの一つであり、そのためこのセクションは読み飛ばしても構いません。ご自身で構築したい場合は、コンテナとトンネルだけの話です。

納品直後のマシンでは

```
$ ssh root@203.0.113.42
$ nvidia-smi --query-gpu=name,memory.total --format=csv

# Checkpoints, LoRAs, ControlNets and VAEs on the fast local NVMe.
# This directory is the reason you are renting by the month.
$ mkdir -p /scratch/comfy/models
$ df -h /scratch
```

ループバックにバインドされたサーバー

```
$ docker run -d --name comfy --restart unless-stopped \
    --gpus all --ipc=host \
    -v /scratch/comfy:/data \
    -p 127.0.0.1:8188:8188 \
    your-comfyui-image --listen 0.0.0.0 --port 8188

# From YOUR machine, not the server: a tunnel, then a local browser tab.
$ ssh -N -L 8188:127.0.0.1:8188 root@203.0.113.42
# http://127.0.0.1:8188
```

**ポートの前にある`127.0.0.1:`に注目してください。** ComfyUIにはログインもパスワードもなく、ユーザーという概念自体がありません。公開アドレスに置けば、GPUとモデルライブラリ、その下のファイルシステムへのグラフィカルなインターフェースを、ポートをスキャンした誰にでも差し出すことになります—そしてポートは数分以内にスキャンされます。ループバックにバインドし、SSH経由でアクセスしてください。ファイアウォールと最初の1時間についての詳細は[ドキュメント](https://gpuserver.io/ja/docs)にあります。

## 1か月で得られるもの

画像処理が月極めのマシンに向いている理由は、GPUの価格ではありません。ライブラリです。本格的なComfyUIの構成は、自分で厳選したチェックポイント、LoRA、ControlNet、アップスケーラー、VAEなど数百ギガバイトにおよび、二度と取り直したくないものです。

**すべての単体カードマシンで、ディスクは価格に含まれています。** 2 × 2 TB NVMeと1 Gbit/sは、双方向とも無制限です—$125ノードでも$1,469ノードでも変わりません。ギガバイト単位で課金されるものは何もなく、カードがアイドル状態でも課金され続けるものはなく、再インストール後にライブラリを再度取得しても、改めて課金されるものはありません。

比較すべきはその列であり、時間課金のプラットフォームがヘッドラインの価格から外している部分でもあります。そこではディスクが別の明細項目として、1ギガバイトあたり月額いくらという形で課金され、インスタンスを停止していても課金され続けます—あるいはディスクを削除すれば、次に作業を再開するときに数百ギガバイトを再ダウンロードすることになります。

これは、[時間課金の損益分岐点](https://gpuserver.io/ja/guides/monthly-vs-hourly)が説明しているのと同じ罠が、画像処理の形を取ったものです。秒単位の課金は、インスタンスを止められるという点で安全に見えますが、誰も止めません。止めることはライブラリを失うことを意味するからです。正直な問いは「何時間生成するか」ではなく「このマシンは何時間存在し続ける必要があるか」であり—厳選したモデルディレクトリを抱えている人にとって、答えは「すべての時間」です。支払いは[暗号資産での送金一回](https://gpuserver.io/ja/guides/pay-in-crypto)だけで、初期費用はなく、[お客様が誰かを一切お尋ねしません](https://gpuserver.io/ja/no-kyc-gpu-server)。プロンプトも、学習させたLoRAも、まだ納品していないクライアントの作業も、rootアクセスを持つのはお客様だけのマシンにとどまります。

## カードを借りるべきでないとき

後悔しながらこれらのどれかを借りるくらいなら、私たちはそうしてほしくありません。そこで、答えが「ノー」になるケースを挙げます。

**週に数十枚の画像を生成する程度なら。**ホスティングされたエンドポイントなら月に数ドルで済み、午後の時間を取られることもありません。キューや解像度の制限、コンテンツルールが作業の主導権を握り始めたら、また戻ってきてください。

**最新のクローズドモデルを使いたいなら。**最もよく知られた画像サービスは重みを公開していません。このページのどのマシンもそれらを動かすことはできず、どれだけメモリを増やしても変わりません。

**1枚の画像をより速く生成したくて、マルチGPUノードを検討しているなら。**代わりに、より高速な単体カードを購入してください。追加のカードは並列ワーカーをもたらし、並列ワーカーには大きな価値がありますが—1本の進捗バーを見つめている人にとっては別です。

**まだモデルを決めていないなら。**SDXL 1.0を1024 pxで動かすのか、Wan 2.1 video 14Bを5秒のクリップで動かすのか分かるまでは、どこかで時間貸しを借りてください。この二つの答えは月額$161も違い、当てずっぽうで決める理由はありません。

それ以外の場合—自分で築いてきたライブラリ、変更し続けているパイプライン、一晩かけて回すバッチジョブ、あるいは単に自分のディスクから出したくない作業—であれば、月極めの専有カードの方が安く、落ち着いて使えます。[コンフィギュレーター](https://gpuserver.io/ja/configure)は、[カタログ](https://gpuserver.io/ja/#catalog)内のすべてのノードについて、支払いの前に、想定しているモデルが1枚のカードに収まるかどうかを教えてくれます。

## 支払う前に、モデルが収まるか確認してください。

コンフィギュレーターは、カタログ内のすべてのマシンについて、モデルが必要とするメモリと、それが1枚のカードに収まるかどうかを教えてくれます。

[コンフィギュレーターを開く](https://gpuserver.io/ja/configure) [ガイドを読む](https://gpuserver.io/ja/guides)

## その他のガイド

- [サイジング · 10分 量子化フォーマットの選び方 AWQ、GPTQ、GGUF、FP8それぞれがメモリ、速度、品質の面で払う代償。そして、重みが最も小さい形式が、最も小さいモデルになるとは限らない理由。 ガイドを読む](https://gpuserver.io/ja/guides/awq-vs-gptq-vs-fp8)
- [サイジング · 10分 混合エキスパートモデルを運用する 総パラメータ数がマシンを決め、アクティブパラメータ数が速度を決めます。DeepSeek V3とQwen 3 235Bが必要とするVRAM容量と、借りるべきノードを解説します。 ガイドを読む](https://gpuserver.io/ja/guides/mixture-of-experts)
- [コスト · 6分 月額レンタルが時間貸しに勝つのはどんな時か 実際の数字で算出した損益分岐点、時間単価が請求書が来るまで隠している3つのコスト、そして見積もりを3倍に膨らませるアイドル時間の落とし穴。 ガイドを読む](https://gpuserver.io/ja/guides/monthly-vs-hourly)

---

出典: https://gpuserver.io/ja/guides/gpu-for-flux-sdxl/。このファイルはウェブサイトと同じデータから生成されています。ここに記載された数値がページの内容と異なる場合、ページの内容が正となり、このファイルは古い情報です。正式な出典はhttps://gpuserver.io/です。