Dimensionierung-Guide · 9 Min. Lesezeit

# Die richtige Karte für Bild- und Videomodelle wählen.

Ein Bildmodell hat kein Gespräch, an das es sich erinnern muss, daher wird es nach einer völlig anderen Regel bemessen als ein Sprachmodell — und die billigste Karte, die es fasst, ist fast nie die Karte, die Sie mieten sollten.

Die kurze Antwort

- **Bei voller Präzision:** SDXL 1.0 **8.0 GB** · Stable Diffusion 3.5 Large **18.4 GB** · FLUX.1 dev **27.6 GB** · Wan 2.1 video 14B **32.2 GB** — inklusive Laufzeit-Marge
- **Die unbequeme Zeile:** Jede 24-GB-Karte im Katalog verfehlt FLUX.1 dev in BF16 nur knapp. FP8 halbiert das und reicht bei allen
- **Günstigste, die es fasst:** [NVIDIA L4](https://gpuserver.io/de/gpu/nvidia-l4) für $125 im Monat, FLUX.1 dev in FP8
- **Was eine zweite Karte bringt:** Doppelt so viele Bilder pro Stunde, und keine Sekunde weniger bei einem einzelnen Bild

## Was jedes Modell braucht

Beginnen wir mit dem Unterschied, der alles Weitere entscheidet. Ein Sprachmodell führt einen [Key/Value-Cache](https://gpuserver.io/de/guides/vram-sizing), der mit jedem Kontext-Token wächst, weshalb dasselbe 70B-Modell je nach aufbewahrtem Gesprächsverlauf 40 GB oder 140 GB verlangen kann. Ein Diffusionsmodell hat überhaupt keinen Cache. Es liest einen Prompt, entrauscht ein Latent über eine feste Anzahl von Schritten und vergisst. Die Gewichte sind damit fast die ganze Speicherfrage, und die Antwort ändert sich nicht, wenn Ihre Prompts länger werden.

**Von jedem Bild- und Video-Modell benötigter Speicher, nach Präzision**

| Modell | Parameter | BF16 / FP16 | FP8 | 4-bit (AWQ, GPTQ) |
|---|---|---|---|---|
| SDXL 1.0 Standbilder | 3.5 B | 8.0 GB | 4.0 GB | 2.0 GB |
| Stable Diffusion 3.5 Large Standbilder | 8 B | 18.4 GB | 9.2 GB | 4.6 GB |
| FLUX.1 dev Standbilder | 12 B | 27.6 GB | 13.8 GB | 6.9 GB |
| Wan 2.1 video 14B Video, erzeugt als Block von Frames | 14 B | 32.2 GB | 16.1 GB | 8.0 GB |

Gewichte plus 15 % Laufzeit-Marge für Aktivierungen, den CUDA-Kontext und Allocator-Fragmentierung — dieselbe Marge, die auch der [Konfigurator](https://gpuserver.io/de/configure) ansetzt, sodass Sie hier gegenprüfen können. Es gibt keine Kontextspalte, weil es nichts gibt, was hineingehört.

Zwei Zeilen in dieser Tabelle lohnen einen genaueren Blick, denn genau dort geht ein Kauf schief.

**FLUX.1 dev braucht in BF16 27.6 GB.** Das liegt über jeder 24 GB-Karte, die wir vermieten, und nicht um so viel, dass es fair wirkt. Es ist die häufigste Überraschung in der Bildarbeit: Das Modell, das angeblich „überall im Internet auf einer 4090 läuft“, läuft in Wirklichkeit quantisiert, und niemand sagt es dazu.

**Wan 2.1 video 14B braucht in BF16 32.2 GB.** Das verfehlt eine 32 GB-Karte um einen Bruchteil eines Gigabyte. Unsere Marge ist bewusst konservativ gewählt, und Sie können diesen Rest meist wieder hereinholen, indem Sie den Text-Encoder von der Karte fernhalten — aber Sie sollten einen Kauf nicht um einen Rundungsfehler herum planen müssen, also lautet die ehrliche Antwort: Video braucht 40 GB oder mehr.

## Was jede Karte fasst

Jede Einzelkarten-Maschine, die wir vermieten, mit der besten Präzision, die sie jeweils für die beiden anspruchsvollen Modelle fasst. Die Bandbreitenspalte ist für das nächste Kapitel gedacht; lesen Sie sie, nachdem Sie jenes gelesen haben.

**Einzelkarten-Knoten, und welche Präzision jeder fasst**

| Knoten | Kartenspeicher | Bandbreite | FLUX.1 dev | Wan 2.1 video 14B | Pro Monat |
|---|---|---|---|---|---|
| [NVIDIA L4](https://gpuserver.io/de/gpu/nvidia-l4) Ada Lovelace · PCIe 5.0 | 24 GB | 300 GB/s2.4 GB/s pro $ | FP8 | FP8 | $125/Monat |
| [NVIDIA RTX 4090](https://gpuserver.io/de/gpu/rtx-4090) Ada Lovelace · PCIe 5.0 | 24 GB | 1,008 GB/s5.2 GB/s pro $ | FP8 | FP8 | $193/Monat |
| [NVIDIA RTX A6000](https://gpuserver.io/de/gpu/rtx-a6000) Ampere · PCIe 5.0 | 48 GB | 768 GB/s2.7 GB/s pro $ | BF16 / FP16 | BF16 / FP16 | $286/Monat |
| [NVIDIA RTX 5090](https://gpuserver.io/de/gpu/rtx-5090) Blackwell · PCIe 5.0 | 32 GB | 1,792 GB/s5.3 GB/s pro $ | BF16 / FP16 | FP8 | $335/Monat |
| [NVIDIA A100 PCIe](https://gpuserver.io/de/gpu/a100-40gb) Ampere · PCIe 5.0 | 40 GB | 1,555 GB/s4.0 GB/s pro $ | BF16 / FP16 | BF16 / FP16 | $392/Monat |
| [NVIDIA L40S](https://gpuserver.io/de/gpu/l40s) Ada Lovelace · PCIe 5.0 | 48 GB | 864 GB/s1.2 GB/s pro $ | BF16 / FP16 | BF16 / FP16 | $714/Monat |
| [NVIDIA A100 PCIe](https://gpuserver.io/de/gpu/a100-80gb) Ampere · PCIe 5.0 | 80 GB | 1,935 GB/s1.8 GB/s pro $ | BF16 / FP16 | BF16 / FP16 | $1,091/Monat |
| [NVIDIA H100 PCIe](https://gpuserver.io/de/gpu/h100-pcie) Hopper · PCIe 5.0 | 80 GB | 2,000 GB/s1.4 GB/s pro $ | BF16 / FP16 | BF16 / FP16 | $1,469/Monat |

Grün steht für die Referenzgewichte, Bernstein für quantisiert. Die Quantisierung eines Diffusionsmodells ist nicht das Gratisgeschenk, das sie bei einem Sprachmodell ist: Derselbe Prompt und derselbe Seed ergeben ein sichtbar anderes Bild, meist ein etwas weicheres. Bei FP8 ist es ein guter Kompromiss, bei 4 Bit eine Ermessensfrage.

Von unten in der Preisspalte gelesen, ist das Bild eindeutig: [NVIDIA L4](https://gpuserver.io/de/gpu/nvidia-l4) ist für $125 im Monat die günstigste Maschine, die wir vermieten und die FLUX.1 dev überhaupt fasst — in FP8. Die günstigste, die es in vollem BF16 fasst, ist [NVIDIA RTX A6000](https://gpuserver.io/de/gpu/rtx-a6000), für $286. Video bei voller Präzision startet auf derselben Karte.

## Die Spalte, die alle falsch lesen

Hier kommt der Teil, der Bildarbeit von allem anderen auf dieser Seite unterscheidet, und das ist der Grund, warum die billigste Karte in dieser Tabelle eine Falle ist.

Wenn ein Sprachmodell ein Token erzeugt, liest es jedes aktive Gewicht einmal aus dem Speicher, führt mit jedem eine kleine Menge Arithmetik aus und schreibt ein einzelnes Token. Das wiederholt sich für das nächste Token, und das übernächste. Die Karte verbringt ihr Leben mit Warten auf den Speicherbus, weshalb unsere Durchsatzschätzungen für Sprachmodelle im Wesentlichen Bandbreite geteilt durch gelesene Gewichte sind, und weshalb die Bandbreitenspalte diejenige ist, die auf [einem Serving-Guide](https://gpuserver.io/de/guides/serve-llama-70b) zählt.

Ein Diffusionsschritt sieht anders aus. Dieselben Gewichte werden zwanzig- bis fünfzigmal auf denselben latenten Tensor angewendet, und jeder Durchgang verrichtet sehr viel Arithmetik pro geladenem Byte. Die Gewichte bleiben resident; die Arbeit besteht aus Faltungen und Attention über einen kleinen Tensor. Das kehrt die Beschränkung um: Ein Bildmodell ist durch den Tensor-Durchsatz begrenzt, nicht durch den Speicherbus. Daraus folgen drei Dinge, und alle drei kosten Geld, wenn man sie falsch einschätzt.

### „Es passt“ heißt nicht „es ist schnell“

Die Einstiegskarte in der Tabelle oben fasst FLUX.1 dev in FP8 für $125 im Monat, und sie ist ein stromsparendes Bauteil, gebaut um kleine Modelle dicht zu bedienen, nicht um Pixel zu schieben. Speicher ist der erste Filter, nie der letzte.

### Eine zweite Karte halbiert die Wartezeit nicht

ComfyUI und die Diffusers-Pipelines teilen eine einzelne Denoising-Schleife nicht über mehrere GPUs auf, so wie vLLM einen Transformer aufteilt. Zwei Karten betreiben zwei Worker: doppelt so viele Bilder pro Stunde, dieselbe Zeit pro Bild. [NVLink bringt hier nichts](https://gpuserver.io/de/guides/nvlink-vs-pcie).

### Die Rechenzentrumskarte ist nicht automatisch die Antwort

Beim Sprachmodell-Serving gewinnt eine HBM-Karte bei der Kennzahl, die den Job entscheidet. Bei Bildarbeit kaufen Sie Tensor-Durchsatz und Speicher, und die für Grafik entwickelten Karten bieten pro Dollar mehr von beidem, als ihre Position auf unserer Preisliste vermuten lässt.

Bandbreite pro Dollar ist ein Näherungswert — ein grober — für die Klasse von Karte, die Sie sich ansehen, und in unserem Katalog liegen [NVIDIA RTX 5090](https://gpuserver.io/de/gpu/rtx-5090) und [NVIDIA RTX 4090](https://gpuserver.io/de/gpu/rtx-4090) damit mit großem Abstand auf den ersten beiden Plätzen. Das ist kein Zufall, und es ist auch kein Schnäppchen, das wir Ihnen aufreden: Es sind die Bauteile, die genau für diese Art von Rechnung entwickelt wurden, und sie stehen weit unten auf unserer Preisliste, weil der Markt sie wie Gaming-Hardware bepreist, nicht wie Trainingscluster.

**Warum es keine Spalte für Bilder pro Minute gibt.** Für Sprachmodelle veröffentlichen wir eine Schätzung in Token pro Sekunde, weil die dahinterstehende Formel nachvollziehbar ist und wir sie Ihnen zeigen. Für Diffusion gibt es kein Äquivalent, für das wir geradestehen würden: Die Sekunden pro Bild schwanken um den Faktor fünf, je nach Sampler, Schrittzahl, Auflösung und ob Sie das Modell kompiliert haben – noch bevor die Karte überhaupt ins Spiel kommt. Eine Zahl, die wir für diese Tabelle erfunden hätten, wäre das meistzitierte und zugleich unwahrste auf der Seite. Mieten Sie für einen Monat, messen Sie Ihre eigene Pipeline, und die Antwort ist mehr wert als jeder Benchmark.

## Auflösung, Batch und Video

Die Gewichte sind fest. Was sich ändert, ist der Arbeitsspeicherbedarf, und der bewegt sich mit den Pixeln, nicht mit den Parametern. Das Latent selbst ist vernachlässigbar — es sind die Aktivierungen, die bei dieser Auflösung durch das Netz laufen, die die Karte füllen.

Wohin der Speicher tatsächlich geht

```
latent_elements = (H / 8) * (W / 8) * C * batch
# C = 4 latent channels on SDXL, 16 on SD 3.5 and FLUX.

# 1024x1024, batch 1, SDXL:
128 * 128 * 4 * 1     = 65,536 elements   = 128 KB in FP16

# 2048x2048, batch 4, SDXL:
256 * 256 * 4 * 4     = 1,048,576         = 2 MB in FP16

# The latent is never the problem. The activations that pass through the
# network at that resolution are, and they scale by the SAME factor:
# doubling the edge quadruples the pixel count, and roughly quadruples
# the working set. Batch multiplies it linearly on top.
```

Drei praktische Konsequenzen, in der Reihenfolge, in der Sie ihnen begegnen:

1. **Der Spitzenwert liegt meist beim VAE-Decode, nicht bei der Sampling-Schleife.** Das Decoding vergrößert das Latent in einem Durchgang zurück auf die volle Auflösung, und genau dieser eine Moment löst den Out-of-Memory-Fehler aus – und zwar ganz am Ende eines Jobs, der eine Minute lang problemlos gelaufen war. Tiled Decoding behebt das und kostet etwas Zeit.
2. **Batching ist die richtige Art, eine große Karte zu nutzen.** Bleiben nach dem Modell 20 GB übrig, sind vier Bilder gleichzeitig eine weit bessere Nutzung davon als ein Bild mit Reserve — die Gewichte werden für den ganzen Batch nur einmal gelesen, und genau das ist die einzige Stelle, an der eine Diffusions-Pipeline sich wie eine bandbreitengebundene Aufgabe verhält.
3. **Video fügt eine Dimension hinzu, keinen Prozentsatz.** Wan 2.1 video 14B erzeugt einen Block von Frames gemeinsam, sodass die Frames denselben Arbeitsspeicherbedarf multiplizieren, den Höhe und Breite bereits multiplizieren. Deshalb verlangt ein Video-Modell mit 14 Milliarden Parametern eine deutlich größere Karte als ein Bild-Modell mit 12 Milliarden Parametern, und deshalb unterschätzt die Gewichtstabelle oben diese Zeile stärker als jede andere.

**Eine Faustregel.** Nehmen Sie die Zahl aus der ersten Tabelle und lassen Sie zusätzlich rund ein Drittel der Karte frei, für jeweils ein Ein-Megapixel-Bild. Wenn Sie batchen wollen, gehen Sie eine Speicherstufe höher, statt den Batch zu verkleinern — bei monatlicher Laufzeit kostet die Stufe eine feste Zahl an Dollar, während ein Batch von eins Sie an jedem Tag jede Stunde Durchsatz kostet.

## ComfyUI zum Laufen bringen

ComfyUI ist eines der Images, die wir vor der Auslieferung auf die Maschine schreiben lassen können, wodurch dieser Abschnitt optional wird. Wenn Sie es lieber selbst aufsetzen, sind es ein Container und ein Tunnel.

Auf einer frisch ausgelieferten Maschine

```
$ ssh root@203.0.113.42
$ nvidia-smi --query-gpu=name,memory.total --format=csv

# Checkpoints, LoRAs, ControlNets and VAEs on the fast local NVMe.
# This directory is the reason you are renting by the month.
$ mkdir -p /scratch/comfy/models
$ df -h /scratch
```

Der Server, gebunden an Loopback

```
$ docker run -d --name comfy --restart unless-stopped \
    --gpus all --ipc=host \
    -v /scratch/comfy:/data \
    -p 127.0.0.1:8188:8188 \
    your-comfyui-image --listen 0.0.0.0 --port 8188

# From YOUR machine, not the server: a tunnel, then a local browser tab.
$ ssh -N -L 8188:127.0.0.1:8188 root@203.0.113.42
# http://127.0.0.1:8188
```

**Beachten Sie das `127.0.0.1:` vor dem Port.** ComfyUI kennt weder Login noch Passwort noch das Konzept eines Nutzers. Auf einer öffentlichen Adresse veröffentlicht, ist es eine grafische Oberfläche zu Ihrer GPU, Ihrer Modellbibliothek und dem darunterliegenden Dateisystem, offen für jeden, der den Port scannt — und er wird innerhalb von Minuten gescannt. Binden Sie es an Loopback und erreichen Sie es über SSH. Die [Dokumentation](https://gpuserver.io/de/docs) behandelt die Firewall und die erste Stunde ausführlicher.

## Was ein Monat bringt

Dass sich Bildarbeit für eine monatliche Maschine eignet, liegt nicht am Preis der GPU. Es liegt an der Bibliothek. Eine ernsthafte ComfyUI-Installation umfasst mehrere hundert Gigabyte an Checkpoints, LoRAs, ControlNets, Upscalern und VAEs, die Sie kuratiert haben und nicht erneut herunterladen wollen.

**Die Festplatte ist im Preis enthalten, bei jeder Einzelkarten-Maschine.** 2 × 2 TB NVMe und 1 Gbit/s, in beide Richtungen ohne Volumenbegrenzung — auf dem $125-Knoten genauso wie auf dem $1,469. Nichts davon wird pro Gigabyte abgerechnet, nichts läuft weiter, während die Karte im Leerlauf ist, und nichts wird erneut berechnet, wenn Sie die Bibliothek nach einer Neuinstallation wieder herunterladen.

Das ist die Spalte, die Sie vergleichen sollten, und genau die lassen stundenweise abrechnende Plattformen aus der Schlagzeile heraus. Dort ist die Platte ein eigener Posten, abgerechnet pro Gigabyte und Monat, und sie wird weiter berechnet, während die Instanz gestoppt ist — oder Sie löschen sie und laden beim nächsten Arbeitsbeginn mehrere hundert Gigabyte erneut herunter.

Das ist dieselbe Falle, die der [stündliche Break-even](https://gpuserver.io/de/guides/monthly-vs-hourly) beschreibt, nur in der Form, die sie für Bildarbeit annimmt. Abrechnung pro Sekunde wirkt sicher, weil Sie die Instanz stoppen können, und niemand stoppt sie, weil das Stoppen bedeutet, die Bibliothek zu verlieren. Die ehrliche Frage lautet nicht „wie viele Stunden werde ich generieren“, sondern „wie viele Stunden muss diese Maschine existieren“ — und für jeden mit einem kuratierten Modellverzeichnis lautet die Antwort: alle. Die Zahlung ist [eine einzige Überweisung in Krypto](https://gpuserver.io/de/guides/pay-in-crypto), es gibt keine Einrichtungsgebühr, und [wir haben nicht gefragt, wer Sie sind](https://gpuserver.io/de/no-kyc-gpu-server): Die Prompts, die LoRAs, die Sie trainiert haben, und die Kundenarbeit, die Sie noch nicht ausgeliefert haben, bleiben auf einer Maschine, auf der nur Sie Root haben.

## Wann Sie keine Karte mieten sollten

Wir würden lieber nicht, dass Sie eine dieser Karten mieten und es bereuen, daher hier die Fälle, in denen die Antwort Nein lautet.

**Sie erzeugen ein paar Dutzend Bilder pro Woche.** Ein gehosteter Endpoint kostet Sie ein paar Dollar im Monat und keine Nachmittage. Kommen Sie wieder, wenn die Warteschlange, die Auflösungsgrenzen oder die Inhaltsregeln anfangen, über Ihre Arbeit zu bestimmen.

**Sie wollen das neueste geschlossene Modell.** Die bekanntesten Bilddienste veröffentlichen keine Gewichte. Keine Maschine auf dieser Seite betreibt sie, und daran ändert auch noch so viel Speicher nichts.

**Sie wollen ein einzelnes Bild schneller und schauen sich Multi-GPU-Knoten an.** Kaufen Sie stattdessen eine schnellere Einzelkarte. Zusätzliche Karten geben Ihnen parallele Worker, und parallele Worker sind viel wert — aber nicht für jemanden, der auf einen einzelnen Fortschrittsbalken schaut.

**Sie haben sich noch nicht auf ein Modell festgelegt.** Mieten Sie irgendwo stundenweise, bis Sie wissen, ob Sie SDXL 1.0 bei 1024 px oder Wan 2.1 video 14B bei fünf Sekunden pro Clip betreiben. Diese beiden Antworten liegen $161 im Monat auseinander, und es gibt keinen Grund zu raten.

Überall sonst — eine Bibliothek, die Sie aufgebaut haben, eine Pipeline, die Sie ständig ändern, Batch-Jobs, die über Nacht laufen, oder Arbeit, die Ihre eigene Platte einfach nicht verlassen sollte — ist eine dedizierte Karte im Monatsmodell die günstigere und ruhigere Lösung. Der [Konfigurator](https://gpuserver.io/de/configure) sagt Ihnen für jeden Knoten in [unserem Katalog](https://gpuserver.io/de/#catalog), ob das Modell, das Sie im Sinn haben, auf eine Karte passt, bevor Sie irgendetwas bezahlen.

## Prüfen Sie vor der Zahlung, ob Ihr Modell passt.

Der Konfigurator zeigt für jede Maschine im Katalog, wie viel Speicher ein Modell braucht und ob es auf eine einzelne Karte passt.

[Konfigurator öffnen](https://gpuserver.io/de/configure) [Guides lesen](https://gpuserver.io/de/guides)

## Weitere Guides

- [Dimensionierung · 10 Min. Ein Quantisierungsformat wählen Was AWQ, GPTQ, GGUF und FP8 an Speicher, Geschwindigkeit und Qualität kosten — und warum das Format mit den kleinsten Gewichten selten das kleinste Modell ergibt. Guide lesen](https://gpuserver.io/de/guides/awq-vs-gptq-vs-fp8)
- [Dimensionierung · 10 Min. Ein Mixture-of-Experts-Modell betreiben Gesamtparameter entscheiden über die Maschine, aktive Parameter über die Geschwindigkeit: der VRAM-Bedarf von DeepSeek V3 und Qwen 3 235B, und welcher Knoten passt. Guide lesen](https://gpuserver.io/de/guides/mixture-of-experts)
- [Kosten · 6 Min. Wann Monatsmiete die Stundenmiete schlägt Der Break-even anhand realer Zahlen, die drei Kosten, die ein Stundenpreis bis zur Rechnung verbirgt, und die Leerlauf-Falle, die eine Schätzung verdreifacht. Guide lesen](https://gpuserver.io/de/guides/monthly-vs-hourly)

---

Quelle: https://gpuserver.io/de/guides/gpu-for-flux-sdxl/. Diese Datei wird aus denselben Daten wie die Website erzeugt; weicht eine Zahl hier von einer Seite ab, ist die Seite maßgeblich und diese Datei veraltet — die kanonische Quelle ist https://gpuserver.io/.