GPU sunucuları

Kiraladığımız her kart ve her birinin ne işe yaradığı.

On iki NVIDIA GPU'su, aylık $125 fiyatlı 24 GB'lik bir L4'ten sekiz kartlı bir B200 düğümüne kadar. Her biri adanmıştır, aylık kiralanır, kripto ile ödenir ve kimlik kontrolü olmadan açılır.

12Filodaki GPU modelleri
41configurations, 1 to 10 cards
$125en ucuz kart, aylık
6veri merkezleri, hepsinde tüm kartlar

Belleğe göre, ya da çalıştırmanız gerekene göre seçin

Giriş fiyatına göre sıralanmıştır. “Sığan en büyük model”, tek kartın 4-bit ve 8k bağlamda barındırdığı en büyük LLM'dir — yapılandırıcının kullandığı aynı aritmetikle hesaplanır, iddia edilmez.

Bellek, bant genişliği, düğüm boyutları ve giriş fiyatıyla birlikte mevcut her NVIDIA GPU
Kart	Mimari	Bellek	Bant Genişliği	Sığan en büyük model	Düğüm boyutları	Başlangıç
L4 PCIe kart	Ada Lovelace	24 GBGDDR6	300 GB/s	Qwen 3 32B	1×, 2×, 4×, 8×, 10×	$125/ay
RTX 4090 PCIe kart	Ada Lovelace	24 GBGDDR6X	1,008 GB/s	Qwen 3 32B	1×, 2×, 4×, 8×	$193/ay
RTX A6000 PCIe kart	Ampere	48 GBGDDR6 ECC	768 GB/s	Llama 3.3 70B	1×, 2×, 4×, 8×	$286/ay
RTX 5090 PCIe kart	Blackwell	32 GBGDDR7	1,792 GB/s	Qwen 3 32B	1×, 2×, 4×, 8×	$335/ay
A100 PCIe PCIe kart	Ampere	40 GBHBM2	1,555 GB/s	Qwen 3 32B	1×, 2×, 4×, 8×	$392/ay
L40S PCIe kart	Ada Lovelace	48 GBGDDR6 ECC	864 GB/s	Llama 3.3 70B	1×, 2×, 4×, 8×	$714/ay
A100 PCIe PCIe kart	Ampere	80 GBHBM2e	1,935 GB/s	Llama 3.3 70B	1×, 2×, 4×, 8×	$1,091/ay
H100 PCIe PCIe kart	Hopper	80 GBHBM3	2,000 GB/s	Llama 3.3 70B	1×, 2×, 4×, 8×	$1,469/ay
A100 SXM4 SXM modülü, NVLink	Ampere	80 GBHBM2e	2,039 GB/s	Llama 3.3 70B	4×, 8×	$4,395/ay
H100 SXM5 SXM modülü, NVLink	Hopper	80 GBHBM3	3,350 GB/s	Llama 3.3 70B	4×, 8×	$6,061/ay
H200 SXM5 SXM modülü, NVLink	Hopper	141 GBHBM3e	4,800 GB/s	Qwen 3 235B-A22B (MoE)	4×, 8×	$8,405/ay
B200 SXM6 SXM modülü, NVLink	Blackwell	180 GBHBM3e	8,000 GB/s	Qwen 3 235B-A22B (MoE)	4×, 8×	$11,790/ay

Her kart kendi sayfasına bağlanır: tam teknik özellikler, her düğüm boyutu ve süredeki fiyat, her hassasiyette barındırdığı modeller ve beklenecek işlem hacmi.

Modelinizi hangi kartın barındırdığından emin değil misiniz?

Bir model, bir hassasiyet ve bir bağlam uzunluğu seçin; yapılandırıcı sığan her yapılandırmayı ve her birinin maliyetini bildirir.

Yapılandırıcıyı açın Rehberleri okuyun

Kiraladığımız her kart ve her birinin ne işe yaradığı.

Belleğe göre, ya da çalıştırmanız gerekene göre seçin

L4

RTX 4090

RTX A6000

RTX 5090

A100 PCIe

L40S

A100 PCIe

H100 PCIe

A100 SXM4

H100 SXM5

H200 SXM5

B200 SXM6

Modelinizi hangi kartın barındırdığından emin değil misiniz?

İlgili sayfalar