AMS
Kullanılabilir
Amsterdam
Hollanda
Hopper · SXM modülü
Adanmış bir H100 SXM5 GPU sunucusu kiralayın.
Yalnızca size ait bir makinede, 3,350 GB/s hızında 80 GB HBM3. Aylık, kripto ile ödenir, kimlik kontrolü olmadan açılır ve under 5 minutes içinde teslim edilir.
- $6,061/mobir kart, her şey dahil
- 80 GBHBM3
- 3,350 GB/sbellek bant genişliği
- 4×, 8×mevcut düğüm boyutları
Düğüm boyutuna ve süreye göre fiyat
Her satırda tek bir sayı, ve o sayı tam sayıdır: kurulum ücreti yok, yeniden kurulum ücreti yok, bant genişliği ücreti yok, destek planı yok. Daha uzun süreler peşin ödenir.
| Düğüm | CPU ve bellek | Aylık | 3 ay | 12 ay | |
|---|---|---|---|---|---|
| 4 × H100 SXM5 | 2 × Intel Xeon Gold 6438Y+ | $6,061/ay | $5,758/ay | $5,334/ay | Yapılandırın |
| 8 × H100 SXM5 | 2 × Intel Xeon Platinum 8462Y+ | $11,509/ay | $10,934/ay | $10,128/ay | Yapılandırın |
Yukarıdaki her yapılandırma, tüm 6 veri merkezinde rafa kurulmuş, yanma testinden geçirilmiş ve yazılmaya hazır bir imajla mevcuttur — teslimatın bir iş günü yerine under 5 minutes sürmesinin nedeni de budur.
Tam teknik özellikler
GPUNVIDIA H100 SXM5Hopper mimarisi, HGX panosunda SXM modülü.
Bellek80 GB HBM33,350 GB/s bant genişliği — üretim hızını herhangi bir teraflop rakamından çok daha iyi öngören sayı.
Ara bağlantıNVLink 4 · 900 GB/sKarttaki her kart arasında tam bağlantı (all-to-all). Bağlantının darboğaz haline gelmediği tensör paralelliği. İşinizin gerektirdiği.
Düğüm boyutları4 × kart, 8 × kartSXM kartları dört ya da sekizli bir HGX panosunda bulunur — asla iki, asla on.
Depolama4 × 3.84 TB NVMeSistem biriminin ötesinde ham olarak teslim edilir — herhangi bir RAID seviyesi dayatmayız. Daha fazla NVMe ve arşiv HDD aylık seçeneklerdir.
Ağ10 Gbit/s, sayaçsızHer iki yönde de, dahil hacim yok ve hiçbir trafik seviyesinde aşım yok. Bir IPv4, yönlendirilmiş bir IPv6 /64, teslimattan itibaren açık DDoS filtreleme.
an H100 SXM5 üzerinde çalışanlar
Aşağıdaki her model, 8k bağlamda tek bir kartta sığar — paylaştırma yok, düşünülecek bir ara bağlantı yok. Gösterilen hassasiyet sığan en iyi olanıdır; aritmetik VRAM boyutlandırma rehberinde yer alır, böylece kontrol edebilirsiniz.
| Model | Sığan en iyi hassasiyet | Gereken bellek | Tahmini token/sn |
|---|---|---|---|
| Llama 3.1 8B | BF16 / FP16 | 20 GB | ~94 |
| Llama 3.3 70B | 4-bit (AWQ, GPTQ) | 43 GB | ~43 |
| Qwen 3 32B | BF16 / FP16 | 76 GB | ~24 |
| Mistral Small 24B | BF16 / FP16 | 57 GB | ~31 |
| Gemma 3 27B | BF16 / FP16 | 67 GB | ~28 |
| Phi-4 14B | BF16 / FP16 | 34 GB | ~54 |
8 kartlı düğümde aynı modeller toplam 640 GB üzerine yayılır; bu da mümkün olanı tamamen değiştirir — en fazla DeepSeek V3 671B-A37B (MoE). Paylaştırma her katmanda senkronizasyon maliyeti getirir, bu yüzden tek karta sığan bir model tek kartta kalmalıdır.
Beklenecek işlem hacmi
Üretim, bellek bant genişliğiyle sınırlıdır: her token, etkin ağırlıkların yeniden okunmasını gerektirir. 3,350 GB/s'de bu, hiçbir ayarlamanın aşamayacağı bir tavan belirler.
Bizim rakamlarımız bir taban değerdir, bir söz değil.
Bu sayfadaki tahminler, yayımlanmış ölçümlere göre kalibre edilmiştir ve kasıtlı olarak muhafazakârdır — tek akışlı üretimi modellerler. vLLM altında sürekli batching ile eşzamanlı istekler genelinde toplam değer, birkaç kat daha yüksektir. Buradaki bir sayı gördüğünüz bir kıyaslamaya göre düşük görünüyorsa, genellikle fark buradan kaynaklanır.
Yakın kartlarla karşılaştırma
Fiyat açısından buna en yakın üç kart. Neyin yükleneceğine bellek karar verir; ne kadar hızlı yanıt vereceğine bant genişliği karar verir.
| Kart | Bellek | Bant Genişliği | Ara bağlantı | Başlangıç |
|---|---|---|---|---|
| H100 SXM5 Bu sayfa | 80 GB | 3,350 GB/s | NVLink | $6,061/ay |
| A100 SXM4 | 80 GB | 2,039 GB/s | NVLink | $4,395/ay |
| H200 SXM5 | 141 GB | 4,800 GB/s | NVLink | $8,405/ay |
| H100 PCIe | 80 GB | 2,000 GB/s | PCIe | $1,469/ay |
Tüm 12 kartı yan yana görün, ya da yapılandırıcının fiyat yerine modelinize ve bağlam uzunluğuna göre seçmesine izin verin.
Diğer kartlarla karşılaştırma
İnsanların an H100 SXM5 kartına karşı gerçekte yaptığı tercihler; her biri fiyat, bellek, bant genişliği ve sığan modeller üzerinden değerlendirilir.
-
H100 SXM5 vs A100 SXM4
Aynı kartta nesil atlaması
Karşılaştırmayı görün -
H100 SXM5 vs H100 PCIe
Aynı kart, farklı ara bağlantı
Karşılaştırmayı görün -
H100 SXM5 vs H200 SXM5
Daha fazla bellek, daha fazla bant genişliği, aynı mimari
Karşılaştırmayı görün -
H100 SXM5 vs B200 SXM6
Blackwell'e geçmeye değer mi?
Karşılaştırmayı görün
Dahil olanlar
-
Kimlik kontrolü yok
Belge yok, selfie yok, telefon numarası yok, şirket kaydı yok.
Hiçbir şey doğrulanmaz · her harcamada
-
Kartın tamamı
GPU tek bir makineye doğrudan aktarılır, o makine de sizindir.
MIG yok · vGPU yok · hypervisor yok
-
Root ve IPMI
İlk dakikadan itibaren tam root, ayrıca uzaktan güç ve sanal medya.
Kendi VLAN'ında bant dışı
-
Sayaçsız bant genişliği
Dahil hacim yok, aşım seviyesi yok, grafikte izlenecek hiçbir şey yok.
1 ila 25 Gbit/s · her iki yönde
-
Kurulum veya yeniden kurulum ücreti yok
İstediğiniz kadar sık, sunduğumuz herhangi bir işletim sistemine yeniden imajlayın.
$0 · sınırsız yeniden kurulum
-
Hızlı donanım değişimi
Aynı salonda bekletilen yedek parçalardan, günün her saatinde, diskler yerinde bırakılarak.
Dört saatlik hedef · 7/24
Edinebileceğiniz yerler
Her H100 SXM5 yapılandırması tüm 6 veri merkezinde mevcuttur. Bir kartın daha pahalıya mal olduğu ya da bulunmadığı hiçbir yer yoktur.
STO
Kullanılabilir
Stockholm
İsveç
ZRH
Kullanılabilir
Zürih
İsviçre
REY
Kullanılabilir
Reykjavík
İzlanda
YUL
Kullanılabilir
Montreal
Kanada
SIN
Kullanılabilir
Singapur
Singapur
H100 SXM5 sunucusu soruları
Bir H100 SXM5 sunucusu aylık ne kadara mal olur?
Tek kartlı bir H100 SXM5 sunucusu, her şey dahil ayda $6,061: 512 GB sistem RAM'i, 4 × 3.84 TB NVMe, sayaçsız 10 Gbit/s, bir IPv4 adresi ve yönlendirilmiş bir IPv6 /64. Kurulum ücreti yoktur, bant genişliği ücreti yoktur. Çoklu GPU düğümleri, 8 kart için $11,509 fiyatından başlar, 8 için $11,509 fiyatına kadar çıkar.
H100 SXM5 kartında ne kadar VRAM vardır ve içine neler sığar?
Kart başına 80 GB HBM3, 3,350 GB/s hızında. Tek kartta 8k bağlamda barındırdığı en büyük model şudur: Llama 3.1 405B (4-bit (AWQ, GPTQ)).8 kartlı bir düğümün toplam 640 GB belleği vardır, DeepSeek V3 671B-A37B (MoE) için yeterli.
H100 SXM5 adanmış mı, yoksa diğer müşterilerle paylaşımlı mı?
Adanmış. Kart, yalnızca sizin hesabınızın bulunduğu tek bir fiziksel makineye doğrudan geçirilir — MIG bölümlemesi yok, vGPU katmanı yok ve aynı silikonda başka bir kiracı yok. Çoklu GPU'lu bir düğümde, kartlar arasındaki NVLink 4 · 900 GB/s yapısı dahil olmak üzere düğümün tamamını alırsınız.
Bir H100 SXM5 sunucusu kiralamak için kimliğimi doğrulamam gerekir mi?
Hayır. Hiçbir harcama seviyesinde belge yükleme, selfie, telefon numarası ya da şirket kaydı istenmez — sekiz kartlı bir düğüm, en ucuz tek kartla tamamen aynı koşullarda açılır. Hesap açmak bir e-posta adresi, bir parola ve bir fatura adresi gerektirir ve hiçbiri doğrulanmaz.
Nasıl ödeme yapıyorum ve sunucu ne kadar hızlı teslim ediliyor?
Yalnızca kripto para ile: Bitcoin, Monero, Ethereum (ERC-20), Tether (ERC-20) ve diğerleri. Her makbuz kendi adresini alır, tutar makbuzun düzenlendiği anda gösterilen kurda sabitlenir ve makine ilk onayda devreye alınır — günün her saatinde under 5 minutes içinde root erişimi.
Bunun yerine bir H100 SXM5 sunucusunu saatlik kiralayabilir miyim?
Burada değil. Bu sitedeki her fiyat, sayaç ve saniye başına faturalandırma olmadan aylık bir fiyattır. Tipik bir $2.99/saat bulut karşısında, aylık süre makinenin sadece var olmasının kabaca 2028 saatinden sonra daha ucuza gelir — otuz günün yaklaşık 84 günü.
Kendinize ait An H100 SXM5, ayda $6,061 fiyatından itibaren.
Tüm 6 veri merkezinde rafa kurulmuş, yanma testinden geçirilmiş ve hazır bekliyor. Kripto ile ödeyin, under 5 minutes içinde sizindir.
İlgili sayfalar
- Donanım politikasıİşlettiğimiz on iki NVIDIA GPU, bir düğüm satılmadan önceki 72 saatlik burn-in, dört saatlik değişim hedefi ve disklerin kiracılar arasında nasıl silindiği.
- RehberlerSekiz pratik rehber: VRAM boyutlandırma, NVLink/PCIe, görsel ve video modelleri, aylık/saatlik, kendi barındırma/API, Llama 70B sunumu, QLoRA.
- Dokümantasyonİlk SSH, donanımı doğrulama, CUDA konteynerleri, vLLM ile model sunma, RAID, güvenlik duvarı, IPMI ve yeniden kurulumlar — gerçek bir makinede, komutlarıyla.
- Ağ25 Gbit/s'e kadar sayaçsız portlar, site başına iki operatör ve bir IX, sürekli DDoS filtreleme, yönlendirilen IPv6 — ve baştan belirtilen, sunmadığımız dört şey.