AMS
Kullanılabilir
Amsterdam
Hollanda
Ada Lovelace · PCIe kart
Adanmış bir L40S GPU sunucusu kiralayın.
Yalnızca size ait bir makinede, 864 GB/s hızında 48 GB GDDR6 ECC. Aylık, kripto ile ödenir, kimlik kontrolü olmadan açılır ve under 5 minutes içinde teslim edilir.
- $714/mobir kart, her şey dahil
- 48 GBGDDR6 ECC
- 864 GB/sbellek bant genişliği
- 1×, 2×, 4×, 8×mevcut düğüm boyutları
Düğüm boyutuna ve süreye göre fiyat
Her satırda tek bir sayı, ve o sayı tam sayıdır: kurulum ücreti yok, yeniden kurulum ücreti yok, bant genişliği ücreti yok, destek planı yok. Daha uzun süreler peşin ödenir.
| Düğüm | CPU ve bellek | Aylık | 3 ay | 12 ay | |
|---|---|---|---|---|---|
| 1 × L40S | Intel Xeon Silver 4410Y | $714/ay | $678/ay | $628/ay | Yapılandırın |
| 2 × L40S | Intel Xeon Gold 5416S | $1,427/ay | $1,356/ay | $1,256/ay | Yapılandırın |
| 4 × L40S | 2 × Intel Xeon Gold 6438Y+ | $2,754/ay | $2,616/ay | $2,424/ay | Yapılandırın |
| 8 × L40S | 2 × Intel Xeon Platinum 8462Y+ | $5,251/ay | $4,988/ay | $4,621/ay | Yapılandırın |
Yukarıdaki her yapılandırma, tüm 6 veri merkezinde rafa kurulmuş, yanma testinden geçirilmiş ve yazılmaya hazır bir imajla mevcuttur — teslimatın bir iş günü yerine under 5 minutes sürmesinin nedeni de budur.
Tam teknik özellikler
GPUNVIDIA L40SAda Lovelace mimarisi, PCIe eklenti kartı.
Bellek48 GB GDDR6 ECC864 GB/s bant genişliği — üretim hızını herhangi bir teraflop rakamından çok daha iyi öngören sayı.
Ara bağlantıPCIe 5.0 ×16PCIe üzerinden eşler arası (peer-to-peer). Kart başına bir model ve pipeline paralelliği için uygundur; tensör paralelliği için NVLink'ten daha yavaştır. İşinizin gerektirdiği.
Düğüm boyutları1 × kart, 2 × kart, 4 × kart, 8 × kartPCIe kartlar standart bir kasada sekize kadar çıkar, ona ise yalnızca düşük güçlü kartlarda ulaşılır.
Depolama2 × 2 TB NVMeSistem biriminin ötesinde ham olarak teslim edilir — herhangi bir RAID seviyesi dayatmayız. Daha fazla NVMe ve arşiv HDD aylık seçeneklerdir.
Ağ1 Gbit/s, sayaçsızHer iki yönde de, dahil hacim yok ve hiçbir trafik seviyesinde aşım yok. Bir IPv4, yönlendirilmiş bir IPv6 /64, teslimattan itibaren açık DDoS filtreleme.
an L40S üzerinde çalışanlar
Aşağıdaki her model, 8k bağlamda tek bir kartta sığar — paylaştırma yok, düşünülecek bir ara bağlantı yok. Gösterilen hassasiyet sığan en iyi olanıdır; aritmetik VRAM boyutlandırma rehberinde yer alır, böylece kontrol edebilirsiniz.
| Model | Sığan en iyi hassasiyet | Gereken bellek | Tahmini token/sn |
|---|---|---|---|
| Llama 3.1 8B | BF16 / FP16 | 20 GB | ~24 |
| Llama 3.3 70B | 4-bit (AWQ, GPTQ) | 43 GB | ~11 |
| Qwen 3 32B | FP8 | 38 GB | ~12 |
| Mistral Small 24B | FP8 | 28 GB | ~16 |
| Gemma 3 27B | FP8 | 33 GB | ~14 |
| Phi-4 14B | BF16 / FP16 | 34 GB | ~14 |
8 kartlı düğümde aynı modeller toplam 384 GB üzerine yayılır; bu da mümkün olanı tamamen değiştirir — en fazla Llama 3.1 405B. Paylaştırma her katmanda senkronizasyon maliyeti getirir, bu yüzden tek karta sığan bir model tek kartta kalmalıdır.
Beklenecek işlem hacmi
Üretim, bellek bant genişliğiyle sınırlıdır: her token, etkin ağırlıkların yeniden okunmasını gerektirir. 864 GB/s'de bu, hiçbir ayarlamanın aşamayacağı bir tavan belirler.
Bizim rakamlarımız bir taban değerdir, bir söz değil.
Bu sayfadaki tahminler, yayımlanmış ölçümlere göre kalibre edilmiştir ve kasıtlı olarak muhafazakârdır — tek akışlı üretimi modellerler. vLLM altında sürekli batching ile eşzamanlı istekler genelinde toplam değer, birkaç kat daha yüksektir. Buradaki bir sayı gördüğünüz bir kıyaslamaya göre düşük görünüyorsa, genellikle fark buradan kaynaklanır.
Yakın kartlarla karşılaştırma
Fiyat açısından buna en yakın üç kart. Neyin yükleneceğine bellek karar verir; ne kadar hızlı yanıt vereceğine bant genişliği karar verir.
| Kart | Bellek | Bant Genişliği | Ara bağlantı | Başlangıç |
|---|---|---|---|---|
| L40S Bu sayfa | 48 GB | 864 GB/s | PCIe | $714/ay |
| A100 PCIe | 40 GB | 1,555 GB/s | PCIe | $392/ay |
| A100 PCIe | 80 GB | 1,935 GB/s | PCIe | $1,091/ay |
| RTX 5090 | 32 GB | 1,792 GB/s | PCIe | $335/ay |
Tüm 12 kartı yan yana görün, ya da yapılandırıcının fiyat yerine modelinize ve bağlam uzunluğuna göre seçmesine izin verin.
Diğer kartlarla karşılaştırma
İnsanların an L40S kartına karşı gerçekte yaptığı tercihler; her biri fiyat, bellek, bant genişliği ve sığan modeller üzerinden değerlendirilir.
-
L40S vs RTX A6000
İki 48 GB kart, biri veri merkezleri için üretildi
Karşılaştırmayı görün -
L40S vs A100 PCIe
HBM'e karşı GDDR, benzer fiyata
Karşılaştırmayı görün
Dahil olanlar
-
Kimlik kontrolü yok
Belge yok, selfie yok, telefon numarası yok, şirket kaydı yok.
Hiçbir şey doğrulanmaz · her harcamada
-
Kartın tamamı
GPU tek bir makineye doğrudan aktarılır, o makine de sizindir.
MIG yok · vGPU yok · hypervisor yok
-
Root ve IPMI
İlk dakikadan itibaren tam root, ayrıca uzaktan güç ve sanal medya.
Kendi VLAN'ında bant dışı
-
Sayaçsız bant genişliği
Dahil hacim yok, aşım seviyesi yok, grafikte izlenecek hiçbir şey yok.
1 ila 25 Gbit/s · her iki yönde
-
Kurulum veya yeniden kurulum ücreti yok
İstediğiniz kadar sık, sunduğumuz herhangi bir işletim sistemine yeniden imajlayın.
$0 · sınırsız yeniden kurulum
-
Hızlı donanım değişimi
Aynı salonda bekletilen yedek parçalardan, günün her saatinde, diskler yerinde bırakılarak.
Dört saatlik hedef · 7/24
Edinebileceğiniz yerler
Her L40S yapılandırması tüm 6 veri merkezinde mevcuttur. Bir kartın daha pahalıya mal olduğu ya da bulunmadığı hiçbir yer yoktur.
STO
Kullanılabilir
Stockholm
İsveç
ZRH
Kullanılabilir
Zürih
İsviçre
REY
Kullanılabilir
Reykjavík
İzlanda
YUL
Kullanılabilir
Montreal
Kanada
SIN
Kullanılabilir
Singapur
Singapur
L40S sunucusu soruları
Bir L40S sunucusu aylık ne kadara mal olur?
Tek kartlı bir L40S sunucusu, her şey dahil ayda $714: 128 GB sistem RAM'i, 2 × 2 TB NVMe, sayaçsız 1 Gbit/s, bir IPv4 adresi ve yönlendirilmiş bir IPv6 /64. Kurulum ücreti yoktur, bant genişliği ücreti yoktur. Çoklu GPU düğümleri, 2 kart için $1,427 fiyatından başlar, 8 için $5,251 fiyatına kadar çıkar.
L40S kartında ne kadar VRAM vardır ve içine neler sığar?
Kart başına 48 GB GDDR6 ECC, 864 GB/s hızında. Tek kartta 8k bağlamda barındırdığı en büyük model şudur: Llama 3.3 70B (4-bit (AWQ, GPTQ)).8 kartlı bir düğümün toplam 384 GB belleği vardır, Llama 3.1 405B için yeterli.
L40S adanmış mı, yoksa diğer müşterilerle paylaşımlı mı?
Adanmış. Kart, yalnızca sizin hesabınızın bulunduğu tek bir fiziksel makineye doğrudan geçirilir — MIG bölümlemesi yok, vGPU katmanı yok ve aynı silikonda başka bir kiracı yok. Çoklu GPU'lu bir düğümde, kartlar arasındaki PCIe 5.0 ×16 yapısı dahil olmak üzere düğümün tamamını alırsınız.
Bir L40S sunucusu kiralamak için kimliğimi doğrulamam gerekir mi?
Hayır. Hiçbir harcama seviyesinde belge yükleme, selfie, telefon numarası ya da şirket kaydı istenmez — sekiz kartlı bir düğüm, en ucuz tek kartla tamamen aynı koşullarda açılır. Hesap açmak bir e-posta adresi, bir parola ve bir fatura adresi gerektirir ve hiçbiri doğrulanmaz.
Nasıl ödeme yapıyorum ve sunucu ne kadar hızlı teslim ediliyor?
Yalnızca kripto para ile: Bitcoin, Monero, Ethereum (ERC-20), Tether (ERC-20) ve diğerleri. Her makbuz kendi adresini alır, tutar makbuzun düzenlendiği anda gösterilen kurda sabitlenir ve makine ilk onayda devreye alınır — günün her saatinde under 5 minutes içinde root erişimi.
Bunun yerine bir L40S sunucusunu saatlik kiralayabilir miyim?
Burada değil. Bu sitedeki her fiyat, sayaç ve saniye başına faturalandırma olmadan aylık bir fiyattır. Tipik bir $2.99/saat bulut karşısında, aylık süre makinenin sadece var olmasının kabaca 239 saatinden sonra daha ucuza gelir — otuz günün yaklaşık 10 günü.
Kendinize ait An L40S, ayda $714 fiyatından itibaren.
Tüm 6 veri merkezinde rafa kurulmuş, yanma testinden geçirilmiş ve hazır bekliyor. Kripto ile ödeyin, under 5 minutes içinde sizindir.
İlgili sayfalar
- Donanım politikasıİşlettiğimiz on iki NVIDIA GPU, bir düğüm satılmadan önceki 72 saatlik burn-in, dört saatlik değişim hedefi ve disklerin kiracılar arasında nasıl silindiği.
- RehberlerSekiz pratik rehber: VRAM boyutlandırma, NVLink/PCIe, görsel ve video modelleri, aylık/saatlik, kendi barındırma/API, Llama 70B sunumu, QLoRA.
- Dokümantasyonİlk SSH, donanımı doğrulama, CUDA konteynerleri, vLLM ile model sunma, RAID, güvenlik duvarı, IPMI ve yeniden kurulumlar — gerçek bir makinede, komutlarıyla.
- Ağ25 Gbit/s'e kadar sayaçsız portlar, site başına iki operatör ve bir IX, sürekli DDoS filtreleme, yönlendirilen IPv6 — ve baştan belirtilen, sunmadığımız dört şey.