Tüm 6 veri merkezi çalışıyor

Kripto ile ödenir · Kimlik kontrolü yok · 5 dakikanın altında içinde root erişimi

Altyapı

Kabine ne taktığımız ve bozulduğunda ne olduğu.

Adanmış bir sunucu, fiziksel bir nesne hakkında verilen bir sözdür. Bu sayfa o nesneyi anlatır: hangi kartları satın alıyoruz, bir düğüm bir kiracı almadan önce nasıl test ediliyor ve bunlardan biri öldüğünde ne yapıyoruz.

  • 12İşlettiğimiz GPU modelleri
  • 72 hbir düğüm kiracı almadan önce burn-in
  • 4 harızalı donanımı değiştirme hedefi
  • 0başka bir sağlayıcıdan yeniden satılan kartlar

İşlettiğimiz her kart

Liste bu kadar — listelenmeyen bir seviye ve daha büyük hesaplar için sakladığımız bir kart yoktur. Bellek bant genişliği tabloda yer alır, çünkü çıkarım için işlem hacmini herhangi bir teraflop değerinden çok daha iyi öngörür.

GPU modelleri, mimari, bellek, bant genişliği, düğüm boyutları ve giriş fiyatı
Kart Mimari Bellek Bant Genişliği Düğüm boyutları Başlangıç
L4 PCIe eklenti kartı Ada Lovelace 24 GB GDDR6 300 GB/s 1×, 2×, 4×, 8×, 10× $125/ay
RTX 4090 PCIe eklenti kartı Ada Lovelace 24 GB GDDR6X 1,008 GB/s 1×, 2×, 4×, 8× $193/ay
RTX 5090 PCIe eklenti kartı Blackwell 32 GB GDDR7 1,792 GB/s 1×, 2×, 4×, 8× $335/ay
RTX A6000 PCIe eklenti kartı Ampere 48 GB GDDR6 ECC 768 GB/s 1×, 2×, 4×, 8× $286/ay
L40S PCIe eklenti kartı Ada Lovelace 48 GB GDDR6 ECC 864 GB/s 1×, 2×, 4×, 8× $714/ay
A100 PCIe PCIe eklenti kartı Ampere 40 GB HBM2 1,555 GB/s 1×, 2×, 4×, 8× $392/ay
A100 PCIe PCIe eklenti kartı Ampere 80 GB HBM2e 1,935 GB/s 1×, 2×, 4×, 8× $1,091/ay
H100 PCIe PCIe eklenti kartı Hopper 80 GB HBM3 2,000 GB/s 1×, 2×, 4×, 8× $1,469/ay
A100 SXM4 SXM modülü, HGX panosu Ampere 80 GB HBM2e 2,039 GB/s 4×, 8× $4,395/ay
H100 SXM5 SXM modülü, HGX panosu Hopper 80 GB HBM3 3,350 GB/s 4×, 8× $6,061/ay
H200 SXM5 SXM modülü, HGX panosu Hopper 141 GB HBM3e 4,800 GB/s 4×, 8× $8,405/ay
B200 SXM6 SXM modülü, HGX panosu Blackwell 180 GB HBM3e 8,000 GB/s 4×, 8× $11,790/ay

Her kart, garantisi bizim adımıza olan, yeni satın alınmış perakende veya OEM bir parçadır. Eski madencilik stoku satın almayız ve geçmişini hesabını veremeyeceğimiz kartları satın almayız — ikinci el bir RTX 4090'ın ucuz olmasının bir nedeni vardır ve bu neden dördüncü ayda ortaya çıkar.

Kartların çevresindekiler

CPU, RAM veya disk işlem hacminden yoksun bırakılmış bir GPU, pahalı bir bekleme şeklidir. Kasa, kart sayısına göre seçilir; bir yükseltme yolu olarak satılmaz.

GPU sayısına göre kasa özellikleri
Düğüm CPU Sistem RAM'ı Yerel depolama Port
1 × GPU AMD Ryzen 9 7950X 16 çekirdek / 32 iş parçacığı · veya Intel Xeon Silver 4410Y 128 GB 2 × 2 TB NVMeGen4 U.2, zorunlu RAID yok 1 Gbit/s
2 × GPU AMD Threadripper 7960X 24 çekirdek / 48 iş parçacığı · veya Intel Xeon Gold 5416S 256 GB 2 × 3.84 TB NVMeGen4 U.2, zorunlu RAID yok 2 Gbit/s
4 × GPU AMD Threadripper 7970X 32 çekirdek / 64 iş parçacığı · veya 2 × Intel Xeon Gold 6438Y+ 512 GB 4 × 3.84 TB NVMeGen4 U.2, zorunlu RAID yok 10 Gbit/s
8 × GPU 2 × Intel Xeon Gold 6438Y+ 64 çekirdek · veya 2 × Intel Xeon Platinum 8462Y+ 1 TB 8 × 3.84 TB NVMeGen4 U.2, zorunlu RAID yok 25 Gbit/s
10 × GPU 2 × Intel Xeon Platinum 8462Y+ 64 çekirdek · veya 2 × Intel Xeon Platinum 8462Y+ 1 TB 8 × 7.68 TB NVMeGen4 U.2, zorunlu RAID yok 25 Gbit/s

İki CPU listelendiğinde, ikisinden biri teslim edilebilir — çekirdek sayısı ve bellek kanalları açısından eşleştirilmişlerdir ve yapılandırıcı, ödeme yapmadan önce düğümünüzde hangisinin olduğunu size gösterir. Diskler ham olarak teslim edilir: hiçbir RAID seviyesi dayatmayız, çünkü doğru seviye, kontrol noktaları mı yoksa yeniden indirebileceğiniz bir veri kümesi mi sakladığınıza bağlıdır.

Bir düğüm satılmadan önce

Bir makine, kataloğa ancak üç gün boyunca bozulmaya çalışıp başarısız olduktan sonra girer. Erken ölecek neredeyse her kart burada, bizim elimizde ölür — sizin elinizde değil.

ADIM 1 · 2 SAAT

Montaj ve envanter

Her kartın, modülün ve diskin seri numarası kasaya karşı kaydedilir. Bu kayıt, daha sonra size makinenizde tam olarak hangi fiziksel parçanın bulunduğunu söylememizi sağlayan şeydir.

ADIM 2 · 24 SAAT

Bellek ve hesaplama dayanıklılık testi

Her kartta tam VRAM ECC örüntü testleri, ardından %100 kullanımda sürdürülen matris çarpımı. Tek bir düzeltilemez hata, kartın kutuya geri dönmesi demektir.

ADIM 3 · 24 SAAT

Isı ve güç yükleme testi

Giriş sıcaklığı salonun en kötü senaryosuna çıkarılırken düğümün tamamı tam yükte tutulur. Kutu üzerindeki boost değerini değil, kartların fiilen sürdürdüğü saat hızını kaydederiz; teknik özelliklerin altına düşen bir düğüm, yeniden test edilmeden önce yeniden oturtulur veya termal macunu yenilenir.

ADIM 4 · 24 SAAT

Ara bağlantı ve depolama

Karttan karta ölçülen NVLink veya PCIe eşler arası bant genişliği, örneklenen NVMe yazma dayanıklılığı, hat hızında tutulan port. Sayılar, aynı modelin diğer düğümleriyle karşılaştırılır, çünkü %15 yavaş olan bir düğüm, sorunlu bir düğümdür.

SONRA · RAFA YERLEŞTİRİLDİ VE BEKLİYOR

Kullanılabilir, yazılmaya hazır bir imajla

Teslimatın bir iş günü değil 5 dakikanın altında olmasının nedeni budur: sipariş verdiğinizde hiçbir şey monte edilmez. Makine zaten mevcuttur, güç altındadır ve test edilmiştir; ödemeniz bir montaj değil, bir imaj yazma işlemini tetikler.

Firmware ve sürücüler

Sürücü yığını Kurulu, sabitlenmiş, değiştirmek sizin elinizde Her Linux imajı, güncel bir NVIDIA sürücüsü, CUDA, cuDNN ve NCCL'yi çalışır durumda hazır gelir. Hepsini değiştirmenizi engelleyen hiçbir şey yoktur — root sizindir.
Firmware güncellemeleri Süreniz boyunca asla BIOS, BMC ve VBIOS, düğüm kataloğa girmeden önce ayarlanır. Birisinin kiraladığı bir makineye firmware göndermeyiz; bu, kiracılar arasında uygulanır.
Saat hızları Stokta ve kullanımınıza açık Her kartı referans hızında ve güç limitinde gönderiyoruz. Bunları nvidia-smi ile yükseltebilir veya düşürebilirsiniz; garanti sonucu sizin değil, bizim sorumluluğumuzdadır.
Bant dışı erişim IPMI, ayrı bir ağ üzerinde İşletim sistemi erişilemez olsa bile erişilebilen uzaktan güç, seri konsol ve sanal medya. Herkese açık portunuza asla dokunmayan bir yönetim VLAN'ı üzerindedir.

Bir şey arızalandığında

Donanım bozulur. Sağlayıcıları birbirinden ayıran şey bunun olup olmaması değil, sonraki dört saatin nasıl geçtiğidir.

Yedekler sahada

Her salon, yedek kartlar, PSU'lar, diskler ve model başına eksiksiz bir kasa bulundurur. Bir değişim, bir koridorda yürümekle olur, kurye rezervasyonuyla değil.

Dört saatlik hedef

Bildiriminizden çalışır donanıma kadar, günün her saati. Bunu kaçırırsak, SLA süreninizi otomatik olarak uzatır — talep etmenize gerek kalmaz.

Diskleriniz sizin kalır

Arızalı bir GPU veya PSU, diskler yerinde ve dokunulmadan değiştirilir. Depolamaya dokunmadan önce yalnızca izin isteriz, ve bunu yalnızca arızalanan şey depolamaysa yaparız.

Arızalı bir disk, bir sonraki kiracı tarafından okunamaz. Hizmetten kaldırılan sürücüler, hâlâ yanıt veriyorsa silinir; vermiyorsa fiziksel olarak imha edilir. Ölü bir disk silinemez, bu yüzden hiçbir zaman garanti kapsamında üreticiye iade edilmez — bir zamanlar verinizi tutmuş bir sürücünün binadan bozulmadan çıkmasına izin vermek yerine bu maliyeti biz üstleniriz.

İki kiracı arasında

Aynı makine sizden sonra tekrar kiralanacaktır. Aşağıdaki her şey, kimse sormasa bile, makine kataloğa yeniden girmeden önce gerçekleşir.

İki kiracı arasındaki hizmetten kaldırma adımları
AdımNe olurDoğrulayan
1. AğMakine, süre sona erer ermez herkese açık portundan kesilir. Beklerken hiçbir şey erişilebilir bırakılmaz.Port durumu, loglanır
2. DepolamaHer NVMe cihazı, tam bir kriptografik silme işleminden ve ardından tüm adres alanının tek geçişlik üzerine yazılmasından geçer.Her cihazda geri okuma örneklemesi
3. GPU belleğiKartlar sıfırlanır ve bellekleri temizlenir; ECC sayaçları okunur ve burn-in sırasında kaydedilen değerlerle karşılaştırılır.nvidia-smi sıfırlama logu
4. FirmwareBMC ve BIOS ayarları, süre boyunca yapılan her değişikliği geçersiz kılarak referansımıza göre yeniden yazılır.Referansa göre sağlama toplamı
5. KimlikIPMI kimlik bilgileri değiştirilir, IP adresleri havuza geri döner, rDNS temizlenir.Temiz olana kadar tutulan adres

Süre sona erdikten sonra hiçbir şeyi geri yükleyememizin nedeni de budur. Verilerinizin bir yerde hâlâ var olduğu bir tolerans süresi yoktur — adım 2 zaten çalışmıştır. İhtiyacınız varsa, süre kapanmadan önce verilerinizi makineden alın.

Yapmayacaklarımız

Bir kartı bölümlemek. MIG yok, vGPU yok, time-slicing yok. Fiziksel GPU başına bir kiracı — listedeki işlem hacmini tekrarlanabilir kılan da budur.

Bir düğümü aşırı satmak. Makinede ikinci bir hesap yoktur ve sizinle donanım arasında bir hipervizör bulunmaz.

Başkasının kapasitesini yeniden satmak. Bu sayfadaki her kart, satın alıp rafa yerleştirdiğimiz bir karttır. Burada başka bir bulut üzerinden alınan bayi marjı yoktur.

Farklı bir kartla ikame etmek. Sipariş ettiğiniz model teslim edilemiyorsa, sessizce yakın bir eşdeğerini göndermeyiz — size söyleriz ve süreyi iade ederiz.

İşletim sisteminize girmek. Root yalnızca size aittir. IPMI'miz var; bu, elektriği kesip açabilir ve medya bağlayabilir, ama makinenizin içinde bir oturum açma erişimimiz yoktur.

Herhangi bir şeyin kopyasını tutmak. Disklerinizin yedeğini almayız. Anlık görüntüler yalnızca satın alırsanız var olur ve süreyle birlikte silinir.

Satırda görülen özellikler, tam olarak aldığınız özelliklerdir.

Yukarıdaki her kart, 6 veri merkezinin tamamında, rafa yerleştirilmiş, burn-in testinden geçirilmiş ve yazılmaya hazır bir imajla kullanılabilir.

Katalogda göz atınRehberleri okuyun

İlgili sayfalar

Giriş Yapın

Konsol, makbuzlar ve bant dışı erişim.

Henüz hesabınız yok mu?

Ayrı bir kayıt işlemi yoktur. Hesabınız, ilk siparişinizi verirken oluşturulur — e-postayı ve şifreyi ödeme adımında seçersiniz, ve makine hazır olduğunda konsol da açık olur.

Bir sunucu yapılandırın

Language