Altyapı # Ağ, tam olarak tarif edildi. Bant genişliği, hosting sayfalarının en belirsiz kaldığı konudur, bu yüzden bu sayfa netliğe önem verir: her portun ne olduğu, doyurduğunuzda neye mal olduğu, transiti kimden satın aldığımız ve neyi sunmadığımız. - 25 Gbit/s 8 GPU'lu bir düğümde, sayaçsız - $0 her hacimde aşım - /64 Her makineye yönlendirilmiş IPv6 - 6 her biri iki taşıyıcı artı bir IX üzerinde olan tesisler ## Port hızı ve trafiği Port, şasiye göre boyutlandırılır; çünkü bir kartı doyurabilen bir düğüm, bir bağlantıyı da doyurabilir. Her port her iki yönde de sayaçsızdır: dahil bir hacim, bir aşım seviyesi ya da grafikte izlenecek bir şey yoktur. **Düğüm boyutuna göre port hızı, dahil trafik ve mevcut yükseltme** | Düğüm | Port | Aylık trafik | Yükseltme | Yükseltmenin maliyeti | |---|---|---|---|---| | 1 × GPU 128 GB RAM · 2 × 2 TB NVMe | 1 Gbit/s Tam çift yönlü, adanmış | SayaçsızÜst sınır yok, burst faturalandırması yok | 10 Gbit/s | $49/mo | | 2 × GPU 256 GB RAM · 2 × 3.84 TB NVMe | 2 Gbit/s Tam çift yönlü, adanmış | SayaçsızÜst sınır yok, burst faturalandırması yok | 10 Gbit/s | $49/mo | | 4 × GPU 512 GB RAM · 4 × 3.84 TB NVMe | 10 Gbit/s Tam çift yönlü, adanmış | SayaçsızÜst sınır yok, burst faturalandırması yok | Zaten 10 Gbit/s veya üzeri | — | | 8 × GPU 1024 GB RAM · 8 × 3.84 TB NVMe | 25 Gbit/s Tam çift yönlü, adanmış | SayaçsızÜst sınır yok, burst faturalandırması yok | Zaten 10 Gbit/s veya üzeri | — | | 10 × GPU 1024 GB RAM · 8 × 7.68 TB NVMe | 25 Gbit/s Tam çift yönlü, adanmış | SayaçsızÜst sınır yok, burst faturalandırması yok | Zaten 10 Gbit/s veya üzeri | — | Sayaçsız, tam olarak söylediği anlama gelir: portu tüm ay boyunca hat hızında tutabilirsiniz. Yalnızca tek bir makine, salondaki herkes için paylaşımlı üst bağlantıyı kötüleştirmeye başlarsa sizinle bu konuda konuşma hakkımızı saklı tutarız — ve bu konuşma beş yılda iki kez yaşandı, her ikisinde de yanlış yapılandırılmış bir mirror yüzünden. ## Transit ve peering Her tesis, en az iki bağımsız taşıyıcıdan hizmet satın alır ve yerel internet değişim noktasında yer alır. Bir taşıyıcı arızası, bir kesinti değil bir yeniden yönlendirmedir — sözleşmeye %99,9 yazmaya razı olmamızın tek nedeni de budur. **Veri merkezine göre internet değişim noktası ve transit taşıyıcılar** | Veri merkezi | İnternet değişim noktası | Transit taşıyıcılar | Uplink | |---|---|---|---| | Amsterdam Hollanda · Tier III | AMS-IX, NL-ix | Cogent, Arelion, Lumen | 2 × 100 Gbit/sFarklı güzergahlar, farklı odalar | | Stockholm İsveç · Tier III | Netnod, STHIX | Arelion, GlobalConnect | 2 × 100 Gbit/sFarklı güzergahlar, farklı odalar | | Zürih İsviçre · Tier IV | SwissIX, CIXP | Init7, Cogent | 2 × 100 Gbit/sFarklı güzergahlar, farklı odalar | | Reykjavík İzlanda · Tier III | RIX Reykjavík | Farice, Síminn | 2 × 100 Gbit/sFarklı güzergahlar, farklı odalar | | Montreal Kanada · Tier III | QIX Montreal | Cogent, Zayo | 2 × 100 Gbit/sFarklı güzergahlar, farklı odalar | | Singapur Singapur · Tier III | SGIX, Equinix Singapur | Arelion, Singtel | 2 × 100 Gbit/sFarklı güzergahlar, farklı odalar | ## Adresleme IPv4 Bir adres, dahil Makineye yönlendirilir, sözleşme süresi boyunca sizindir. Ek adresler, sekize kadar, her biri $3/ay. IPv6 Bir /64, dahil Köprülenmiş değil, yönlendirilmiştir. Bu, makine başına hiçbir ücret olmadan 18 kentilyon adres demektir ve tek birini bile gerekçelendirmenizi asla istemeyiz. Ters DNS Ayarlaması size ait Elinizdeki her adres için ileri ve ters kayıtlar sizin tarafınızdan değiştirilir, bir dakika içinde uygulanır. Talep yok. Adres geçmişi Teslimatta temiz Herhangi bir yerde kara listeye alınmış bir adres, listeden çıkarılana kadar havuzun dışında tutulur. Başkasının itibarını devralmazsınız. **Giden port 25 varsayılan olarak kapalıdır.** Sizi rahatsız etmek için değil — açık SMTP'li bir GPU kiralaması günler içinde bir spam aktarıcısına dönüşür ve tüm blok kara listeye alınır. Makineden posta göndermek için gerçek bir nedeniniz varsa, bize sorun, o adres için açalım. ## DDoS filtreleme Hacimsel filtreleme, makine teslim edildiği andan itibaren açıktır. Bir seçenek değildir, bir seviye değildir ve makbuzda görünmez. ### Her zaman açık, L3 ve L4 Her tesisin kenarında, kendi yönlendiricilerimizin önünde temizleme yapılır. Tespit, hız ve imzaya göre otomatiktir; hiçbir şey bir insanı beklemez. ### Saniyeler içinde azaltma İlk anormal paketten filtrelenmiş trafiğe kadar on saniyenin altında, tesisin tam transit kapasitesine kadar. Meşru oturumlar sıfırlanmaz. ### Adresiniz için null routing uygulanmaz Bazı sağlayıcılar bir saldırıya, IP'nizi 24 saatliğine düşürerek yanıt verir. Biz onu filtreleriz. Makineniz erişilebilir kalır — filtreleme için ödeme yapmanın tüm amacı da budur. ## GPU ara bağlantısı Bir düğümün içinde kartları birbirine bağlayan şey, büyük bir modelin hızlı mı yoksa sadece mümkün mü olacağını belirler. Bu, hakkında en çok soru aldığımız kısımdır ve çoğu ilanın atladığı kısımdır. **GPU'lar arasında kullanılabilen ara bağlantı, kart form faktörüne göre** | Form faktörü | Kartlar | GPU'lar arasında | Pratik etki | |---|---|---|---| | HGX kartında SXM yalnızca 4 ve 8 GPU'lu düğümler | A100 SXM4 80 GB, H100 SXM5 80 GB, H200 SXM5 141 GB, B200 SXM6 180 GB | NVSwitch üzerinden NVLink Herkesten herkese, kart başına 900 GB/s | Ara bağlantının darboğaza dönüşmediği, bütün kartlar arasında tensor paralelliği. | | PCIe kartları 1 ila 10 GPU | L4 24 GB, RTX 4090 24 GB, RTX 5090 32 GB, RTX A6000 48 GB, L40S 48 GB, A100 PCIe 40 GB… | PCIe Gen4 ×16 veya Gen5 ×16 kart başına 32 ila 64 GB/s, eşler arası | Pipeline paralelliği, batch çıkarım ve kart başına tek model sunumu için uygundur. Çok sayıda kart arasında tensor paralelliği için NVLink'ten daha yavaştır. | İş yükünüzün ikisinden hangisine ihtiyaç duyduğundan emin değilseniz: tek bir karta sığan bir model NVLink'e asla ihtiyaç duymaz, dört veya daha fazla karta bölünmüş bir modelse neredeyse her zaman ondan fayda görür. [Yapılandırıcıdaki](https://gpuserver.io/tr/configure) sığma denetleyicisi, ödeme yapmadan önce hangi durumda olduğunuzu size söyler. ## Tesisler arasında gecikme Kendi yönlendiricilerimizden adı geçen şehirlere, gidiş-dönüş olarak, otuz gün boyunca ölçülür. Bunlar medyan değerlerdir, en iyi durumlar değil. AMS Çalışıyor ### Amsterdam Hollanda Gidiş-dönüş Frankfurt'a 7 ms, Londra'ya 12 ms Değişim noktası AMS-IX, NL-ix Salonumuz 2021 tarihinden beri STO Çalışıyor ### Stockholm İsveç Gidiş-dönüş Frankfurt'a 22 ms, Londra'ya 31 ms Değişim noktası Netnod, STHIX Salonumuz 2022 tarihinden beri ZRH Çalışıyor ### Zürih İsviçre Gidiş-dönüş Milano'ya 9 ms, Frankfurt'a 15 ms Değişim noktası SwissIX, CIXP Salonumuz 2023 tarihinden beri REY Çalışıyor ### Reykjavík İzlanda Gidiş-dönüş Londra'ya 18 ms, New York'a 40 ms Değişim noktası RIX Reykjavík Salonumuz 2024 tarihinden beri YUL Çalışıyor ### Montreal Kanada Gidiş-dönüş New York'a 12 ms, Toronto'ya 19 ms Değişim noktası QIX Montreal Salonumuz 2023 tarihinden beri SIN Çalışıyor ### Singapur Singapur Gidiş-dönüş Tokyo'ya 38 ms, Sidney'e 45 ms Değişim noktası SGIX, Equinix Singapur Salonumuz 2025 tarihinden beri ## Sunmadıklarımız Ödemeden sonra keşfedilmek yerine burada belirtilir. Bunlardan biri sizin için bir gereklilikse, biz yanlış sağlayıcıyızdır ve bunu şimdiden bilmek ikimiz için de daha ucuzdur. **Çok düğümlü InfiniBand.** NVLink, kartları tek bir düğüm içinde birbirine bağlar. Düğümler arasında bir fabric satmıyoruz; bu yüzden tek bir eğitim çalıştırmasında 32 GPU gerektiren bir iş bizim sunabileceğimiz bir şey değildir. **BGP oturumları veya kendi IP'nizi getirme.** Yalnızca kendi adres bloğumuzu duyururuz. Önekinizi yönlendiricilerimizden duyurmanın bir yolu yoktur. **Veri merkezleri arasında Layer-2 bağlantılar.** Özel bir VLAN, makinelerinizi tek bir tesis *içinde* birbirine bağlar. Tesisler arasında tüneli siz kurarsınız. **Taahhütlü transit veya özel bir uplink.** Port sayaçsızdır ve paylaşımlı bir üst bağlantı üzerindedir. Bunun üzerine ayrılmış kapasiteli bir sözleşme imzalamayız. **Teslimatta açık SMTP.** Yukarıda belirtilen nedenle, siz istemedikçe giden Port 25 kapalıdır. **Bir anonimlik ağı.** Filtreleme, makinenizi saldırılardan korur. Bir proxy değildir, trafiğinizin nereye gittiğini gizlemez ve aksini iddia etmeyiz. ## Yukarıdaki her port, her makinede bulunur. Seçilecek bir ağ seviyesi yoktur. GPU'yu seçin, tesisi seçin; port şasiyle birlikte gelir. [Katalogda göz atın](https://gpuserver.io/tr/#catalog) [Rehberleri okuyun](https://gpuserver.io/tr/guides) ## İlgili sayfalar - [Donanım politikası İşlettiğimiz on iki NVIDIA GPU, bir düğüm satılmadan önceki 72 saatlik burn-in, dört saatlik değişim hedefi ve disklerin kiracılar arasında nasıl silindiği.](https://gpuserver.io/tr/hardware) - [Hizmet durumu gpuserver.io'nun her bileşeni ve veri merkezi, beş şehirden 60 saniyede bir yoklanır; 90 günlük kullanılabilirlik ve 2022'den beri olay logu burada yer alır.](https://gpuserver.io/tr/status) - [Hizmet seviyesi sözleşmesi %99,9 taahhüdü: neyin kesinti sayıldığı, dışarıdan nasıl ölçüldüğü, kaybedilen her dakika için beş dakika süre iadesi ve istisnaların tamamı.](https://gpuserver.io/tr/legal/sla) - [Dokümantasyon İlk SSH, donanımı doğrulama, CUDA konteynerleri, vLLM ile model sunma, RAID, güvenlik duvarı, IPMI ve yeniden kurulumlar — gerçek bir makinede, komutlarıyla.](https://gpuserver.io/tr/docs) --- Kaynak: https://gpuserver.io/tr/network/. Bu dosya, web sitesiyle aynı verilerden üretilir; buradaki bir rakam bir sayfadan farklıysa, o sayfa esas alınır ve bu dosya güncel değildir — asıl kaynak https://gpuserver.io/ adresidir.