Infrastruttura # La rete, descritta con precisione. La banda è dove le pagine di hosting sono più vaghe, quindi questa è specifica: cos’è ciascuna porta, quanto costa saturarla, da chi acquistiamo il transito, e cosa non offriamo. - 25 Gbit/s su un nodo a 8 GPU, senza contatore - $0 eccedenza, a qualsiasi volume - /64 IPv6 instradato su ogni macchina - 6 siti, ciascuno su due carrier più un IX ## Velocità della porta e traffico La porta è dimensionata insieme allo chassis, perché un nodo capace di saturare una scheda è capace di saturare un collegamento. Ogni porta è senza contatore in entrambe le direzioni: non c’è un volume incluso, non c’è un livello di eccedenza e non c’è nulla da monitorare su un grafico. **Velocità della porta, traffico incluso e upgrade disponibile, per dimensione del nodo** | Nodo | Porta | Traffico mensile | Upgrade | Costo dell’upgrade | |---|---|---|---|---| | 1 × GPU 128 GB RAM · 2 × 2 TB NVMe | 1 Gbit/s Full duplex, dedicata | Senza contatoreNessun limite massimo, nessuna fatturazione a burst. | 10 Gbit/s | $49/mo | | 2 × GPU 256 GB RAM · 2 × 3.84 TB NVMe | 2 Gbit/s Full duplex, dedicata | Senza contatoreNessun limite massimo, nessuna fatturazione a burst. | 10 Gbit/s | $49/mo | | 4 × GPU 512 GB RAM · 4 × 3.84 TB NVMe | 10 Gbit/s Full duplex, dedicata | Senza contatoreNessun limite massimo, nessuna fatturazione a burst. | Già a 10 Gbit/s o superiore | — | | 8 × GPU 1024 GB RAM · 8 × 3.84 TB NVMe | 25 Gbit/s Full duplex, dedicata | Senza contatoreNessun limite massimo, nessuna fatturazione a burst. | Già a 10 Gbit/s o superiore | — | | 10 × GPU 1024 GB RAM · 8 × 7.68 TB NVMe | 25 Gbit/s Full duplex, dedicata | Senza contatoreNessun limite massimo, nessuna fatturazione a burst. | Già a 10 Gbit/s o superiore | — | Senza contatore significa esattamente questo: può mantenere la porta a line rate per l’intero mese. Ci riserviamo il diritto di parlarne con lei solo se una singola macchina inizia a degradare l’uplink condiviso per tutti gli altri nella sala — ed è successo due volte in cinque anni, entrambe le volte per un mirror mal configurato. ## Transit e peering Ogni sito acquista capacità da almeno due carrier indipendenti ed è presente sull’internet exchange locale. Un guasto di un carrier comporta un nuovo instradamento, non un’interruzione di servizio — ed è l’unico motivo per cui siamo disposti a scrivere 99,9% in un contratto. **Internet exchange e transit carrier, per data center** | Data center | Internet exchange | Transit carrier | Uplink | |---|---|---|---| | Amsterdam Paesi Bassi · Tier III | AMS-IX, NL-ix | Cogent, Arelion, Lumen | 2 × 100 Gbit/sPercorsi diversi, sale diverse | | Stoccolma Svezia · Tier III | Netnod, STHIX | Arelion, GlobalConnect | 2 × 100 Gbit/sPercorsi diversi, sale diverse | | Zurigo Svizzera · Tier IV | SwissIX, CIXP | Init7, Cogent | 2 × 100 Gbit/sPercorsi diversi, sale diverse | | Reykjavík Islanda · Tier III | RIX Reykjavík | Farice, Síminn | 2 × 100 Gbit/sPercorsi diversi, sale diverse | | Montreal Canada · Tier III | QIX Montreal | Cogent, Zayo | 2 × 100 Gbit/sPercorsi diversi, sale diverse | | Singapore Singapore · Tier III | SGIX, Equinix Singapore | Arelion, Singtel | 2 × 100 Gbit/sPercorsi diversi, sale diverse | ## Indirizzamento IPv4 Un indirizzo, incluso Instradato sulla macchina, suo per tutta la durata del contratto. Indirizzi aggiuntivi costano $3/mese ciascuno, fino a otto. IPv6 Un /64, incluso Instradato, non in bridge. Sono 18 trilioni di indirizzi per macchina, a costo zero, e non le chiederemo mai di giustificarne uno. Reverse DNS Impostabile da lei Record forward e reverse su ogni indirizzo in suo possesso, modificati da lei, applicati entro un minuto. Nessun ticket. Cronologia degli indirizzi Pulito alla consegna Un indirizzo che finisce in una blacklist resta fuori dal pool finché non ne viene rimosso. Lei non eredita la reputazione di qualcun altro. **La porta 25 in uscita è chiusa per impostazione predefinita.** Non per crearle disagio — un noleggio GPU con SMTP aperto diventa un relay di spam nel giro di pochi giorni, e l’intero blocco di indirizzi finisce in blacklist. Se ha un motivo legittimo per inviare email dalla macchina, ce lo chieda e apriremo la porta su quell’indirizzo. ## Filtraggio DDoS Il filtraggio volumetrico è attivo dal momento della consegna della macchina. Non è un’opzione, non è un livello, e non compare sulla ricevuta. ### Sempre attivo, L3 e L4 Scrubbing ai margini di ogni sito, davanti ai nostri router. Il rilevamento è automatico, basato su volume e firma; nulla attende l’intervento umano. ### Mitigazione in secondi Meno di dieci secondi dal primo pacchetto anomalo al traffico filtrato, fino alla piena capacità di transit del sito. Le sessioni legittime non vengono interrotte. ### Nessun null-routing del suo indirizzo Alcuni host rispondono a un attacco disattivando il suo IP per 24 ore. Noi lo filtriamo. La sua macchina resta raggiungibile, che è l’intero scopo di pagare per il filtraggio. ## Interconnessione GPU All’interno di un nodo, ciò che collega le schede tra loro determina se un modello di grandi dimensioni è veloce o soltanto possibile. È la parte della scheda tecnica su cui riceviamo più domande, ed è la parte che la maggior parte degli annunci omette. **Interconnessione disponibile tra le GPU, per fattore di forma della scheda** | Fattore di forma | Schede | Tra GPU | Effetto pratico | |---|---|---|---| | SXM su una board HGX Solo nodi da 4 e 8 GPU | A100 SXM4 80 GB, H100 SXM5 80 GB, H200 SXM5 141 GB, B200 SXM6 180 GB | NVLink via NVSwitch All-to-all, 900 GB/s per scheda | Parallelismo tensoriale sull’intera baseboard senza che l’interconnessione diventi il collo di bottiglia. | | Schede PCIe Da 1 a 10 GPU | L4 24 GB, RTX 4090 24 GB, RTX 5090 32 GB, RTX A6000 48 GB, L40S 48 GB, A100 PCIe 40 GB… | PCIe Gen4 ×16 o Gen5 ×16 Da 32 a 64 GB/s per scheda, peer-to-peer | Adatto per il parallelismo pipeline, l’inferenza a batch e il serving con un modello per scheda. Più lento di NVLink per il parallelismo tensoriale su molte schede. | Se non è sicuro di quale dei due il suo carico di lavoro necessiti: un modello che sta su una sola scheda non ha mai bisogno di NVLink, mentre un modello ripartito su quattro o più schede ne trae quasi sempre vantaggio. Il controllo di compatibilità nel [configuratore](https://gpuserver.io/it/configure) le dice in quale caso si trova prima di pagare. ## Latenza tra i siti Misurata dai nostri router verso le città indicate, come tempo di andata e ritorno, su un periodo di trenta giorni. Sono valori mediani, non i casi migliori. AMS Operativo ### Amsterdam Paesi Bassi Andata e ritorno 7 ms verso Francoforte, 12 ms verso Londra Exchange AMS-IX, NL-ix Nella nostra sala dal 2021 STO Operativo ### Stoccolma Svezia Andata e ritorno 22 ms verso Francoforte, 31 ms verso Londra Exchange Netnod, STHIX Nella nostra sala dal 2022 ZRH Operativo ### Zurigo Svizzera Andata e ritorno 9 ms verso Milano, 15 ms verso Francoforte Exchange SwissIX, CIXP Nella nostra sala dal 2023 REY Operativo ### Reykjavík Islanda Andata e ritorno 18 ms verso Londra, 40 ms verso New York Exchange RIX Reykjavík Nella nostra sala dal 2024 YUL Operativo ### Montreal Canada Andata e ritorno 12 ms verso New York, 19 ms verso Toronto Exchange QIX Montreal Nella nostra sala dal 2023 SIN Operativo ### Singapore Singapore Andata e ritorno 38 ms verso Tokyo, 45 ms verso Sydney Exchange SGIX, Equinix Singapore Nella nostra sala dal 2025 ## Cosa non offriamo Dichiarato qui, piuttosto che scoperto dopo il pagamento. Se uno di questi punti è un requisito per lei, non siamo il provider giusto, ed è più economico per entrambi saperlo subito. **InfiniBand multi-nodo.** NVLink collega le schede all’interno di un nodo. Non vendiamo un fabric tra nodi, quindi un job che richiede 32 GPU in un solo training run non è qualcosa che possiamo offrire. **Sessioni BGP o bring-your-own-IP.** Annunciamo solo il nostro spazio. Non è possibile annunciare il suo prefisso dai nostri router. **Collegamenti layer-2 tra data center.** Una VLAN privata collega le sue macchine *all’interno* di un unico sito. Tra siti diversi, il tunnel deve costruirlo lei. **Transit garantito o uplink privato.** La porta è senza contatore ed è condivisa a monte. Non firmeremo un contratto di capacità dedicata in aggiunta a questo. **SMTP aperto alla consegna.** La porta 25 in uscita è chiusa finché non ce lo chiede, per il motivo indicato sopra. **Una rete di anonimizzazione.** Il filtraggio protegge la sua macchina dagli attacchi. Non è un proxy, non nasconde dove va il suo traffico e non pretendiamo il contrario. ## Ogni porta elencata sopra è presente su ogni macchina. Non c’è un livello di rete da scegliere. Scelga la GPU, scelga il sito, e la porta arriva insieme allo chassis. [Sfoglia il catalogo](https://gpuserver.io/it/#catalog) [Leggi le guide](https://gpuserver.io/it/guides) ## Pagine correlate - [Politica hardware Le dodici GPU NVIDIA che gestiamo, il rodaggio di 72 ore prima della vendita, la sostituzione in 4 ore, e come cancelliamo i dischi tra un inquilino e l’altro.](https://gpuserver.io/it/hardware) - [Stato del servizio Stato di ogni componente e data center gpuserver.io, sondati ogni 60 secondi da cinque città: disponibilità su 90 giorni e registro incidenti dal 2022.](https://gpuserver.io/it/status) - [Accordo sul livello di servizio L’impegno del 99,9%: cosa conta come downtime, come viene misurato dall’esterno, cinque minuti di durata in più per ogni minuto perso, e le esclusioni per intero.](https://gpuserver.io/it/legal/sla) - [Documentazione Primo SSH, verifica dell’hardware, container CUDA, serving di un modello con vLLM, RAID, firewall, IPMI e reinstallazioni — i comandi, su una macchina reale.](https://gpuserver.io/it/docs) --- Fonte: https://gpuserver.io/it/network/. Questo file è generato dagli stessi dati del sito web; se una cifra qui differisce da una pagina, la pagina è quella autorevole e questo file è obsoleto — la fonte canonica è https://gpuserver.io/.