AMS
Operativo
Amsterdam
Paesi Bassi
Infrastruttura
La rete, descritta con precisione.
La banda è dove le pagine di hosting sono più vaghe, quindi questa è specifica: cos’è ciascuna porta, quanto costa saturarla, da chi acquistiamo il transito, e cosa non offriamo.
- 25 Gbit/ssu un nodo a 8 GPU, senza contatore
- $0eccedenza, a qualsiasi volume
- /64IPv6 instradato su ogni macchina
- 6siti, ciascuno su due carrier più un IX
Velocità della porta e traffico
La porta è dimensionata insieme allo chassis, perché un nodo capace di saturare una scheda è capace di saturare un collegamento. Ogni porta è senza contatore in entrambe le direzioni: non c’è un volume incluso, non c’è un livello di eccedenza e non c’è nulla da monitorare su un grafico.
| Nodo | Porta | Traffico mensile | Upgrade | Costo dell’upgrade |
|---|---|---|---|---|
| 1 × GPU | 1 Gbit/s | Senza contatore | 10 Gbit/s | $49/mo |
| 2 × GPU | 2 Gbit/s | Senza contatore | 10 Gbit/s | $49/mo |
| 4 × GPU | 10 Gbit/s | Senza contatore | Già a 10 Gbit/s o superiore | — |
| 8 × GPU | 25 Gbit/s | Senza contatore | Già a 10 Gbit/s o superiore | — |
| 10 × GPU | 25 Gbit/s | Senza contatore | Già a 10 Gbit/s o superiore | — |
Senza contatore significa esattamente questo: può mantenere la porta a line rate per l’intero mese. Ci riserviamo il diritto di parlarne con lei solo se una singola macchina inizia a degradare l’uplink condiviso per tutti gli altri nella sala — ed è successo due volte in cinque anni, entrambe le volte per un mirror mal configurato.
Transit e peering
Ogni sito acquista capacità da almeno due carrier indipendenti ed è presente sull’internet exchange locale. Un guasto di un carrier comporta un nuovo instradamento, non un’interruzione di servizio — ed è l’unico motivo per cui siamo disposti a scrivere 99,9% in un contratto.
| Data center | Internet exchange | Transit carrier | Uplink |
|---|---|---|---|
| Amsterdam | AMS-IX, NL-ix | Cogent, Arelion, Lumen | 2 × 100 Gbit/s |
| Stoccolma | Netnod, STHIX | Arelion, GlobalConnect | 2 × 100 Gbit/s |
| Zurigo | SwissIX, CIXP | Init7, Cogent | 2 × 100 Gbit/s |
| Reykjavík | RIX Reykjavík | Farice, Síminn | 2 × 100 Gbit/s |
| Montreal | QIX Montreal | Cogent, Zayo | 2 × 100 Gbit/s |
| Singapore | SGIX, Equinix Singapore | Arelion, Singtel | 2 × 100 Gbit/s |
Indirizzamento
IPv4
Un indirizzo, incluso
Instradato sulla macchina, suo per tutta la durata del contratto. Indirizzi aggiuntivi costano $3/mese ciascuno, fino a otto.
IPv6
Un /64, incluso
Instradato, non in bridge. Sono 18 trilioni di indirizzi per macchina, a costo zero, e non le chiederemo mai di giustificarne uno.
Reverse DNS
Impostabile da lei
Record forward e reverse su ogni indirizzo in suo possesso, modificati da lei, applicati entro un minuto. Nessun ticket.
Cronologia degli indirizzi
Pulito alla consegna
Un indirizzo che finisce in una blacklist resta fuori dal pool finché non ne viene rimosso. Lei non eredita la reputazione di qualcun altro.
La porta 25 in uscita è chiusa per impostazione predefinita.
Non per crearle disagio — un noleggio GPU con SMTP aperto diventa un relay di spam nel giro di pochi giorni, e l’intero blocco di indirizzi finisce in blacklist. Se ha un motivo legittimo per inviare email dalla macchina, ce lo chieda e apriremo la porta su quell’indirizzo.
Filtraggio DDoS
Il filtraggio volumetrico è attivo dal momento della consegna della macchina. Non è un’opzione, non è un livello, e non compare sulla ricevuta.
Sempre attivo, L3 e L4
Scrubbing ai margini di ogni sito, davanti ai nostri router. Il rilevamento è automatico, basato su volume e firma; nulla attende l’intervento umano.
Mitigazione in secondi
Meno di dieci secondi dal primo pacchetto anomalo al traffico filtrato, fino alla piena capacità di transit del sito. Le sessioni legittime non vengono interrotte.
Nessun null-routing del suo indirizzo
Alcuni host rispondono a un attacco disattivando il suo IP per 24 ore. Noi lo filtriamo. La sua macchina resta raggiungibile, che è l’intero scopo di pagare per il filtraggio.
Interconnessione GPU
All’interno di un nodo, ciò che collega le schede tra loro determina se un modello di grandi dimensioni è veloce o soltanto possibile. È la parte della scheda tecnica su cui riceviamo più domande, ed è la parte che la maggior parte degli annunci omette.
| Fattore di forma | Schede | Tra GPU | Effetto pratico |
|---|---|---|---|
| SXM su una board HGX | A100 SXM4 80 GB, H100 SXM5 80 GB, H200 SXM5 141 GB, B200 SXM6 180 GB | NVLink via NVSwitch | Parallelismo tensoriale sull’intera baseboard senza che l’interconnessione diventi il collo di bottiglia. |
| Schede PCIe | L4 24 GB, RTX 4090 24 GB, RTX 5090 32 GB, RTX A6000 48 GB, L40S 48 GB, A100 PCIe 40 GB… | PCIe Gen4 ×16 o Gen5 ×16 | Adatto per il parallelismo pipeline, l’inferenza a batch e il serving con un modello per scheda. Più lento di NVLink per il parallelismo tensoriale su molte schede. |
Se non è sicuro di quale dei due il suo carico di lavoro necessiti: un modello che sta su una sola scheda non ha mai bisogno di NVLink, mentre un modello ripartito su quattro o più schede ne trae quasi sempre vantaggio. Il controllo di compatibilità nel configuratore le dice in quale caso si trova prima di pagare.
Latenza tra i siti
Misurata dai nostri router verso le città indicate, come tempo di andata e ritorno, su un periodo di trenta giorni. Sono valori mediani, non i casi migliori.
STO
Operativo
Stoccolma
Svezia
ZRH
Operativo
Zurigo
Svizzera
REY
Operativo
Reykjavík
Islanda
YUL
Operativo
Montreal
Canada
SIN
Operativo
Singapore
Singapore
Cosa non offriamo
Dichiarato qui, piuttosto che scoperto dopo il pagamento. Se uno di questi punti è un requisito per lei, non siamo il provider giusto, ed è più economico per entrambi saperlo subito.
InfiniBand multi-nodo. NVLink collega le schede all’interno di un nodo. Non vendiamo un fabric tra nodi, quindi un job che richiede 32 GPU in un solo training run non è qualcosa che possiamo offrire.
Sessioni BGP o bring-your-own-IP. Annunciamo solo il nostro spazio. Non è possibile annunciare il suo prefisso dai nostri router.
Collegamenti layer-2 tra data center. Una VLAN privata collega le sue macchine all’interno di un unico sito. Tra siti diversi, il tunnel deve costruirlo lei.
Transit garantito o uplink privato. La porta è senza contatore ed è condivisa a monte. Non firmeremo un contratto di capacità dedicata in aggiunta a questo.
SMTP aperto alla consegna. La porta 25 in uscita è chiusa finché non ce lo chiede, per il motivo indicato sopra.
Una rete di anonimizzazione. Il filtraggio protegge la sua macchina dagli attacchi. Non è un proxy, non nasconde dove va il suo traffico e non pretendiamo il contrario.
Ogni porta elencata sopra è presente su ogni macchina.
Non c’è un livello di rete da scegliere. Scelga la GPU, scelga il sito, e la porta arriva insieme allo chassis.
Pagine correlate
- Politica hardwareLe dodici GPU NVIDIA che gestiamo, il rodaggio di 72 ore prima della vendita, la sostituzione in 4 ore, e come cancelliamo i dischi tra un inquilino e l’altro.
- Stato del servizioStato di ogni componente e data center gpuserver.io, sondati ogni 60 secondi da cinque città: disponibilità su 90 giorni e registro incidenti dal 2022.
- Accordo sul livello di servizioL’impegno del 99,9%: cosa conta come downtime, come viene misurato dall’esterno, cinque minuti di durata in più per ogni minuto perso, e le esclusioni per intero.
- DocumentazionePrimo SSH, verifica dell’hardware, container CUDA, serving di un modello con vLLM, RAID, firewall, IPMI e reinstallazioni — i comandi, su una macchina reale.