AMS
Operacional
Amsterdã
Países Baixos
Infraestrutura
A rede, descrita com precisão.
Largura de banda é onde as páginas de hospedagem costumam ser mais vagas, então esta é específica: o que é cada porta, quanto custa saturá-la, de quem compramos trânsito, e o que não oferecemos.
- 25 Gbit/sem um nó de 8 GPUs, sem contador
- $0excedente, em qualquer volume
- /64IPv6 roteado para cada máquina
- 6sites, cada um com duas operadoras mais um IX
Velocidade da porta e tráfego
A porta é dimensionada de acordo com o chassi, porque um nó capaz de saturar uma placa é capaz de saturar um link. Toda porta é sem contador nas duas direções: não há volume incluído, não há nível de excedente e não há nada para acompanhar em um gráfico.
| Nó | Porta | Tráfego mensal | Upgrade | Custo do upgrade |
|---|---|---|---|---|
| 1 × GPU | 1 Gbit/s | Sem contador | 10 Gbit/s | $49/mo |
| 2 × GPU | 2 Gbit/s | Sem contador | 10 Gbit/s | $49/mo |
| 4 × GPU | 10 Gbit/s | Sem contador | Já em 10 Gbit/s ou superior | — |
| 8 × GPU | 25 Gbit/s | Sem contador | Já em 10 Gbit/s ou superior | — |
| 10 × GPU | 25 Gbit/s | Sem contador | Já em 10 Gbit/s ou superior | — |
Sem contador significa exatamente isso: você pode manter a porta na taxa máxima de linha durante o mês inteiro. Reservamo-nos o direito de conversar com você sobre isso apenas se uma única máquina começar a degradar o uplink compartilhado para todos os outros na sala — e essa conversa já aconteceu duas vezes em cinco anos, ambas sobre um mirror mal configurado.
Trânsito e peering
Cada site compra de pelo menos duas operadoras independentes e está presente no internet exchange local. A falha de uma operadora é um re-roteamento, não uma interrupção — e é a única razão pela qual estamos dispostos a colocar 99,9% em um contrato.
| Centro de dados | Internet exchange | Operadoras de trânsito | Uplink |
|---|---|---|---|
| Amsterdã | AMS-IX, NL-ix | Cogent, Arelion, Lumen | 2 × 100 Gbit/s |
| Estocolmo | Netnod, STHIX | Arelion, GlobalConnect | 2 × 100 Gbit/s |
| Zurique | SwissIX, CIXP | Init7, Cogent | 2 × 100 Gbit/s |
| Reykjavík | RIX Reykjavík | Farice, Síminn | 2 × 100 Gbit/s |
| Montreal | QIX Montreal | Cogent, Zayo | 2 × 100 Gbit/s |
| Cingapura | SGIX, Equinix Cingapura | Arelion, Singtel | 2 × 100 Gbit/s |
Endereçamento
IPv4
Um endereço, incluído
Roteado até a máquina, seu durante todo o prazo. Endereços adicionais custam $3/mês cada, até oito.
IPv6
Um /64, incluído
Roteado, não em modo bridge. São 18 quintilhões de endereços por máquina, sem custo algum, e nunca pediremos que você justifique um deles.
DNS reverso
Seu, para definir
Registros diretos e reversos em cada endereço que você possui, alterados por você, aplicados em até um minuto. Sem ticket.
Histórico de endereços
Limpo na entrega
Um endereço que já foi listado em algum lugar fica fora do pool até ser removido da lista. Você não herda a reputação de outra pessoa.
A porta 25 de saída fica fechada por padrão.
Não é para incomodar você — um aluguel de GPU com SMTP aberto vira um relay de spam em poucos dias, e toda a faixa acaba sendo listada. Se você tiver um motivo genuíno para enviar e-mail a partir da máquina, peça e nós abriremos a porta nesse endereço.
Filtragem de DDoS
A filtragem volumétrica está ativa desde o momento em que a máquina é entregue. Não é uma opção, não é um nível, e não aparece na fatura.
Sempre ativo, L3 e L4
Scrubbing na borda de cada site, à frente dos nossos próprios roteadores. A detecção é automática, por taxa e assinatura; nada espera por um humano.
Mitigação em segundos
Menos de dez segundos entre o primeiro pacote anômalo e o tráfego filtrado, até a capacidade total de trânsito do site. Sessões legítimas não são reiniciadas.
Sem null-routing do seu endereço
Alguns provedores respondem a um ataque descartando seu IP por 24 horas. Nós filtramos. Sua máquina continua acessível, que é exatamente o propósito de pagar por filtragem.
Interconexão de GPU
Dentro de um nó, o que conecta as placas entre si decide se um modelo grande é rápido ou apenas possível. Esta é a parte da especificação sobre a qual mais nos perguntam, e a parte que a maioria dos anúncios omite.
| Fator de forma | Placas | Entre GPUs | Efeito prático |
|---|---|---|---|
| SXM em uma placa HGX | A100 SXM4 80 GB, H100 SXM5 80 GB, H200 SXM5 141 GB, B200 SXM6 180 GB | NVLink via NVSwitch | Paralelismo de tensores em todo o board, sem que a interconexão se torne o gargalo. |
| Placas PCIe | L4 24 GB, RTX 4090 24 GB, RTX 5090 32 GB, RTX A6000 48 GB, L40S 48 GB, A100 PCIe 40 GB… | PCIe Gen4 ×16 ou Gen5 ×16 | Adequado para paralelismo de pipeline, inferência em lote e atendimento de um modelo por placa. Mais lento que o NVLink para paralelismo de tensores em muitas placas. |
Se você não tem certeza de qual dos dois sua carga de trabalho precisa: um modelo que cabe em uma única placa nunca precisa de NVLink, e um modelo dividido entre quatro ou mais placas quase sempre se beneficia dele. O verificador de compatibilidade em o configurador mostra em qual caso você está antes de pagar.
Latência entre sites
Medida a partir dos nossos próprios roteadores até as cidades citadas, como ida e volta, ao longo de trinta dias. São medianas, não os melhores casos.
STO
Operacional
Estocolmo
Suécia
ZRH
Operacional
Zurique
Suíça
REY
Operacional
Reykjavík
Islândia
YUL
Operacional
Montreal
Canadá
SIN
Operacional
Cingapura
Cingapura
O que não oferecemos
Dito aqui em vez de descoberto depois do pagamento. Se algum destes for um requisito para você, somos o provedor errado, e é mais barato para nós dois saber disso agora.
InfiniBand multi-nó. O NVLink conecta as placas dentro de um nó. Não vendemos um fabric entre nós, então um job que precisa de 32 GPUs em uma única execução de treinamento não é algo que possamos atender.
Sessões BGP ou bring-your-own-IP. Anunciamos apenas nosso próprio espaço. Não há como anunciar seu prefixo a partir dos nossos roteadores.
Links de camada 2 entre centros de dados. Uma VLAN privada conecta suas máquinas dentro de um mesmo site. Entre sites, você mesmo constrói o túnel.
Trânsito comprometido ou um uplink privado. A porta é sem contador e compartilhada a montante. Não assinaremos um contrato de capacidade dedicada em cima disso.
SMTP aberto na entrega. A porta 25 de saída fica fechada até você solicitar, pelo motivo indicado acima.
Uma rede de anonimato. A filtragem protege sua máquina contra ataques. Não é um proxy, não esconde para onde vai seu tráfego, e não fingimos o contrário.
Todas as portas acima estão presentes em cada máquina.
Não há nível de rede para escolher. Escolha a GPU, escolha o site, e a porta vem junto com o chassi.
Páginas relacionadas
- Política de hardwareAs doze GPUs NVIDIA que operamos, o amaciamento de 72 horas antes da venda de um nó, a meta de troca em quatro horas, e como os discos são apagados entre locatários.
- Status do serviçoStatus de cada componente e centro de dados do gpuserver.io, sondados a cada 60s em cinco cidades, com disponibilidade de 90 dias e log de incidentes desde 2022.
- Acordo de nível de serviçoO compromisso de 99,9%: o que conta como indisponibilidade, como é medido de fora, cinco minutos de prazo devolvidos por minuto perdido, e as exclusões por completo.
- DocumentaçãoPrimeiro SSH, verificação do hardware, containers CUDA, servir um modelo com vLLM, RAID, firewall, IPMI e reinstalações — os comandos, em uma máquina real.