AMS
정상
암스테르담
네덜란드
인프라
정확하게 기술한 네트워크.
대역폭은 호스팅 페이지가 가장 모호해지는 지점입니다. 그래서 이 페이지는 구체적으로 적습니다: 각 포트가 무엇인지, 포트를 가득 채웠을 때 비용이 얼마인지, 트랜싯을 누구에게서 구매하는지, 그리고 무엇을 제공하지 않는지.
- 25 Gbit/s카드 8장 노드 기준, 무제한
- $0어떤 트래픽 양에서도 초과 요금
- /64모든 머신에 라우팅되는 IPv6
- 6거점, 각각 회선 사업자 2곳과 IX
포트 속도와 트래픽
포트는 섀시에 맞추어 정해집니다. 카드를 포화시킬 수 있는 노드는 회선도 포화시킬 수 있기 때문입니다. 모든 포트는 양방향 무제한입니다: 포함 용량도, 초과 요금 등급도, 그래프로 지켜볼 것도 없습니다.
| 노드 | 포트 | 월 트래픽 | 업그레이드 | 업그레이드 비용 |
|---|---|---|---|---|
| 1 × GPU | 1 Gbit/s | 무제한 | 10 Gbit/s | $49/mo |
| 2 × GPU | 2 Gbit/s | 무제한 | 10 Gbit/s | $49/mo |
| 4 × GPU | 10 Gbit/s | 무제한 | 이미 10 Gbit/s 이상 | — |
| 8 × GPU | 25 Gbit/s | 무제한 | 이미 10 Gbit/s 이상 | — |
| 10 × GPU | 25 Gbit/s | 무제한 | 이미 10 Gbit/s 이상 | — |
무제한은 말 그대로입니다: 한 달 내내 포트를 회선 속도로 유지하셔도 됩니다. 머신 한 대가 전용실의 다른 모든 고객이 쓰는 공유 업링크의 성능을 떨어뜨리기 시작할 때에만 이에 대해 말씀드릴 권리를 유보합니다 — 그런 대화는 5년간 두 번 있었고, 두 번 모두 잘못 설정된 미러 때문이었습니다.
트랜싯과 피어링
모든 거점은 독립된 회선 사업자 두 곳 이상에서 회선을 구매하고, 현지 인터넷 익스체인지에 연결되어 있습니다. 회선 사업자 장애는 경로 전환이지 서비스 중단이 아닙니다 — 계약서에 99.9%를 적을 수 있는 이유는 이것뿐입니다.
| 데이터센터 | 인터넷 익스체인지 | 트랜싯 회선 사업자 | 업링크 |
|---|---|---|---|
| 암스테르담 | AMS-IX, NL-ix | Cogent, Arelion, Lumen | 2 × 100 Gbit/s |
| 스톡홀름 | Netnod, STHIX | Arelion, GlobalConnect | 2 × 100 Gbit/s |
| 취리히 | SwissIX, CIXP | Init7, Cogent | 2 × 100 Gbit/s |
| 레이캬비크 | RIX 레이캬비크 | Farice, Síminn | 2 × 100 Gbit/s |
| 몬트리올 | QIX 몬트리올 | Cogent, Zayo | 2 × 100 Gbit/s |
| 싱가포르 | SGIX, Equinix 싱가포르 | Arelion, Singtel | 2 × 100 Gbit/s |
주소 체계
IPv4
주소 1개, 포함
머신으로 라우팅되며, 이용 기간 내내 고객이 보유합니다. 추가 주소는 개당 월 $3, 최대 8개까지 가능합니다.
IPv6
/64 대역, 포함
브리지가 아니라 라우팅입니다. 머신당 주소 1800경 개를 추가 비용 없이 제공하며, 그 용도를 소명하라고 요구하는 일은 없습니다.
역방향 DNS
직접 설정
보유하신 모든 주소의 정방향·역방향 레코드를 직접 변경하실 수 있고, 1분 이내에 적용됩니다. 티켓은 필요 없습니다.
주소 이력
제공 시 차단 이력 없음
어디든 차단 목록에 오른 적이 있는 주소는 해제될 때까지 풀에서 제외합니다. 다른 사람의 평판을 이어받는 일은 없습니다.
아웃바운드 포트 25는 기본적으로 차단됩니다.
불편을 드리려는 것이 아닙니다 — SMTP가 열린 GPU 임대 서버는 며칠 안에 스팸 릴레이가 되고, 대역 전체가 차단 목록에 오릅니다. 머신에서 메일을 보낼 실제 사유가 있으시면 요청해 주십시오. 해당 주소에 한해 개방해 드립니다.
DDoS 방어
볼류메트릭 필터링은 머신이 제공되는 순간부터 켜져 있습니다. 옵션이 아니고, 등급도 아니며, 청구서에 나타나지도 않습니다.
상시 작동, L3 및 L4
각 거점의 에지에서, 당사 라우터 앞단에서 스크러빙합니다. 탐지는 트래픽 양과 시그니처를 기준으로 자동 수행되며, 사람을 기다리는 절차는 없습니다.
수 초 내 방어
첫 이상 패킷부터 트래픽 필터링까지 10초 미만이며, 거점의 전체 트랜싯 용량까지 대응합니다. 정상 세션은 끊기지 않습니다.
고객 주소 널 라우팅 없음
일부 호스팅 사업자는 공격을 받으면 고객 IP를 24시간 차단하는 방식으로 대응합니다. 당사는 필터링합니다. 머신은 계속 접속 가능한 상태로 유지되며, 그것이 필터링에 비용을 내는 이유의 전부입니다.
GPU 인터커넥트
노드 안에서 카드끼리 무엇으로 연결되는지가 대형 모델이 빠른지, 아니면 겨우 돌아가는 수준인지를 결정합니다. 사양 중에서 가장 많이 질문받는 항목이자, 대부분의 목록이 빠뜨리는 항목입니다.
| 폼팩터 | 카드 | GPU 간 | 실제 효과 |
|---|---|---|---|
| HGX 보드의 SXM | A100 SXM4 80 GB, H100 SXM5 80 GB, H200 SXM5 141 GB, B200 SXM6 180 GB | NVSwitch를 통한 NVLink | 인터커넥트가 병목이 되지 않는 상태로 보드 전체에 걸쳐 텐서 병렬화를 수행할 수 있습니다. |
| PCIe 카드 | L4 24 GB, RTX 4090 24 GB, RTX 5090 32 GB, RTX A6000 48 GB, L40S 48 GB, A100 PCIe 40 GB… | PCIe Gen4 ×16 또는 Gen5 ×16 | 파이프라인 병렬화, 배치 추론, 카드당 모델 1개 서빙에는 충분합니다. 여러 카드에 걸친 텐서 병렬화에서는 NVLink보다 느립니다. |
두 가지 중 어느 쪽이 워크로드에 필요한지 확실하지 않다면, 카드 1장에 들어가는 모델에는 NVLink가 전혀 필요 없고, 카드 4장 이상에 분할되는 모델은 거의 항상 이득을 봅니다. 구성 도구의 적합성 검사기가 결제 전에 어느 쪽인지 알려 줍니다.
거점 간 지연 시간
당사 라우터에서 표에 적힌 도시까지 왕복으로, 30일간 측정한 값입니다. 최선값이 아니라 중앙값입니다.
STO
정상
스톡홀름
스웨덴
ZRH
정상
취리히
스위스
REY
정상
레이캬비크
아이슬란드
YUL
정상
몬트리올
캐나다
SIN
정상
싱가포르
싱가포르
제공하지 않는 것
결제 후에 알게 되는 대신 여기에 적어 둡니다. 이 중 하나가 요건이라면 당사는 맞지 않는 사업자이며, 지금 아는 편이 양쪽 모두에게 비용이 적습니다.
멀티 노드 InfiniBand. NVLink는 한 노드 안의 카드를 서로 연결합니다. 노드 간 패브릭은 판매하지 않으므로, 한 번의 학습에 GPU 32장이 필요한 작업은 제공할 수 없습니다.
BGP 세션 또는 자체 IP 반입. 당사는 자체 대역만 광고합니다. 당사 라우터에서 고객의 프리픽스를 광고할 방법은 없습니다.
데이터센터 간 레이어 2 회선. 전용 VLAN은 한 거점 내부의 머신을 연결합니다. 거점 간에는 터널을 직접 구축하셔야 합니다.
약정 트랜싯 또는 전용 업링크. 포트는 무제한이고 상위 구간은 공유됩니다. 그 위에 전용 용량 계약을 체결하지는 않습니다.
제공 시점의 SMTP 개방. 아웃바운드 포트 25는 요청하시기 전까지 차단되며, 이유는 위에 적은 대로입니다.
익명화 네트워크. 필터링은 공격으로부터 머신을 보호합니다. 프록시가 아니며, 트래픽이 어디로 가는지 숨기지 않고, 당사도 그렇게 주장하지 않습니다.
관련 페이지
- 하드웨어 정책당사가 운영하는 NVIDIA GPU 12종, 노드를 판매하기 전 72시간 번인, 4시간 교체 목표, 그리고 테넌트 간에 디스크를 소거하는 방식까지.
- 서비스 상태gpuserver.io의 모든 구성 요소와 데이터센터에 대한 실시간 상태, 다섯 개 도시에서 60초마다 점검, 90일 가동률과 2022년 이후 장애 기록 포함.
- 서비스 수준 협약99.9% 약정: 무엇이 다운타임인지, 외부에서 어떻게 측정하는지, 손실 1분당 이용 기간 5분을 어떻게 돌려주는지, 그리고 면책 사항 전체.
- 문서첫 SSH 접속, 하드웨어 검증, CUDA 컨테이너, vLLM으로 모델 서빙, RAID, 방화벽 설정, IPMI, 재설치 — 실제 머신에서 쓰는 명령어.