인프라

# 정확하게 기술한 네트워크.

대역폭은 호스팅 페이지가 가장 모호해지는 지점입니다. 그래서 이 페이지는 구체적으로 적습니다: 각 포트가 무엇인지, 포트를 가득 채웠을 때 비용이 얼마인지, 트랜싯을 누구에게서 구매하는지, 그리고 무엇을 제공하지 않는지.

- 25 Gbit/s 카드 8장 노드 기준, 무제한
- $0 어떤 트래픽 양에서도 초과 요금
- /64 모든 머신에 라우팅되는 IPv6
- 6 거점, 각각 회선 사업자 2곳과 IX

## 포트 속도와 트래픽

포트는 섀시에 맞추어 정해집니다. 카드를 포화시킬 수 있는 노드는 회선도 포화시킬 수 있기 때문입니다. 모든 포트는 양방향 무제한입니다: 포함 용량도, 초과 요금 등급도, 그래프로 지켜볼 것도 없습니다.

**노드 크기별 포트 속도, 포함 트래픽, 업그레이드 가능 여부**

| 노드 | 포트 | 월 트래픽 | 업그레이드 | 업그레이드 비용 |
|---|---|---|---|---|
| 1 × GPU 128 GB RAM · 2 × 2 TB NVMe | 1 Gbit/s 전이중, 전용 | 무제한상한 없음, 버스트 과금 없음 | 10 Gbit/s | $49/mo |
| 2 × GPU 256 GB RAM · 2 × 3.84 TB NVMe | 2 Gbit/s 전이중, 전용 | 무제한상한 없음, 버스트 과금 없음 | 10 Gbit/s | $49/mo |
| 4 × GPU 512 GB RAM · 4 × 3.84 TB NVMe | 10 Gbit/s 전이중, 전용 | 무제한상한 없음, 버스트 과금 없음 | 이미 10 Gbit/s 이상 | — |
| 8 × GPU 1024 GB RAM · 8 × 3.84 TB NVMe | 25 Gbit/s 전이중, 전용 | 무제한상한 없음, 버스트 과금 없음 | 이미 10 Gbit/s 이상 | — |
| 10 × GPU 1024 GB RAM · 8 × 7.68 TB NVMe | 25 Gbit/s 전이중, 전용 | 무제한상한 없음, 버스트 과금 없음 | 이미 10 Gbit/s 이상 | — |

무제한은 말 그대로입니다: 한 달 내내 포트를 회선 속도로 유지하셔도 됩니다. 머신 한 대가 전용실의 다른 모든 고객이 쓰는 공유 업링크의 성능을 떨어뜨리기 시작할 때에만 이에 대해 말씀드릴 권리를 유보합니다 — 그런 대화는 5년간 두 번 있었고, 두 번 모두 잘못 설정된 미러 때문이었습니다.

## 트랜싯과 피어링

모든 거점은 독립된 회선 사업자 두 곳 이상에서 회선을 구매하고, 현지 인터넷 익스체인지에 연결되어 있습니다. 회선 사업자 장애는 경로 전환이지 서비스 중단이 아닙니다 — 계약서에 99.9%를 적을 수 있는 이유는 이것뿐입니다.

**데이터센터별 인터넷 익스체인지 및 트랜싯 회선 사업자**

| 데이터센터 | 인터넷 익스체인지 | 트랜싯 회선 사업자 | 업링크 |
|---|---|---|---|
| 암스테르담 네덜란드 · Tier III | AMS-IX, NL-ix | Cogent, Arelion, Lumen | 2 × 100 Gbit/s서로 다른 경로, 서로 다른 룸 |
| 스톡홀름 스웨덴 · Tier III | Netnod, STHIX | Arelion, GlobalConnect | 2 × 100 Gbit/s서로 다른 경로, 서로 다른 룸 |
| 취리히 스위스 · Tier IV | SwissIX, CIXP | Init7, Cogent | 2 × 100 Gbit/s서로 다른 경로, 서로 다른 룸 |
| 레이캬비크 아이슬란드 · Tier III | RIX 레이캬비크 | Farice, Síminn | 2 × 100 Gbit/s서로 다른 경로, 서로 다른 룸 |
| 몬트리올 캐나다 · Tier III | QIX 몬트리올 | Cogent, Zayo | 2 × 100 Gbit/s서로 다른 경로, 서로 다른 룸 |
| 싱가포르 싱가포르 · Tier III | SGIX, Equinix 싱가포르 | Arelion, Singtel | 2 × 100 Gbit/s서로 다른 경로, 서로 다른 룸 |

## 주소 체계

IPv4 주소 1개, 포함 머신으로 라우팅되며, 이용 기간 내내 고객이 보유합니다. 추가 주소는 개당 월 $3, 최대 8개까지 가능합니다.

IPv6 /64 대역, 포함 브리지가 아니라 라우팅입니다. 머신당 주소 1800경 개를 추가 비용 없이 제공하며, 그 용도를 소명하라고 요구하는 일은 없습니다.

역방향 DNS 직접 설정 보유하신 모든 주소의 정방향·역방향 레코드를 직접 변경하실 수 있고, 1분 이내에 적용됩니다. 티켓은 필요 없습니다.

주소 이력 제공 시 차단 이력 없음 어디든 차단 목록에 오른 적이 있는 주소는 해제될 때까지 풀에서 제외합니다. 다른 사람의 평판을 이어받는 일은 없습니다.

**아웃바운드 포트 25는 기본적으로 차단됩니다.** 불편을 드리려는 것이 아닙니다 — SMTP가 열린 GPU 임대 서버는 며칠 안에 스팸 릴레이가 되고, 대역 전체가 차단 목록에 오릅니다. 머신에서 메일을 보낼 실제 사유가 있으시면 요청해 주십시오. 해당 주소에 한해 개방해 드립니다.

## DDoS 방어

볼류메트릭 필터링은 머신이 제공되는 순간부터 켜져 있습니다. 옵션이 아니고, 등급도 아니며, 청구서에 나타나지도 않습니다.

### 상시 작동, L3 및 L4

각 거점의 에지에서, 당사 라우터 앞단에서 스크러빙합니다. 탐지는 트래픽 양과 시그니처를 기준으로 자동 수행되며, 사람을 기다리는 절차는 없습니다.

### 수 초 내 방어

첫 이상 패킷부터 트래픽 필터링까지 10초 미만이며, 거점의 전체 트랜싯 용량까지 대응합니다. 정상 세션은 끊기지 않습니다.

### 고객 주소 널 라우팅 없음

일부 호스팅 사업자는 공격을 받으면 고객 IP를 24시간 차단하는 방식으로 대응합니다. 당사는 필터링합니다. 머신은 계속 접속 가능한 상태로 유지되며, 그것이 필터링에 비용을 내는 이유의 전부입니다.

## GPU 인터커넥트

노드 안에서 카드끼리 무엇으로 연결되는지가 대형 모델이 빠른지, 아니면 겨우 돌아가는 수준인지를 결정합니다. 사양 중에서 가장 많이 질문받는 항목이자, 대부분의 목록이 빠뜨리는 항목입니다.

**카드 폼팩터별 GPU 간 인터커넥트**

| 폼팩터 | 카드 | GPU 간 | 실제 효과 |
|---|---|---|---|
| HGX 보드의 SXM 카드 4장·8장 노드만 | A100 SXM4 80 GB, H100 SXM5 80 GB, H200 SXM5 141 GB, B200 SXM6 180 GB | NVSwitch를 통한 NVLink 모든 카드 간 연결, 카드당 900 GB/s | 인터커넥트가 병목이 되지 않는 상태로 보드 전체에 걸쳐 텐서 병렬화를 수행할 수 있습니다. |
| PCIe 카드 GPU 1~10장 | L4 24 GB, RTX 4090 24 GB, RTX 5090 32 GB, RTX A6000 48 GB, L40S 48 GB, A100 PCIe 40 GB… | PCIe Gen4 ×16 또는 Gen5 ×16 카드당 32~64 GB/s, 피어 투 피어 | 파이프라인 병렬화, 배치 추론, 카드당 모델 1개 서빙에는 충분합니다. 여러 카드에 걸친 텐서 병렬화에서는 NVLink보다 느립니다. |

두 가지 중 어느 쪽이 워크로드에 필요한지 확실하지 않다면, 카드 1장에 들어가는 모델에는 NVLink가 전혀 필요 없고, 카드 4장 이상에 분할되는 모델은 거의 항상 이득을 봅니다. [구성 도구](https://gpuserver.io/ko/configure)의 적합성 검사기가 결제 전에 어느 쪽인지 알려 줍니다.

## 거점 간 지연 시간

당사 라우터에서 표에 적힌 도시까지 왕복으로, 30일간 측정한 값입니다. 최선값이 아니라 중앙값입니다.

AMS 정상

### 암스테르담

네덜란드

왕복 지연 프랑크푸르트까지 7 ms, 런던까지 12 ms

인터넷 익스체인지 AMS-IX, NL-ix

전용실 사용 시작 2021

STO 정상

### 스톡홀름

스웨덴

왕복 지연 프랑크푸르트까지 22 ms, 런던까지 31 ms

인터넷 익스체인지 Netnod, STHIX

전용실 사용 시작 2022

ZRH 정상

### 취리히

스위스

왕복 지연 밀라노까지 9 ms, 프랑크푸르트까지 15 ms

인터넷 익스체인지 SwissIX, CIXP

전용실 사용 시작 2023

REY 정상

### 레이캬비크

아이슬란드

왕복 지연 런던까지 18 ms, 뉴욕까지 40 ms

인터넷 익스체인지 RIX 레이캬비크

전용실 사용 시작 2024

YUL 정상

### 몬트리올

캐나다

왕복 지연 뉴욕까지 12 ms, 토론토까지 19 ms

인터넷 익스체인지 QIX 몬트리올

전용실 사용 시작 2023

SIN 정상

### 싱가포르

싱가포르

왕복 지연 도쿄까지 38 ms, 시드니까지 45 ms

인터넷 익스체인지 SGIX, Equinix 싱가포르

전용실 사용 시작 2025

## 제공하지 않는 것

결제 후에 알게 되는 대신 여기에 적어 둡니다. 이 중 하나가 요건이라면 당사는 맞지 않는 사업자이며, 지금 아는 편이 양쪽 모두에게 비용이 적습니다.

**멀티 노드 InfiniBand.** NVLink는 한 노드 안의 카드를 서로 연결합니다. 노드 간 패브릭은 판매하지 않으므로, 한 번의 학습에 GPU 32장이 필요한 작업은 제공할 수 없습니다.

**BGP 세션 또는 자체 IP 반입.** 당사는 자체 대역만 광고합니다. 당사 라우터에서 고객의 프리픽스를 광고할 방법은 없습니다.

**데이터센터 간 레이어 2 회선.** 전용 VLAN은 한 거점 *내부*의 머신을 연결합니다. 거점 간에는 터널을 직접 구축하셔야 합니다.

**약정 트랜싯 또는 전용 업링크.** 포트는 무제한이고 상위 구간은 공유됩니다. 그 위에 전용 용량 계약을 체결하지는 않습니다.

**제공 시점의 SMTP 개방.** 아웃바운드 포트 25는 요청하시기 전까지 차단되며, 이유는 위에 적은 대로입니다.

**익명화 네트워크.** 필터링은 공격으로부터 머신을 보호합니다. 프록시가 아니며, 트래픽이 어디로 가는지 숨기지 않고, 당사도 그렇게 주장하지 않습니다.

## 위의 포트 사양은 모든 머신에 동일하게 적용됩니다.

선택할 네트워크 등급은 없습니다. GPU를 고르고 거점을 고르면 포트는 섀시와 함께 따라옵니다.

[카탈로그 둘러보기](https://gpuserver.io/ko/#catalog) [가이드 둘러보기](https://gpuserver.io/ko/guides)

## 관련 페이지

- [하드웨어 정책 당사가 운영하는 NVIDIA GPU 12종, 노드를 판매하기 전 72시간 번인, 4시간 교체 목표, 그리고 테넌트 간에 디스크를 소거하는 방식까지.](https://gpuserver.io/ko/hardware)
- [서비스 상태 gpuserver.io의 모든 구성 요소와 데이터센터에 대한 실시간 상태, 다섯 개 도시에서 60초마다 점검, 90일 가동률과 2022년 이후 장애 기록 포함.](https://gpuserver.io/ko/status)
- [서비스 수준 협약 99.9% 약정: 무엇이 다운타임인지, 외부에서 어떻게 측정하는지, 손실 1분당 이용 기간 5분을 어떻게 돌려주는지, 그리고 면책 사항 전체.](https://gpuserver.io/ko/legal/sla)
- [문서 첫 SSH 접속, 하드웨어 검증, CUDA 컨테이너, vLLM으로 모델 서빙, RAID, 방화벽 설정, IPMI, 재설치 — 실제 머신에서 쓰는 명령어.](https://gpuserver.io/ko/docs)

---

출처: https://gpuserver.io/ko/network/. 이 파일은 웹사이트와 동일한 데이터에서 생성됩니다. 여기의 수치가 페이지와 다르다면 페이지가 정본이고 이 파일이 오래된 것입니다 — 정식 출처는 https://gpuserver.io/입니다.