당사가 임대하는 머신은 당사 소유입니다.
gpuserver.io는 작은 독립 사업자입니다. 카드를 직접 사고, 임차한 전용실의 랙에 장착하고, 월 단위로 임대합니다. 여기에는 다른 클라우드에서 재판매하는 것이 하나도 없으며, 그래서 표에 적힌 사양이 곧 받으시는 사양이라고 약속할 수 있습니다.
- 6데이터센터, 모두 임차한 전용실
- 12GPU 모델, 모두 신품 구매
- 41구성, 모두 이용 가능
- 0다른 클라우드에서 재판매한 카드
GPU 임대는 연산 자원을 사는 가장 복잡한 방법이 되어 있었습니다.
당사도 먼저 고객이었고, 눈앞의 모든 선택지가 똑같은 3가지 방식으로 잘못되어 있었기 때문에 이 일을 시작했습니다.
하이퍼스케일러는 A100 근처에 가기도 전에 사업자 등록, 신용 조회, 쿼터 신청을 요구했습니다 — 그러고는 1년을 쓸 생각이었던 머신에 초당 과금했습니다. 마켓플레이스는 더 저렴했지만, 그 카드는 가정용 회선 뒤에 있는 남의 남는 데스크톱이었고, 노드는 작업 도중에 사라졌습니다. 전문 클라우드는 정직하고 좋았지만, GPU가 희귀 금속이라도 되는 것처럼 가격을 매겼습니다.
그중 어느 곳도 머신 1대를 한 달 임대해 주고, 결제를 받고, root를 넘겨주는 단순한 일을 하지 않았습니다. 그래서 당사가 하드웨어를 사서 직접 그렇게 했습니다.
당사가 결정한 것, 순서대로
앞의 결정이 다음 결정을 제약하므로 순서도 그대로
카드를 직접 보유하는 것이 나머지 3가지를 가능하게 합니다. 재판매 사업자는 자신이 통제하지 못하는 사양을 약속할 수 없고, 매입처가 부과하는 KYC 요구를 거부할 수도 없습니다.
대가를 치르더라도 굽히지 않는 4가지.
여기 있는 하나하나가 이미 판매를 놓치게 한 것들입니다. 고객이 당사에 책임을 물을 수 있도록 이 페이지에 적어 둡니다.
어떤 경우에도 신원 확인 없음
가입할 때도, 갱신할 때도, 지출이 커질 때도 요구하지 않습니다. 신원 확인 등급이 없습니다: GPU 8장 노드도 가장 저렴한 카드 1장과 완전히 같은 조건으로 열립니다.
- 신분증 없음, 셀카 없음, 전화번호 없음
- 입력하신 내용은 어떤 것과도 대조하지 않습니다
- 심사를 유발하는 기준선 없음
가격은 표시된 그대로
구성별, 이용 기간별로 금액은 하나뿐입니다. 설치비 없음, 재설치 요금 없음, 대역폭 초과 요금 없음, 지원 플랜 없음, 물어봐야만 나타나는 할인 없음.
- 청구서 이후 과금되는 것 없음
- 누구든 같은 가격
- 위약금 없이 월 단위 이용 기간 해지
표에 적힌 것이 곧 그 머신
표에 적힌 바로 그 카드를 제공할 수 없으면 알려 드리고 이용 기간을 환불합니다. 비슷한 카드를 보내 놓고 차이를 눈치채지 못하기를 바라지 않습니다.
- 물리 카드당 테넌트 1개
- MIG 없음, vGPU 없음, 하이퍼바이저 없음
- 섀시별 일련번호 기록
가능한 한 적게 보관
당사는 서비스가 만들어 내는 것만 보관하고 그 밖에는 보관하지 않습니다. 가지고 있지 않은 데이터는 아무도 당사에 제출을 강제할 수 없는 데이터이기 때문입니다. 요청이 없어도 테넌트 간에 디스크를 소거합니다.
- 운영체제 안에 로그인 없음
- 디스크 백업 없음
- 명시된 보유 기간을 넘겨 보관하는 것 없음
한 번에 전용실 하나씩.
당사는 투자를 받은 적이 없고, 채우지 못할 용량을 사들인 적도 없습니다. 아래 거점은 모두 직전 거점의 매출로 열었습니다. 다른 방식보다 느리지만, 당사가 아직 남아 있는 이유이기도 합니다.
2021 · AMS
암스테르담, 네덜란드
Tier III, 100% 풍력. 첫 전용실이자 지금도 가장 큰 곳입니다. 번인에 대해 배운 것은 모두 여기서 배웠고, 대부분 실패를 통해 배웠습니다.
2022 · STO
스톡홀름, 스웨덴
Tier III, 100% 수력. 다른 거점과 같은 방식으로 열었습니다: 회선 사업자 2곳, 공개 익스체인지, 현장 예비 부품, 그리고 3일간 부하를 견디기 전에는 어떤 머신도 판매하지 않는다는 원칙.
2023 · ZRH
취리히, 스위스
Tier IV, 96% 무탄소. 다른 거점과 같은 방식으로 열었습니다: 회선 사업자 2곳, 공개 익스체인지, 현장 예비 부품, 그리고 3일간 부하를 견디기 전에는 어떤 머신도 판매하지 않는다는 원칙.
2023 · YUL
몬트리올, 캐나다
Tier III, 99% 수력. 다른 거점과 같은 방식으로 열었습니다: 회선 사업자 2곳, 공개 익스체인지, 현장 예비 부품, 그리고 3일간 부하를 견디기 전에는 어떤 머신도 판매하지 않는다는 원칙.
2024 · REY
레이캬비크, 아이슬란드
Tier III, 100% 지열 + 수력. 다른 거점과 같은 방식으로 열었습니다: 회선 사업자 2곳, 공개 익스체인지, 현장 예비 부품, 그리고 3일간 부하를 견디기 전에는 어떤 머신도 판매하지 않는다는 원칙.
2025 · SIN
싱가포르, 싱가포르
Tier III, 전력망 + REC 상쇄. 다른 거점과 같은 방식으로 열었습니다: 회선 사업자 2곳, 공개 익스체인지, 현장 예비 부품, 그리고 3일간 부하를 견디기 전에는 어떤 머신도 판매하지 않는다는 원칙.
당사가 아닌 것.
사업자를 고르는 일의 절반은 빠르게 후보를 걸러 내는 것입니다. 아래는 당사를 후보에서 제외해야 할 이유 전부입니다.
클라우드가 아닙니다. 콘솔도, 오토스케일링도, 관리형 데이터베이스도, 오브젝트 스토리지도 없습니다. 머신 1대와 그 머신의 root 권한을 받습니다.
마켓플레이스가 아닙니다. 남는 데스크톱을 여기에 올리는 사람은 없습니다. 모든 카드는 당사 소유이며, 데이터센터 안에서 전용 회선 업링크에 연결되어 있습니다.
시간 단위가 아닙니다. 주 2시간만 카드가 필요하시다면 당사는 비싼 선택지이며, 초당 과금 사업자를 쓰시는 편이 낫습니다.
학습 클러스터가 아닙니다. NVLink는 노드 안에서 카드를 연결합니다. 노드 사이를 잇는 패브릭은 판매하지 않으므로, 한 번에 GPU 32장이 필요한 작업은 당사에 맞지 않습니다.
익명화 서비스가 아닙니다. 신원 확인이 없다는 것이 흔적이 없다는 뜻은 아닙니다. 고객의 머신에는 공인 주소가 있고, 트래픽은 보내신 곳으로 갑니다.
무법 지대가 아닙니다. 당사는 고객이 누구인지 묻지 않으며, 그렇기 때문에 머신이 무엇을 하는지에 대응하는 일이 더 중요해집니다. 허용 사용 정책은 짧고, 실제로 집행합니다.
답변하는 사람이 예비 카드를 들고 있는 사람입니다.
여기에는 1차 상담 조직도 티켓 등급도 없습니다. 그럴 만큼 사람이 많지 않기 때문입니다. GPU가 스로틀링된다는 메시지는 직접 랙까지 걸어갈 수 있는 사람에게 도착합니다.
여기에는 대가가 따르고, 당사는 그것을 포장하기보다 그대로 말하는 편을 택합니다: 당사는 작습니다. 전화 상담 인력을 두지 않고, 전담 어카운트 매니저를 두지 않으며, 서명된 기본 계약서를 갖춘 조달 절차가 필요하시다면 당사는 그런 준비가 되어 있지 않습니다.
대신 당사가 제공하는 것은, 받으시는 답변이 그 머신을 아는 사람에게서 나오고 대개 1시간 안에 도착한다는 점입니다.
지원 조직이 아니라 엔지니어링
메시지에 답변하는 사람은 모두 하드웨어를 직접 랙에 장착합니다. 그래서 NVLink 토폴로지에 대한 답변은 지식 베이스 링크가 아니라 구체적인 답입니다.
24시간, 솔직하게
하드웨어 장애는 시간을 가리지 않고 처리하며, 4시간 목표를 둡니다. 급하지 않은 질문은 유럽의 활동 시간대에 답변하며, 아닌 척하기보다 그렇다고 말하는 편을 택합니다.
서면으로, 영어로
채널 하나, 스레드 하나, 엇갈리는 전화 없음. 머신에 관해 당사가 알려 드리는 내용은 모두 나중에 다시 찾아볼 수 있는 곳에 적어 둡니다.
관련 페이지
- 하드웨어 정책당사가 운영하는 NVIDIA GPU 12종, 노드를 판매하기 전 72시간 번인, 4시간 교체 목표, 그리고 테넌트 간에 디스크를 소거하는 방식까지.
- 네트워크최대 25 Gbit/s 무제한 포트, 거점마다 회선 사업자 2곳과 IX 1곳, 상시 DDoS 방어, 라우팅된 IPv6 — 그리고 당사가 제공하지 않는 4가지를 먼저 밝힙니다.
- 허용 사용 정책gpuserver.io 머신에서 실행할 수 있는 것과 없는 것, 명시적으로 허용하는 것, 먼저 문의해야 하는 것, 그리고 선을 넘은 머신을 처리하는 절차.
- 가이드실무 가이드 8편: VRAM 사이징, NVLink와 PCIe 비교, 이미지·영상 모델, 월 단위와 시간 단위 비교, 셀프 호스팅과 API 비교, Llama 70B 서빙, 그리고 QLoRA.