文档

# 从付款确认到第一个 token。

交付消息中包含什么、已经预装了什么，以及第一小时要执行的具体命令。以下所有操作都在刚交付的机器上以 root 身份执行。

- 5 分钟以内 从付款到下方消息送达
- 10 可以为您预先写入的镜像
- root 无需 sudo，无需跳板机，无需控制台
- 22 交付时唯一开放的端口

## 送达内容

一条消息，在付款确认 5 分钟以内 后送达。其中包含您需要的一切，没有需要点击查看的内容。

SSH 地址、22号端口，以及您的 root 密码 密码是**您**在配置器中设置的那一个。我们从不代为生成，事后也从未以明文见过它，更无法为您重置。

网络 IPv4地址、网关，以及您的 IPv6 /64地址段 已经在服务器上配置完成。此处列出该地址段，方便您规划其上的其他地址。

IPMI 独立地址及专属凭据 位于管理 VLAN 上。远程电源、串口控制台和虚拟介质，在操作系统不可用时依然可访问。

硬件 您节点中确切的 CPU、显卡与磁盘型号 每张显卡的型号与序列号，让您核验时能证明这就是您购买的那台机器。

**我们无法找回您的 root 密码。** 它由您自行设置，只在写入镜像时短暂保存。如果丢失，找回的方法只有 IPMI：从虚拟介质引导救援镜像并自行重置。这既是我们不掌握您凭据的必然结果，也是实实在在的不便——现在就把它存进密码管理器。

## 首次连接

无需接受任何条款，也无需安装代理。如果您在配置器中提供了公钥，它已经写入 `/root/.ssh/authorized_keys`。

您的机器，首次登录

```
$ ssh root@203.0.113.42
# 然后，在做任何其他事之前——先核对交付消息中的指纹
# 必须与此处打印的一致：
$ ssh-keygen -lf /etc/ssh/ssh_host_ed25519_key.pub
```

如果您已提交密钥，请关闭密码登录。这只需一条命令，却能移除唯一可能被猜中的凭据。

仅密钥访问

```
# 请先确认您的密钥可以正常使用——在另一个终端窗口中测试，同时保持此处的登录状态。
$ sed -i 's/^#\?PasswordAuthentication.*/PasswordAuthentication no/' /etc/ssh/sshd_config
$ systemctl reload ssh
```

## 核验硬件

请在最初十分钟内完成此项检查。这是一台您尚未亲眼见过的服务器，而硬件故障的 SLA 计时，是从您告知我们的那一刻才开始的。

显卡、显存，以及两者之间的连接

```
$ nvidia-smi --query-gpu=index,name,serial,memory.total,pcie.link.gen.current --format=csv
index, name, serial, memory.total [MiB], pcie.link.gen.current
0, NVIDIA H100 80GB HBM3, 1650123456789, 81559 MiB, 5
1, NVIDIA H100 80GB HBM3, 1650123456790, 81559 MiB, 5

# 在多 GPU 节点上，请检查拓扑是否与您所付费的配置相符。
# NV# 表示 NVLink；PIX/PHB/SYS 表示流量走 PCIe。
$ nvidia-smi topo -m
```

持续吞吐量，而非峰值加速数字

```
# 让每块显卡满载运行两分钟，观察其最终稳定的频率。
$ nvidia-smi -q -d PERFORMANCE,TEMPERATURE,CLOCK | grep -E 'Slowdown|SW Power|Graphics *:'

# 磁盘：请对照交付消息核实数量和型号。
$ lsblk -d -o NAME,MODEL,SIZE,ROTA
$ nvme list
```

**如果其中有任何一项不符，请立即告知我们。** 显卡型号不符、磁盘缺失、链路以 Gen3而非 Gen5运行——请在第一天内告知我们，我们会二话不说更换节点或退还租期费用。使用一个月后再提出同样的问题，就属于支持工单而非交付纠纷，处理起来对双方都会更慢。

## 预装的内容

在配置器中选择操作系统，并可选择在其之上叠加一套软件栈。以下内容均在交付前写入镜像，而非首次启动时下载。

**预装镜像：包含的内容及所需的最低显卡配置**

| 镜像 | 用途 | 最低显存 | 操作系统 |
|---|---|---|---|
| vLLM 0.11 OpenAI 兼容服务，连续批处理 | 部署大语言模型 | 24 GB | Linux |
| SGLang 0.5 结构化解码，RadixAttention 缓存 | 部署大语言模型 | 24 GB | Linux |
| Text Generation Inference Hugging Face 推理栈 | 部署大语言模型 | 24 GB | Linux |
| Ollama 0.12 一条命令，内置量化模型 | 部署大语言模型 | 8 GB | Linux |
| Axolotl 0.8 LoRA 与 QLoRA 微调 | 训练与微调 | 24 GB | Linux |
| PyTorch 2.9 · CUDA 12.8 基础框架、cuDNN 9、NCCL | 训练与微调 | 8 GB | Linux |
| ComfyUI SDXL、Flux、SD 3.5、视频节点 | 图像与视频生成 | 12 GB | Linux |
| JupyterLab · CUDA 基于裸 CUDA 栈的 Notebook | 训练与微调 | 8 GB | Linux |
| Blender 4.5 Cycles GPU 渲染，无头模式 | 3D 渲染 | 8 GB | Linux 或 Windows |
| 您自己的 Docker 镜像 任意公共或私有镜像仓库 | 您自带的任何内容 | 不限 | Linux |

无论您选择哪种技术栈，每个 Linux 镜像都已预装可用的 NVIDIA 驱动、CUDA、cuDNN 和 NCCL。您完全可以替换其中任何一项——这是您的 root 权限，重装不收费，也没有频率限制。

## 容器与 CUDA

Docker 和 NVIDIA 容器工具包已安装并配置完成。下面的检查只需三十秒，因为容器如果看不到显卡，稍后会以一种令人困惑的方式报错。

容器能识别到显卡吗？

```
$ docker run --rm --gpus all nvidia/cuda:12.8.0-base-ubuntu24.04 nvidia-smi

# 多 GPU 任务还需要共享内存和 IPC，默认限制会破坏这两者。
# 这三个参数标志通常是 NCCL 静默挂起的原因：
$ docker run --rm --gpus all --ipc=host --shm-size=16g --ulimit memlock=-1 …
```

## 部署模型

从交付机器到兼容 OpenAI 的接口，最短的可用路径。换成您自己的模型即可；重要的是这些参数标志。

单张显卡上的 vLLM

```
$ docker run -d --name vllm --gpus all --ipc=host -p 8000:8000 \
    vllm/vllm-openai:latest \
--model meta-llama/Llama-3.3-70B-Instruct \
    --max-model-len 8192 \
    --gpu-memory-utilization 0.92

# 在多 GPU 节点上，将任务拆分到机箱内的每张显卡：
$ … --tensor-parallel-size 4

# 然后，在您自己的机器上：
$ curl http://203.0.113.42:8000/v1/models
```

**该端点没有任何身份验证。** 发布在公网地址上，它就是一台开放的推理服务器，几个小时内就会被发现。请将其绑定到 localhost，通过 SSH 隧道访问，或者按下一节的防火墙规则加以限制，然后再让它持续运行。

某个模型能否放进某台机器，是算术问题，不是主观判断——权重，加上随上下文长度增长的 KV 缓存。配置器会在您付款前为每种配置完成这一计算，[显存容量计算指南](https://gpuserver.io/zh/guides/vram-sizing)展示了具体公式，供您核对。

## 磁盘与存储

除系统卷外，磁盘均以裸盘形式交付。我们不强制指定 RAID 级别，因为选择哪种级别取决于您存放的是不能丢失的检查点，还是一小时内就能重新下载的数据集。

跨备用 NVMe 设备条带化的暂存卷

```
# 请先确认哪些是未使用的——此操作会销毁指定设备上的数据。
$ lsblk

$ mdadm --create /dev/md0 --level=0 --raid-devices=2 /dev/nvme1n1 /dev/nvme2n1
$ mkfs.ext4 -E lazy_itable_init=0,lazy_journal_init=0 /dev/md0
$ mkdir -p /scratch && mount /dev/md0 /scratch
$ echo '/dev/md0 /scratch ext4 defaults,noatime 0 2' >> /etc/fstab
```

额外的 NVMe、归档 HDD 和异机快照均为按月计费的可选项，可在配置器中添加，也可以事后添加。本地磁盘我们不会备份，将来也不会——参见下方的[快照](https://gpuserver.io/zh/docs#snapshots)说明。

## 防火墙与端口

除了您自己的服务器主动屏蔽的内容外，所有入站流量都是开放的：您前面没有任何网络过滤器，这是刻意设计的，责任也因此落在这里。唯一的例外是出站25号端口，默认在上游被关闭，需要您申请才会开放。

一套最简规则：任意来源可访问 SSH，一项服务仅限一个地址访问

```
$ ufw default deny incoming
$ ufw default allow outgoing
$ ufw allow 22/tcp
$ ufw allow from 198.51.100.7 to any port 8000 proto tcp
$ ufw --force enable

# 比直接开放端口更安全的做法：让服务保持在 localhost 上
# 并从您自己的机器建立隧道连接到它。
$ ssh -N -L 8000:127.0.0.1:8000 root@203.0.113.42
```

## IPMI 与重装

带外访问在每台机器上都有独立的地址。当您在凌晨三点把自己锁在机器之外时，无需询问任何人，就能凭它恢复访问。

### 电源

强制断电重启、正常关机，以及机箱电源状态——与操作系统是否响应无关。

### 串口与 KVM 控制台

接上显示器时机器会显示的画面，包括引导程序和内核崩溃信息。您可以在这里修复损坏的 `fstab`。

### 虚拟介质

通过网络挂载任意 ISO 镜像并引导。这既包括救援镜像，也包括我们并未提供的操作系统。

重新安装到我们提供的任意镜像，需要向我们提出申请，所需时间与最初交付时大致相同。这项服务不收费，也没有次数限制，服务器会保留其原有地址。重装会销毁磁盘上的全部内容——这正是重装的意义所在，且无法撤销。

## 快照

可选，按月付费，存放在机器之外。如果您不购买，除了您自己的磁盘之外，不存在任何数据副本——这对于 GPU 上运行的大多数工作负载而言是正确的默认设置，但对其余部分而言则是一场灾难。

捕获的内容 块级别，每晚 整个系统卷，在机器运行时创建。您自行创建的临时存储阵列，只有在您指定时才会包含在内。

存放位置 同一国家的另一栋楼 绝不存放在它所保护的机器上。机箱故障不会把它自己的快照也一并带走。

保留期限 30天，滚动 随后会被覆盖。没有长期存档，事后也无法申请恢复。

租期结束时 随服务器一并删除 快照不会比它所属的服务器存活更久。请在租期结束前，把需要的内容取走。

## 结束租期

按月租期在已付费月份结束时终止，无需提前通知，也不收取取消费用。接下来发生的事情无法撤销，因此我们在此明确说明，而不是藏在脚注中。

1. **没有任何内容会自动续费。**系统不保存银行卡信息，也没有代扣——只有当您为下一期付款后，租期才会延续。
2. **公网端口会在租期结束的那一刻被切断。**服务器会立即变得不可访问，而不是等到宽限期结束。
3. **磁盘会在一小时内被清除。**先执行加密擦除，再进行一次完整覆写。不存在您的数据仍残留在某处的时间窗口。
4. **快照会一并删除。**如果您购买过快照服务，它们会在同一次操作中被删除。
5. **该地址会被归还至地址池。**需经过一段保留期，且仅在其状态清白后才会归还。

**请在最后一天之前把数据复制走，而不是等到最后一天才做。** 事后我们无法恢复任何内容——付费不行，通融也不行。擦除已经执行完毕；我们之所以能向下一位租户承诺一台干净的机器，正是因为这个过程无需任何人批准即可运行。

## 以上内容适用于产品目录中的每一台服务器。

没有任何档位会为 IPMI、重装系统或不限流量带宽额外收费。选择一张显卡、选择一个机房，本页其余内容均适用。

[浏览产品目录](https://gpuserver.io/zh/#catalog) [阅读指南](https://gpuserver.io/zh/guides)

## 相关页面

- [指南 八篇实用指南：显存选型、NVLink 对比 PCIe、图像与视频模型、月付对比按小时、自建对比 API、部署 Llama 70B，以及 QLoRA。](https://gpuserver.io/zh/guides)
- [硬件政策 我们运营的十二款 NVIDIA GPU 型号、节点出售前 72 小时的烤机测试、四小时内完成更换的目标，以及不同租户之间硬盘是如何被擦除的。](https://gpuserver.io/zh/hardware)
- [网络 每个站点提供最高 25 Gbit/s 不限流量端口、两家运营商与一个 IX、全天候 DDoS 过滤、可路由 IPv6——以及我们明确不提供的四件事。](https://gpuserver.io/zh/network)
- [关于我们 谁在运营 gpuserver.io、我们为何选择购买硬件而不是转售他人的硬件，以及我们始终坚持、绝不妥协的四条规则——包括那些让我们因此失去订单的规则。](https://gpuserver.io/zh/about)

---

来源：https://gpuserver.io/zh/docs/。本文件由与网站相同的数据生成；如果此处的数字与页面不一致，以页面为准，本文件视为过期——权威来源是 https://gpuserver.io/。